Acelerar por precaución
La teoría de juegos tiene un nombre para esta clase de absurdo. El dilema del prisionero.
Estados Unidos teme que China llegue primero. China teme que Estados Unidos llegue primero. Ambos conocen los riesgos de una IA fuera de control. Ambos consideran demasiado peligroso permitir que el adversario tome ventaja. Así que ambos aceleran.
Ésa podría ser una de las grandes ironías de nuestro tiempo. Para evitar el peligro de que el otro construya una inteligencia demasiado poderosa, cada uno intenta construirla antes.
La teoría de juegos tiene un nombre para esta clase de absurdo. El dilema del prisionero. Dos sospechosos son interrogados por separado. Si cooperaran entre ellos, obtendrían un resultado conveniente para ambos. Pero ninguno sabe qué hará el otro. La desconfianza convierte decisiones individualmente racionales en una derrota compartida.
Con la IA ocurre algo parecido, con una pequeña diferencia. Los prisioneros poseen armas nucleares, centros de datos, ejércitos y las dos economías con mayor capacidad tecnológica del planeta.
Washington observa a Pekín y piensa que frenar sería entregarle el futuro. Pekín observa a Washington y llega exactamente a la misma conclusión. La prudencia del adversario sería bienvenida. La propia resulta demasiado costosa.
El resultado parece escrito por un autor aficionado a las paradojas. Ambos estarían seguros si pudieran confiar. Como desconfían, hacen aquello que incrementa el riesgo que pretenden evitar.
Las empresas enfrentan una versión parecida. Sam Altman, Dario Amodei, Demis Hassabis y Elon Musk han reconocido públicamente riesgos graves asociados con sistemas cada vez más capaces. Sin embargo, sus compañías continúan compitiendo por llegar a la siguiente frontera. Detenerse mientras el rival avanza equivale a perder.
El incentivo empresarial y el geopolítico terminan empujando en la misma dirección. Acelerar.
Una tecnología capaz de transformar la guerra, el trabajo, la ciencia, la información y eventualmente nuestra relación con la inteligencia está siendo desarrollada dentro de una estructura que premia precisamente a quien llega primero.
El mundo contempla la carrera desde las gradas. La humanidad cuenta con organismos internacionales para casi cualquier problema imaginable, pero carece de una autoridad efectiva capaz de establecer hasta dónde pueden avanzar las grandes potencias y las compañías de frontera con algo que podría afectarnos a todos.
Durante la Guerra Fría, Estados Unidos y la Unión Soviética comprendieron que ciertas amenazas exigían acuerdos precisamente porque desconfiaban uno del otro. El control de armas nació del miedo compartido, antes que de la amistad. Con la IA todavía falta ese momento de lucidez.
Resulta extraño que una civilización capaz de fabricar máquinas que razonan encuentre tantas dificultades para ejercer la virtud de la prudencia.
El dilema del prisionero posee una salida. Repetir el juego, crear reglas, verificar al adversario y construir confianza suficiente para que cooperar deje de parecer ingenuo.
Estados Unidos y China tendrán que descubrirlo. Porque ganar la carrera de la IA serviría de poco si el premio consiste en llegar primero a un lugar al que nunca debimos llegar corriendo.
¿Voy bien o me regreso? Nos leemos pronto, si la IA lo permite. Y si para entonces todavía considera conveniente conservarnos.
Placeres culposos: Lo nuevo de Rodrigo y Gabriela, Uncle Acid & The Deadbeats, Lord of the Lost, Neil Young, Beck, Rhiannon Giddens y Hansen.
Rosas y jazmines para Greis y Alo.
