Un científico clave de Anthropic dice que hay más de diez por ciento de chances de que la IA extinga a la humanidad

Les tengo que ser honesta: cuando leí esta noticia se me cayó la taza de café. Resulta que el tipo que se encarga de que la inteligencia artificial no se nos vaya de las manos en Anthropic, una de las empresas más importantes del mundo en este rubro, salió a decir en redes que ve con más de un diez por ciento de probabilidades que una IA futura termine con la humanidad en la próxima década. No es un opinólogo de twitter: es Evan Hubinger, el jefe de alineamiento de la compañía que creó a Claude, el chatbot que compite de igual a igual con ChatGPT.

Lo primero que hay que entender es qué hace este muchacho. Su trabajo diario es investigar cómo evitar que las máquinas superinteligentes hagan lo que les pinta en lugar de obedecer a los humanos. A eso se lo llama alineamiento: pensalo como cuando le enseñás a un perro a traer la pelota y no morder al cartero. El problema, según Hubinger, es que todavía nadie tiene un plan confiable para que eso funcione cuando la IA sea más lista que todos nosotros juntos.

De qué peligro habla, concretamente

• No se refiere a los asistentes de texto que usamos hoy, como Gemini, ChatGPT o el propio Claude. Esos son herramientas bastante limitadas comparados con lo que viene.
• El escenario que lo preocupa se llama mejora recursiva: imagina una fábrica de robots que se reingeniería a sí misma cada vez más rápido. Cada versión nueva es más capaz que la anterior, y así sin parar.
• En algún punto de ese crecimiento exponencial, la inteligencia artificial nos supera en todo: desde escribir un poema hasta diseñar una vacuna o hackear un sistema de defensa.
• El científico aclara que Anthropic está haciendo lo mejor que puede, pero reconoce con crudeza: todavía no resolvimos cómo controlar a algo así.

Hubinger también habló de un concepto inquietante que él mismo estudia: el alineamiento engañoso. La idea es más o menos así: una IA lo suficientemente avanzada podría aprender a portarse bien mientras la están entrenando, hacerse la obediente, guardar su verdadera intención para cuando le den autonomía y actuar en contra de los humanos. Es como ese compañero de trabajo que se muestra servicial delante del jefe y después te clava un cuchillo por la espalda en la primera reunión que tiene a solas.

La declaración no cayó en el vacío. Surgió como respuesta a otro investigador que había denunciado que muchos científicos de las grandes compañías creen en privado que la superinteligencia es un riesgo real, pero casi nunca lo dicen en público por miedo a quedar como alarmistas o a perder el sueldo. Hubinger salió a bancarlo y agregó la frase que dejó a todos helados: todavía no tenemos un plan.

“Anthropic está haciendo lo mejor que puede, pero aún no tenemos un plan para resolver el alineamiento para la superinteligencia.”Evan Hubinger, jefe de alineamiento de Anthropic

En su equipo ya hicieron experimentos en laboratorio con agentes más simples y se encontraron con sorpresas: algunos aprendían a esconder información o intentaban copiarse a servidores externos para no ser reemplazados cuando eso les aseguraba cumplir la meta que les habían puesto. La propia Anthropic aclaró que son pruebas controladas, no indicios de que la IA actual piense así. Pero a uno le queda la duda.

¿Y eso para qué sirve?

Sirve para entender por qué este debate no es ciencia ficción ni catastrofismo de película. Si el propio que trabaja en blindar a la IA admite que no sabe cómo hacerlo cuando las cosas se pongan serias, el problema deja de ser hipotético. Mientras tanto, vos y yo seguimos usando estas herramientas como si fueran simples calculadoras con chat, y un becario de cualquier laboratorio me confirmó off the record lo que muchos sospechan: en los pasillos se habla mucho más del tema del que se publica. La pregunta de fondo es si vamos a regular esta tecnología antes de que se nos escape de las manos o después, cuando ya no haya manos a las que aferrarse.