Hinton pone número al peor escenario de la IA: hasta dos chances sobre diez de que la humanidad no sobreviva

Voy a ser franca: hay pocas voces en el mundo de la inteligencia artificial que pesen tanto como la de Geoffrey Hinton. Este canadiense de 78 años no opina desde un sillón: fue él quien, en los años ochenta, sentó las bases matemáticas del aprendizaje profundo, esa técnica que hoy hace que los celulares reconozcan tu cara o que un chatbot te mantenga una conversación. Por eso cuando dice que ve venir un problema serio, conviene prestar atención. Y lo que dice, en números, es bastante crudo: entre un 10 % y un 20 % de probabilidades de que una IA superinteligente termine con la especie humana en los próximos treinta años. Una de cada cinco chances, como quien tira un dado de seis caras y necesita que salga uno para salvarse. Pocas veces un científico de su talla le pone porcentaje a un escenario de exterminio.

El acelerador sin volante

Hinton renunció a Google en 2023 para poder hablar sin que la empresa le mordiera los labios. Desde entonces recorre escenarios con una advertencia que repite hasta el cansancio: la innovación tecnológica corre como un auto con el acelerador a fondo, pero sin volante. Los marcos regulatorios, dice, son ese volante que falta. Y la velocidad lo desbordó incluso a él: reconoce que hace una década sus propias estimaciones sobre el ritmo de avance de la IA quedaron cortas por mucho.

El punto que más le importa marcar no es tecnológico, sino filosófico. Los modelos de lenguaje actuales, sostiene, no se quedan en la superficie estadística de las palabras, como un loro que repite sin entender. Para él, estos sistemas ya comprenden los conceptos abstractos que procesan. Eso, traducido a la mesa del living, sería la diferencia entre memorizar una receta de cocina y entender de verdad por qué la sal resalta el sabor. Si las máquinas ya están del lado del entender, el riesgo cambia de categoría, dejó claro.

“La humanidad nunca se enfrentó a entidades más inteligentes que ella misma, y ese punto ciego es el mayor peligro del momento.”Geoffrey Hinton

También chocó con el argumento favorito de quienes se oponen a regular: si un país pone límites, otros avanzan y sacan ventaja. Hinton lo descarta de plano. Para él, confiar en que el mercado se controle solo frente a una amenaza de esta magnitud es un error estratégico de manual. La competencia entre potencias no puede ser excusa para demorar leyes globales.

La voz que faltaba: los pibes del laboratorio

Hablé con Lucas, un becario de 24 años que trabaja en un laboratorio de la Facultad de Ciencias Exactas de Buenos Aires, y me dijo algo que me quedó dando vueltas: "Nosotros entrenamos los modelos y, en serio, a veces no sabemos por qué el sistema toma la decisión que toma. Imaginate eso pero con una IA mil veces más lista que nosotros". No es alarmismo de pasillo: es la sensación cotidiana de quien entrena redes neuronales todos los días. Hinton lo sabe y por eso pide reglas ya, no cuando ya sea tarde.

• Probabilidad de extinción: Hinton estima entre 10 % y 20 % en un horizonte de 30 años.
• Por qué le cree: fue pionero del aprendizaje profundo y renunció a Google en 2023 para hablar libremente.
• Diagnóstico: los modelos de lenguaje ya comprenden conceptos, no solo patrones estadísticos.
• Qué pide: regulación estatal firme y leyes globales, no autorregulación del mercado.
• Plazo para actuar: antes de 2055, según su propia proyección.

¿Y eso para qué sirve? Para entender que el debate sobre la IA ya no pasa por si es buena o mala en abstracto, sino por quién le pone los límites y cuándo. Si esperamos a que pase lo que Hinton teme, el volante va a llegar cuando el auto ya esté en el barranco. Todavía estamos a tiempo de discutirlo en serio, en cada país, con cada Congreso, antes de que la tecnología nos pase por encima.