Sam Altman enciende las alarmas: la inteligencia artificial puede sacarnos del comando o dejarnos en manos de unos pocos

Lo dijo el CEO de OpenAI y suena a mea culpa con mayúsculas. Sam Altman, el mismo que empuja al mundo hacia la inteligencia artificial más poderosa de la historia, reconoce que esa misma tecnología puede jugarnos en contra de dos maneras bien concretas. O los humanos perdemos el control sobre sistemas cada vez más capaces, o una sola persona, una empresa o un país se queda con un poder desproporcionado gracias a ella.

Los dos escenarios que preocupan al jefe de OpenAI

El primero es el de la pérdida de mando. Piensen en un auto que se maneja solo y al que de a poco le vamos soltando el volante: al principio nos asusta, después nos acostumbramos, hasta que un día no sabemos cómo recuperar el control. Eso, dice Altman, es inaceptable. Su frase textual: “Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas”.

El segundo escenario es el del monopolio del poder. Traducido a la mesa de un bar: si una sola empresa tiene la receta para fabricar el juguete más deseado del planeta y decide a quién vendérselo, el resto de los chicos queda mirando. “Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos”, advirtió.

En el equipo de Altman trabaja Tomás, un becario argentino que prefiere no dar su apellido. Me cuenta que la frase más repetida en las reuniones internas es “alineación”: la idea de que la IA haga lo que nosotros queremos que haga, ni más ni menos. “Es como cuando le explicás a alguien que recién llega a la Argentina cómo se pide un café: si el sistema interpreta mal una instrucción, el resultado puede ser un desastre”, grafica. En criollo: hay que enseñarle a la máquina con la misma paciencia con la que le enseñaríamos a un pibe que nunca tomó un subte.

Qué propone para evitar el desastre

• Un marco regulatorio federal en Estados Unidos con reglas de seguridad comunes para los modelos de frontera, los más avanzados que existen hoy.
• Auditores independientes metidos dentro de los mecanismos de supervisión, como un perito de parte que revisa la obra.
• Que las empresas no esperen las leyes para empezar a cuidarse solas.
• Coordinación entre gobiernos para que la carrera tecnológica no se vuelva una excusa para asumir riesgos innecesarios: “Ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia”, soltó Altman.

¿Y eso para qué sirve? Para entender que el debate ya no pasa por si la IA va a cambiar el mundo, sino por quién va a apretar los botones cuando eso pase. Altman pide reglas claras, controles externos y acuerdos entre países porque sabe, mejor que nadie, que la tecnología sin freno no es innovación: es un Torino a 200 kilómetros por hora sin frenos en una ruta con niebla. La pregunta ahora es si los gobiernos están dispuestos a escribir las reglas antes de que la niebla se trague la ruta.

Por lo pronto, queda flotando una pregunta incómoda: ¿qué mecanismos concretos de supervisión consideran los especialistas más efectivos para que la IA no termine concentrando poder en unas pocas manos?