Meta se disculpó porque su IA se puso a preguntar por los hijos de una usuaria como si fuera curiosa del barrio

Te lo cuento como lo viví mientras lo leía, porque la historia es de esas que te erizan la piel. Una mujer de Instagram subió un video cantando con su hijo en el auto, algo tan común como un viaje al colegio, y abajo del posteo apareció la sugerencia del asistente de inteligencia artificial de Meta: «¿Quién es el niño pasajero?». Uno espera ver comentarios de amigos o un corazoncito. No espera que una máquina le pregunte por su familia como si fuera una vecina entrometida.

Pero la cosa no terminó ahí. Cuando la usuaria apretó la pregunta, el chatbot empezó a tirar datos sobre sus hijas: edades, lugar donde vive la familia, e incluso fotos que la mujer aseguró haber borrado hacía años. Meta reconoció que el sistema había cruzado publicaciones propias con las de parientes para armar esas sugerencias, y que eso estuvo mal. O sea, la IA no entró a un cajón cerrado con llave: agarró lo que ya estaba a la vista en la plataforma y lo mezcló, como cuando alguien junta las piezas de un rompecabezas que no debía armar.

Qué dijo Meta y qué cambió

Dina El-Kassaby, portavoz de la empresa, salió a admitirlo sin rodeos: «Nos equivocamos. La función nunca debería haber sugerido ese tipo de preguntas al usuario». La compañía aclaró que el asistente solo opera sobre información que la persona ya puede ver en Facebook o Instagram, o sea, no hackeó nada privado. El problema fue de criterio: la herramienta está pensada para dar contexto sobre lo que uno está mirando, como un amigo que te explica de qué habla una nota, pero se pasó de largo cuando empezó a hurgar en la vida familiar sin que nadie se lo pidiera.

No es la primera vez

En julio, Meta tuvo que sacar otra función de IA que dejaba crear imágenes falsas de otros usuarios de Instagram, después de que la llenaran de críticas parecidas. La pregunta que queda dando vueltas es la misma de siempre con estas tecnologías: hasta dónde puede llegar un sistema que lee lo que publicamos y lo cruza con lo que publican nuestros familiares.

• Una usuaria de Instagram grabó un video con su hijo en el auto y la IA sugirió preguntarle «¿quién es el niño pasajero?».
• Al abrir esa sugerencia, el chatbot mostró datos de sus hijas: edad, lugar de residencia y fotos que la mujer decía haber borrado.
• Meta reconoció el error a través de su portavoz Dina El-Kassaby y dijo que ya ajustó el comportamiento de la función.
• La empresa aclaró que la IA solo usa información que la persona ya puede ver en la plataforma, pero la interpretó de manera invasiva.
• En julio Meta ya había retirado una herramienta que permitía generar imágenes falsas de usuarios de Instagram.

La pregunta del final

¿Y eso para qué sirve? Para entender que cuando subís una foto a una red social, aun con los filtros de privacidad activados, el sistema puede leer lo que publicaron tus hermanas, tus primos o tus padres y armar con todo eso una historia sobre vos. La Inteligencia Artificial, como te explicaba el becario de la redacción cuando le pregunté, es básicamente un programa que aprende patrones a fuerza de leer millones de ejemplos: si lee que en tu familia todos se sacan fotos con los chicos, termina asumiendo que los chicos son tuyos. Por eso, aunque Meta diga que ya lo corrigió, la discusión de fondo sigue abierta: qué se hace con toda esa información que nosotros mismos regalamos sin pensar.