Muse, el asistente de Meta, ficha a tu pareja, tu plomero y hasta al que seguís en redes

Pongámonos en situación: vos le pedís a la inteligencia artificial que te recuerde la factura del plomero que vino el mes pasado o las flores que le gustan a tu pareja. Para hacerlo, Muse, el asistente de Meta, necesita saber algo más que tu lista de compras: arma fichas sobre las personas de tu entorno, con datos que saca de lo que vos mismo le contás y de lo que andás haciendo en redes. Es como si un mozo del bar no solo anotara tu pedido, sino también el de toda la mesa, los cumpleañeros y las peleas que tuviste la semana pasada.

Qué hay detrás de la memoria del asistente

Daniel Roberts, vocero de la compañía, explicó que esa información sirve para que el chatbot cumpla mejor con los objetivos de quien lo usa. La promesa oficial es simple: los datos salen de contenido público y de lo que el usuario comparte a propósito. Además, Meta asegura que cada persona tiene su propia máquina virtual, una especie de casilla cerrada a la que nadie más entra. Quién instaló Muse puede revisar la actividad en un registro de auditoría, borrar lo guardado y cortar la conexión con servicios externos.

El tema es que esos controles están atados a una sola cuenta. Las fichas que Muse arma sobre tu pareja, tu socio, tu mamá o el plomero no las manejan ellos: las manejas vos. Si vos decidís borrar la memoria, ellos no opinan. Y si no la borrás, el sistema sigue sumando datos cada hora, como un archivo que se actualiza solo.

Lo que encontró un investigador

Karan Joshi, investigador independiente en seguridad informática, le pidió al chatbot, en una conversación normal, que le mostrara sus archivos de instrucciones. Y le contestó. La documentación que obtuvo describe un procedimiento automático que se ejecuta cada sesenta minutos y arma perfiles de familiares, parejas, amistades, colegas y hasta de cuentas que el usuario sigue en redes. Las fichas incorporan, de a poco, cómo es el vínculo, intereses en común, temas pendientes y hasta desacuerdos anteriores.

• Cumpleaños y aniversarios, si aparecen en alguna conversación o conexión.
• Cambios de domicilio, con fecha y lugar, siempre que haya evidencia.
• Objetivos de ahorro compartidos, registrados como metas en común.
• Discusiones viejas, guardadas como antecedente del vínculo.
• Intereses y hobbies compartidos, completados a partir de lo que se cruza en redes y chats.

“Las instrucciones le dicen al sistema que trabaje con evidencia y que no invente detalles si no los tiene. Roberts sostuvo que ese contexto ayuda al asistente a cumplir los objetivos de quien lo usa, y que el chatbot pide confirmación antes de mandar un mail o hacer una compra.”Daniel Roberts, vocero de Meta

Le pregunté a un becario del área de sistemas cómo lee él todo esto, y me dijo algo que vale la pena repetir: que no le preocupa tanto lo que la herramienta sabe, sino quién puede apagarlo. Porque hoy, según el material al que accedimos, la única persona con la llave del archivo sos vos, la que instaló Muse. Tu pareja, tu amigo o el plomero no tienen ni voz ni voto sobre la ficha que les armaron. ¿Y eso para qué sirve? Para entender que, antes de charlar con un asistente de este tipo, conviene saber que no solo te escucha a vos: también toma nota, cada hora, de todos los que aparecen en tu vida digital.