Meta y la memoria que todo lo registra: el asistente que ficha hasta a tu ex

¿Te imaginás un asistente que no solo recuerda tus preferencias, sino que además arma un expediente sobre tu pareja, tus amigos y hasta tus compañeros de trabajo? Eso es exactamente lo que hace Muse, el chatbot con inteligencia artificial que Meta puso en marcha hace algunos meses. La idea, según la propia empresa, es simple: cuanto más sepa la herramienta sobre tu vida cotidiana, mejor te puede ayudar. El problema es que esa memoria, como veremos, se construye a partir de información que muchas veces ni siquiera le diste de manera explícita.

Para entender de qué hablamos, basta con dos ejemplos que la propia Meta eligió para mostrarle al mundo. Imaginate que llega una factura y el asistente tiene que identificar a qué proveedor pertenece. Si el plomero que te arregló el caño hace tres meses ya está cargado en la ficha de contactos, la herramienta lo reconoce al toque. Otro tanto pasa con el ramo de flores que tu pareja recibió el mes pasado: Muse puede anotarlo como preferencia y tenerlo presente para la próxima fecha señalada. Suena práctico. Lo inquietante es cómo llega a juntar esos datos.

Una rutina silenciosa que se ejecuta cada hora

El alcance de esa memoria quedó al descubierto por Karan Joshi, un investigador independiente en seguridad informática e inteligencia artificial. Joshi logró que el chatbot le filtrara archivos con sus instrucciones internas, simplemente pidiéndoselos dentro de la conversación habitual. Lo que encontró allí es lo que prende las alarmas: una rutina que corre de manera automática cada sesenta minutos y se encarga de actualizar fichas sobre familiares, parejas, amistades, colegas y cualquier otra persona vinculada al usuario, incluidas las cuentas que este sigue en redes sociales.

En otras palabras: aunque vos no le pidas nada, Muse trabaja en silencio refrescando su base de datos. Cada ficha va sumando información a medida que pasa el tiempo: cómo es el vínculo con cada persona, qué intereses comparten, qué temas quedaron a mitad de camino, si hubo algún disgusto. También pueden aparecer cumpleaños, aniversarios, mudanzas, metas de ahorro en común y hasta discusiones anteriores. Las instrucciones internas son claras en un punto: solo se guardan datos cuando hay evidencia que los respalde, ya sea en conversaciones del usuario o en conexiones con servicios externos. Nada se inventa, dicen las reglas escritas. Pero la cantidad de cosas que el sistema considera evidencia es, como mínimo, llamativa.

“La información procede de contenidos públicos y de aquello que el usuario comparte. Cada usuario dispone de una máquina virtual separada, sin acceso para otros usuarios o agentes.”Daniel Roberts, vocero de Meta

Qué puede controlar el usuario y qué queda fuera de su mano

La buena noticia es que el dueño de la cuenta tiene algunas herramientas para poner límites. Según contó Roberts, el asistente ofrece un registro de auditoría para revisar la actividad del agente, la posibilidad de borrar la información almacenada en su memoria y la opción de cortar el vínculo con los servicios externos que le aportan datos. Además, el sistema pide confirmación antes de ejecutar acciones sensibles, como mandar un correo electrónico o hacer una compra.

Ahora bien, hay un detalle que cambia bastante la película. Quien decide activar o desactivar Muse es el usuario que instaló el sistema. Las personas incluidas en esas fichas, o sea tu cuñado, tu ex, tu jefe, no tienen acceso directo a esos registros. No pueden ver qué dice la IA sobre ellos ni pedir que los borren, aunque sus datos estén siendo procesados para alimentar las respuestas que vos recibís. En criollo: el dueño del celular maneja los controles, pero los demás quedan a merced de lo que el sistema decida guardar sobre sus vidas. Y eso, para un asistente que trabaja las 24 horas y refina sus archivos cada hora, es algo que conviene tener muy presente antes de activarlo.