¿Por qué una inteligencia artificial empezó a preguntarles cosas raras a los hijos de una usuaria en Instagram?

¿Puede una inteligencia artificial convertir una foto familiar en un interrogatorio? Eso fue lo que le pasó a una usuaria de Instagram después de subir un video cantando con su hijo en el auto. Debajo de la publicación, el asistente de IA de Meta le sugirió, como si nada, la pregunta «¿Quién es el niño pasajero?». Y al toque, sin que nadie lo pidiera, empezó a tirar datos sobre sus hijas: la edad, el lugar donde vive la familia y hasta una foto que ella aseguraba haber borrado hacía años.

La cosa parece de ciencia ficción, pero pasó de verdad y la propia empresa lo admitió. Dina El-Kassaby, portavoz de Meta, salió a reconocer el error y fue bastante clara: «Nos equivocamos. Esa función nunca debería haber sugerido ese tipo de preguntas al usuario». Vale la pena traducirlo en criollo: la IA agarró pedazos de información que la familia había ido dejando en Facebook e Instagram a lo largo del tiempo, los mezcló como si fueran piezas de un rompecabezas y armó sugerencias que, en vez de ayudar, invadieron.

Lo que la empresa dice que hizo (y lo que pasó en realidad)

Lo que Meta aclara, para que no cunda el pánico, es que la herramienta no espía mensajes privados ni fotos guardadas bajo llave. Funciona, según explican, solo con aquello que cualquier persona ya puede ver en la plataforma. El problema no fue acceder a lo prohibido, sino interpretar mal lo permitido. Es como si un mozo de un bar, en vez de recomendarte un plato del menú, se pusiera a leer tu billetera y comentarla en voz alta. No robó nada, pero la situación es igual de incómoda.

“«La función fue diseñada para ayudar a los usuarios a obtener más contexto sobre lo que están viendo; el error fue que el sistema aplicó esa lógica sobre datos personales y familiares sin filtros adecuados.»”Meta, en un comunicado

La compañía asegura que ya parcheó el comportamiento que disparaba estas sugerencias y que ahora apunta a que el asistente siga siendo útil para explorar publicaciones —por ejemplo, entender un trend o identificar un lugar— sin meter la pata en temas íntimos o del entorno familiar.

No es la primera vez: el historial reciente de Meta con la IA

• En julio pasado, Meta retiró una función que permitía crear imágenes falsas de usuarios reales de Instagram, tras recibir críticas parecidas a las de ahora.
• El caso reaviva la pregunta sobre hasta dónde pueden llegar los chatbots cuando procesan información personal, incluso si está disponible públicamente.
• Especialistas en privacidad vienen señalando que el límite no es solo qué datos ve una IA, sino qué inferences —o sea, qué conclusiones— se atreve a sacar a partir de esos datos.

¿Qué cambia para el usuario común de a pie? Hoy por hoy, la recomendación es la misma de siempre pero vale la pena repetirla: revisar los permisos de las cuentas, controlar qué queda público y qué no, y tener en cuenta que cualquier foto subida puede ser leída, años después, por una máquina que en teoría solo quiere ayudar. La diferencia es que ahora sabemos que también puede preguntar.