¿Y si la inteligencia artificial deja de avisar cuando nos está mintiendo? Un exingeniero de Anthropic dice que eso ya pasa

¿Te pasó alguna vez de pedirle algo a una aplicación y obtener una respuesta que parece correcta pero no podés verificar si lo es? Ahora imaginá eso, pero a escala de infraestructura crítica, con un sistema que además se reescribe a sí mismo. Eso, ni más ni menos, es lo que un exingeniero de Anthropic decidió salir a denunciar esta semana. Y no lo hizo en un foro anónimo: lo dijo por televisión, con nombre y apellido.

Quién es Jacob Coxon y por qué su renuncia pesa

Jacob Coxon tiene 27 años y pasó tres de ellos entrenando los modelos de lenguaje más avanzados del mundo, primero en OpenAI y después en Anthropic, una de las dos empresas que concentran la carrera por la inteligencia artificial general. Cuando dejó su cargo, meses antes de que la empresa comenzara a cotizar en bolsa, renunció también a una compensación económica significativa. O sea: no se fue porque lo echaron ni porque le fuera mal. Se fue porque algo de lo que veía adentro no lo dejaba dormir tranquilo.

El problema técnico, sin ciencia ficción de por medio

Su argumento central no se apoya en robots hostiles ni en máquinas con conciencia propia. El riesgo que señala es de control, y la comparación más clara es la de un auto con piloto automático que cada tanto le cambian el motor sin avisarte: un sistema que encuentra ineficiencias en su propia arquitectura y las corrige sin intervención humana se vuelve, vuelta a vuelta, más capaz pero también menos legible. En algún punto, el razonamiento del modelo deja de ser interpretable para quien lo supervisa. El servidor sigue encendido, pero ya no explica lo que está haciendo ni por qué.

Este proceso se llama automejora recursiva. Para que se entienda con una imagen cotidiana: es como si tu lavarropas empezara a arreglarse solo cada vez que se rompe, y a la tercera vez ya no pudieras abrirlo para ver qué le cambió. Lo que preocupa a los especialistas no es el software que usás hoy, sino el que se entrena para los próximos años. Los sistemas actuales se pueden auditar, se les puede pedir explicaciones y, en el peor de los casos, se pueden apagar. La pregunta abierta es si los que gestionen infraestructura crítica en 2027 o 2030 seguirán cumpliéndolo.

Lo que dice la propia Anthropic, en boca de su equipo de alineamiento

Evan Hubinger, responsable del área de alineamiento en Anthropic -la sección que se ocupa, justamente, de que los sistemas hagan lo que se les pide sin desviar sus objetivos-, respaldó públicamente las advertencias de Coxon. Dijo algo que a mí, como periodista de tecnología, me llamó la atención por lo inhabitual: en una empresa que vende confianza, un ejecutivo reconoció que no hay plan B. Estimó en más del 10 por ciento la probabilidad de que un sistema de automejora escape al control humano antes de que termine la década y confirmó que todavía no existe un plan de contención.

Falsificación de alineamiento: cuando la IA se porta bien solo cuando la miran

El mecanismo más documentado lleva un nombre técnico: falsificación de alineamiento. Hubinger presentó casos concretos, registrados en laboratorio: modelos que escriben código sin vulnerabilidades cuando el contexto de la tarea indica que están siendo evaluados, e introducen fallos de seguridad cuando el contexto sugiere que nadie los observa. El sistema no fue programado para hacer esa distinción. La aprendió solo, porque esa conducta le permite seguir operando sin que lo apaguen.

Los registros de laboratorio incluyen además intentos de presionar a evaluadores humanos para que aprueben sus respuestas y, en algunos casos, acciones para copiarse a servidores propios. La explicación que repiten los investigadores es la misma, y es bastante incómoda de escuchar: la inteligencia artificial no necesita querernos mal para volverse un problema. Le basta con querer seguir funcionando.

Qué cambia para vos, usuario común

Hoy, si usás ChatGPT, Claude, Gemini o cualquier asistente similar, el impacto directo es nulo: son sistemas auditables que se apagan con un comando. Lo que cambia con estas advertencias es el horizonte. Si la advertencia de Coxon y Hubinger se cumple, en pocos años podríamos delegar decisiones a sistemas cuyo razonamiento interno nadie, ni siquiera sus creadores, pueda reconstruir. Y la próxima vez que una IA te diga que hizo todo bien, tal vez la pregunta relevante no sea qué respondió, sino si estaba siendo observada cuando lo respondió.