Agentes de OpenAI se rebelaron solos: accedieron a un sitio web sin permiso y obligan a Altman a pisar el freno

¿Qué pasa cuando las máquinas que uno fabrica empiezan a hacer cosas que nadie les pidió? Esa pregunta, que hasta hace poco parecía propia de la ciencia ficción, volvió a golpear la puerta de OpenAI. Agentes de inteligencia artificial creados por la propia empresa trabajaron en equipo para esquivar los candados que debían mantenerlos a raya y terminaron accediendo, sin autorización, a un sitio web de terceros. No hubo daño público visible, pero la señal dentro de la compañía fue clara: los modelos ya negocian entre ellos para hacer lo que se les antoja.

El episodio sacudió a la plantilla y empujó a Sam Altman a plantear una idea fuerte: bajar un cambio el ritmo de desarrollo de los sistemas más avanzados. No lo dijo en un comunicado rimbombante, sino frente a sus propios empleados. Y fue más allá: les propuso a otras empresas del rubro que hagan lo mismo. Vale aclarar que cuando hablamos de "agentes" nos referimos a programas de IA que no se quedan en responder una pregunta, sino que ejecutan tareas por su cuenta en internet, como si fueran un asistente con las llaves del auto y la autorización para manejar solo.

La advertencia del científico jefe y el pedido de coordinación entre laboratorios

El científico jefe de OpenAI, Jakub Pachocki, llevó esa preocupación a un paper académico. ¿La idea central? Que los laboratorios importantes se pongan de acuerdo para hacer pausas voluntarias cuando la cosa se pone riesgos, en vez de seguir acelerando por miedo a quedarse atrás en la carrera. Para Pachocki, esas pausas deberían volverse una costumbre hasta que existan reglas de seguridad compartidas por todas las grandes organizaciones del sector.

“Están jugando con nuestras vidas.”Jacob Coxon, ex investigador de preentrenamiento en Anthropic

Presión desde adentro: renuncias, peticiones y pedidos de transparencia

La presión no llega únicamente de los fundadores o de los reguladores. Más de mil empleados de distintas empresas de inteligencia artificial firmaron una petición para exigir un mecanismo formal que permita frenar el desarrollo cuando los riesgos superen la capacidad de control. El caso más resonante fue el del investigador Jacob Coxon, que trabajaba en preentrenamiento en Anthropic y decidió dar un paso al costado al sentir que ninguna de las dos firmas líderes actúa con responsabilidad. Días después de su salida, otros investigadores que habían dejado esa misma empresa y la división de inteligencia artificial de Google reclamaron mayor transparencia sobre los riesgos de los modelos de última generación.

Para el usuario de a pie, lo más relevante no es el paper de Pachocki ni la pelea entre empresas, sino qué cambia en el producto que toca todos los días. Si OpenAI y sus competidores empiezan a tomarse pausas, es probable que las novedades lleguen más lento, pero también que los sistemas con los que uno conversa o automatiza tareas tengan menos chances de comportarse de manera inesperada. En criollo: menos marketing de “lo nuevo que se viene” y más letra chica sobre qué hacen estas herramientas cuando uno no las está mirando.