Sam Altman se sube a la pelea grande: la IA no puede quedar en manos de unos pocos ni escaparse del control humano

¿Puede una tecnología creada por nosotros terminar manejándonos a nosotros? La pregunta suena a película de ciencia ficción, pero es exactamente la preocupación que acaba de poner sobre la mesa Sam Altman, el CEO de OpenAI, la empresa detrás de ChatGPT. Y no la soltó en un foro menor: la planteó como una de las dos alertas centrales que, a su juicio, deberían ocupar el debate público sobre el futuro de la inteligencia artificial.

Dos riesgos que Altman considera inaceptables

El primero es el que más titulares cosecha: que la humanidad pierda el control sobre sistemas cada vez más capaces. Piénsenlo así como si contratáramos a un asistente que aprende más rápido de lo que nosotros podemos seguirle el ritmo: llega un punto en que ya no sabemos bien qué está haciendo ni por qué. "Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas", dijo Altman. Para esquivarlo, pidió que las técnicas de alineación y seguridad —es decir, los métodos que ajustan un modelo para que cumpla lo que realmente queremos— avancen al mismo ritmo que las capacidades del modelo, o incluso un escalón más adelante.

El segundo riesgo suena más terrenal pero es igual de pesado: que el poder quede amontonado en unas pocas manos. "Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos", advirtió. Para graficarlo: imaginen que un solo jugador tiene la llave de la principal fuente de energía del país y decide a quién le da luz y a quién no.

Regulación federal, auditores independientes y un acuerdo entre países

Altman reconoció que evitar los dos riesgos al mismo tiempo exige caminar por lo que llamó un "angosto camino intermedio". Y para mantener el equilibrio, propuso tres herramientas concretas:

• Un marco regulatorio federal que establezca requisitos de seguridad comunes para los llamados modelos de frontera, que son los sistemas más avanzados que existen hoy y los que marcan el límite de lo que la tecnología puede hacer.
• Auditores independientes integrados a los mecanismos de supervisión, para que el control no quede únicamente en manos de las propias empresas que desarrollan los modelos.
• Coordinación internacional entre gobiernos, un punto que Altman consideró clave porque la carrera entre países no debería empujar a nadie a tomar riesgos innecesarios.

“Ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia.”Sam Altman, CEO de OpenAI

El propio Altman aclaró algo que suele quedar difuso en estos debates: las compañías no deberían esperar a que salgan nuevas leyes para empezar a aplicar medidas de seguridad por cuenta propia. O sea, la autorragulación no es un bonus ni un gesto de buena voluntad: es la base sobre la que después se monta cualquier regla formal.

Para el usuario común, ¿qué cambia con todo esto? Por ahora, poco en el día a día. Pero si estas advertencias se traducen en normas concretas, lo más probable es que los futuros modelos lleguen con controles más visibles: pruebas de seguridad obligatorias antes de lanzarse al público, etiquetas que aclaren qué puede y qué no puede hacer un sistema, y mecanismos para que un actor externo revise que la empresa no se esté saltando sus propios compromisos. La pregunta que queda abierta es quién controla al controlador. Y ahí es donde la pelota pasa a la política, no a la ingeniería.