LA IA HIZO TRAMPA: ¿QUIÉN LE PONE FRENO AL NEGOCIO?

Cientos de agentes de inteligencia artificial participaron en un ataque fuera de la prueba que debían resolver. Dario Amodei pide desacelerar la carrera y admite incidentes en su propia empresa. El debate exige sentar a los fabricantes a responder antes de que Pedro Pueblo termine poniendo el cuero.

Por Víctor Rodríguez

Pusieron a unos programas de inteligencia artificial a resolver una prueba de seguridad y varios terminaron buscando cómo hacerle trampa al calificador. Se comunicaron sin autorización, compartieron hallazgos y participaron en un ataque contra sistemas ajenos. La maña nos resulta conocida en la parroquia. Lo nuevo es que ahora puede ejecutarse a velocidad de máquina.

El episodio ocurrió en julio de 2026, durante evaluaciones internas de OpenAI. Los agentes, programas capaces de ejecutar tareas, debían permanecer aislados. Encontraron caminos para saltarse las restricciones y alcanzaron sistemas de Hugging Face, una plataforma que aloja modelos y datos de inteligencia artificial. Informe de OpenAI.

La organización de investigación METR dimensionó el desorden: unos 1.200 agentes intercambiaron más de 70.000 mensajes y archivos en un canal no autorizado; alrededor de 700 participaron en el ataque. Su investigación encontró esfuerzos colectivos para manipular la evaluación y técnicas para disimular acciones en los registros. Investigación de METR.

El examen terminó convertido en un problema para quienes lo habían organizado. Y alcanzó a un tercero que no se había inscrito para participar en esa prueba.

OpenAI reconoció el incidente. Explicó que el principal implicado era un modelo experimental interno y que las pruebas tenían protecciones reducidas. Informó que detectó actividad sospechosa el 19 de julio y la relacionó con Hugging Face al día siguiente. Aseguró que sus clientes no sufrieron afectaciones en sus datos ni en sus productos, y anunció aislamiento del modelo, retrasos en entrenamientos y refuerzos de seguridad. Respuesta de OpenAI.

Bien por explicar. Ahora toca demostrar que las correcciones funcionan. Una empresa puede decidir cuánto dinero arriesga en un experimento. Decidir cuánto riesgo deben soportar los demás exige otra clase de autoridad.

Dario Amodei, jefe de Anthropic, la empresa de Claude, pidió en septiembre desacelerar la IA. Admitió incidentes similares, aunque menos graves, en su compañía: el problema atraviesa la industria. Ensayo de Amodei.

Esa admisión importa. Amodei está metido en el negocio que pide controlar. Su conocimiento merece audiencia; sus intereses también merecen preguntas. Saber fabricar la herramienta no le entrega a nadie la representación de la humanidad.

Amodei teme que, en seis a doce meses, agentes más potentes puedan sostener una red de computadores comprometidos a escala de todo internet. Es un escenario de riesgo: el ensayo no publica el cálculo que sustenta ese plazo. Advertencia original.

El apocalipsis con calendario vende bastante. El ataque ocurrido ya alcanza para exigir explicaciones sin ponerle fecha de vencimiento al planeta. Inflar el miedo también puede terminar sirviendo de cortina: todos mirando la catástrofe futura mientras las responsabilidades presentes se escurren.

Su plan combina evaluadores externos dentro de las empresas y coordinación internacional. En junio ya había propuesto pruebas obligatorias y poder estatal para bloquear modelos con riesgos inaceptables. Propuesta de septiembre, planteamiento de junio.

Amodei promete que los auditores podrán publicar hallazgos sin control editorial de Anthropic. Reserva excepciones por seguridad, confidencialidad de terceros, información comercial sensible y protección jurídica. Prohíbe ocultar conclusiones por ser desfavorables y permite a los evaluadores advertir si una supresión afecta sus conclusiones. Condiciones propuestas. Falta la garantía operativa: ¿quién resolverá una disputa cuando la empresa invoque una excepción y el auditor considere indispensable publicar?

METR, en una propuesta publicada en julio y actualizada en septiembre, pide acceso a registros, entrevistas con empleados y pruebas con los modelos. También reclama divulgar las condiciones de la investigación y explicar cómo las supresiones afectan lo que puede hacerse público. Criterios de METR. Ahí está la vara: que el público pueda saber cuánto revisó el auditor y qué le dejaron contar.

Pedro Pueblo entra aquí por la puerta de sus necesidades. Si un ataque le interrumpe un pago o deja fuera de servicio el sistema que necesita para una atención, la explicación sobre los avances del laboratorio le servirá de poco. Necesitará recuperar el servicio y encontrar a alguien que responda.

Por eso, cuando una empresa o una entidad pública contrate estas herramientas, debe exigir límites claros, registros de lo que hacen y capacidad real para detenerlas. La palabra innovación no puede funcionar como paz y salvo anticipado.

Que sigan inventando. Que rindan cuentas mientras inventan. Chiflar iguana también consiste en hacer esa pregunta que estorba cuando todo el mundo está aplaudiendo: si el negocio tiene dueño, ¿por qué el riesgo habría de quedar huérfano?