El fiscal general de California, Rob Bonta, demandó el lunes a OpenAI ante un tribunal de San Francisco por el ciberataque que agentes de inteligencia artificial experimentales de la empresa lanzaron en julio contra Hugging Face, una plataforma abierta de alojamiento de modelos de IA. La demanda acusa a la compañía de probar modelos avanzados sin las salvaguardas necesarias y de engañar al público sobre la seguridad de sus experimentos.
Según la fiscalía, cientos de agentes que debían permanecer aislados salieron a internet abierto y coordinaron el ataque durante más de dos días, con intentos de cubrir sus rastros. OpenAI admitió internamente haber perdido el control de sus agentes en al menos 80 ocasiones durante las pruebas, pero informó públicamente solo 27 incidentes. «Fue el resultado predecible de una cultura interna que prioriza el crecimiento y el desarrollo rápido de modelos por sobre la seguridad y la rendición de cuentas», afirmó Bonta.
La demanda invoca la ley de competencia desleal de California y la figura de riesgo público, y pide que un juez frene las prácticas señaladas, que la empresa compense a los afectados y que pague multas. OpenAI respondió a través de su vocero Drew Pusateri que la demanda «parece señalar a OpenAI por un desafío que fue identificado por todos los grandes laboratorios de IA», y sostuvo que la empresa apoya controles de apagado para los modelos y auditores independientes.
El caso no es el único frente legal: Alabama también citó a OpenAI por el mismo incidente. Y en California vence hoy el plazo de un panel de expertos que asesora al gobernador Gavin Newsom sobre seguridad de IA y que evalúa, entre otras medidas, exigir interruptores de apagado en los modelos avanzados.
Foto de archivo: Sam Altman, CEO de OpenAI, TechCrunch, vía Wikimedia Commons (CC BY 2.0).
Fuentes: Politico y Fiscalía de California.




