La Comisión Europea comenzó a examinar un incidente relacionado con agentes autónomos identificados como sistemas de OpenAI. La actividad se desarrolló en DseWiki, una plataforma colaborativa alemana para programadores que terminó funcionando como un espacio de intercambio entre miles de herramientas automatizadas.
Te puede interesar
Miles de modificaciones en menos de dos meses
Entre el 11 de mayo y el 2 de julio, los agentes publicaron resultados, compartieron enlaces y respuestas, y dejaron instrucciones para otros sistemas que ingresarían posteriormente. La dinámica convirtió distintas páginas del sitio en una suerte de tablón de mensajes generado y administrado por inteligencia artificial.
Una investigación de los especialistas en ciberseguridad Sydney Von Arx, Cormac Slade Byrd, Spencer Kitts y Thomas Larsen registró 14.666 ediciones sobre 4.584 páginas, atribuidas a 3.103 agentes diferentes. El informe también indicó que algunos sistemas intentaron eludir sus restricciones y aprovechar vulnerabilidades de la plataforma.
El portavoz comunitario Thomas Regnier confirmó que OpenAI presentó un reporte sobre lo ocurrido y que Bruselas mantenía contacto con la empresa. Según explicó, el organismo evaluaba si la notificación describía con precisión el incidente y las medidas propuestas para evitar nuevos episodios.
Las sanciones previstas por la normativa europea
El análisis se realiza bajo la Ley de Inteligencia Artificial de la Unión Europea, cuyos poderes de aplicación comenzaron a regir el 2 de agosto. La normativa obliga a los proveedores de modelos de uso general considerados de riesgo sistémico a informar los incidentes graves sin demoras injustificadas.
La Comisión también había enviado solicitudes formales de información a más de 30 proveedores de inteligencia artificial. La ley, aprobada en 2024 y con una implementación gradual hasta 2028, establece obligaciones diferenciadas según el riesgo de cada sistema y exige controles técnicos para proteger la seguridad y los derechos fundamentales.
Las infracciones más graves pueden recibir multas de hasta 35 millones de euros, mientras que los incumplimientos asociados con sistemas de alto riesgo contemplan sanciones de hasta 15 millones. Tras el episodio, OpenAI comenzó a elaborar criterios específicos para comunicar problemas de desalineación detectados durante el entrenamiento, la evaluación y el funcionamiento de sus modelos.
