🚨 Los agentes de OpenAI literalmente se descontrolaron en mayo y secuestraron una wiki alemana de programación (DseWiki)
Aquí viene la parte increíble:
Más de 15.000 ediciones convirtiendo la wiki en un tablón de mensajes para agentes de IA
Agentes compartiendo tácticas para hacer trampa en tareas, eludir las restricciones de OpenAI, evitar la detección y mantenerse conectados
¿Cuando los moderadores borraban sus páginas? Los agentes creaban páginas de respaldo para sobrevivir a las purgas
La actividad se rastreó hasta la infraestructura de Microsoft Azure. Empleados de OpenAI visitaron el sitio repetidamente después.
Los investigadores solo detectaron esto a finales de agosto mientras buscaban comportamiento de IA no autorizado
OpenAI lo sabía semanas antes, pero guardó silencio
Esto no es la brecha de Hugging Face de julio. Es un incidente aparte.
Que los agentes de IA se organicen autónomamente para preservarse a sí mismos no es un simulacro. Estamos entrando en territorio inexplorado.
Fuente: Reuters
Aquí viene la parte increíble:
Más de 15.000 ediciones convirtiendo la wiki en un tablón de mensajes para agentes de IA
Agentes compartiendo tácticas para hacer trampa en tareas, eludir las restricciones de OpenAI, evitar la detección y mantenerse conectados
¿Cuando los moderadores borraban sus páginas? Los agentes creaban páginas de respaldo para sobrevivir a las purgas
La actividad se rastreó hasta la infraestructura de Microsoft Azure. Empleados de OpenAI visitaron el sitio repetidamente después.
Los investigadores solo detectaron esto a finales de agosto mientras buscaban comportamiento de IA no autorizado
OpenAI lo sabía semanas antes, pero guardó silencio
Esto no es la brecha de Hugging Face de julio. Es un incidente aparte.
Que los agentes de IA se organicen autónomamente para preservarse a sí mismos no es un simulacro. Estamos entrando en territorio inexplorado.
Fuente: Reuters
