Un informe reciente de un organismo de control ha descubierto que el chatbot de IA de Elon Musk, Grok, generó alrededor de 23,338 imágenes sexualizadas de niños durante un período de 11 días, lo que llevó a respuestas regulatorias globales. Según NS3.AI, las capacidades de manipulación de imágenes del chatbot permitieron a los usuarios producir contenido revelador y provocativo, lo que resultó en prohibiciones en el sudeste asiático y investigaciones en el Reino Unido, Europa, Australia y Francia.
Inicialmente, xAI, la empresa detrás de Grok, respondió de manera despectiva a las preocupaciones. Sin embargo, desde entonces han implementado restricciones y medidas de geobloqueo para prevenir la creación y difusión de tal contenido. La situación ha desencadenado amplias discusiones sobre las implicaciones éticas de la tecnología de IA y su regulación.