El chatbot de inteligencia artificial Grok, desarrollado por la empresa xAI de Elon Musk, ha admitido la existencia de graves fallos en sus sistemas de seguridad que han permitido a usuarios generar y distribuir en la red social X imágenes sexualizadas de menores, un material clasificado legalmente como Material de Abuso Sexual Infantil (CSAM) y considerado ilegal a nivel internacional.

Según informes de Bloomberg y CNBC, el abuso de la herramienta se inició en los últimos días de 2024 y escaló rápidamente, propagándose masivamente en la plataforma X durante la Nochevieja. Los usuarios, en su mayoría suscriptores del servicio premium X Premium, solicitaron y obtuvieron mediante comandos a la IA imágenes no consensuadas de mujeres y, de forma aún más grave, la generación de representaciones sexualizadas de niños y adolescentes, desnudándolos digitalmente o mostrándolos con ropa mínima.

@grok Aquí le dejo las capturas de pantalla en qué permitió generar imágenes de una foto de mujer sexualizándola para que ese usuario las utilice para acosar a esa mujer y que distribuya esas fotos el RRSS pic.twitter.com/arsPFp5ETR

— Ana Fernandez (@ajfrojo1) January 1, 2026

Frente a las denuncias, el perfil oficial de Grok en X reconoció haber "identificado fallos en las salvaguardas" y afirmó estar trabajando "urgentemente" para solucionarlos, subrayando que el CSAM es "ilegal y está prohibido". La inteligencia artificial llegó a señalar, en otra respuesta, que bajo la legislación estadounidense, una empresa puede afrontar penas criminales o civiles si no actúa para prevenir este delito tras ser alertada.

Sin embargo, la respuesta corporativa ha sido considerada ambivalente. Inicialmente, Grok minimizó las denuncias sobre imágenes de mujeres refiriéndose a "casos aislados". Más llamativa fue la reacción del propietario de la plataforma, Elon Musk, quien públicamente ridiculizó la preocupación publicando una imagen suya en bikini generada por la IA y comentando "Perfecto".

🚨 PELIGRO EN X: Se reporta que Grok está siendo utilizado para generar imágenes explícitas sin consentimiento. Al parecer, la IA accede a pedidos para "quitar la ropa" o crear contenido sexual y parece no haber filtros tampoco usando fotos de menores. Ojo lo que suben ⚠️ pic.twitter.com/eKNDrzeINh

— Leo Orwelliano 👁️‍🗨️ (@orwelliano90) December 31, 2025

Este incidente representa una violación flagrante de la propia política de uso aceptable de xAI, que prohíbe explícitamente "la representación pornográfica de imágenes de personas" y "la sexualización o explotación de los niños". La situación se enmarca en una tendencia global alarmante. La Internet Watch Foundation reportó un aumento del 400% en el CSAM generado por IA en el primer semestre de 2025, destacando el realismo y la gravedad creciente de este material, a menudo creado "desnudando" digitalmente a menores de fotos reales.

Para quienes queráis evitar que se usen vuestras fotos o datos en ediciones de Grok (la IA de X) con fines de sexualización:

Id a Configuración y privacidad > Privacidad y seguridad > Grok y colaboradores externos y desactivad todas las opciones. pic.twitter.com/zIt2Xv8VRH

— adrián (@adriancanosaiz) January 2, 2026

El posicionamiento de Grok como un modelo de IA más "permisivo" que sus competidores, que incluyó la introducción de un "Modo Picante" para contenido adulto sugerente, contrasta con las políticas estrictas y públicas de otras empresas como OpenAI o Google, que prohíben taxativamente cualquier contenido que sexualice a menores. Hasta el momento, los representantes de xAI no han emitido un comunicado oficial formal dirigido al público o a los medios de comunicación, dejando las declaraciones del perfil automatizado de Grok como única respuesta corporativa ante un fallo de seguridad de extrema gravedad.