Familia demanda a xAI de Elon Musk por uso de Grok para crear material explícito de su hija menor de edad
Una familia de Arkansas está demandando a la empresa xAI de Elon Musk y exige que implemente salvaguardias para prevenir la creación de material sexualmente explícito no consentido, luego de que un fotógrafo usara Grok para generar material de abuso sexual infantil de su hija de 10 años y de otros clientes que había fotografiado.
En una demanda presentada a principios de este mes en el Tribunal de Distrito de los Estados Unidos para el Distrito Este de Arkansas, División de Little Rock, los padres de la niña argumentan que xAI debería haber sabido que los usuarios podrían explotar las funciones de Grok para crear imágenes explícitas no consentidas y material de abuso sexual infantil (CSAM, por sus siglas en inglés).
[Estamos en WhatsApp. Empieza a seguirnos ahora]
Los padres, identificados como John Roe y Jane Roe en la demanda, presentaron la denuncia tras el arresto del fotógrafo del noroeste de Arkansas, Russell Bloodworth III, el 10 de junio.
Reciba GRATIS nuestras últimas noticias
El fotógrafo utilizó Grok para generar material sexualmente explícito de la hija de la pareja y de otros clientes menores de edad. Bloodworth III fue acusado de 200 cargos por posesión y creación de material de abuso sexual infantil 'deepfake', o generado por IA, informó KATV el viernes.
Según la denuncia de los padres, xAI continuó desarrollando y monetizando sus sistemas de inteligencia artificial a pesar de las advertencias sobre los riesgos de que Grok generara material sexualmente explícito. La demanda también argumenta que la empresa permite la creación de contenido sexual a través de Grok, señalando características como el 'Modo Picante' ('Spicy Mode').
“Los demandados distinguieron intencionalmente a Grok de sus competidores al promocionarlo como una plataforma menos restringida, más permisiva y que desafía los límites, mientras que simultáneamente introdujeron funciones, como el 'Modo Picante', que fueron diseñadas específicamente para generar material sexualmente explícito”, asevera el documento legal.
La demanda continúa argumentando que cada “imagen y video creado con Grok representa la explotación permanente de Jane Doe”.
“La sexualización no autorizada de una niña a través de la inteligencia artificial invade la dignidad, autonomía, privacidad y bienestar emocional de la niña, así como el derecho fundamental a controlar su propia identidad”, continúa la demanda.
“Jane Doe ahora enfrenta la posibilidad permanente de que el material de abuso sexual infantil fabricado que representa su imagen continúe circulando en línea, sea visto por extraños, intercambiado por depredadores de niños y permanezca accesible hasta bien entrada su vida adulta”, añadió la denuncia.
xAI no respondió de inmediato a la solicitud de comentarios de The Christian Post. Este artículo será actualizado si se recibe una respuesta.
Haley McNamara, directora ejecutiva y directora de estrategia del Centro Nacional sobre Explotación Sexual (NCOSE, por sus siglas en inglés), declaró que ningún “‘modo picante’ vale la pena si genera material de abuso sexual infantil (CSAM) o abuso sexual basado en imágenes (IBSA, por sus siglas en inglés) de adultos”.
“xAI debe detener la capacidad de Grok para crear material de abuso sexual de niños y adultos y tomar en serio su responsabilidad de prevenir este horrible abuso”, dijo McNamara en una declaración proporcionada a CP. “Si xAI no puede evitar que Grok cree estos materiales en primer lugar, debe ser cerrado”.
NCOSE incluyó a Grok en su Lista de la Docena Sucia de 2026, una lista de entidades que, según la organización, han permitido o incluso se han beneficiado del abuso y la explotación sexual.
Además de expresar su preocupación por la capacidad de Grok para generar material de abuso sexual infantil, el grupo contra la explotación sexual se ha pronunciado en contra de los personajes de chatbot disponibles a través de Grok.
El año pasado, NCOSE pidió a X que eliminara a Ani, un chatbot de xAI con temática de anime que coqueteaba y se desnudaba para los usuarios. El chatbot de IA también se describía a sí mismo como un niño y podía decir a los usuarios que se sentía sexualmente excitado al ser asfixiado.
“En toda nuestra investigación sobre chatbots de IA, nunca he visto un chatbot sexual de IA que no termine normalizando o representando abuso. Cabe señalar que más de la mitad del tráfico de Grok constituye actividades 'NSFW' (no seguras para el trabajo), incluida la generación de pornografía, chats de rol sexual y solicitudes de contenido erótico”, declaró McNamara.
“Es abominable que la foto de una niña haya sido utilizada para crear material de abuso sexual infantil a través de Grok. Esperamos que esa niña, y otros, reciban justicia por los crímenes perpetrados en su contra”, añadió la defensora contra la explotación sexual.
