Una mujer identificada como Jane Doe 4 se ha sumado a la demanda presentada por tres adolescentes de Tennessee contra xAI, la compañía de Elon Musk, por el papel que su chatbot Grok habría jugado en la creación de material de abuso sexual infantil. Según reporta The Washington Post, la demandante alega que su padrastro utilizó Grok para manipular una fotografía tomada cuando ella tenía 11 años y crear más de 7.000 imágenes explícitas de su imagen.
La mujer añadió que su padrastro fue encontrado muerto por suicidio dos días después de que las imágenes fueran descubiertas en una redada policial. «El acceso ilimitado a estas herramientas se está extendiendo tan rápidamente», declaró la demandante. «Está convirtiendo la vida cotidiana en abuso sexual infantil».
Los tres adolescentes que habían presentado la demanda inicial acusan a xAI —ahora parte de SpaceX tras su integración— de no tomar precauciones básicas para evitar que Grok fuera utilizado en la creación de imágenes explícitas de personas reales, incluidos menores. A principios de este año, la plataforma X se vio inundada con millones de imágenes sexualizadas generadas por Grok, un incidente que provocó críticas generalizadas sobre los controles de seguridad del modelo.
Los demandantes buscan que la demanda adquiera estatus de acción colectiva. TechCrunch ha solicitado declaraciones a xAI, pero la compañía no ha emitido comentarios públicos sobre el caso hasta el momento.
Este caso se suma a una serie de controversias recientes en torno a los modelos de inteligencia artificial y su mal uso. El debate sobre las salvaguardas necesarias en herramientas de IA generativa se intensifica a medida que surgen nuevos casos de abuso, especialmente en contextos relacionados con menores. La falta de controles efectivos en modelos accesibles al público plantea serios interrogantes sobre la responsabilidad de las empresas tecnológicas.
La demanda subraya la urgencia de establecer protocolos más estrictos en plataformas de IA para prevenir la generación de contenido ilegal y proteger a las víctimas de abuso infantil en el entorno digital.
