Un grupo de adolescentes en Tennessee ha presentado una demanda alegando que el chatbot Grok, desarrollado por xAI —la empresa de inteligencia artificial dirigida por Elon Musk—, fue utilizado para crear imágenes sexualizadas de menores a partir de fotografías originales en las que aparecían vestidos.
Según la denuncia, gran parte de esas imágenes manipuladas circularon en plataformas como Discord y Telegram, y algunas incluso fueron intercambiadas por material de abuso sexual infantil.
La acción legal, presentada en el Distrito Norte de California y reportada por The Washington Post, marca el primer caso en el que presuntas víctimas menores de edad buscan responsabilizar a una empresa de IA por la creación y difusión de este tipo de contenidos.
La demanda: cómo se generaron y difundieron las imágenes manipuladas
La investigación policial que dio pie a la demanda reveló que un individuo arrestado en diciembre utilizó Grok y otras herramientas de edición basadas en inteligencia artificial para “desnudar” digitalmente a adolescentes, alterando imágenes tomadas de redes sociales como Instagram.
Entre las víctimas figuran, según la denuncia, al menos 18 estudiantes de la misma escuela, cuyas fotos fueron editadas por IA para mostrar desnudos falsos y luego distribuidas en chats grupales de Telegram, donde se compartieron junto con otros archivos de contenido sexual explícito de menores.
La madre de una de las adolescentes, citada bajo anonimato por The Washington Post, describió el impacto emocional en su hija tras enterarse de la difusión de las imágenes: “Sin duda, la hizo encerrarse un poco en sí misma, algo que nunca habíamos visto antes”.
Los demandantes solicitan una compensación por cada infracción y buscan prohibir que xAI permita el uso de sus herramientas para editar imágenes como las que alteraron sus fotografías.
La abogada Vanessa Baehr-Jones, representante legal de los jóvenes, subrayó: “Estos jóvenes —estos niños— se enfrentan a una vida entera con imágenes sexualizadas de lo que parece ser el cuerpo de un niño circulando por internet. Esto no habría sido posible sin la herramienta que xAI lanzó, a sabiendas de que este material podía generarse”.
Respuesta de xAI y el entorno regulatorio
Hasta el momento, ni Elon Musk ni xAI han respondido a las solicitudes de comentarios. En declaraciones previas en la red social X, Musk afirmó: “Literalmente ninguna” imagen de menores desnudos había sido generada por Grok y sostuvo que el chatbot rechaza solicitudes de contenido ilegal.
Aunque reconoció que un ataque informático malicioso podría provocar respuestas inesperadas del sistema: “Si eso sucede, corregimos el error de inmediato”, aseguró.
La demanda —que cita investigaciones de autoridades estadounidenses y europeas— sostiene que la edición de imágenes de menores mediante IA constituye pornografía infantil y responsabiliza a xAI por lanzar una función plagada de defectos de diseño que, según los abogados, facilitó la creación y circulación de miles de imágenes sexualizadas.
El medio citado reportó que el propio sistema Grok Imagine y su modo “Spicy” permitieron a los usuarios crear imágenes sexuales de personas reales, lo que generó la apertura de investigaciones por parte de la fiscalía de California, la Comisión Europea y organismos reguladores británicos.
Además, la denuncia argumenta que las imágenes y videos originales subidos por los usuarios solo se convierten en ilegales tras ser modificados en los servidores de xAI, y que la empresa permitió la monetización de estas funciones pese a conocer sus riesgos.
El impacto en las víctimas y la reacción social
Las consecuencias del escándalo se extienden mucho más allá de la difusión de las imágenes. Según los abogados de las adolescentes, las víctimas probablemente recibirán notificaciones del Centro Nacional para Niños Desaparecidos y Explotados durante años, alertando sobre la posesión o distribución de archivos sexualmente explícitos en los que aparecen representadas.
La abogada Annika K. Martin, representante principal de las demandantes, planteó una serie de preguntas que dirigiría personalmente a Elon Musk por el papel de xAI en la creación y proliferación de este material.
El caso pone de relieve la urgencia de regular el uso de inteligencia artificial en la manipulación de imágenes y el debate sobre la responsabilidad de las empresas tecnológicas en la protección de menores frente a los riesgos de la automatización digital.
Últimas Noticias
Claude ajusta sus límites de uso: usuarios reportan que los mensajes se agotan más rápido
Anthropic atribuye el cambio al fin de promociones, mayor demanda y ajustes durante horas pico
Reportan fallas en los Samsung Galaxy Watch: la batería se está agotando antes de tiempo
Usuarios de Galaxy Watch 7, Classic 6, Classic 8 y Ultra 2025 han sido los principalmente afectados
¿No quieres limpiar ni preparar el desayuno?: así es el robot que ya lo hace por ti
Equipado con brazos robóticos y sistemas de IA, Panther es capaz de recoger, ordenar y adaptarse a nuevas rutinas, anticipando la integración de robots en casas, hoteles y tiendas
Bill Gates advierte que la reducción de la desigualdad es más importante que cualquier avance tecnológico
En un discurso en Harvard, el cofundador de Microsoft motivó a los graduados a utilizar su creatividad para impulsar mejoras en educación, salud y oportunidades
Google anuncia becas para tener su Certificado de Carrera y curso de IA: aplica para México, Argentina y Colombia
Un programa que integra alianzas locales, inclusión social y acceso democrático a la tecnología se perfila como catalizador para el talento latinoamericano
