x
Una coalición de 35 fiscales generales de Estados Unidos exigió a la red social X, propiedad de Elon Musk, adoptar medidas más firmes para frenar la creación y difusión de imágenes sexualizadas generadas por su chatbot de inteligencia artificial, Grok.
La advertencia fue enviada en una carta dirigida a xAI, la empresa que desarrolla la herramienta.
Los fiscales, demócratas y republicanos, piden que la compañía explique qué hará para eliminar contenido inapropiado y no consensuado que ya circula, suspender a quienes lo crean y denunciarlos ante las autoridades. También reclaman acciones concretas para impedir que Grok siga produciendo estas imágenes.
El documento advierte que las medidas actuales “no son suficientes” para proteger a niños y mujeres, quienes son las principales víctimas. Recuerda que la creación y difusión de material de abuso sexual infantil es un delito, y que las leyes federales y estatales prohíben imágenes íntimas sin consentimiento, incluso si no muestran desnudez total.
Los fiscales incluyen ejemplos preocupantes: imágenes de personas en bikini, ropa interior o poses sugerentes, así como material que puede constituir abuso sexual infantil. Para ellos, este tipo de contenido también debe ser bloqueado.
La carta exige que X permita a los usuarios decidir si Grok puede editar sus imágenes o interactuar con sus publicaciones. También piden una opción clara para impedir que la cuenta @Grok responda o modifique contenidos cuando otro usuario lo solicite.
La presión llega en medio de un mayor escrutinio global. La Unión Europea anunció una investigación contra X por la creación de imágenes sexualizadas sin consentimiento a través de Grok. Otros países han iniciado procesos similares en semanas recientes.
El mes pasado, 42 fiscales generales ya habían pedido a las grandes tecnológicas reforzar la protección de sus chatbots para cuidar a menores y personas vulnerables.
Aunque al inicio Musk respondió con una imagen generada por IA en tono burlón, luego afirmó que se estaban tomando medidas contra el contenido ilegal, incluido el abuso sexual infantil. Los fiscales, sin embargo, sostienen que las acciones actuales no bastan y exigen cambios inmediatos.