x
El fiscal general de California, Rob Bonta, inició una investigación contra la empresa de inteligencia artificial xAI, propiedad de Elon Musk, por el uso indebido de su chatbot Grok para crear imágenes sexualizadas y explícitas sin el consentimiento de las personas afectadas.
La fiscalía denunció que usuarios de Grok han generado imágenes alteradas de mujeres y niños en situaciones sexualmente explícitas. "La avalancha de informes que detallan el material sexualmente explícito y no consensual que xAI ha producido y publicado en línea en las últimas semanas es impactante", dijo Bonta en un comunicado.
El fiscal explicó que las imágenes son creadas a partir de fotos comunes disponibles en internet, donde se desnudan digitalmente a personas reales, sin su permiso. Estas imágenes han sido utilizadas para acosar a figuras públicas y usuarios comunes, incluyendo menores.
El gobernador de California, Gavin Newsom, respaldó la investigación, señalando que la plataforma X —también dirigida por Musk— "alberga un caldo de cultivo para que los depredadores difundan deepfakes de IA sexualmente explícitos y no consensuados".
La fiscalía pidió a xAI que tome “medidas inmediatas para garantizar que esto no vaya más allá”, subrayando la urgencia de regular el uso de estas tecnologías que están siendo empleadas para vulnerar derechos fundamentales.
Esta investigación se suma a una creciente preocupación global sobre los peligros de los deepfakes generados con inteligencia artificial, especialmente cuando se utilizan para dañar la imagen, privacidad o integridad de personas sin su consentimiento.