Letitia James encabeza una coalición bipartidista que presiona a xAI para frenar la creación de imágenes no consentidas y reforzar la protección de usuarios vulnerables
Sala de Redacción | New York Hispano
NUEVA YORK
La fiscal general de Nueva York, Letitia James, junto a una coalición bipartidista de otros 34 fiscales generales, exigió que xAI adopte medidas adicionales para proteger a los usuarios de imágenes y contenidos inapropiados creados por su chatbot de inteligencia artificial Grok y difundidos en la red social X. En una carta enviada a xAI, los fiscales generales señalan que los cambios recientes realizados en Grok no son suficientes para proteger a los niños y a las mujeres que están siendo acosados mediante imágenes inapropiadas y no consensuadas. La coalición solicita a xAI que explique cómo garantizará que Grok no pueda crear imágenes no consensuadas, que elimine el contenido inapropiado ya generado y que suspenda a los usuarios responsables de crear material dañino.
“Me siento profundamente perturbada por los informes que indican que Grok creó y compartió imágenes inapropiadas de mujeres y niños, y por eso me uno a una coalición bipartidista de mis colegas para exigir respuestas a la empresa”, declaró la fiscal general James. “xAI afirma haber realizado cambios para abordar este problema, pero se debe hacer mucho más para garantizar que Grok no esté creando material de abuso sexual infantil ni otras imágenes no consensuadas. Continuaré trabajando junto a mis colegas para exigir responsabilidades a la empresa y proteger a los niños y a todos los usuarios en línea”.
xAI es propietaria y operadora de Grok, un chatbot de inteligencia artificial que ha estado creando y compartiendo imágenes explícitas no consensuadas de mujeres y niños. Grok permitió a los usuarios alterar imágenes inocuas de mujeres, sin su conocimiento ni consentimiento, representándolas en escenarios sugestivos y sexualmente explícitos, e incluso “desvistiéndolas” para mostrarlas en bikinis, ropa interior o completamente desnuda. Los fiscales generales señalan que algunos usuarios están utilizando la función de edición de imágenes de Grok para avergonzar, intimidar y explotar a otras personas.
La coalición sostiene que la creación y difusión de material de abuso sexual infantil constituye un delito, y que diversas leyes civiles y penales estatales y federales también prohíben la creación de imágenes íntimas no consensuadas. Los fiscales generales exigen que xAI detalle de manera inmediata cómo planea:
- Tomar todas las medidas necesarias para garantizar que Grok ya no sea capaz de producir imágenes íntimas no consensuadas, incluidas aquellas que, sin llegar a mostrar desnudez total o actos sexuales explícitos, representen a personas en bikinis, ropa interior, vestimenta reveladora o poses sugestivas, así como material de abuso sexual infantil;
- Eliminar el contenido inapropiado y no consensuado que ya haya sido producido;
- Suspender a los usuarios que hayan creado este tipo de material;
- Denunciar a dichos creadores y usuarios ante las autoridades correspondientes;
- Otorgar a los usuarios de X control sobre si su contenido puede ser editado por Grok, incluyendo como mínimo la posibilidad de prohibir fácilmente que la cuenta @Grok responda a sus publicaciones o edite sus imágenes cuando otro usuario lo solicite; y
- Garantizar que las salvaguardas recientemente anunciadas no se limiten a colocar la creación de imágenes íntimas no consensuadas detrás de un muro de pago, sino que realmente mitiguen su producción en toda la plataforma X y en Grok.
Esta es la iniciativa más reciente de la fiscal general James para proteger a los niños en línea y exigir responsabilidades a las empresas tecnológicas. El mes pasado, James y una coalición bipartidista de otros 41 fiscales generales enviaron una carta a grandes empresas tecnológicas instándolas a implementar protecciones en los chatbots de inteligencia artificial para salvaguardar a los niños y a las personas vulnerables. En noviembre de 2024, James lideró una coalición bipartidista de 36 fiscales generales para instar al Congreso a rechazar un lenguaje incluido en un plan de gasto militar que habría impedido a los estados aprobar o hacer cumplir leyes para regular la inteligencia artificial. En junio de 2024, James anunció que una legislación pionera a nivel nacional para combatir los feeds adictivos en redes sociales y proteger a los menores en línea fue promulgada como ley.
Acompañan a la fiscal general James en el envío de la carta los fiscales generales de Samoa Americana, Arizona, Colorado, Connecticut, Hawái, Idaho, Illinois, Kansas, Kentucky, Maine, Maryland, Michigan, Minnesota, Nevada, New Hampshire, Nueva Jersey, Nuevo México, Carolina del Norte, Dakota del Norte, Islas Marianas del Norte, Oklahoma, Oregón, Pensilvania, Rhode Island, Dakota del Sur, Utah, Vermont, Islas Vírgenes, Washington, Wisconsin, Wyoming y el Distrito de Columbia.
WESTCHESTER HISPANO
Este artículo pertenece a Westchester Hispano y no puede reproducirse, distribuirse, modificarse ni publicarse, total o parcialmente, sin autorización previa por escrito. Queda estrictamente prohibida la copia o republicación de este contenido en cualquier otro medio o plataforma.
This article belongs to Westchester Hispano and may not be reproduced, distributed, modified, or published, in whole or in part, without prior written permission. Copying or republishing this content on any other media or platform is strictly prohibited.
