Grok suma amenazas de suspensión por crear desnudos ilícitos: la polémica que amplía la extensa historia de IA de Elon Musk | MUNDO – El diario andino
El comienzo del año ha sido extremadamente controvertido para GrokEl asistente de inteligencia artificial de Elon Musk integrado en la red social incógnita. El servicio se ha utilizado para generar imágenes sexuales de personas reales, incluidos menores.
El problema se localizó principalmente en incógnitadónde Grok Dispone de una cuenta a la que se pueden realizar pedidos y consultas a través de comentarios y publicaciones. Esto incluye la creación de imágenes, pero también la modificación de las existentes.
Boletín alrededor del mundo
El chatbot se utilizó para responder a las publicaciones generando y editando imágenes en bikini o ropa interior, principalmente de mujeres con presencia en incógnita y otras plataformas de Internet. Estos montajes altamente realistas se conocen como ‘deepfakes’ y se han convertido en un problema creciente desde la introducción masiva de la inteligencia artificial generativa.
Grok, la inteligencia artificial de X. (Foto: Grok)
La proliferación a gran escala de imágenes sugerentes provocó una ola de críticas hacia los servicios de Elon Musk debido a la falta de regulación de estos contenidos, lo que motivó el pronunciamiento de entidades gubernamentales sobre el tema.
La Oficina de Comunicaciones del Reino Unido (Ofcom) anunciado este lunes 12 que ha iniciado una investigación formal sobre el papel de incógnita y xAIsu matriz de inteligencia artificial también estuvo a cargo de Grok, en estos incidentes.
“Como organismo independiente de vigilancia de la seguridad en línea del Reino Unido, contactamos urgentemente
Según la Ley británica de seguridad en línea, incógnita y su matriz podría enfrentarse a multas que pueden oscilar entre los 20 millones de euros y el 10% de su facturación global.
yoPor parte de xAI sólo se ha limitado a responder a esa “mentira de los medios tradicionales”. Pese a lo anterior, la plataforma ha tomado algunas medidas y el gobierno indio indicó a la AFP que en el último fin de semana la red social eliminó 3.500 contenidos de este tipo y eliminó unas 600 cuentas.
X ha ido más allá, ya que desde el 9 de enero la creación de imágenes con Grok para usuarios que no pagan.
Las imágenes de Grok ahora están limitadas a los suscriptores del servicio. (Foto: Lionel Buenaventura / AFP)
/El primer ministro del Reino Unido, Keir Starmer, criticó la limitación de esta última medida, al considerar que mantener esta funcionalidad para los suscriptores sin depurar convierte «la creación de imágenes ilegales en un servicio premium».
«Es ilegal. No lo vamos a tolerar. He pedido que se consideren todas las opciones. Es repugnante.
En Estados Unidos también hubo reacciones, ya que el miércoles 14 el Fiscal General de California indicó que investigará formalmente el caso de generación masiva de imágenes, explicando que xAI “aparentemente facilitó la producción a gran escala de montajes íntimos no consentidos” que tenían como finalidad “acosar a mujeres y niñas en Internet”.
Sólo después del anuncio de esta investigación, la plataforma X indicó que tomará medidas para evitar que Grok transforme fotos de personas reales en imágenes de naturaleza sexual cuando esto sea ilegal.
El primer ministro británico, Keir Starmer, ha criticado duramente el manejo de las imágenes por parte de Grok. Foto: EFE/EPA/ADAM VAUGHAN
Indonesia fue uno de los países que decidió actuar con mayor rapidez y contundencia suspendiendo temporalmente el acceso a X desde el pasado fin de semana. Malasia optó por la misma ruta poco después.
Australia y varios países europeos han expresado su preocupación por la difusión de ‘deepfakes’ sexuales y la Unión Europea ha indicado que ha impuesto una medida cautelar contra X.
UN UMBRAL PELIGROSO
A principios de este mes la organización AI Forensics publicó un estudio en el que analizó 20.000 imágenes generadas por Grok y 50.000 solicitudes realizadas por los usuarios, encontrando que el 53% de este contenido era de individuos mínimamente vestidos, de los cuales el 81% eran mujeres.
De este material, se estimó que el 2% retrataba a personas que se acercaban peligrosamente al umbral de los 18 años y en algunos casos parecían directamente menores.
«Mostramos cómo la falta de salvaguardias en torno a las imágenes de IA de Grok está produciendo un gran volumen de imágenes sexualizadas, principalmente de mujeres, pero también de menores, así como materiales ilegales nazis y de ISIS», señaló AI Forensics.
En medio de esta polémica, diversos grupos realizaron una solicitud conjunta a Google y Apple para eliminar X y Grok de sus tiendas de aplicaciones, acusando a los servicios de Elon Musk de generar material audiovisual ilegal. Entre las organizaciones firmantes se encuentran la asociación de padres ParentsTogether Action, el grupo feminista UltraViolet y la Organización Nacional de Mujeres de Estados Unidos.
«Están habilitando un sistema en el que miles, si no decenas de miles, de personas, especialmente mujeres y niños, están siendo abusadas sexualmente con la ayuda de sus propias tiendas de aplicaciones», dijo a Reuters la directora de UltraViolet, Jenna Sherman.
MÁS CONTROVERSIAS
discurso de odio
El caso de los ‘deepfakes’ masivos no ha sido el primer suceso polémico en el que Grok y X se han visto envueltos.
Elon Musk ha asegurado que su inteligencia artificial fue diseñada para ser «políticamente incorrecta» y sus creadores afirman que tiene «un dejo de rebelión», en la misma línea del discurso del empresario que alegaba que otras redes sociales llevaban años censurando contenidos.
Sin embargo, a principios de julio de 2025 aparecieron varios informes de respuestas antisemitas por parte de Grok, que incluían elogios a Adolf Hitler. Algunos usuarios plantearon al chatbot preguntas como qué personaje histórico sería una buena referencia para combatir el «odio contra los blancos» y la IA respondió que Hitler era «sin duda» la mejor opción, indicando que «detectaría el patrón y actuaría con decisión».
Las críticas surgieron desde varios frentes, apareciendo comentarios más cuestionables sobre el pueblo hebreo que incluían estereotipos, comentarios agresivos en referencia a apellidos judíos y alusiones al acaparamiento de negocios por parte de personas de este grupo.
La Liga Antidifamación, una organización que combate los prejuicios contra los judíos, calificó a Grok de “irresponsable”, “antisemita” y “peligroso” en medio de la discusión.
“Las empresas que están desarrollando grandes modelos de lenguaje como Grok deberían emplear expertos en retórica extremista y lenguaje codificado para colocar barreras que impidan que sus productos generen contenidos arraigados en el odio antisemita y extremista”, denunció la organización.
Durante este período, los mensajes de Grok también fueron bloqueados mediante una orden judicial en Turquía después de que se descubrió que el chatbot insultaba al presidente del país, Recep Tayyip Erdogan. A lo anterior se sumó una denuncia de Polonia ante la Unión Europea, que señalaba que X y Grok permitían discursos de odio y violaban las regulaciones digitales europeas.
La respuesta de
El 9 de julio del año pasado se anunció la renuncia de Linda Yaccarino como directora ejecutiva de X, pero no hubo confirmación oficial de si esto se debió a los hechos antes mencionados.
Elon Musk afirmó que estos hechos se debieron a la “manipulación” de su inteligencia artificial y que estaban trabajando para solucionar ese problema. El magnate de la tecnología sostuvo que “Grok era demasiado obediente a las instrucciones del usuario” y estaba “ansioso por complacer y ser manipulado”.
Privacidad y datos personales
La protección de datos ha sido motivo de constantes críticas hacia X y Grok, ya que meses después de su lanzamiento se descubrió que para utilizar el chatbot, los usuarios aceptaban automáticamente que sus mensajes, comentarios y publicaciones fueran utilizados para entrenar la inteligencia artificial.
La opción para permitir o no permitir el uso de estos datos se introdujo sin previo aviso y se activó. A lo anterior se suma que la modificación de estos permisos aparentemente fue diseñada para que fuera de difícil acceso en la configuración de la aplicación.
Las autoridades irlandesas tomaron medidas al respecto en agosto de 2024 y la Comisión de Protección de Datos de ese país ordenó la suspensión del procesamiento de información de los usuarios en la Unión Europea.
La supuesta ausencia del concepto de consentimiento e interés legítimo fue otro punto de conflicto en la jurisdicción de la UE, porque estos elementos se consideran esenciales para procesar información personal con fines secundarios, según el Reglamento General de Protección de Datos. La opacidad de X y Grok al presentar este escenario de decisión fue muy cuestionada.
OTROS CASOS
Grok ha sido criticado por tener un marco ideológico pronunciado, ya que el propio Elon Musk ha declarado abiertamente que su IA es “anti-despertar”. Pese a ello, los usuarios conservadores del servicio lo han criticado por ser a menudo “progresista” en sus respuestas.
Musk tomó nota de esto y aparentemente ajustó la línea de discurso de su chatbot para alinearla más con sus propias opiniones. Esta modificación generó preocupación por llevar aún más lejos el sesgo ideológico.
Estas modificaciones fueron más allá, ya que a mediados de 2025 se anunció la introducción de un “modo picante” de Grok que permite la creación de contenido mucho más explícito. El temor respecto a esta herramienta era que fuera utilizada para crear imágenes sexualizadas de personas reales, algo que está sucediendo actualmente.
A lo anterior se suman las críticas a la invención de datos por parte de Grokipedia, un proyecto enciclopédico basado en IA similar a Wikipedia, plataforma que Musk ha criticado por su dureza.
Las «alucinaciones detectadas en Grokipedia incluían la presentación de noticias falsas o contenidos satíricos presentados como si fuera información real. También hubo muchas críticas de que el sistema se alimentaba masivamente con datos de Wikipedia a pesar de los ataques de Elon Musk, a la que llamó «Wokipedia».
