La controversia en torno a Grok, el sistema de inteligencia artificial vinculado a la red social X, escaló a nivel global. Gobiernos de Europa y Asia han iniciado investigaciones y aplicado restricciones frente a una función que permite generar imágenes sexualizadas falsas de personas reales a partir de fotografías, lo que ha generado alarma por sus implicancias legales y éticas.
El último episodio se produjo este martes 13 de enero, cuando la Alta Comisionada francesa para la Infancia, Sarah El Haïry, anunció que elevó el caso ante la Comisaría Europea de Soberanía Digital, abriendo la puerta a eventuales sanciones contra la plataforma.
En declaraciones al diario Le Parisien, la autoridad explicó que ya ha recurrido a la justicia francesa, al regulador audiovisual Arcom y a la plataforma Pharos para la denuncia de delitos digitales. “Estamos ante contenidos que deben ser retirados de inmediato. Además, corresponde aplicar la legislación europea vigente sobre servicios y mercados digitales”, sostuvo.
La Fiscalía de París ya mantenía desde julio una investigación sobre los algoritmos de la plataforma y ahora decidió ampliarla al impacto del uso de Grok en la difusión de imágenes ilícitas.
ADVERTENCIAS DESDE BRUSELAS Y LONDRES
La Comisión Europea también endureció su postura. Aunque sin mencionar directamente a X ni a Grok, la presidenta Ursula von der Leyen declaró esta semana al diario italiano Corriere della Sera que Europa no delegará la protección de la infancia a las grandes tecnológicas: “Si las plataformas no actúan, actuaremos nosotros”.
En el Reino Unido, el regulador Ofcom abrió una investigación formal contra la red social. El primer ministro Keir Starmer fue aún más explícito: “Si X no puede controlar su propia herramienta, perderá el derecho a autorregularse”. El proceso podría derivar en multas de hasta el 10% de los ingresos globales de la empresa e incluso en la solicitud judicial de bloqueo del servicio.
BLOQUEOS Y RESTRICCIONES EN ASIA
Indonesia fue el primer país en suspender temporalmente el acceso a Grok, con el objetivo de proteger a mujeres y menores. Malasia adoptó una medida similar pocos días después. Australia, Alemania e Italia han manifestado preocupación pública, mientras que India informó que X ya ha retirado miles de contenidos y eliminado cientos de cuentas asociadas a este tipo de publicaciones.
Un funcionario indio declaró a AFP que se bloquearon alrededor de 3.500 publicaciones y más de 600 cuentas. Aun así, diversos expertos consideran que las acciones siguen siendo insuficientes frente a la magnitud del problema.
ESTUDIOS ALERTAN SOBRE EL ALCANCE DEL FENÓMENO
Un informe reciente de la ONG europea AI Forensics analizó 20.000 imágenes generadas por Grok entre fines de diciembre y comienzos de enero. Según el estudio, aproximadamente la mitad contenía elementos de sexualización. Además, un pequeño porcentaje correspondía a personas que aparentaban ser menores de edad, lo que elevó aún más la preocupación pública.
Ante la presión, X desactivó la función de generación de imágenes para usuarios gratuitos. Para algunos responsables políticos europeos, se trata de un avance inicial. Para otros, es una respuesta tardía e insuficiente. La ministra delegada francesa de Asuntos Digitales, Anne Le Hénanff, acusó incluso a la empresa de estar “monetizando el escándalo”.
UN HISTORIAL DE POLÉMICAS
Desde su lanzamiento en noviembre de 2023, Grok ha sido objeto de controversias reiteradas por la difusión de contenidos problemáticos, incluyendo desinformación y mensajes de odio. La herramienta fue concebida con una filosofía más permisiva que otros sistemas de IA, en línea con la visión de Elon Musk sobre la libertad de expresión sin restricciones.
Esa orientación, sin embargo, ha abierto un debate cada vez más intenso sobre los límites éticos, legales y sociales del desarrollo tecnológico. Para muchos gobiernos, el caso Grok se ha convertido en una prueba clave sobre hasta dónde deben llegar las regulaciones frente al poder creciente de las grandes plataformas digitales.
Que el loco que lleva esta red social esté permitiendo que la peña use a Grok para desnudar a chicas en bikini sin su permiso es gravísimo. Elon Musk pasó de firmar lo de «stop AI» a convertirse en la persona más irresponsable liderando una empresa de IA a día de hoy. https://t.co/ltcbfnT6dv
— Carlos Santana (@DotCSV) January 1, 2026
