Red social X podría estar en graves problemas por la herramienta Grok: le pusieron la lupa

Este lunes 26 de enero, la Comisión Europea comenzó una investigación contra X por las imágenes de menores y mujeres desnudas, generadas por Grok, la inteligencia artificial.

De un tiempo para acá, se volvió común que los usuarios en X le pidieran a la herramienta que cambie la vestimenta de las personas en las fotografías. Sin embargo, esto ha llevado a que haya contenido explícito de menores y mujeres.

Creación de imágenes explícitas de menores y mujeres

Úrsula von der Leyen, presidenta de la comisión, le dijo a AFP que el ‘viejo continente’ no tolerará situaciones de esta índole, las cuales afectan el correcto desarrollo de las plataformas digitales.

Nuestra posición es clara: no confiaremos el consentimiento ni la protección de la infancia a plataformas tecnológicas para que los vulneren y los moneticen.

A pesar de que hay protocolos y herramientas que le brindan protección a los usuarios, la alta funcionaria sostuvo que los esfuerzos deben fortalecerse: “Hacer más por los ciudadanos, tanto en línea como fuera de línea”.

La investigación entonces se centrará en concluir si la red social infringió las normas europeas relacionadas con el entorno digital, las cuales están enfocadas en garantizar medidas de seguridad.

¿Cuántas imágenes se han creado?

Es importante mencionar que en diciembre de 2023 hubo un proceso similar. Este fue por la legislación sobre servicios digitales contemplada en la Ley de Servicios Digitales.

Con respecto a la reciente polémica con Grok, países como Francia y Reino Unido también le dieron pie a procesos legales, a tal punto que ponen sobre la mesa la prohibición de X.

El escándalo se suma a un estudio de Center for Countering Digital Hate, el cual reveló que la inteligencia artificial generó cerca de tres millones de imágenes sexualizadas de mujeres y menores en 11 días. Es decir, 190 por minuto.