Justicia neerlandesa limita la IA de Elon Musk por abusos digitales
La denuncia fue presentada por Offlimits, un centro neerlandés especializado en violencia en línea.
Noticias RCN
03:15 p. m.
Un tribunal de Ámsterdam prohibió este jueves a la red social X y a Grok, el asistente de inteligencia artificial de Elon Musk, crear y difundir imágenes que “desnuden” a personas sin su consentimiento, así como cualquier contenido pedocriminal.
La medida se aplicará en los Países Bajos y, mientras Grok incumpla la orden, X tampoco podrá ofrecer los servicios de su asistente de IA en el país.
La denuncia fue presentada por Offlimits, un centro neerlandés especializado en violencia en línea, tras la introducción de una función en Grok que permitía a los usuarios generar montajes hiperrealistas de mujeres y niños desnudos a partir de fotos reales.
Multas millonarias y presión europea sobre la IA
El tribunal consideró que Offlimits demostró “suficientemente la existencia de una duda razonable sobre la eficacia de las medidas adoptadas” por las plataformas. Como ejemplo, la organización logró producir un video de una persona desnuda utilizando Grok poco antes de la audiencia.
La prohibición abarca tanto la generación de imágenes de residentes en Países Bajos como su difusión en el territorio. Cada infracción será sancionada con una multa de 100.000 euros diarios, hasta un máximo de 10 millones de euros.
El mismo jueves, el Parlamento Europeo avanzó en la prohibición de programas de inteligencia artificial que permiten “desnudar” a personas sin su consentimiento, una iniciativa respaldada por los Estados miembros y que busca reforzar la protección frente a los abusos digitales en toda la Unión Europea.