Descubren bots que simulan ser niños y tienen conversaciones sexuales: ¿son permitidos?

El Gobierno de Brasil alertó por un fenómeno que involucra la inteligencia artificial y la vulnerabilidad infantil en internet.

La Agencia General de la Unión (AGU), entidad responsable de la defensa legal del Estado, exigió a Meta, compañía matriz de Facebook, Instagram y WhatsApp, que retire de forma inmediata chatbots que simulan ser niños y que han sido detectados manteniendo conversaciones sexuales con usuarios en sus plataformas.

Descubren bots que están simulando ser niños y teniendo conversaciones sexuales

La solicitud se formalizó el pasado 15 de agosto mediante una notificación extrajudicial enviada a Meta.

En el documento, la AGU señala que se ha identificado la “proliferación” de chatbots desarrollados con la herramienta de inteligencia artificial generativa de Meta, denominada AI Studio.

Estos sistemas, según la denuncia, son capaces de simular perfiles con lenguaje y apariencia infantil y están siendo utilizados para sostener diálogos de carácter sexual.

Aunque el requerimiento no contempla sanciones inmediatas, el organismo recordó que, de acuerdo con una decisión de la Corte Suprema de Brasil, las plataformas digitales tienen la obligación de retirar contenidos ilícitos producidos por sus usuarios incluso sin una orden judicial.

Influencer en Brasil exponía adolescentes semidesnudos en Instagram

La exigencia de la AGU fue realizada a petición de la Secretaría de Comunicación Social de la Presidencia, que presentó varios ejemplos de interacciones eróticas con chatbots que fingen ser menores de edad.

Estos casos fueron incluidos en el expediente enviado a Meta como pruebas de la magnitud del problema.

La notificación se produce justo después de que en Brasil se conociera un caso de presunta explotación sexual infantil protagonizado por Hytalo Santos, un conocido influenciador digital.

Este sujeto fue detenido el mismo 15 de agosto por la Fiscalía del Estado de Paraíba, acusado de exponer a adolescentes semidesnudos en videos de bailes con connotación sexual en Instagram. Tras su captura, su cuenta en esa red social fue eliminada.