La Unión Europea abre investigación sobre el chatbot de IA Grok de Musk por deepfakes sexuales

BRUSELAS (AP) — Reguladores de la Unión Europea han iniciado una investigación formal sobre la plataforma social X de Elon Musk después de que su chatbot de inteligencia artificial, Grok, comenzara a generar imágenes de deepfake sexualizadas no consensuadas en la plataforma.

La atención de Bruselas se centra en Grok tras una reacción global negativa, ya que permite a los usuarios, mediante capacidades de generación y edición de imágenes por IA, «desvestir» a las personas, colocándolas en bikinis transparentes o ropa reveladora. Investigadores señalaron que algunas imágenes parecían incluir niños. Algunos gobiernos prohibieron el servicio o emitieron advertencias.

El ejecutivo de la UE, compuesto por 27 naciones, está evaluando si X ha cumplido adecuadamente con las regulaciones digitales del bloque para contener los riesgos de difundir contenido ilegal, como «imágenes sexuales manipuladas».

Esto incluye contenido que «podría considerarse material de abuso sexual infantil», según indicó la Comisión Europea. Estos riesgos se han “materializado”, exponiendo a los ciudadanos del bloque a “graves daños.”

Los reguladores examinarán si Grok está cumpliendo con sus obligaciones bajo la Ley de Servicios Digitales (DSA), el amplio reglamento del bloque para proteger a los usuarios de internet de contenidos y productos dañinos.

En respuesta a una solicitud de comentarios, una portavoz de X dirigió a The Associated Press a una declaración anterior de que la compañía sigue «comprometida a hacer de X una plataforma segura para todos» y que tiene “tolerancia cero” hacia la explotación sexual infantil, la desnudez no consensuada y el contenido sexual no deseado.

La declaración de X del 14 de enero también indicó que dejaría de permitir a los usuarios representar personas en “bikinis, ropa interior u otra vestimenta reveladora”, pero solo en lugares donde sea ilegal.

“Los deepfakes sexuales no consensuados de mujeres y niños son una forma violenta e inaceptable de degradación”, afirmó Henna Virkkunen, vicepresidenta ejecutiva de la comisión.

“Con esta investigación, determinaremos si X ha cumplido con sus obligaciones legales bajo la DSA o si ha tratado los derechos de los ciudadanos europeos, incluidos los de mujeres y niños, como daños colaterales de su servicio”, agregó Virkkunen, quien supervisa la soberanía tecnológica, la seguridad y la democracia.

La Comisión también anunció que está extendiendo una investigación separada sobre X para evaluar si la plataforma ha seguido los requisitos de la DSA. Esta investigación se abrió en 2023 y aún está en curso, habiendo resultado hasta ahora en una multa de 120 millones de euros (entonces 140 millones de dólares) en diciembre por infracciones a los requisitos de transparencia.