Ofcom del Reino Unido investiga a X tras la aparición de impactantes deepfakes sexuales generados por Grok AI

La intersección entre la tecnología y la ética se está convirtiendo en un tema de creciente relevancia, especialmente con la llegada de las herramientas de inteligencia artificial (IA). Un reciente escándalo en el Reino Unido ha puesto de manifiesto las preocupaciones sobre el uso de imágenes generadas por IA, lo que ha llevado a las autoridades a investigar a la plataforma social X, anteriormente conocida como Twitter. Este artículo profundiza en los detalles de esta situación y sus posibles implicaciones no solo en el Reino Unido, sino también en otros países, incluido México.

Investigación formal de Ofcom a X por imágenes sexuales generadas por IA

El regulador británico Ofcom ha lanzado una investigación formal sobre X, la plataforma social propiedad de Elon Musk, debido a preocupaciones sobre el uso de su chatbot Grok para generar imágenes sexuales inapropiadas. La investigación se centra en si X ha cumplido con sus obligaciones legales de proteger a los usuarios del Reino Unido de contenido ilegal.

Este caso es especialmente significativo, ya que representa uno de los primeros esfuerzos para determinar si las herramientas de IA integradas en las plataformas de redes sociales cumplen con las leyes de seguridad en línea del Reino Unido.

Contexto y preocupaciones sobre el contenido generado por Grok

En un comunicado reciente, Ofcom expresó que había recibido “reportes profundamente preocupantes” que indicaban que Grok estaba siendo utilizado para crear imágenes desnudas de personas sin su consentimiento, así como imágenes sexualizadas de menores. Este tipo de contenido podría considerarse abuso de imágenes íntimas no consensuales y material de abuso sexual infantil, ambos ilegales en el Reino Unido.

La presión política sobre esta investigación ha aumentado, con el Primer Ministro británico, Keir Starmer, describiendo las imágenes generadas como "desagradables" y "potencialmente ilegales". La preocupación por la difusión de imágenes sexuales generadas por IA ha llevado a un llamado urgente a que la plataforma tome medidas efectivas.

Riesgos asociados con el contenido ilegal y la respuesta del regulador

Ofcom se ha comprometido a investigar si X ha evaluado adecuadamente los riesgos asociados con la función de generación de imágenes de Grok y si ha reaccionado de manera oportuna para eliminar contenido ilegal. Las autoridades están bajo creciente presión política para actuar frente a las preocupaciones sobre la seguridad de los usuarios, especialmente los menores.

• El Primer Ministro británico ha exigido una respuesta rápida.
• El Secretario de Negocios, Peter Kyle, ha mencionado que la prohibición de X en el Reino Unido es una opción, aunque esta decisión recae en Ofcom.
• La investigación podría servir como un modelo para otras jurisdicciones que enfrentan problemas similares.

Respuesta de X y su postura sobre el contenido ilegal

Ante la investigación, X ha declarado que toma medidas enérgicas contra el contenido ilegal en su plataforma, incluyendo cualquier material relacionado con abuso sexual infantil. La empresa afirmó que cuando se identifica contenido ilegal, este es eliminado y las cuentas responsables son suspendidas permanentemente.

X también mencionó que los usuarios que solicitan a Grok generar contenido ilegal enfrentan las mismas consecuencias que aquellos que suben dicho material directamente. Además, para restringir solicitudes inapropiadas, X ha limitado la capacidad de solicitar imágenes que involucren desnudos a sus usuarios de pago.

A pesar de la respuesta de X, Elon Musk ha criticado la reacción del gobierno británico, sugiriendo que busca "cualquier excusa para la censura", en un contexto donde otras plataformas de IA no están siendo objeto de un escrutinio similar.

Marco legal en el Reino Unido sobre imágenes sexuales generadas por IA

La legislación británica es clara: crear o compartir imágenes íntimas no consensuales es ilegal, independientemente de si el contenido es generado por IA. Esto también se aplica a la creación de material de abuso sexual infantil, incluyendo imágenes sexualizadas digitalmente de menores.

Las plataformas tecnológicas tienen la responsabilidad de no solo eliminar contenido ilegal al ser identificado, sino también de tomar medidas proactivas para prevenir que los usuarios en el Reino Unido se encuentren con dicho contenido. Ofcom examinará si X ha utilizado medidas "altamente efectivas", como sistemas de verificación de edad, para limitar el acceso a contenido pornográfico.

Las posibles sanciones para X, si se determina que ha incumplido sus deberes, podrían incluir multas de hasta el 10% de los ingresos anuales globales de la empresa o £18 millones, lo que sea más alto. En casos extremos, Ofcom podría buscar órdenes judiciales para restringir el acceso a la plataforma en el Reino Unido.

Perspectivas futuras del caso y su impacto global

Ofcom ha calificado la investigación como de "máxima prioridad", aunque no ha proporcionado una línea de tiempo para su conclusión. La agencia ha reiterado que no dudará en actuar si hay un riesgo de daño serio, especialmente para los niños.

Este caso también se enmarca en un contexto global en el que la utilización de herramientas de generación de imágenes por IA está bajo un intenso escrutinio. Autoridades en países como Francia han llevado a X ante los fiscales, calificando contenido similar como "manifiestamente ilegal". Otros países, como Malasia e Indonesia, han restringido temporalmente el acceso a la función de generación de imágenes de Grok.

La resolución de la investigación de Ofcom podría establecer un precedente importante sobre cómo se regula el contenido generado por IA en las plataformas de redes sociales en el Reino Unido y más allá. Esto es relevante para México, donde la regulación sobre contenido en línea también está evolucionando, y podría inspirar a las autoridades a considerar medidas similares para abordar el contenido ilícito en redes sociales.