En un hecho sin precedentes, la ciudad de San Francisco ha tomado una postura firme contra la explotación digital a través de la tecnología de inteligencia artificial (IA). El fiscal de la ciudad, David Chiu, ha presentado una demanda contra 16 sitios web que, según su oficina, utilizan IA para crear imágenes falsas de desnudos de mujeres y niñas sin su consentimiento. Este caso representa la primera demanda de este tipo en la historia y marca un punto de inflexión en la lucha contra el uso indebido de la IA en la creación de contenido pornográfico falso.
La tecnología al servicio del abuso
Los sitios web en cuestión permiten a los usuarios cargar imágenes de personas vestidas, que luego son procesadas por modelos de IA para crear versiones pornográficas de esas imágenes. Estos «deepfakes», como se les conoce, son imágenes manipuladas digitalmente que son prácticamente indistinguibles de las fotografías reales. La demanda alega que estos sitios han violado tanto las leyes estatales como federales que prohíben la pornografía de venganza, la pornografía infantil y el uso de deepfakes con fines ilícitos.
David Chiu, en una declaración oficial, expresó su horror ante la magnitud de la explotación a la que están siendo sometidas mujeres y niñas: «Esta investigación nos ha llevado a los rincones más oscuros de internet, y estoy absolutamente horrorizado por las mujeres y niñas que han tenido que soportar esta explotación». Chiu también subrayó que, aunque la IA tiene un gran potencial, su mal uso para tales fines representa un peligro que debe ser abordado de inmediato.
Impacto en las víctimas y la sociedad
El impacto de estas imágenes falsas es devastador. Las víctimas de este tipo de abuso a menudo se encuentran sin recursos legales ni prácticos para controlar la difusión de estas imágenes una vez que han sido distribuidas. La tecnología deepfake no solo se ha utilizado para explotar a celebridades, sino que también ha comenzado a afectar a estudiantes de secundaria y preparatoria, creando un ambiente de intimidación y acoso. Un incidente particularmente preocupante fue el de febrero de 2024, cuando imágenes de desnudos falsas de 16 estudiantes de octavo grado fueron compartidas en una escuela secundaria en Beverly Hills.
Yvonne Meré, fiscal adjunta de la ciudad, destacó la gravedad de la situación durante una conferencia de prensa, señalando que como madre de una niña de 15 años, le resulta inconcebible que estas prácticas perniciosas puedan continuar sin consecuencias. Meré también señaló que la investigación comenzó después de una conversación con Chiu, lo que llevó a la formación de un equipo dedicado a abordar este problema.
Los límites de la regulación en la IA
Aunque empresas líderes en el campo de la IA, como OpenAI y Anthropic, han implementado límites en los tipos de imágenes violentas o explícitas que sus modelos pueden generar, la realidad es que el espacio regulatorio en torno a la IA sigue siendo limitado. Esto ha permitido que los sitios demandados entrenen modelos de IA utilizando material pornográfico y representaciones de abuso sexual infantil, lo que permite la creación de imágenes pornográficas de mujeres y niñas reales sin su consentimiento.
El fiscal adjunto Karun Tilak señaló que no está completamente claro qué programas de IA se utilizan para crear estas imágenes, pero sugirió que versiones anteriores de programas como Stable Diffusion, que carecían de salvaguardas más recientes, probablemente podrían haber sido capaces de generar este tipo de contenido. Además, aunque la oficina del fiscal conoce la identidad de algunos de los propietarios de estos sitios web, muchos han permanecido en el anonimato, ocultos en las sombras.
La demanda y sus implicaciones
La demanda, presentada en el Tribunal Superior de San Francisco, busca no solo imponer sanciones civiles, sino también bloquear a los sitios web demandados para que no puedan continuar publicando este contenido ilegal. Según la oficina del fiscal, los sitios web en cuestión han sido visitados más de 200 millones de veces en los primeros seis meses de 2024, lo que destaca la creciente popularidad y disponibilidad de este tipo de tecnología.
En un esfuerzo por no dirigir tráfico a estos sitios, las URL de los mismos fueron redactadas en la demanda legal presentada el jueves. Sin embargo, la amenaza que representan sigue siendo significativa, ya que estos sitios permiten a los usuarios pagar para subir una imagen de una persona vestida y convertirla en una imagen pornográfica generada por IA.
El peligro de los deepfakes en la política
Además de la explotación sexual, los deepfakes también han comenzado a ser una herramienta de manipulación en el ámbito político. Con las elecciones a la vuelta de la esquina en noviembre, los legisladores de California están trabajando para aprobar leyes que limiten el uso de deepfakes en el contexto electoral. La preocupación radica en que estas imágenes manipuladas digitalmente puedan ser utilizadas para difamar a candidatos políticos, distorsionar la realidad y manipular a los votantes.
Un ejemplo reciente es la aparición de imágenes deepfake de la vicepresidenta Kamala Harris en ropa interior y de expresidentes realizando actividades ilícitas, todas ellas generadas por el modelo Grok-2 de xAI, una empresa propiedad de Elon Musk. Estas imágenes han comenzado a circular en redes sociales, exacerbando los temores sobre el uso de la IA para desinformar y manipular la opinión pública.
La necesidad de acción
La demanda presentada por David Chiu subraya la necesidad urgente de abordar los peligros que plantea el mal uso de la IA. Como lo expresó el propio Chiu: «Debemos ser muy claros en que esto no es innovación; esto es abuso sexual. Este es un problema grande y multifacético que, como sociedad, necesitamos resolver lo antes posible. Todos debemos hacer nuestra parte para acabar con los actores malintencionados que utilizan la IA para explotar y abusar de personas reales, incluidos niños».
El caso de San Francisco podría sentar un precedente importante en la regulación de la IA y el uso de deepfakes, señalando que la explotación digital y el abuso a través de la tecnología no serán tolerados. Con la atención puesta en la creciente amenaza que representan estos sitios, el futuro de la regulación de la IA podría estar en juego, marcando un momento decisivo en la lucha por proteger la privacidad y la dignidad de las personas en la era digital.
