En junio de 2023, YouTube implementó silenciosamente un cambio significativo en su política, permitiendo a las personas solicitar la eliminación de contenido generado por inteligencia artificial (IA) o contenido sintético que simule su rostro o voz. Esta medida es parte de una expansión de su enfoque hacia la IA responsable, introducido por primera vez en noviembre de 2022. A continuación, analizaremos en detalle esta nueva política, su impacto en los creadores de contenido y la comunidad de YouTube en general.
Contexto de la Nueva Política
Meta no es la única empresa que enfrenta el desafío del aumento del contenido generado por IA y su impacto en las plataformas digitales. YouTube ha dado un paso adelante al permitir que las personas soliciten la eliminación de este tipo de contenido bajo su proceso de solicitud de privacidad. Esta política se centra en tratar el contenido generado por IA como una violación de la privacidad, en lugar de simplemente considerar su eliminación por ser engañoso, como los deepfakes.
Proceso de Solicitud de Eliminación
Según la documentación actualizada de ayuda de YouTube, para solicitar la eliminación de contenido generado por IA, se requiere que la reclamación provenga directamente de la persona afectada, con algunas excepciones, como en el caso de menores, personas fallecidas o individuos sin acceso a una computadora. Sin embargo, el simple hecho de presentar una solicitud no garantiza la eliminación del contenido. YouTube evaluará la queja basándose en diversos factores, incluyendo si el contenido se divulga como sintético o creado con IA, si identifica de manera única a una persona y si puede considerarse parodia, sátira o de interés público.
Factores Considerados por YouTube
YouTube tendrá en cuenta si el contenido:
- Es alterado o sintético.
Identifica de manera única a la persona afectada. - Representa una versión realista y alterada de su semejanza.
- Contiene parodia, sátira o valor de interés público.
- Involucra a una figura pública o individuo conocido en comportamientos sensibles como actividad criminal, violencia o respaldo de un producto o candidato político.
Particularmente en un año electoral, la presencia de respaldos generados por IA podría influir significativamente en los votantes, lo que hace esta política aún más relevante.
Etiquetas de Contenido Generado por IA
Como parte de su agenda de innovación responsable de la IA, YouTube introdujo nuevas etiquetas para el contenido generado por IA. Estas etiquetas se aplican a varios tipos de contenido, incluyendo:
Aspectos Visuales: Videos que representan situaciones realistas pero ficticias, como mostrar una ciudad real en llamas cuando no lo está, o una ciudad ficticia en llamas.
Semblanza Humana Manipulada o Generada: Deepfakes y adaptaciones visuales humanas, como intercambiar el rostro de una persona por otra.
Voces Generadas por IA: Uso de voces falsas generadas por IA en el contenido original o en el doblaje de videos.
Estas etiquetas no se aplican a contenido obviamente ficticio, como unicornios en el espacio, ni a miniaturas generadas por IA. Sin embargo, YouTube podría anunciar más detalles sobre las miniaturas en el futuro.
Detectando Videos que No Cumplen
Para moderar el uso de la IA en la plataforma, YouTube emplea una combinación de IA y moderación humana. Los espectadores también pueden reportar contenido generado por IA y solicitar su eliminación si el video ha recreado sus visuales o voz sin su consentimiento. Esta es una victoria importante para actores de voz que encuentran su voz utilizada en contenido sin su permiso.
Consecuencias de No Cumplir
YouTube inicialmente añadirá una etiqueta de IA al contenido que no haya divulgado el uso de IA, y esta etiqueta no podrá ser removida por el creador del contenido. Si el creador continúa sin ser transparente sobre el uso de IA en sus videos, YouTube podría tomar medidas más drásticas, como eliminar el contenido de la plataforma o eliminar la cuenta del programa de socios, impidiendo la monetización de videos anteriores y futuros.
Impacto en la Comunidad de YouTube
La implementación de esta nueva política tiene implicaciones significativas para los creadores de contenido y la comunidad de YouTube en general. Por un lado, fomenta una mayor transparencia y responsabilidad en el uso de la IA, protegiendo a los individuos de la manipulación no consentida de su semejanza y voz. Por otro lado, plantea desafíos para los creadores de contenido que utilizan herramientas de IA para mejorar sus videos, ya que ahora deben ser más diligentes en la divulgación y etiquetado de dicho contenido.
Ventajas y Desventajas
Ventajas:
- Mayor protección de la privacidad y los derechos de imagen de los individuos.
- Fomenta la transparencia en el uso de la IA.
- Protege contra la desinformación y el uso indebido de la IA en años electorales.
Desventajas:
- Puede ser percibido como una carga adicional para los creadores de contenido.
- La ambigüedad en la aplicación de las etiquetas puede llevar a confusión.
- Posible disminución de la creatividad debido al miedo a la violación de políticas.
La nueva política de YouTube sobre el contenido generado por IA es un paso significativo hacia la protección de la privacidad y la integridad de los individuos en la plataforma. Al permitir solicitudes de eliminación basadas en la violación de la privacidad y al introducir etiquetas para el contenido generado por IA, YouTube busca equilibrar la innovación tecnológica con la responsabilidad ética. Sin embargo, la implementación efectiva de esta política requerirá una vigilancia continua y un ajuste fino para garantizar que cumple con sus objetivos sin sofocar la creatividad de los creadores de contenido.
Con el tiempo, veremos cómo esta política influye en el ecosistema de YouTube y en la manera en que los creadores de contenido utilizan la IA para producir y compartir sus videos.
