El uso de la IA ha desempeñado un papel cada vez más significativo, específicamente en la creación de contenido. Ofreciendo herramientas como la creación de voces sintéticas o la creación de rostros, permitiendo a los creadores expandir su creatividad e interactuar en nuevas fronteras.
No obstante, aunque son herramientas de gran utilidad, su gestión representa grandes desafíos éticos y prácticos. En respuesta a esta tendencia, YouTube ha creado una nueva política para la regulación de contenido que contenga el uso de voces o rostros generados por la IA.
Correo: dana.malips@gmail.com
Aunque resulta ser una excelente herramienta para crear diferentes tipos de contenido y ahorrar tiempo en el proceso de recolección de material, debemos tener cuidado en el modo de empleo, ya que un mal uso puede dañar una imagen o generar información falsa, mostrar contenido sintético, desinformar, originar fraudes y otros problemas éticos.
Por lo tanto, es que una plataforma de gran relevancia mundial, como lo es YouTube, da inicio a una actualización de sus políticas de contenido, para establecer normas más claras sobre el empleo de estas herramientas y para garantizar la autenticidad del contenido y la seguridad de sus usuarios.
Políticas para cuidar la privacidad de datos
Lo que busca esta política es crear una balanza entre la creación del tipo de contenido actual y la privacidad individual tanto de los creadores como de los usuarios.
YouTube recalca que la violación de privacidad es diferente a las demás infracciones, ya que las consecuencias en este caso no serán acreedoras a una penalización o aviso.
¿Cuáles son las medidas clave para la regulación?
Transparencia y Divulgación. Crea un contenido transparente para evitar la eliminación del material y/o sanciones a los involucrados. Todos los creadores que hagan uso de voces o rostros generados por la IA, deberán incluir en la descripción correspondiente al contenido que se ha hecho uso de esta tecnología.
Prohibición de Deepfakes Malintencionados. Queda estrictamente prohibido crear y difundir contenido que utilice deepfakes con la intención de engañar, causar daño o difundir información falsa, fraudes o directamente hacer una suplantación de identidad.
Contenidos Educativos y de Parodia. El uso de voces y rostros generados por la IA serán permitidos para uso educativo, artístico, o parodia, siempre que se respeten las normas correspondientes.
Protección de los Derechos de Imagen y Voz. Es importante contar con el consentimiento de la persona cuya voz o imagen se utilizará, aun siendo generada por la IA.
Transparencia y divulgación. Youtube ha implementado nuevas iniciativas para crear una gestión correcta y responsable sobre el contenido generado por la IA, como ejemplo:
Creator Studio, esta herramienta permite a los creadores de contenido saber si el contenido real ha sido alterado o si ha sufrido alteraciones y poder divulgarlo.
En resumen, estas políticas representan tanto una oportunidad como un desafío. Es posible explorar nuevas fronteras por medio de estas nuevas oportunidades que nos da la Inteligencia Artificial, sin embargo, es preciso saber utilizarla de manera ética y transparente.
Fuente: