.jpg)
Un reciente video manipulado que imita la voz de la vicepresidenta de Estados Unidos, Kamala Harris, está generando alarma sobre el potencial engañoso de la inteligencia artificial (IA) a solo tres meses de las elecciones generales.
El video, que ha captado la atención pública tras su publicación por el multimillonario Elon Musk en la plataforma de redes sociales X, presenta a Harris diciendo cosas que nunca dijo, sin mencionar que originalmente se publicó como parodia.
El video utiliza elementos visuales de un anuncio auténtico de Harris, quien es la probable candidata presidencial demócrata, pero reemplaza la voz en off con una imitación convincente de Harris. “Yo, Kamala Harris, soy su candidata demócrata a la presidencia porque Joe Biden finalmente ha revelado su senilidad en el debate,” dice la voz en el video. La grabación, que mantiene la marca “Harris para Presidenta”, también incluye clips auténticos de Harris.
Mia Ehrenberg, portavoz del equipo de campaña de Harris, expresó en un correo electrónico a The Associated Press que “el pueblo estadounidense merece la verdadera libertad, oportunidad y seguridad que ofrece la vicepresidenta Harris, no las mentiras manipuladas de Elon Musk y Donald Trump.”
El video, ampliamente compartido, ilustra cómo la IA está siendo utilizada para crear contenido que puede engañar o burlarse en el ámbito político, justo cuando se acerca la contienda presidencial. Con el acceso creciente a herramientas de IA avanzadas, la regulación federal sobre su uso sigue siendo limitada, dejando la supervisión en manos de los estados y las plataformas de redes sociales.
El contenido también plantea preguntas sobre cómo manejar los videos que difuminan los límites entre el uso apropiado y la sátira. Aunque el creador original, un youtuber conocido como Mr Reagan, ha señalado que el video es una parodia, la publicación de Musk, que ha sido vista más de 123 millones de veces, solo incluye el comentario “Esto es increíble” acompañado de un emoji de risa.
La falta de indicaciones explícitas de parodia en el post de Musk ha llevado a cuestionamientos sobre si su publicación infringe las políticas de X, que prohíben compartir contenido multimedia falso o alterado que pueda causar daño. A pesar de sugerencias para etiquetar el post con una nota de contexto, al cierre de esta nota no se había añadido ninguna etiqueta aclaratoria.
Musk, quien ha respaldado al expresidente Donald Trump en esta campaña, y Mr Reagan aún no han respondido a las solicitudes de comentarios sobre el tema.
Expertos en multimedia generada por IA han confirmado que el video utiliza tecnología avanzada de clonación de voz. Hany Farid, especialista en análisis forense digital de la Universidad de California, Berkeley, señaló que la calidad de la imitación vocal es notable, aunque la mayoría podría no tomarla en serio.
Rob Weissman, co-presidente del grupo de defensa Public Citizen, advirtió que el video podría engañar a muchas personas, a pesar de que la calidad no sea perfecta. Weissman, cuya organización aboga por una regulación más estricta de la IA generativa, consideró que este tipo de contenido es un ejemplo de los riesgos que han estado advirtiendo.
En Eslovaquia y Luisiana, otros ejemplos de deepfakes de IA han intentado influir en los votantes mediante desinformación y humor. Sin embargo, el Congreso aún no ha aprobado regulaciones sobre el uso de IA en la política, y la mayor parte de la regulación actual depende de las leyes estatales. Más de un tercio de los estados han establecido sus propias normativas, mientras que plataformas como YouTube exigen que los usuarios revelen el uso de IA generativa en sus contenidos.
Esta situación pone en evidencia la necesidad de una discusión más amplia sobre la regulación de la IA en el ámbito político para proteger la integridad del proceso electoral.
This is amazing 😂
pic.twitter.com/KpnBKGUUwn
Fuente: Los Ángeles Times
.jpg)