Suplantan la voz de Adele así que no caigas en la supuesta nueva canción hecha con IA

Una canción creada con inteligencia artificial ha engañado a usuarios en YouTube, al hacerles creer que Adele, la artista británica, ha dedicado una canción a Charlie Kirk, activista conservador asesinado el 10 de septiembre.

Sin embargo, tras la publicación y el alcance masivo del video, se reveló que la voz no pertenecía a la artista, sino que había sido generada íntegramente por una herramienta de inteligencia artificial.

Publicada bajo el nombre Trubute To Charlie Kirk, la canción en YouTube generó comentarios entre los usuarios, que agradecían a la artista por el homenaje. Pero, en la realidad, ni la cantante ni su entorno habían estado involucrados en la producción.

Lo ocurrido no es un incidente aislado. Plataformas de generación de audio con IA han alcanzado niveles de sofisticación que les permiten crear canciones completas a partir de simples indicaciones de texto. En este caso, el tributo a Kirk se sumó a una larga lista de homenajes ficticios en YouTube, muchos de ellos atribuidos también a figuras internacionales como Ed Sheeran y Justin Bieber, acumulando millones de visualizaciones en poco tiempo.

A pesar de que las imitaciones distan de ser perfectas, el realismo conseguido por estas tecnologías hizo que para una amplia mayoría de internautas fuese difícil percibir el engaño.

De hecho, muchos creyeron que escuchaban la voz real de los artistas homenajeando a Kirk, lo que despertó una oleada de comentarios positivos y emociones compartidas bajo la falsa premisa.

La tecnología detrás de estos videos permite recrear la voz de cualquier persona reconocida, sin requerir su autorización, gracias a bases de datos públicas y sistemas de entrenamiento sofisticados. Un usuario común puede generar, en cuestión de segundos, una canción imitando la voz de cualquier figura pública, simplemente solicitándolo en un generador de música IA como Suno.

La proliferación de estos contenidos ha dejado en evidencia un fenómeno cada vez más presente: la IA puede transformar a usuarios anónimos en “músicos virtuales”, produciendo canciones que emulan el estilo vocal y musical de celebridades internacionales.

No obstante, la transparencia de estos procesos no siempre resulta clara para el público. YouTube exige que los creadores de contenido adviertan el uso de IA cuando se trata de contenido alterado o sintético, sobre todo si el resultado es realista.

Sin embargo, la política no siempre se cumple de manera visible y, en la mayoría de los casos reportados, la mención al uso de IA se oculta en las descripciones ampliadas de los videos, fuera de la vista del espectador promedio.

Luego de que la agencia AFP informara sobre videos que homenajeaban a Kirk atribuidos falsamente a Adele, YouTube adoptó medidas inmediatas y eliminó varios de estos contenidos junto a otros tributos similares. “Cerramos estos canales por violar nuestras políticas que prohíben el spam y las prácticas engañosas”, declaró Jack Malon, vocero de la plataforma de videos, tras identificar la infracción de las normas internas.

La reacción evidencia la dificultad de los gigantes digitales para regular la avalancha de contenidos sintéticos, que se multiplican a gran velocidad utilizando las herramientas tecnológicas más recientes.

Cuando se suman millones de visualizaciones y comentarios enganchados a la falsedad, el control parece insuficiente. Además, la línea divisoria entre contenido legítimo y manipulado se vuelve cada vez más difusa en el imaginario colectivo.

Alex Mahadevan, del instituto Poynter, sintetizó el sentir de quienes analizan la transformación reciente de internet: “Me temo que lo que hacía que internet fuera tan genial al principio ha desaparecido. Ha sido reemplazado por contenidos mediocres creados por estafadores que buscan ganar dinero”. La autenticidad, visto desde este ángulo, se desdibuja frente a la capacidad de la IA para replicar la expresión artística con altos grados de verosimilitud.

El caso de la canción dedicada a Charlie Kirk impactó de forma contundente la confianza de los usuarios en la información hallada en internet. La facilidad con la que fue posible difundir un contenido falso puso en cuestión la solidez de las plataformas y el criterio de los internautas.

Como señaló Mahadevan, la proliferación de estos tributos falsos conduce a una audiencia cada vez más pasiva, y menos capaz de distinguir entre realidad y simulación. “Nos estamos convirtiendo en consumidores pasivos de ‘contenido’ y no en ciudadanos digitales activos y conscientes”, dijo a AFP.