Seoul Gazette - Usuários do YouTube caem em homenagens falsas da IA a Charlie Kirk

No entanto, a música publicada nessa plataforma digital foi gerada com inteligência artificial (IA) e não tem nada a ver com a estrela britânica.

A IA agora pode criar músicas a partir de simples instruções de texto, imitando as vozes de artistas famosos sem o consentimento deles.

De fato, existem homenagens semelhantes criadas com IA no YouTube com milhões de visualizações e atribuídas a estrelas como Ed Sheeran e Justin Bieber.

Em muitos casos, as vozes não são semelhantes às dos artistas originais, mas muitos internautas continuam acreditando e demonstrando interesse pelos conteúdos falsos gerados por IA que inundam a internet.

"Receio que o que tornava a internet tão incrível no início tenha desaparecido. Ela foi substituída por conteúdos medíocres criados por golpistas que buscam ganhar dinheiro", disse à AFP Alex Mahadevan, do instituto especializado em mídia Poynter.

"Estamos nos tornando consumidores passivos de 'conteúdo' e não cidadãos digitais ativos e conscientes", acrescentou.

- "Não totalmente humano"-

Depois que a AFP apontou ao YouTube pelo menos três vídeos de homenagens falsos, inclusive o atribuído a Adele, a gigante dos vídeos online os apagou rapidamente.

"Fechamos estes canais por violar nossas políticas, que proíbem o spam e práticas enganosas", disse à AFP o porta-voz da companhia, Jack Malon.

A política do YouTube exige que os criadores "divulguem quando tiverem criado conteúdo alterado ou sintético que seja realista, incluído o uso de ferramentas de IA", que agora estão amplamente acessíveis.

Os vídeos chamam a atenção para uma nova realidade digital na qual os geradores de música com inteligência artificial podem transformar usuários comuns em músicos virtuais, imitando artistas famosos e criando músicas completas a partir de simples comandos de texto.

A IA "cria qualquer canção que você possa imaginar", informa em seu site Suno, um destes geradores.

Quando a AFP enviou uma mensagem pedindo uma canção que lamentasse a morte de um ativista famoso na voz de um cantor consagrado, a ferramenta gerou duas opções em questão de segundos: "Estrela que partiu cedo demais" e "Ecos de uma chama".

Muitos dos vídeos em homenagem a Kirk continham a menção, mas esta geralmente não aparecia de forma visível e costumava estar escondida na descrição do vídeo, onde pode passar facilmente despercebida a menos que os usuários cliquem no texto para expandi-lo.

Um novo grupo gerado por IA chamado The Velvet Sundown lançou álbuns e reuniu mais de 200 mil ouvintes em uma conta verificada no Spotify. Nas redes sociais, o grupo se descreve como "nem totalmente humano, nem totalmente máquina".

- "Uso indevido da IA" -

Essa tendência levanta questões delicadas sobre se as semelhanças vocais e visuais devem ser protegidas por direitos autorais.

Lucas Hansen, cofundador da ONG CivAI, considera improvável uma proibição total, mas diz que espera restrições no âmbito comercial.

"Também pode haver restrições na distribuição, mas as leis existentes são muito menos rigorosas em relação a conteúdos não monetizados", explicou Hansen à AFP.

Em junho, a Associação da Indústria Fonográfica dos Estados Unidos (Recording Industry Association of America) anunciou que as principais gravadoras haviam processado dois geradores de música com IA, entre eles o Suno, por suposta violação de direitos autorais.

No ano passado, mais de 200 artistas, entre eles Katy Perry e Nicki Minaj, escreveram uma carta aberta aos desenvolvedores de IA e às plataformas tecnológicas. No documento, eles afirmaram que as ferramentas de treinamento baseadas em músicas existentes "desvalorizam nosso trabalho e nos impedem de receber uma remuneração justa".

"Devemos nos proteger contra o uso indevido da IA que rouba a voz e a imagem dos artistas profissionais, viola os direitos dos criadores e destrói o ecossistema musical", afirmaram os artistas.

H.Yoon--SG