Internet em pé de guerra quando usuário do 4Chan usa simulador de voz AI para falsificar a voz de Emma Watson e faz com que ela leia a autobiografia de Hitler
Os ex-funcionários do Google e da Palantir lançaram juntos a startup Elevenlabs, que visava criar falsificações profundas de áudio de alta qualidade de celebridades por meio de sua ferramenta de clonagem de voz AI. Mas seu lançamento beta logo saiu pela culatra com muitos abusando das vozes de celebridades, incluindo Emma Watson, por meio da ferramenta de clonagem de voz AI.
Muitos fãs ficaram furiosos com o uso antiético e imoral da ferramenta de IA depois que alguns trolls abusaram de suas vozes de celebridades favoritas para fazer comentários ultrajantes. Mas a startup garantiu a todos que vai mudar seu modelo para evitar mais problemas.
Fãs enfurecidos após usuário do 4Chan usar a voz de Emma Watson por meio de ferramenta de inteligência artificial
A introdução da ferramenta de clonagem de voz AI da Elevenlabs incendiou a Internet depois que vários trolls exploraram o uso dessa ferramenta gratuita. Embora muitos tenham usado o software para gerar conteúdo saudável, uma parte da internet tem abusado da ferramenta para fazer celebridades cuspir calúnias raciais e comentários ultrajantes, e o uso indevido de de Emma Watson voz foi a gota d'água.
Recentemente. A placa-mãe relatou o abuso extremo do software de IA para criar áudio falso ofensivo. Mas a gota que quebrou as costas do camelo foi um usuário do 4Chan, que gerou um clipe do Harry Potter estrela Emma Watson lendo minha luta , a autobiografia do ditador nazista Adolf Hitler.
Os fãs ficaram furiosos com esse uso antiético do software sobre Emma Watson e outras celebridades renomadas, incluindo Joe Rogan, Robin Williams, etc. A Elevenlabs, que disponibilizou a tecnologia ao público, abordou esse problema crescente e prometeu lutar contra o abuso de sua ferramenta de clonagem de voz.
Leia também: Diretor de ‘Prisioneiro de Azkaban’ pediu ao trio de Harry Potter para escrever um ensaio sobre seu personagem – Emma Watson escreveu 16 páginas, Daniel Radcliffe teve um resumo de 1 página, Rupert Grint não escreveu nenhum
Elevenlabs promete evitar mais abusos da ferramenta de IA
A Startup ficou impressionada com a resposta positiva a eles também no início, já que muitos estavam usando a ferramenta de clonagem de voz de IA para uma criação saudável. Mas a empresa logo enfrentou um problema depois que os trolls começaram a explorar o software para fins nefastos. A Elevenlabs garantiu à Internet que está investigando profundamente o assunto e descobrindo as possíveis soluções.
Embora os criadores do Elevenlabs tenham admitido que podem rastrear os usuários que estão abusando do poder da ferramenta de IA, eles estão procurando medidas de segurança adicionais para evitar esse problema. Os criadores compartilharam diferentes ideias para lidar com o assunto, que incluem uma introdução de verificação manual para cada clonagem e verificação completa da identidade do usuário por meio de pagamento ou qualquer outro método.
Embora o teste beta do Startup tenha começado de forma mista, com muitos fãs furiosos com o uso antiético de vozes de celebridades por meio da ferramenta de IA, especialmente Emma Watson. Mas as pessoas também reconheceram a startup por não ignorar a situação e tomar medidas ativas para lidar com esses trolls da Internet.
Fonte: vício
