As empresas na vanguarda da tecnologia de voz de IA estão lutando para encontrar maneiras de regular os deepfakes sem sufocar a inovação.
“Será um jogo de gato e rato”, disse Matti Staniszewski, cofundador e CEO da ElevenLab. disse ao Atlântico.
Onze Laboratório – A avaliação atingiu US$ 1,1 bilhão Após o lançamento em versão beta no ano passado, ele usa IA para gerar clipes de áudio atraentes. Isso inclui narração de texto para fala, dublagem de voz em 29 idiomas e clonagem de voz. A empresa afirma que os usuários geraram mais de 100 anos de áudio no ano passado.
Mas os legisladores estão preocupados com a possibilidade de a tecnologia ser mal utilizada.
Os avanços na IA estão correlacionados com um aumento de golpes telefônicos de alto valor, nos quais fraudadores de identidade se fazem passar por entes queridos, familiares, funcionários do governo e muito mais. Chefe de IA de Biden Bruce Reed até chamou isso de “clonagem de voz” Essa é a única coisa que o mantém acordado à noite.
E no ano passado, os usuários do 4chan abusaram das ferramentas da Celebrity para gerar deepfakes de celebridades vomitando conteúdo racista e transfóbico. De acordo com vice.
Mas Staniszewski é um idealista.
Ele acredita que a tecnologia da ElevenLab contribuirá para um mundo onde pacientes com doenças neurodegenerativas como a ELA possam se comunicar vocalmente mesmo depois de terem perdido a capacidade de falar. Também tem potencial como ferramenta para as pessoas comunicarem entre culturas e línguas.
prefeito de Nova York Eric Adams está fazendo ligações automáticas Ele disse que a tecnologia do Eleven Lab lhe permitiu falar mandarim, iídiche e crioulo haitiano, permitindo-lhe alcançar mais moradores da cidade que não falam inglês.
Stanisweski disse que para aproveitar esse potencial e ao mesmo tempo prevenir fraudes, os usuários precisam ser capazes de distinguir entre vozes geradas por IA e vozes humanas. Staniszewski disse ao The Atlantic que a “solução real” é colocar marcas d'água digitais nas vozes sintetizadas para que os humanos possam distinguir o real do falso.
A empresa está desenvolvendo essa tecnologia, mas ela só será eficaz com a ajuda de outras empresas. A Eleven Labs assinou acordos com várias outras empresas de IA, incluindo OpenAI, Anthropic, Google e Meta, para combater deepfakes nas eleições de 2024.
A Eleven Labs não respondeu imediatamente ao pedido de comentários do Business Insider.
