Pe 29 martie, OpenAI a introdus software-ul Voice Engine, care folosește inteligența artificială pentru a crea voci bazate pe înregistrări scurte de doar 15 secunde și este capabil să citească text. De asemenea, poate reproduce vorbirea în limbi străine, chiar și cu înregistrări care folosesc doar limba engleză.
Voice Engine a fost dezvoltat de OpenAI din 2022 și a fost testat cu un grup de clienți la sfârșitul anului 2023. În acesta, software-ul a demonstrat capacitatea de a sprijini citirea, de a traduce conținut în diferite limbi și de a crea voci pentru persoanele care și-au pierdut capacitatea de a vorbi.

Cu toate acestea, OpenAI a subliniat și riscurile potențiale ale tehnologiei de imitare a vocii, mai ales în contextul alegerilor prezidențiale din SUA. Acesta este o parte din motivul pentru care au decis să limiteze accesul și să nu facă această tehnologie disponibilă pe scară largă.
Potrivit companiei care deține ChatGPT, anunțul Voice Engine are scopul de a încuraja managerii și publicul să-și sporească vigilența împotriva înșelătoriilor care folosesc inteligența artificială. Dezvoltatorii avertizează, de asemenea, că infractorii ar putea folosi software-ul de uzurpare a identității pentru a fura informații personale sau a sparge sistemele de securitate ale băncilor.
„Este important ca oamenii să înțeleagă încotro se îndreaptă această tehnologie, indiferent dacă o lansăm pe scară largă sau nu”, a spus OpenAI.

Tehnologia de editare a vocii folosind inteligența artificială a atras atenția după ce o înregistrare care imită vocea președintelui american Joe Biden care îndeamnă oamenii să „nu participe la primarul democrat din New Hampshire” a devenit virală pe rețelele sociale în ianuarie.
Pindrop Security, o companie specializată în detectarea fraudelor vocale, a analizat apoi înregistrarea și a concluzionat că este un deepfake folosind tehnologia de la ElevenLabs, un startup care dezvoltă software de inteligență artificială care generează voci în peste 20 de limbi.
Potrivit revistei Fortune, vocea falsă a domnului Biden a provocat îngrijorare în rândul multor experți și oficiali electorali din SUA, numind-o „o încercare de a interfera cu alegerile alimentate de inteligența artificială”. Unele evaluări arată că nu numai că este ușor să distribuiți deepfake audio, dar există și riscul ca actorii răi să folosească această tehnologie pentru a influența rezultatele alegerilor și pentru a descuraja alegătorii să meargă la vot.