OpenAI heeft zojuist ‘Voice Engine’ onthuld, een nieuwe tool voor het klonen van stemmen

Een extra instrument ten dienste van desinformatie? OpenAI, de generatieve kunstmatige intelligentie (AI)-gigant en uitgever van ChatGPT, heeft vrijdag een tool voor het klonen van audio geïntroduceerd, waarvan het gebruik beperkt zal worden om fraude of misdaden, zoals identiteitsdiefstal, te voorkomen. Dopen “geluidsmotor”Dit AI-model kan de stem van een persoon reproduceren uit een audiofragment van 15 seconden, zo blijkt uit een verklaring van OpenAI over de resultaten van een kleinschalige test.

“We erkennen dat het vermogen om stemmen te genereren die klinken als de stemmen van mensen ernstige risico’s met zich meebrengt, en vooral belangrijk is in dit verkiezingsjaar.”Dat meldt het in San Francisco gevestigde bedrijf. “We werken samen met Amerikaanse en internationale partners uit de overheid, media, entertainment, onderwijs, het maatschappelijk middenveld en andere sectoren en houden rekening met hun feedback bij het ontwikkelen van de tool.”.

In dit cruciale verkiezingsjaar over de hele wereld vrezen desinformatieonderzoekers misbruik van generatieve AI-toepassingen (geautomatiseerde productie van tekst, afbeeldingen, enz.), vooral tools voor het klonen van stemmen, die goedkoop, gemakkelijk te gebruiken en moeilijk te traceren zijn. OpenAI heeft bevestigd dat het is aangenomen “Zorgvuldige en geïnformeerde aanpak” Vóór een bredere verspreiding van de nieuwe tool “Vanwege het potentieel voor misbruik van synthetische geluiden.”.

Lees ookAmazon zet nog eens 2,75 miljard dollar in op OpenAI-rivaal Anthropic

Gesprekken waarbij gebruik wordt gemaakt van gereproduceerde stemmen zijn verboden

Dit voorzichtige aanbod komt na een groot politiek incident, toen een adviseur die werkte in de presidentiële campagne van de Democratische rivaal Joe Biden een geautomatiseerd programma ontwikkelde dat de Amerikaanse president nabootste tijdens zijn herverkiezingscampagne. De stem die Joe Biden imiteerde, riep de kiezers op om hen aan te moedigen zich te onthouden van stemming tijdens de voorverkiezingen in New Hampshire. Sindsdien hebben de Verenigde Staten oproepen verboden waarbij gebruik wordt gemaakt van gekloonde stemmen, gegenereerd door kunstmatige intelligentie, om politieke of commerciële fraude te bestrijden.

OpenAI legde uit dat de partners aan het testen zijn “geluidsmotor” Ze hebben regels afgesproken die onder meer expliciete en geïnformeerde toestemming vereisen van iedereen wiens stem wordt gerepliceerd en transparantie voor luisteraars: ze moeten duidelijk zijn dat de stemmen die ze horen worden gegenereerd door kunstmatige intelligentie. “We hebben een reeks beveiligingsmaatregelen geïmplementeerd, waaronder watermerken, zodat we de oorsprong van alle door Voice Engine gegenereerde audio kunnen traceren en het gebruik ervan proactief kunnen monitoren.”OpenAI stond erop.

Afgelopen oktober onthulde het Witte Huis de regels en principes voor de ontwikkeling van kunstmatige intelligentie, inclusief transparantie. Joe Biden was ontroerd door het idee dat criminelen het gebruikten om mensen in de val te lokken door zich voor te doen als familieleden.