Virun e puer Deeg huet de Speech AI Startup ElevenLabs eng Beta Versioun vu senger Plattform gestart, déi d’Benotzer d’Kraaft gëtt fir ganz nei synthetesch Stëmmen fir Text-zu-Speech Audio ze kreéieren oder iergendeen seng Stëmm ze klonen. Gutt, et huet den Internet nëmmen e puer Deeg gedauert fir dee Leschten fir schrecklech Zwecker ze benotzen. D’Firma huet op Twitter verroden datt et eng “Erhéijung vun der Unzuel vu Stëmmklonen Mëssbrauchsfäll” gesäit an datt et un e Wee denkt fir de Problem unzegoen andeems se “zousätzlech Sécherheetsmoossnamen ëmsetzen.”
Wärend ElevenLabs net ausgeschafft huet wat et mat “Mëssbrauchsfäll” bedeit, Motherboard fonnt 4chan Posts mat Clips mat generéierte Stëmmen déi kléngen wéi Promi liesen oder eppes zweifelhaftes soen. Ee Clip, zum Beispill, hätt eng Stëmm gewisen, déi geklongen huet wéi d’Emma Watson en Deel vum Mein Kampf liest. D’Benotzer hunn och Stëmmclips gepost déi homophob, transphobesch, gewalteg a rassistesch Gefiller weisen. Et ass net ganz kloer ob all Clips ElevenLab Technologie benotzt hunn, awer e Post mat enger grousser Sammlung vun de Stëmmdateien op 4chan enthält e Link op d’Startup Plattform.
Vläicht sollt dëst Entstoe vun “Deepfake” Audioclips net als Iwwerraschung kommen, well virun e puer Joer hu mir en ähnlecht Phänomen gesinn. Fortschrëtter am AI a Maschinnléieren haten zu enger Erhéijung vun Deepfake Videoen gefouert, speziell Deepfake Pornografie, wou existent pornographesch Materialien geännert ginn fir d’Gesiichter vu Promi ze benotzen. An, jo, d’Leit hunn dem Emma Watson säi Gesiicht fir e puer vun dëse Videoen benotzt.
ElevenLabs sammelt elo Feedback iwwer wéi d’Benotzer verhënnere kënnen hir Technologie ze mëssbrauchen. Am Moment enthalen seng aktuell Iddien méi Schichten op seng Kontverifizéierung ze addéieren fir Stëmmklonen z’erméiglechen, sou wéi d’Benotzer erfuerderen Bezuelinformatioun oder eng ID anzeginn. Et betruecht och d’Benotzer d’Urheberrechtsbesëtzer vun der Stëmm ze verifizéieren déi se wëllen klone, sou wéi se ze kréien fir e Probe mat gefuerderten Text ofzeginn. Schlussendlech denkt d’Firma hir Voice Lab-Tool ganz erof ze loossen an d’Benotzer Stëmm Klonen Ufroe ofzeginn, déi se manuell muss verifizéieren.
Crazy Weekend – Merci un jiddereen fir eis Beta Plattform ausprobéieren. Wärend mir gesinn datt eis Technologie iwwerwältegend op positiv Notzung applizéiert gëtt, gesi mir och eng ëmmer méi Zuel vu Stëmmklonen Mëssbrauchsfäll. Mir wëllen d’Twitter Gemeinschaft erreechen fir Gedanken a Feedback!
— ElevenLabs (@elevenlabsio) 30. Januar 2023
All Produkter recommandéiert vun Engadget gi vun eisem Redaktiounsteam ausgewielt, onofhängeg vun eiser Mammefirma. E puer vun eise Geschichten enthalen Affiliate Links. Wann Dir eppes iwwer ee vun dëse Linken kaaft, kënne mir eng Partnerkommissioun verdéngen. All Präisser si richteg am Moment vun der Verëffentlechung.