Jak działają deepfake’i głosowe i kto z nich korzysta

Wyobraź sobie, że pewnego leniwego popołudnia dzwoni twój telefon. Odbierasz, a w słuchawce słyszysz przerażony głos swojej córki, matki lub męża. Osoba po drugiej stronie błaga o natychmiastowy przelew, ponieważ rzekomo spowodowała wypadek i musi wpłacić kaucję, by uniknąć aresztu. Brzmi dokładnie tak, jak twój bliski – ta sama barwa, ten sam specyficzny sposób łapania oddechu, te same charakterystyczne zająknięcia i akcent. Przerażony, przelewasz pieniądze na wskazane konto, po czym, dzwoniąc na prawdziwy numer krewnego dowiadujesz się, że cały czas był on bezpieczny. Właśnie rozmawiałeś z algorytmem. Brzmi jak dystopijny scenariusz z Czarnego Lustra? Niestety, to nasza nowa rzeczywistość. Witaj w erze deepfake’ów głosowych.

Jeszcze dekadę temu generatory głosu kojarzyły nam się głównie ze sztywnym, metalicznym syntezatorem mowy a’la Stephen Hawking, bądź topornym asystentem GPS, który bez cienia emocji kazał nam skręcić w lewo. Dzisiaj granica między maszyną a człowiekiem została nie tyle zatarta, co całkowicie zdemolowana. Technologia klonowania mowy, znana powszechnie jako voice deepfake lub synteza mowy oparta na sztucznej inteligencji, to jeden z najszybciej rozwijających się sektorów współczesnego IT. Budzi ogromny podziw, ale jednocześnie zasiewa uzasadnione przerażenie.

Aby jednak nie demonizować samej technologii – która z założenia jest neutralna – warto zrozumieć, co właściwie kryje się pod maską. Jak z zaledwie kilku sekund nagrania stworzyć cyfrowego sobowtóra, który oszuka nie tylko nasze ucho, ale i zaawansowane systemy bankowe? I co ważniejsze – czy w tej cyfrowej dżungli mamy jeszcze szansę obronić prawdę?

Anatomia cyfrowego kłamstwa. Jak algorytm kradnie tożsamość?

Proces klonowania głosu najlepiej przyrównać do pracy niezwykle sprawnego, cyfrowego fałszerza obrazów. Klasyczny malarz potrzebuje palety barw; sztuczna inteligencja potrzebuje spektrogramów, czyli wizualnych reprezentacji częstotliwości fal dźwiękowych. Algorytmy uczenia maszynowego (często oparte na sieciach neuronowych typu GAN lub architekturze transformatorów) analizują dostarczoną próbkę dźwięku, rozkładając ją na czynniki pierwsze. Szukają prawidłowości w intonacji, sprawdzają, jak długo wymawiamy samogłoski, a nawet jak nasze struny głosowe wibrują podczas konkretnych sylab.

W przeszłości, aby stworzyć wiarygodny model syntetycznego głosu, potrzebowano dziesiątek godzin czystych nagrań studyjnych. Aktor musiał czytać tysiące absurdalnych zdań, by pokryć każdą możliwą zbitkę fonetyczną. Dziś? Jak chwalił się Microsoft przy okazji prezentacji swojego modelu VALL-E, system potrzebuje zaledwie trzech sekund naszego głosu, aby wiernie odwzorować jego brzmienie. Nawet jeśli nagranie pochodzi z tła relacji na Instagramie czy krótkiego filmiku na TikToku. Sieć neuronowa dosłownie domyśla się brakujących fragmentów, niczym autouzupełnianie w smartfonie, i generuje płynną mowę bazującą na zbadanym „odcisku palca” strun głosowych.

Dzięki firmom takim jak ElevenLabs (swoją drogą, z mocnym polskim rodowodem), stworzenie cyfrowego klona jestdziś tak proste, jak założenie konta pocztowego. Interfejsy są przyjazne, nie wymagają znajomości programowania, a wygenerowanie minuty nagrania w wybranym języku i z odpowiednim natężeniem emocji (np. gniewu czy szeptu) zajmuje kilka sekund. To demokratyzacja technologii w najczystszej postaci – z wszystkimi jej błogosławieństwami i przekleństwami.

Kto pociąga za sznurki? Dwie twarze syntetycznej mowy

Ponieważ stworzenie przekonującego nagrania jest obecnie trywialnie proste i niezwykle tanie, technologia ta szybko znalazła zastosowanie na skrajnie różnych polach. Z jednej strony stała się nowym, potężnym orężem dla przestępców z całego świata. Z drugiej – otworzyła drzwi do rewolucji w branży kreatywnej i medycznej, przynosząc realną ulgę osobom pokrzywdzonym przez los.

Ciemna strona mocy: Oszustwa „na wnuczka 2.0” i polityczni iluzjoniści

Wykorzystanie AI w cyberprzestępczości to już nie pieśń przyszłości, ale ponura codzienność raportów policyjnych. Jak donosił prestiżowy Wall Street Journal, jedną z pierwszych głośnych ofiar był dyrektor generalny brytyjskiej firmy energetycznej, który w 2019 roku przelał 243 tysiące dolarów na węgierskie konto bankowe. Dlaczego to zrobił? Ponieważ usłyszał w słuchawce polecenie od prezesa swojej niemieckiej spółki matki. Algorytm idealnie naśladował jego charakterystyczny niemiecki akcent i lekko dominujący ton. Cyberprzestępcy skutecznie połączyli inżynierię społeczną z doskonałym narzędziem, tworząc tzw. CEO fraud nowej generacji.

Jednak zagrożenie uderza też w zwykłych obywateli, celując w nasze najsłabsze punkty – empatię i miłość. Oszustwa wykorzystujące sztuczny głos to nowa wersja popularnego „na wnuczka”. Przestępcy pobierają krótkie próbki głosu ofiar z ogólnodostępnych mediów społecznościowych, po czym dzwonią do ich rodziców czy dziadków w środku nocy. Generują panikę, wywierają presję czasu i znikają ze środkami na kontach kryptowalutowych, zanim ofiara zdąży zweryfikować fakty.

Kolejnym przerażającym poligonem doświadczalnym dla voice deepfake’ów jest polityka. Przed prawyborami w amerykańskim stanie New Hampshire, wyborcy otrzymywali masowe telefony (robocalls), w których głos do złudzenia przypominający Joe Bidena zniechęcał ich do pójścia do urn. To ukazuje gigantyczne ryzyko dla procesów demokratycznych. Dezinformacja wzmocniona głosem autorytetu, rozsiewana tuż przed ciszą wyborczą, może realnie zmanipulować wynik każdych wyborów, budząc zrozumiały niepokój wśród ustawodawców na całym świecie.

Jasna strona księżyca: Nadzieja dla chorych i rewolucja w kinie

Nie możemy jednak wpaść w pułapkę technofobii, bo sztuczna mowa to także potężne narzędzie dobra. Jednym z najbardziej wzruszających przykładów wykorzystania voice deepfake jest medycyna, a dokładniej tzw. voice banking. Osoby cierpiące na choroby degeneracyjne, takie jak stwardnienie zanikowe boczne (SLA) czy rak krtani, mogą nagrać swój głos, zanim bezpowrotnie go stracą. Algorytm pozwala im na komunikację ze światem i swoimi dziećmi ich własnym, prawdziwym głosem przez aplikację do wprowadzania tekstu, zamiast polegać na bezosobowych, mechanicznych syntezatorach. Zwraca im to utraconą godność.

Hollywood i branża rozrywkowa również czerpią z tego pełnymi garściami. Doskonałym i znanym przypadkiem jest Val Kilmer, który po walce z nowotworem gardła nie był w stanie mówić. Dzięki współpracy z firmą Sonantic zrekonstruowano jego dawną barwę, co pozwoliło mu „wypowiedzieć” swoje kwestie w hicie Top Gun: Maverick. To swoiste przedłużenie artystycznego życia, na które bez AI aktor nie miałby szans.

Podobnie wygląda sprawa z rynkiem wydawniczym i podcastami. Giganci technologiczni, tacy jak Spotify, już testują i wdrażają narzędzia, które potrafią na bieżąco tłumaczyć ulubione podcasty (np. Lexa Fridmana czy Daxa Sheparda) na języki obce, zachowując ich oryginalny ton, flow i głos. Oznacza to rewolucję w przełamywaniu barier językowych – niedługo posłuchamy mądrych rozmów z drugiego końca świata tak, jakby gospodarz nagrał audycję płynną polszczyzną.

Szwy na cyfrowym ciele. Jak rozpoznać maszyny?

Biorąc pod uwagę rosnącą biegłość algorytmów, pojawia się kluczowe pytanie – mając na uwadze tak zwaną user intent – co ty, jako odbiorca, możesz zrobić, by nie paść ofiarą cyfrowej manipulacji? Przede wszystkim musimy zacząć szukać cyfrowych szwów. Mimo że głosy są hiperrealistyczne, nadal brakuje im często biologicznego kontekstu. Maszyny miewają problem z oddechem. Człowiek w naturalnej rozmowie łapie powietrze w nieregularny sposób, zależny od emocji. Algorytmy robią to sztucznie, czasem biorąc nielogiczny oddech w połowie słowa, lub nie mają go w ogóle.

Drugą kwestią jest intonacja przy braku spójności emocjonalnej. Syntezator potrafi powiedzieć o tragicznych wydarzeniach radosnym i lekkim tonem lub zadawać pytanie z intonacją twierdzącą. Zwracaj też uwagę na dziwne brzmienie lokalnych imion, rzadkich nazwisk czy slangowych przerywników. Algorytmy bywają nadgorliwe w hiperpoprawności językowej tam, gdzie człowiek naturalnie skraca lub zniekształca wyrazy na rzecz szybkości wypowiedzi.

Najprostszym i najskuteczniejszym narzędziem obrony nie jest jednak żadne oprogramowanie, ale rodzinne hasło bezpieczeństwa. Ustalcie z bliskimi słowo-klucz – np. dziwną nazwę ptaka czy potrawy z dzieciństwa. Gdy odbierzesz telefon z prośbą o pilny przelew blikiem, zapytaj o to hasło. Żadna sztuczna inteligencja trenowana na danych z TikToka go nie wygeneruje. Ponadto, weryfikujmy kanał komunikacji. Rozłącz się i oddzwoń samemu, używając stałego, zapisanego w telefonie numeru tej osoby.

Przyszłość pełna szumów i regulacji

Obecnie obserwujemy na świecie fascynujący i niebezpieczny wyścig zbrojeń. Firmy pracujące nad deepfake’ami muszą rywalizować z platformami, które na potęgę tworzą narzędzia detekcyjne analizujące meta-dane dźwięku w poszukiwaniu śladów cyfrowej ingerencji. Instytucje prawne, podobnie jak w przypadku unijnego aktu AI (AI Act), wchodzą na ścieżkę przymusowych regulacji, starając się wymusić znakowanie treści syntetycznych niejako cyfrowymi znakami wodnymi, by ustrzec obywateli przed dezinformacją.

Voice deepfake to doskonały przykład technologii, która zachowuje się jak w klasycznej metaforze młotka – można nim wybudować przepiękny dom, ale można nim również kogoś boleśnie uderzyć. Dopóki systemy detekcji i regulacje prawne nie nadgonią twórców sztucznej inteligencji, nasz główny system immunologiczny w starciu z dezinformacją musi bazować na starym, dobrym sceptycyzmie. Pamiętajmy: żyjemy w czasach, w których uwierzenie we własne uszy przestaje być wystarczającym dowodem na prawdziwość intencji drugiego człowieka.