Dzwoni „prezes” i prosi o pilny przelew. Jak chronić firmę przed deepfake’iem

Wyobraź sobie wtorek, kwadrans po dziesiątej. Księgowa dostaje na komunikatorze wiadomość od prezesa: jest na spotkaniu, zaraz zadzwoni, sprawa jest poufna. Po minucie dzwoni. Głos się zgadza, sposób mówienia też. Trzeba dziś zapłacić zaliczkę nowemu dostawcy, numer konta przyjdzie mailem, a do podpisania umowy nikt nie może o tym wiedzieć.

Oszustwo na prezesa zna prawie każdy dział księgowości. Do niedawna opierało się na mailu i pewnym siebie tonie. Teraz dochodzi głos, a coraz częściej obraz. Witold Wrotek w książce „ElevenLabs. Zastosowanie w biznesie i twórczości” pisze wprost:

Oszuści potrafią dziś sklonować głos prezesa firmy lub pracownika obsługi klienta, by dzwonić do klientów z „pilnymi” prośbami.

Na co dzień wdrażam w firmach narzędzia AI i widzę, jak szybko tanieją. Ta sama łatwość działa po stronie oszustów. Nie jestem firmą od bezpieczeństwa, spisuję procesy. Z tej perspektywy przed deepfake’iem chroni przede wszystkim procedura, technologia przychodzi później.

Jak działa oszustwo na prezesa z użyciem deepfake

Przestępca podszywa się pod kogoś, komu pracownik ufa: prezesa, dyrektora finansowego, przełożonego albo stałego kontrahenta. Chce przelewu, zmiany numeru konta dostawcy albo dostępu do systemów, na przykład kodu MFA. Klasyczna wersja to mail z podrobionego lub przejętego adresu (business email compromise). Deepfake dokłada sklonowany głos w telefonie lub wiadomości głosowej, a czasem fałszywy obraz w rozmowie wideo.

Materiału na klon nie trzeba długo szukać. Wrotek w rozdziale dla początkujących pisze: „Jeśli dysponujesz już 60-sekundowym nagraniem czystej mowy, przejdź bezpośrednio do zakładki VoiceLab/Instant Clone. Model wygeneruje zadowalającą replikę Twojego głosu w niespełna dwie minuty”. To instrukcja dla twórców klonujących własny głos. Minutę mowy prezesa małej firmy da się jednak zebrać z webinaru, podcastu albo filmu na LinkedInie.

Najgłośniejszy przypadek pochodzi z Hongkongu. Jak opisywały media w 2024 roku, pracownik tamtejszego biura brytyjskiej firmy Arup przelał oszustom około 25 mln dolarów. Najpierw dostał wiadomość o poufnej transakcji i miał wątpliwości. Rozwiała je wideokonferencja, na której „dyrektor finansowy” i inni uczestnicy wyglądali i mówili jak koledzy z firmy. Wszyscy byli wygenerowani.

Mała firma różni się od tego przypadku głównie kwotą. Ma prezesa, który jest twarzą firmy w sieci, jedną osobę od przelewów i skróty typu „szef dzwoni, to robię”. Oszustowi wystarczy jeden telefon.

Sygnały ostrzegawcze w samej prośbie

Na nagraniu bywają ślady: dziwne mruganie, usta nie w rytm słów, płaski głos. Każda nowa wersja narzędzi usuwa ich więcej, więc nie opieram na nich ochrony. Stabilniejsze są sygnały w treści prośby, bo oszust potrzebuje ich bez względu na jakość deepfake’a:

• pilność: „dziś, do piętnastej, bo przepadnie”,
• poufność: „nikomu ani słowa”,
• zmiana numeru konta: „dostawca zmienił bank”,
• nowy kanał kontaktu: prywatny numer telefonu, komunikator zamiast firmowej poczty, „telefon mi padł, piszę z innego”,
• prośba o obejście procedury: „tym razem bez akceptacji, biorę to na siebie”,
• prośba o hasło albo kod MFA, rzekomo od działu IT.

Jeden sygnał może być przypadkiem, bo prezes naprawdę bywa w pośpiechu. Dwa naraz to dla mnie powód, żeby przerwać rozmowę i sprawdzić ją innym kanałem.

Procedura weryfikacji przelewu

Wrotek układa obronę w cykl P•D•R•E: Prewencja, Detekcja, Reakcja, Egzekwowanie. Jego rozdział dotyczy ochrony głosu marki, ale kolejność pasuje też do przelewów. Pierwsza jest prewencja, bo „Zapobieganie jest tańsze niż naprawa szkód, a większość zabezpieczeń można wdrożyć już w tym tygodniu”.

Moja procedura ma pięć zasad:

1. Oddzwaniasz na numer, który masz u siebie: w kontaktach, CRM, umowie. Nigdy na ten z wiadomości.
2. Hasło weryfikacyjne ustalacie na żywo, bez maila i komunikatora. Kto go nie zna, nie dostaje przelewu, nawet jeśli brzmi jak prezes.
3. Zasada czterech oczu. Przelew powyżej progu i każda zmiana rachunku kontrahenta wymagają drugiej osoby. Wrotek: „W przypadku wrażliwych komunikatów (finanse, HR, kryzysy) wymagaj podwójnej autoryzacji”. Wiele bankowości firmowych pozwala ustawić dwie akceptacje.
4. Nowy numer konta sprawdzasz na białej liście podatników VAT. Konto oszusta zwykle nie będzie przypisane do NIP-u kontrahenta.
5. Nigdy przelewu, hasła ani kodu na głos w telefonie. Polecenie zapłaty przychodzi tylko kanałem, który zostawia ślad.

Do tego prezes musi raz powiedzieć zespołowi: „Nigdy nie poproszę o przelew z pominięciem procedury. Jeśli to zrobię, odmów”. Bez tej zgody pracownik, który odmówi głosowi szefa, ryzykuje bardziej niż ten, który zapłaci.

Taką procedurę zapisuję jak każdy proces: cel, wejście, decyzje, zakazy, wyjątki. Pisałem o tym przy spisywaniu procesu przed wdrożeniem AI. Część da się oddać automatowi: system płatności wstrzymuje fakturę, gdy rachunek różni się od poprzedniego. To zwykła reguła „jeśli X, to Y”, bez modelu AI, o czym pisałem w tekście o agentach i automatyzacji.

Co zrobić, gdy pracownik już przelał pieniądze

Wrotek rozpisuje reakcję na plan 72 godzin. U niego chodzi o fałszywe nagranie marki, więc przekładam go na przelew.

Pierwsze 6 godzin

Natychmiast skontaktuj się z bankiem i poproś o zatrzymanie lub zwrot przelewu. Im szybciej bank dostanie zgłoszenie, tym większa szansa, że pieniądze nie znikną. Zabezpiecz dowody: numer telefonu, godziny, nagranie, maile z pełnymi nagłówkami, zrzuty z komunikatora. Jeśli ktoś podał hasło albo kod, zmień hasła i wyloguj aktywne sesje. Zarząd informujesz znanym kanałem.

Od 6. do 24. godziny

Zgłoś oszustwo na policji, z potwierdzeniem przelewu i dowodami, a numer sprawy przekaż bankowi. Incydent możesz zgłosić także do CERT Polska przez formularz na incydent.cert.pl, zwłaszcza gdy oszust użył fałszywej domeny albo strony. Jeśli ktoś podszywał się pod Twoją firmę wobec klientów, uprzedź ich przez stronę i pocztę z Twojej domeny.

Od 24. do 72. godziny

Sprawdź, czy nie wyciekły dane osobowe, na przykład z przejętej skrzynki. RODO daje co do zasady 72 godziny na zgłoszenie naruszenia do UODO, a o potrzebie zgłoszenia decyduje prawnik albo inspektor ochrony danych. Potem przegląd: która zasada zawiodła i co zmieniacie. Bez szukania winnego, bo osoba, która szybko przyznała się do błędu, dała bankowi czas.

SPF, DKIM i DMARC chronią domenę w mailach

Wiele oszustw na prezesa zaczyna się od maila. Wrotek na pytanie, od czego ma zacząć mała firma, wymienia między innymi DMARC, DKIM i SPF.

SPF to lista serwerów, które mogą wysyłać pocztę z Twojej domeny. DKIM podpisuje wiadomości, więc odbiorca widzi, że nikt ich nie podmienił. DMARC mówi serwerom odbiorców, co zrobić z mailem, który nie przeszedł testów, i odsyła raporty o próbach podszywania się. Wrotek radzi zacząć od p=none z raportowaniem, a potem przejść na quarantine albo reject. Sprawdzenie, czy domena ma rekord DMARC, zajmuje kilka minut w dowolnym narzędziu do rekordów DNS.

DMARC chroni przed mailem z Twojej dokładnej domeny. Nie pomoże przy domenie różniącej się jedną literą ani przy przejętej skrzynce, więc procedura przelewu zostaje.

Kiedy to nie działa

Detektory deepfake’ów nie są tarczą. Wrotek podaje, że wbudowany detektor ElevenLabs rozpoznaje mowę syntetyczną z dokładnością około 84%, czyli mniej więcej co szóste nagranie może ocenić źle. Sam pisze też: „Nie istnieje jedno narzędzie, które rozwiązuje wszystko”.

Prawo też tego nie załatwi. Według Wrotka AI Act wymaga, żeby deepfake’i były wyraźnie oznaczone, ale ten obowiązek wypełnią uczciwi twórcy. Oszust swojego nagrania nie oznaczy. Autor przypomina też, że głos przetwarzany w celu identyfikacji osoby jest w RODO daną biometryczną. W praktyce głos przestał być dowodem tożsamości, więc „poznałam go po głosie” nie jest już weryfikacją. Przy wątpliwościach prawnych decyduje prawnik.

Procedurę często psuje sam prezes. Wystarczy raz powiedzieć „tym razem pilne, zrób bez akceptacji”, a zespół uzna zasady za opcjonalne. Psuje ją też nadmiar kroków: dziesięć punktów ludzie obchodzą, a próg kwoty, oddzwonienie i druga akceptacja wystarczą.

Chcesz, żeby Twój zespół wiedział, co AI potrafi także po stronie oszustów, i miał spisaną procedurę na takie telefony? Napisz do mnie, zrobimy warsztat z AI dla Twojego zespołu.