Hrozba Deepfake pro Salesforce: Když se z důvěry stane zbraň

V červnu 2025 obdržel zaměstnanec společnosti Google zdánlivě rutinní telefonát z IT podpory.

Hlas na lince zněl profesionálně, sebejistě a naprosto důvěrně. 

Technik požádal zaměstnance, aby schválil novou aplikaci v systému Salesforce společnosti.

Během několika minut získali útočníci přístup a ukradli 2,55 milionu záznamů o zákaznících ze systému CRM společnosti Google.

Umožnilo to použití technologie deepfake audio, kdy hlasy generované umělou inteligencí byly tak přesvědčivé, že oklamaly jednu z nejdůvěryhodnějších forem ověřování - rozpoznávání hlasu kolegy.

Tento incident spojený se skupinou ShinyHunters ukazuje, jak útočníci nyní využívají umělou inteligenci k pronikání do firemních systémů.

Salesforce je základem řízení vztahů se zákazníky pro miliony organizací po celém světě a stal se jedním z hlavních cílů nové generace útoků sociálního inženýrství využívajících umělou inteligenci.

Proč se společnost Salesforce stala cílem Deepfake

Díky svému růstu se společnost Salesforce stala také velkým terčem krádeží dat.

Vzhledem k tomu, že je vše centralizováno, může jediné narušení odhalit miliony záznamů o zákaznících z mnoha různých společností.

Jak uvádí Tim West, vedoucí oddělení Threat Intelligence společnosti WithSecure:

"Hackerské skupiny jako Scattered Spider používají sociální inženýrství k získání přístupu do prostředí SaaS. Jejich útoky mohou vypadat technicky jednoduše, ale to neznamená, že jsou méně nebezpečné."

Podle nového průzkumu společnosti WithSecure se v prvním čtvrtletí roku 2025 prudce zvýšila škodlivá aktivita v prostředích Salesforce, přičemž počet detekcí se ve srovnání s koncem roku 2024 zvýšil dvacetinásobně.

Jak hluboké podvrhy přispěly k narušení bezpečnosti služby Salesforce

Nedávné útoky jsou obzvláště nebezpečné proto, že se technologie deepfake změnila ze specializovaného nástroje na zbraň, kterou může použít kdokoli.

Na rozdíl od tradičních narušení dat, při kterých se kyberzločinci vloupávají přímo do databází, nyní využívají sociální inženýrství založené na hlasu neboli "vishing". S rozvojem deepfakes a klonování hlasu pomocí umělé inteligence je mnohem těžší tyto útoky odhalit.

Kampaň ShinyHunters proti zákazníkům společnosti Salesforce se řídí účinným návodem, který kombinuje tradiční sociální inženýrství se špičkovým podvodem s umělou inteligencí:

Fáze 1: Sběr hlasových informací

Útočníci začínají získáváním zvukových vzorků z veřejných zdrojů, prezentací vedoucích pracovníků, konferenčních hovorů, firemních videí nebo příspěvků na sociálních sítích. 

Stačí jim 20-30 sekund čistého zvuku a mohou vytvořit přesvědčivé hlasové klony.

Fáze 2: Vishingové volání Deepfake

Během vishingového hovoru útočník přesvědčí oběť, aby přešla na stránku nastavení připojené aplikace Salesforce a schválila falešnou verzi aplikace Data Loader, která je maskována mírně pozměněnou značkou.

Tím oběť nevědomky umožní útočníkům ukrást citlivá data ze Salesforce.

Jejich propracovanost je pozoruhodná. V některých případech útočníci použili deepfake audio, aby se vydávali za zaměstnance a přesvědčili pracovníky helpdesku k autorizaci neoprávněného přístupu. 

To představuje významný vývoj od tradičního hlasového phishingu, kdy se útočníci jednoduše vydávali za autority, k vydávání se za konkrétní osoby s využitím umělé inteligence.

Fáze 3: Využití protokolu OAuth

Jakmile je škodlivá aplikace autorizována, útočníci zcela obejdou vícefaktorové ověřování. 

Po schválení falešné aplikace získají útočníci dlouhodobé tokeny OAuth, které jim umožní obejít vícefaktorové ověřování a pracovat bez spuštění běžných bezpečnostních upozornění.

Fáze 4: Tichá extrakce dat

Skupina Threat Intelligence Group společnosti Google varovala, že útočník použil nástroj Python k automatizaci procesu krádeže dat pro každou cílovou organizaci, přičemž výzkumníci vědí o více než 700 potenciálně zasažených organizacích.

Proč jsme zranitelní vůči hlasům AI

Úspěch těchto útoků využívá základní lidskou vlastnost: naši tendenci věřit tomu, co slyšíme.

Podle jedné z nedávných celosvětových studií 70 % lidí tvrdí, že si nejsou jisti, zda dokážou rozpoznat skutečný hlas od klonovaného.

Tato zranitelnost se ještě zvyšuje ve firemním prostředí, kde jsou pracovníci oddělení pomoci vyškoleni, aby byli vstřícní a ochotní, a kde práce na dálku normalizovala interakce pouze se zvukem.

Podle zprávy CrowdStrike 2025 Global Threat Report došlo mezi první a druhou polovinou roku 2024 k nárůstu hlasových phishingových (vishingových) útoků o 442%, a to díky taktice phishingu a vydávání se za podvodníky generované umělou inteligencí.

Budíček pro $25 milionů

Důsledky útoků s využitím deepfake sahají daleko za hranice společnosti Salesforce. 

Lupičská loupež ve výši $25 milionů ve strojírenské firmě Arup na začátku roku 2024, kdy útočníci použili umělou inteligenci, aby se vydávali za několik vedoucích pracovníků ve videohovoru, ukázala, že žádná organizace není vůči této hrozbě imunní. 

Podobné útoky se zaměřily také na vedoucí pracovníky v různých odvětvích, včetně pokusu vydávat se za generálního ředitele společnosti Ferrari Benedetta Vignu pomocí hlasových hovorů s umělou inteligencí, které napodobovaly jeho jihoitalský přízvuk.

Tyto incidenty představují to, co bezpečnostní experti nazývají "podvody na ředitele 2.0", tedy útoky, které jdou nad rámec prostého vydávání se za e-mail a vytvářejí vícesmyslové podvody, které mohou oklamat i zkušené vedoucí pracovníky.

Bezpečnost platformy vs. lidská zranitelnost

Společnost Salesforce rychle zdůraznila, že tato narušení nepředstavují zranitelnost její platformy. 

Společnost Salesforce kampaň UNC6040 přiznala v březnu 2025 a varovala, že útočníci se vydávají za IT podporu a snaží se přimět zaměstnance, aby jim předali přihlašovací údaje nebo schválili škodlivé připojené aplikace. 

Společnost zdůraznila, že tyto incidenty se netýkaly žádných zranitelností v její platformě ani z nich nevyplývaly.

To ukazuje hlavní výzvu pro všechny poskytovatele SaaS: vyřešit, jak zabránit útokům, které hrají na lidskou důvěru místo technických chyb.

Společnost Salesforce zavedla několik obranných opatření:

• Zpevnění připojených aplikací: Automatické zakázání nenainstalovaných připojených aplikací pro nové uživatele
• Omezení toku OAuth: Zakázání připojení získaných pomocí určitých autorizačních procesů
• Rozšířené monitorování: Vylepšená detekce podezřelých vzorů autorizace aplikací
• Vzdělávání uživatelů: Zveřejnění pokynů k rozpoznávání pokusů o sociální inženýrství

V srpnu 2025 společnost Salesforce uzavřela všechny integrace s technologiemi Salesloft, včetně aplikace Drift, poté, co zjistila, že při souvisejících útocích byly odcizeny tokeny OAuth. 

Bezpečnostní experti nyní varují, že týmy musí naslouchat jemným náznakům, jako jsou zvláštní pauzy, šum v pozadí nebo zvukové závady, které mohou odhalit, že hlas byl vytvořen umělou inteligencí.

Reakce podniku: Nad rámec technologických řešení

Organizace si začínají uvědomovat, že obrana proti útokům s využitím deepfake vyžaduje více než jen technologická řešení; vyžaduje zásadní přehodnocení procesů důvěryhodnosti a ověřování.

Komunikace s nulovou důvěrou

RealityCheck od společnosti Beyond Identity poskytuje každému účastníkovi viditelný, ověřený identifikační odznak, který je podpořen kryptografickým ověřováním zařízení a průběžnou kontrolou rizik, v současné době dostupný pro Zoom a Microsoft Teams. 

Taková řešení představují posun směrem k modelům "nikdy nedůvěřuj, vždy ověřuj" pro podnikovou komunikaci.

Rozšířené školicí programy

Organizace, které používají platformu pro simulaci deepfake od společnosti Resemble AI, hlásí až o 90% nižší počet úspěšných útoků po zavedení platformy, která využívá hyperrealistické simulace k ilustraci toho, jak se deepfake útoky odehrávají v reálném světě.

Vícekanálové ověřování

Přední organizace zavádějí protokoly, které vyžadují ověření více kanály pro všechny vysoce rizikové požadavky, bez ohledu na to, jak autentická se zdá být původní komunikace.

Když už hlas není pravda

Hrozba deepfake pro Salesforce a další podnikové systémy představuje zlomový bod v historii kybernetické bezpečnosti. 

Poprvé se útočníci mohou nejen vydávat za autority, ale mohou za ně i mluvit, vypadat jako oni a přesvědčit i vyškolené bezpečnostní profesionály, aby podnikli kroky, které ohrožují bezpečnost organizace.

V době podvodů generovaných umělou inteligencí je třeba si důvěru zasloužit ověřením, nikoliv předpokládat, že je důvěryhodná.

Společnosti, které si to uvědomují a investují do správných nástrojů, procesů a kultury, budou mít nejlepší pozici pro ochranu bezpečnosti i důvěry ve stále nejistějším digitálním světě.

V této nové realitě nemusí být hlas na druhém konci linky tím, kým se zdá.

V době deepfakes je neustálá ostražitost cenou za bezpečnost.