{"id":5414,"date":"2025-11-12T03:21:39","date_gmt":"2025-11-12T03:21:39","guid":{"rendered":"https:\/\/blog.truthscan.com\/?p=5414"},"modified":"2026-03-06T10:35:11","modified_gmt":"2026-03-06T10:35:11","slug":"zavody-ve-zbrojeni-v-oblasti-informacnich-technologii-kyberneticke-hrozby-a-podvody-v-roce-2025-a-jak-se-jim-branit","status":"publish","type":"post","link":"https:\/\/blog.truthscan.com\/cs\/zavody-ve-zbrojeni-v-oblasti-informacnich-technologii-kyberneticke-hrozby-a-podvody-v-roce-2025-a-jak-se-jim-branit\/","title":{"rendered":"Z\u00e1vody v um\u011bl\u00e9 inteligenci: kybernetick\u00e9 hrozby a podvody v roce 2025 - a jak se jim br\u00e1nit"},"content":{"rendered":"

\u00davod: Nov\u00e1 \u00e9ra \u00fatok\u016f \u0159\u00edzen\u00fdch um\u011blou inteligenc\u00ed<\/h2>\n\n\n\n

Rok 2025 p\u0159edstavuje v oblasti kybernetick\u00e9 bezpe\u010dnosti zlomov\u00fd bod. Generativn\u00ed um\u011bl\u00e1 inteligence pos\u00edlila kybernetick\u00e9 \u00fatoky a umo\u017enila akt\u00e9r\u016fm hrozeb prov\u00e1d\u011bt st\u00e1le v\u00edce \u00fatok\u016f. \u010dast\u00e9, realistick\u00e9 a \u0161k\u00e1lovateln\u00e9.<\/strong> kampan\u00ed ne\u017e kdykoli p\u0159edt\u00edm. Ve skute\u010dnosti se za posledn\u00ed rok odhaduje, \u017ee 16% nahl\u00e1\u0161en\u00fdch kybernetick\u00fdch incident\u016f se t\u00fdkalo \u00fato\u010dn\u00edk\u016f vyu\u017e\u00edvaj\u00edc\u00edch n\u00e1stroje um\u011bl\u00e9 inteligence.<\/strong> (nap\u0159. modely generov\u00e1n\u00ed obr\u00e1zk\u016f a jazyka) pro zlep\u0161en\u00ed soci\u00e1ln\u00edho in\u017een\u00fdrstv\u00ed.[1]<\/a>. \u0160kodliv\u00e9 subjekty vyu\u017e\u00edvaj\u00ed um\u011blou inteligenci ve v\u0161ech odv\u011btv\u00edch, od velmi p\u0159esv\u011bd\u010div\u00fdch podvodn\u00fdch e-mail\u016f a\u017e po podvody s fale\u0161n\u00fdmi zvukov\u00fdmi a obrazov\u00fdmi z\u00e1znamy. V\u011bt\u0161ina bezpe\u010dnostn\u00edch odborn\u00edk\u016f nyn\u00ed p\u0159isuzuje n\u00e1r\u016fst kybernetick\u00fdch \u00fatok\u016f d\u00edky generativn\u00ed um\u011bl\u00e9 inteligenci.<\/strong>, kter\u00e1 poskytuje zl\u00fdm hr\u00e1\u010d\u016fm rychlej\u0161\u00ed a chyt\u0159ej\u0161\u00ed zp\u016fsoby, jak zneu\u017e\u00edt ob\u011bti.[2]<\/a>. Generativn\u00ed um\u011bl\u00e1 inteligence efektivn\u011b sni\u017euje la\u0165ku dovednost\u00ed pro kybernetickou kriminalitu a z\u00e1rove\u0148 zvy\u0161uje jej\u00ed s\u00edlu.<\/p>\n\n\n\n

Pro\u010d je to tak znepokojuj\u00edc\u00ed?<\/strong> Um\u011bl\u00e1 inteligence dok\u00e1\u017ee okam\u017eit\u011b vytvo\u0159it vybrou\u0161en\u00fd obsah s ohledem na kontext, kter\u00fd oklame i vy\u0161kolen\u00e9 u\u017eivatele. Dok\u00e1\u017ee se s d\u011bsivou p\u0159esnost\u00ed vyd\u00e1vat za hlasy a tv\u00e1\u0159e, a dokonce generovat \u0161kodliv\u00fd k\u00f3d, kter\u00fd se m\u011bn\u00ed, aby se vyhnul detekci. V d\u016fsledku toho se kybernetick\u00e9 \u00fatoky st\u00e1vaj\u00ed h\u016f\u0159e odhaliteln\u00e9 a snadn\u011bji provediteln\u00e9. Na adrese Sv\u011btov\u00e9 ekonomick\u00e9 f\u00f3rum<\/em> varuje, \u017ee 72% organizac\u00ed zaznamenalo zv\u00fd\u0161en\u00e1 kybernetick\u00e1 rizika - zejm\u00e9na soci\u00e1ln\u00ed in\u017een\u00fdrstv\u00ed a podvody - kv\u016fli rostouc\u00edm schopnostem generativn\u00ed um\u011bl\u00e9 inteligence.[3]<\/a>. Skute\u010dn\u00e9 ud\u00e1losti to potvrzuj\u00ed: Na za\u010d\u00e1tku roku 2024 pou\u017eili zlo\u010dinci um\u011blou inteligenc\u00ed generovan\u00fd deepfake videohovor<\/em> vyd\u00e1vat se za finan\u010dn\u00edho \u0159editele spole\u010dnosti a p\u0159im\u011bt zam\u011bstnance k p\u0159evodu. $25,6 milionu<\/strong> podvodn\u00edk\u016fm[4]<\/a>. A v dal\u0161\u00edm p\u0159\u00edpad\u011b severokorej\u0161t\u00ed hacke\u0159i pou\u017eili Fale\u0161n\u00e9 doklady toto\u017enosti generovan\u00e9 um\u011blou inteligenc\u00ed<\/strong> obej\u00edt bezpe\u010dnostn\u00ed kontroly v obrann\u00e9 phishingov\u00e9 kampani.[5]<\/a>. Tyto p\u0159\u00edklady zd\u016fraz\u0148uj\u00ed, co je v s\u00e1zce - generativn\u00ed um\u011bl\u00e1 inteligence umo\u017e\u0148uje podvody, kter\u00e9 obch\u00e1zej\u00ed lidsk\u00e9 i technick\u00e9 kontroly.<\/p>\n\n\n\n

Sou\u010d\u00e1st\u00ed \u0159e\u0161en\u00ed je v\u0161ak i um\u011bl\u00e1 inteligence. Pokro\u010dil\u00e9 detek\u010dn\u00ed n\u00e1stroje (jako nap\u0159\u00edklad n\u00e1stroje spole\u010dnosti TruthScan) vyu\u017e\u00edvaj\u00ed AI proti<\/em> Um\u011bl\u00e1 inteligence - anal\u00fdza obsahu s c\u00edlem zjistit jemn\u00e9 znaky strojov\u00e9ho generov\u00e1n\u00ed. V t\u00e9to b\u00edl\u00e9 knize se budeme zab\u00fdvat hlavn\u00edmi kybernetick\u00fdmi hrozbami roku 2025, kter\u00e9 budou \u0159\u00edzeny um\u011blou inteligenc\u00ed, a t\u00edm, jak je mohou organizace zm\u00edrnit. Z webu Phishing generovan\u00fd um\u011blou inteligenc\u00ed<\/strong> na deepfake CEO podvod<\/strong>, Malware vytvo\u0159en\u00fd um\u011blou inteligenc\u00ed<\/strong>, syntetick\u00e9 identity<\/strong>a dal\u0161\u00ed, budeme zkoumat, jak generativn\u00ed um\u011bl\u00e1 inteligence m\u011bn\u00ed podobu \u00fatok\u016f. Probereme tak\u00e9 konkr\u00e9tn\u00ed obrann\u00e1 opat\u0159en\u00ed, nap\u0159. Detekce obsahu pomoc\u00ed um\u011bl\u00e9 inteligence<\/strong>, hloubkov\u00e9 forenzn\u00ed anal\u00fdzy a technologie pro ov\u011b\u0159ov\u00e1n\u00ed identity, kter\u00e9 mohou bezpe\u010dnostn\u00edm t\u00fdm\u016fm pomoci znovu z\u00edskat p\u0159evahu. C\u00edlem je osv\u011btlit, jak mohou podniky, MSSP, CISO a vy\u0161et\u0159ovatel\u00e9 podvod\u016f integrovat n\u00e1stroje pro detekci um\u011bl\u00e9 inteligence nap\u0159\u00ed\u010d cel\u00fdm syst\u00e9mem kybernetick\u00e9 bezpe\u010dnosti.<\/strong> \u010delit t\u00e9to vln\u011b hrozeb poh\u00e1n\u011bn\u00fdch um\u011blou inteligenc\u00ed.<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

Phishing a BEC generovan\u00e9 um\u011blou inteligenc\u00ed: podvody neb\u00fdval\u00e9ho rozsahu<\/h2>\n\n\n\n

Jedn\u00edm z nejz\u0159eteln\u011bj\u0161\u00edch dopad\u016f generativn\u00ed um\u011bl\u00e9 inteligence je phishing a ohro\u017een\u00ed firemn\u00ed elektronick\u00e9 po\u0161ty (BEC)<\/strong> sch\u00e9mata. Jazykov\u00e9 modely s um\u011blou inteligenc\u00ed dok\u00e1\u017e\u00ed b\u011bhem n\u011bkolika vte\u0159in p\u0159ipravit plynul\u00e9 e-maily p\u0159izp\u016fsoben\u00e9 kontextu a eliminovat gramatick\u00e9 chyby a neobratn\u00e9 fr\u00e1ze, kter\u00e9 d\u0159\u00edve prozrazovaly phishing. V\u00fdsledkem je z\u00e1plava velmi p\u0159esv\u011bd\u010div\u00fdch podvodn\u00fdch e-mail\u016f a text\u016f. Do dubna 2025, v\u00edce ne\u017e polovina nevy\u017e\u00e1dan\u00fdch e-mail\u016f (51%) byla naps\u00e1na um\u011blou inteligenc\u00ed.<\/strong>, oproti t\u00e9m\u011b\u0159 nulov\u00e9mu stavu p\u0159ed dv\u011bma lety[6]<\/a>. Je\u0161t\u011b znepokojiv\u011bj\u0161\u00ed je, \u017ee v\u011bdci zjistili, \u017ee p\u0159ibli\u017en\u011b 14% e-mail\u016f s \u00fatoky BEC bylo vytvo\u0159eno um\u011blou inteligenc\u00ed.<\/strong> do roku 2025[7]<\/a> - a o\u010dek\u00e1v\u00e1 se, \u017ee tento po\u010det bude stoupat s t\u00edm, jak si zlo\u010dinci osvoj\u00ed n\u00e1stroje jako ChatGPT. N\u011bkter\u00e9 studie odhaduj\u00ed, \u017ee p\u0159es 80%<\/em> phishingov\u00fdch e-mail\u016f m\u016f\u017ee nyn\u00ed p\u0159i jejich tvorb\u011b pom\u00e1hat um\u011bl\u00e1 inteligence.[8]<\/a>.<\/p>\n\n\n\n

Objem t\u011bchto n\u00e1strah vytvo\u0159en\u00fdch um\u011blou inteligenc\u00ed prudce vzrostl. Bezpe\u010dnostn\u00ed anal\u00fdzy ukazuj\u00ed, \u017ee phishingov\u00e9 \u00fatoky spojen\u00e9 s generativn\u00ed um\u011blou inteligenc\u00ed prudce vzrostly o 1,265%<\/strong> v kr\u00e1tk\u00e9m \u010dasov\u00e9m \u00faseku[9]<\/a>. V jednom obdob\u00ed vzrostl po\u010det hl\u00e1\u0161en\u00ed phishingov\u00fdch incident\u016f o 466% v jednom \u010dtvrtlet\u00ed<\/strong>, a to p\u0159edev\u0161\u00edm kv\u016fli automatizovan\u00fdm phishingov\u00fdm sad\u00e1m a bot\u016fm, kter\u00e9 vypou\u0161t\u011bj\u00ed p\u0159izp\u016fsoben\u00e9 n\u00e1vnady.[9]<\/a>[10]<\/a>. Pro\u010d takov\u00fd n\u00e1r\u016fst? Proto\u017ee um\u011bl\u00e1 inteligence umo\u017e\u0148uje \u00fato\u010dn\u00edk\u016fm stupnice<\/strong> jejich \u010dinnosti v\u00fdrazn\u011b. Jedin\u00fd zlo\u010dinec m\u016f\u017ee pomoc\u00ed chatbota s um\u011blou inteligenc\u00ed generovat tis\u00edce<\/em> personalizovan\u00fdch podvodn\u00fdch e-mail\u016f zam\u011b\u0159en\u00fdch na r\u016fzn\u00e9 zam\u011bstnance nebo z\u00e1kazn\u00edky, a to v\u0161e v \u010dase, kter\u00fd byl d\u0159\u00edve pot\u0159ebn\u00fd k vytvo\u0159en\u00ed jednoho. Tato masov\u00e1 automatizace vedla FBI k varov\u00e1n\u00ed, \u017ee ztr\u00e1ty z BEC (kter\u00e9 ji\u017e v roce 2022 \u010dinily $2,7 miliardy) se budou jen zrychlovat, proto\u017ee um\u011bl\u00e1 inteligence \"hroz\u00ed, \u017ee tyto ztr\u00e1ty je\u0161t\u011b zv\u00fd\u0161\u00ed\".[11]<\/a>[12]<\/a>.<\/p>\n\n\n\n

Nejen\u017ee p\u0159ib\u00fdv\u00e1 phishingov\u00fdch e-mail\u016f, ale jsou tak\u00e9 \u00fa\u010dinn\u011bj\u0161\u00ed<\/strong>. Ob\u011bti jsou ve v\u011bt\u0161\u00ed m\u00ed\u0159e oklam\u00e1ny vybrou\u0161en\u00fdm jazykem a kontextov\u00fdmi detaily, kter\u00e9 m\u016f\u017ee um\u011bl\u00e1 inteligence zahrnout. V laboratorn\u00edch testech dos\u00e1hly phishingov\u00e9 e-maily napsan\u00e9 um\u011blou inteligenc\u00ed \u00fasp\u011b\u0161nosti 54% m\u00edra prokliku<\/strong> - daleko vy\u0161\u0161\u00ed ne\u017e ~12% u tradi\u010dn\u00edch pokus\u016f o phishing.[13]<\/a>. Tyto zpr\u00e1vy se \u010dtou jako skute\u010dn\u00fd styl gener\u00e1ln\u00edho \u0159editele nebo odkazuj\u00ed na skute\u010dn\u00e9 firemn\u00ed ud\u00e1losti, co\u017e sni\u017euje ostra\u017eitost p\u0159\u00edjemc\u016f. \u00dato\u010dn\u00edci dokonce pou\u017e\u00edvaj\u00ed um\u011blou inteligenci k testov\u00e1n\u00ed r\u016fzn\u00fdch fr\u00e1z\u00ed a opakov\u00e1n\u00ed nej\u00fasp\u011b\u0161n\u011bj\u0161\u00edch h\u00e1\u010dk\u016f.[14]<\/a>. A na rozd\u00edl od lid\u00ed um\u011bl\u00e1 inteligence ned\u011bl\u00e1 p\u0159eklepy ani se neunav\u00ed - m\u016f\u017ee chrlit nekone\u010dn\u00e9 mno\u017estv\u00ed variant, dokud jedna neprojde filtrem a n\u011bkoho neoklame.<\/p>\n\n\n\n

P\u0159\u00edklad:<\/strong> V polovin\u011b roku 2025 Reuters<\/em> vy\u0161et\u0159ov\u00e1n\u00ed odhalilo, jak podvodn\u00edci z jihov\u00fdchodn\u00ed Asie vyu\u017e\u00edvaj\u00ed ChatGPT k automatizaci podvodn\u00e9 komunikace.[15]<\/a>. Hromadn\u011b vytv\u00e1\u0159eli p\u0159esv\u011bd\u010div\u00e9 e-maily bank a texty z\u00e1kaznick\u00e9ho servisu, \u010d\u00edm\u017e zna\u010dn\u011b zv\u00fd\u0161ili dosah sv\u00fdch sch\u00e9mat. Evropsk\u00e1 policie podobn\u011b zaznamenala, \u017ee na temn\u00e9m webu se prod\u00e1vaj\u00ed phishingov\u00e9 sady \u0159\u00edzen\u00e9 um\u011blou inteligenc\u00ed za m\u00e9n\u011b ne\u017e $20, co\u017e akt\u00e9r\u016fm s n\u00edzkou kvalifikac\u00ed umo\u017e\u0148uje spustit sofistikovan\u00e9 kampan\u011b.[16]<\/a>[17]<\/a>. Bari\u00e9ra vstupu pro BEC a phishing se v podstat\u011b vypa\u0159ila.<\/p>\n\n\n\n

Obrann\u00e1 opat\u0159en\u00ed - zastaven\u00ed AI Phish:<\/strong> Vzhledem k tomuto n\u00e1poru mus\u00ed organizace pos\u00edlit sv\u00e9 e-mailov\u00e9 a komunika\u010dn\u00ed kan\u00e1ly. Zde je t\u0159eba Detekce obsahu pomoc\u00ed um\u011bl\u00e9 inteligence<\/strong> m\u016f\u017ee pomoci. N\u00e1stroje jako nap\u0159. Detektor textu s um\u011blou inteligenc\u00ed spole\u010dnosti TruthScan<\/em> a specializovan\u00e9 e-mailov\u00e9 skenery<\/strong> dok\u00e1\u017ee analyzovat p\u0159\u00edchoz\u00ed zpr\u00e1vy na z\u00e1klad\u011b statistick\u00fdch znak\u016f textu vytvo\u0159en\u00e9ho um\u011blou inteligenc\u00ed. Nap\u0159\u00edklad Detektor e-mailov\u00fdch podvod\u016f TruthScan<\/strong><\/a> pou\u017e\u00edv\u00e1 anal\u00fdzu p\u0159irozen\u00e9ho jazyka k ozna\u010den\u00ed e-mail\u016f, kter\u00e9 pravd\u011bpodobn\u011b poch\u00e1z\u00ed od um\u011bl\u00e9 inteligence, i kdy\u017e vypadaj\u00ed legitimn\u011b.[18]<\/a>. Tyto detektory zkoumaj\u00ed nap\u0159\u00edklad dokonale vypilovanou gramatiku, slo\u017eitost v\u011bt a stylistick\u00e9 vzorce, kter\u00e9 jsou pro lidsk\u00e9 autory neobvykl\u00e9. Pomoc\u00ed str\u00e1nek skenov\u00e1n\u00ed v re\u00e1ln\u00e9m \u010dase<\/strong>, lze podez\u0159el\u00e9 e-maily um\u00edstit do karant\u00e9ny nebo ozna\u010dit ke kontrole d\u0159\u00edve, ne\u017e se dostanou k u\u017eivatel\u016fm. Podnikov\u00e9 bezpe\u010dnostn\u00ed t\u00fdmy za\u010d\u00ednaj\u00ed takov\u00e9 filtry \u0159\u00edzen\u00e9 um\u011blou inteligenc\u00ed nasazovat na e-mailov\u00fdch bran\u00e1ch a platform\u00e1ch pro zas\u00edl\u00e1n\u00ed zpr\u00e1v. V praxi to znamen\u00e1, \u017ee k tradi\u010dn\u00edm spamov\u00fdm filtr\u016fm se p\u0159id\u00e1v\u00e1 nov\u00e1 obrann\u00e1 vrstva - v\u00fdslovn\u011b vylad\u011bn\u00e1 tak, aby zachytila obsah psan\u00fd um\u011blou inteligenc\u00ed. Od roku 2025 p\u0159edn\u00ed podniky integruj\u00ed \u0159e\u0161en\u00ed, jako je TruthScan, prost\u0159ednictv\u00edm rozhran\u00ed API do sv\u00fdch zabezpe\u010den\u00fdch e-mailov\u00fdch bran a sad pro cloudovou spolupr\u00e1ci, \u010d\u00edm\u017e vytv\u00e1\u0159ej\u00ed automatizovan\u00fd kontroln\u00ed bod pro Phishing generovan\u00fd um\u011blou inteligenc\u00ed<\/strong> obsah.<\/p>\n\n\n\n

Deepfake Voice & Video Impersonation: Podvod \"Vid\u011bt klame\"<\/h2>\n\n\n\n

Pravd\u011bpodobn\u011b nejz\u00e1va\u017en\u011bj\u0161\u00ed hrozbou v roce 2025 je vzestup um\u011bl\u00e9 inteligence. deepfake hlasov\u00e9 a video \u00fatoky<\/strong>. Pomoc\u00ed model\u016f um\u011bl\u00e9 inteligence mohou zlo\u010dinci naklonovat hlas \u010dlov\u011bka z n\u011bkolika vte\u0159in zvuku nebo vytvo\u0159it realistick\u00e9 video obli\u010deje z n\u011bkolika fotografi\u00ed. Tyto deepfakes jsou vyu\u017e\u00edv\u00e1ny k podvod\u016fm s vysok\u00fdmi s\u00e1zkami - od podvod\u016f s gener\u00e1ln\u00edmi \u0159editeli (telefon\u00e1ty \"fale\u0161n\u00fdch gener\u00e1ln\u00edch \u0159editel\u016f\") a\u017e po fale\u0161n\u00e9 videokonference a dal\u0161\u00ed. Ned\u00e1vn\u00e1 zpr\u00e1va z oboru odhalila 47% organizac\u00ed za\u017eilo deepfake \u00fatoky<\/strong> n\u011bjak\u00e9ho druhu[19]<\/a>. A nen\u00ed to jen teoretick\u00e9: n\u011bkolik kr\u00e1de\u017e\u00ed v letech 2023-2025 dok\u00e1zalo, \u017ee deepfakes mohou p\u0159ekonat nejvy\u0161\u0161\u00ed ov\u011b\u0159en\u00ed - na\u0161e vlastn\u00ed o\u010di a u\u0161i.<\/p>\n\n\n\n

Jeden z nechvaln\u011b zn\u00e1m\u00fdch p\u0159\u00edpad\u016f se t\u00fdkal mezin\u00e1rodn\u00edho bankovn\u00edho p\u0159evodu ve v\u00fd\u0161i $25 milion\u016f<\/strong> pot\u00e9, co byl jeden ze zam\u011bstnanc\u016f oklam\u00e1n pomoc\u00ed fale\u0161n\u00e9 videokonference. \u00dato\u010dn\u00edci pou\u017eili um\u011blou inteligenci k tomu, aby v hovoru p\u0159es Zoom syntetizovali podobu finan\u010dn\u00edho \u0159editele spole\u010dnosti, jej\u00ed hlas a zp\u016fsoby chov\u00e1n\u00ed, a dali zam\u011bstnanci pokyn, aby p\u0159evedl finan\u010dn\u00ed prost\u0159edky.[4]<\/a>[20]<\/a>. P\u0159i jin\u00e9m incidentu v Austr\u00e1lii m\u00edstn\u00ed vl\u00e1da ztratil $2,3 milionu<\/strong> kdy\u017e podvodn\u00edci zfal\u0161ovali hlas i video m\u011bstsk\u00fdch \u00fa\u0159edn\u00edk\u016f, aby schv\u00e1lili podvodn\u00e9 platby.[21]<\/a>. Znepokojiv\u00e9 je, \u017ee zlo\u010dinci pou\u017e\u00edvaj\u00ed hlasy naklonovan\u00e9 um\u011blou inteligenc\u00ed k \"podvod\u016fm s prarodi\u010di\" - volaj\u00ed senior\u016fm a vyd\u00e1vaj\u00ed se za jejich p\u0159\u00edbuzn\u00e9 v nouzi. Na str\u00e1nk\u00e1ch . FBI<\/em> a FinCEN<\/em> koncem roku 2024 vydala varov\u00e1n\u00ed p\u0159ed n\u00e1r\u016fstem podvod\u016f s vyu\u017eit\u00edm \"deepfake\" m\u00e9dia generovan\u00e1 um\u011blou inteligenc\u00ed<\/strong>, v\u010detn\u011b fale\u0161n\u00fdch agent\u016f z\u00e1kaznick\u00e9ho servisu a syntetick\u00fdch identit, kter\u00e9 umo\u017e\u0148uj\u00ed obej\u00edt ov\u011b\u0159en\u00ed KYC.[22]<\/a>.<\/p>\n\n\n\n

\u010cetnost trestn\u00fdch \u010din\u016f zalo\u017een\u00fdch na deepfake rychle stoup\u00e1. Podle jedn\u00e9 z anal\u00fdz by do konce roku 2024 m\u011blo b\u00fdt ka\u017ed\u00fdch p\u011bt minut se objevil nov\u00fd deepfake podvod.<\/strong> v pr\u016fm\u011bru[23]<\/a>. Jen v 1. \u010dtvrtlet\u00ed roku 2025 vzrostl po\u010det nahl\u00e1\u0161en\u00fdch deepfake incident\u016f o 19% ve srovn\u00e1n\u00ed s 1. \u010dtvrtlet\u00edm roku 2010. v\u0161echny<\/em> roku 2024[24]<\/a>[25]<\/a>. Deepfakes nyn\u00ed p\u0159edstavuj\u00ed odhadem 6,5% v\u0161ech podvodn\u00fdch \u00fatok\u016f<\/strong>, a 2,137% n\u00e1r\u016fst od roku 2022<\/strong>[26]<\/a>[27]<\/a>. Pot\u0159ebn\u00e1 technologie se stala snadno dostupnou - \u010dasto sta\u010d\u00ed pouh\u00e1 30 sekund zvuku<\/strong> naklonovat hlas nebo pod hodinu uk\u00e1zkov\u00e9ho z\u00e1znamu p\u0159esv\u011bd\u010div\u011b vymodelovat obli\u010dej \u010dlov\u011bka.[20]<\/a>. Stru\u010dn\u011b \u0159e\u010deno, nikdy nebylo snaz\u0161\u00ed \"zfal\u0161ovat\" identitu d\u016fv\u011bryhodn\u00e9 osoby.<\/strong> a vyl\u00e1kat od ob\u011bt\u00ed pen\u00edze nebo informace.<\/p>\n\n\n\n

Obrann\u00e1 opat\u0159en\u00ed - ov\u011b\u0159ov\u00e1n\u00ed skute\u010dnosti:<\/strong> Organizace se v boji proti deepfake hrozb\u00e1m obracej\u00ed na pokro\u010dil\u00e9 technologie. detekce syntetick\u00fdch m\u00e9di\u00ed<\/strong> n\u00e1stroje. Nap\u0159\u00edklad, Detektor hlasu s um\u011blou inteligenc\u00ed spole\u010dnosti TruthScan<\/strong><\/a> a Detektor hlubok\u00fdch falzifik\u00e1t\u016f TruthScan<\/strong><\/a> vyu\u017e\u00edvat um\u011blou inteligenci k anal\u00fdze zvuku a videa a hledat zn\u00e1mky manipulace. Tyto syst\u00e9my prov\u00e1d\u011bj\u00ed anal\u00fdzu jednotliv\u00fdch sn\u00edmk\u016f a pr\u016fb\u011bh\u016f a odhaluj\u00ed artefakty, jako jsou nep\u0159irozen\u00e9 pohyby obli\u010deje, probl\u00e9my se synchronizac\u00ed rt\u016f nebo nepravidelnosti zvukov\u00e9ho spektra, kter\u00e9 prozrazuj\u00ed klip vytvo\u0159en\u00fd um\u011blou inteligenc\u00ed. V testech dos\u00e1hly algoritmy TruthScan t\u011bchto v\u00fdsledk\u016f 99%+ p\u0159esnost p\u0159i identifikaci hlas\u016f generovan\u00fdch um\u011blou inteligenc\u00ed<\/strong> a v re\u00e1ln\u00e9m \u010dase detekoval zmanipulovan\u00e9 videosn\u00edmky.[28]<\/a>[29]<\/a>. V\u00fdzkumn\u00edci z Genians Security Center ned\u00e1vno pou\u017eili obrazovou forenzn\u00ed anal\u00fdzu TruthScan k anal\u00fdze fale\u0161n\u00e9ho ob\u010dansk\u00e9ho pr\u016fkazu, kter\u00fd pou\u017e\u00edvali severokorej\u0161t\u00ed hacke\u0159i - detektor fale\u0161n\u00fdch obr\u00e1zk\u016f TruthScan ozna\u010dil dokument jako neautentick\u00fd. 98% d\u016fv\u011bra<\/em>, zma\u0159en\u00ed pokusu o spear-phishing[5]<\/a>[30]<\/a>.<\/p>\n\n\n\n

Pro praktickou obranu nasazuj\u00ed podniky tyto detek\u010dn\u00ed funkce na kl\u00ed\u010dov\u00fdch m\u00edstech. Ov\u011b\u0159ov\u00e1n\u00ed hlasu<\/strong> se p\u0159id\u00e1v\u00e1 do pracovn\u00edch postup\u016f call centra - nap\u0159. kdy\u017e \"klient\" telefonicky po\u017e\u00e1d\u00e1 o velk\u00fd p\u0159evod, zvuk m\u016f\u017ee b\u00fdt prohn\u00e1n detektorem fale\u0161n\u00e9ho hlasu, aby se zajistilo, \u017ee jde skute\u010dn\u011b o n\u011bj (a ne o napodobeninu um\u011bl\u00e9 inteligence). Podobn\u011b, videokonferen\u010dn\u00ed platformy<\/strong> m\u016f\u017ee integrovat \u017eiv\u00e9 hloubkov\u00e9 skenov\u00e1n\u00ed videoproud\u016f \u00fa\u010dastn\u00edk\u016f, aby zachytilo v\u0161echny syntetick\u00e9 obli\u010deje. Sada pro detekci deepfake od spole\u010dnosti TruthScan nab\u00edz\u00ed nap\u0159\u00edklad tyto mo\u017enosti. anal\u00fdza videohovor\u016f v re\u00e1ln\u00e9m \u010dase a ov\u011b\u0159ov\u00e1n\u00ed obli\u010deje<\/strong> kter\u00e9 se mohou p\u0159ipojit ke slu\u017eb\u011b Zoom nebo WebEx prost\u0159ednictv\u00edm rozhran\u00ed API.[31]<\/a>[29]<\/a>. To znamen\u00e1, \u017ee pokud se n\u011bkdo pokus\u00ed p\u0159ipojit ke sch\u016fzce pomoc\u00ed videa va\u0161eho gener\u00e1ln\u00edho \u0159editele vytvo\u0159en\u00e9ho um\u011blou inteligenc\u00ed, syst\u00e9m m\u016f\u017ee ozna\u010dit \"mo\u017en\u00fd deepfake\" d\u0159\u00edve, ne\u017e dojde k po\u0161kozen\u00ed. D\u016fle\u017eit\u00e9 transakce nav\u00edc nyn\u00ed \u010dasto zahrnuj\u00ed ov\u011b\u0159ovac\u00ed krok (mimo p\u00e1smo nebo v\u00edcefaktorov\u00fd), kter\u00fd m\u016f\u017ee vyu\u017e\u00edvat ov\u011b\u0159ov\u00e1n\u00ed obsahu - nap\u0159. vy\u017eaduje kr\u00e1tk\u00e9 \u00fastn\u00ed potvrzen\u00ed, kter\u00e9 je n\u00e1sledn\u011b zkontrolov\u00e1no detektorem hlasu AI na pravost. Vrstven\u00edm t\u011bchto n\u00e1stroj\u016f vytv\u00e1\u0159ej\u00ed spole\u010dnosti bezpe\u010dnostn\u00ed s\u00ed\u0165: i kdy\u017e zam\u011bstnanci viz<\/em> nebo sly\u0161et<\/em> n\u011bco v\u011brohodn\u00e9ho, z\u00e1kulisn\u00ed forenzn\u00ed AI zpochybn\u00ed jeho re\u00e1lnost. V prost\u0159ed\u00ed prostoupen\u00e9m hrozbami AI, \"Ned\u016fv\u011b\u0159uj - ov\u011b\u0159uj\"<\/strong> se st\u00e1v\u00e1 mantrou pro jakoukoli hlasovou nebo video komunikaci t\u00fdkaj\u00edc\u00ed se pen\u011bz nebo citliv\u00fdch p\u0159\u00edstup\u016f.<\/p>\n\n\n\n

Malware vytvo\u0159en\u00fd um\u011blou inteligenc\u00ed a obfuskovan\u00fd k\u00f3d: V\u00fdvoj hrozeb v k\u00f3du<\/h2>\n\n\n\n

Vliv um\u011bl\u00e9 inteligence se neomezuje pouze na soci\u00e1ln\u00ed in\u017een\u00fdrstv\u00ed - m\u011bn\u00ed tak\u00e9 pravidla hry v oblasti v\u00fdvoje malwaru a \u00fanikov\u00e9ho \u00fato\u010dn\u00e9ho k\u00f3du. V roce 2025 odhalila skupina Threat Intelligence Group spole\u010dnosti Google tzv. prvn\u00ed kmeny malwaru vyu\u017e\u00edvaj\u00edc\u00ed um\u011blou inteligenci <\/strong>b\u011bhem<\/em><\/strong> proveden\u00ed zm\u011bny jejich chov\u00e1n\u00ed<\/strong>[32]<\/a>[33]<\/a>. Jeden z p\u0159\u00edklad\u016f, nazvan\u00fd PROMPTFLUX<\/strong>, byl \u0161kodliv\u00fd skript, kter\u00fd ve skute\u010dnosti volal rozhran\u00ed API um\u011bl\u00e9 inteligence (model Gemini spole\u010dnosti Google), aby p\u0159episovat vlastn\u00ed k\u00f3d za b\u011bhu<\/strong>, kter\u00e9 vytv\u00e1\u0159ej\u00ed nov\u00e9 obfuskovan\u00e9 varianty, aby se vyhnuly detekci antivirov\u00fdch program\u016f.[34]<\/a>[35]<\/a>. Tento \"just-in-time\" v\u00fdvoj um\u011bl\u00e9 inteligence znamen\u00e1 skok sm\u011brem k autonomn\u00edmu, polymorfn\u00edmu malwaru. Dal\u0161\u00ed uk\u00e1zka, PROMPTSTEAL<\/strong>, pou\u017eil asistenta k\u00f3dov\u00e1n\u00ed AI k vytv\u00e1\u0159en\u00ed jedno\u0159\u00e1dkov\u00fdch p\u0159\u00edkaz\u016f syst\u00e9mu Windows pro kr\u00e1de\u017ee dat, \u010d\u00edm\u017e v podstat\u011b v re\u00e1ln\u00e9m \u010dase p\u0159enechal \u010d\u00e1sti sv\u00e9 logiky motoru AI.[36]<\/a>[37]<\/a>. Tyto inovace ukazuj\u00ed na budoucnost, kdy se malware bude moci neust\u00e1le modifikovat - podobn\u011b jako lidsk\u00fd pen-tester - a p\u0159ekon\u00e1vat tak obranu.<\/p>\n\n\n\n

I bez um\u011bl\u00e9 inteligence za b\u011bhu pou\u017e\u00edvaj\u00ed \u00fato\u010dn\u00edci um\u011blou inteligenci b\u011bhem v\u00fdvoje k vytv\u00e1\u0159en\u00ed siln\u011bj\u0161\u00edch \u0161kodliv\u00fdch k\u00f3d\u016f. Generativn\u00ed AI m\u016f\u017ee vytv\u00e1\u0159et malware, kter\u00fd je vysoce zast\u0159en\u00fd<\/strong>obsahuj\u00edc\u00ed vrstvy matouc\u00ed logiky, kter\u00e9 br\u00e1n\u00ed zp\u011btn\u00e9mu in\u017een\u00fdrstv\u00ed. Podle zpr\u00e1v o hrozb\u00e1ch, v\u00edce ne\u017e 70% v\u00fdznamn\u00fdch naru\u0161en\u00ed v roce 2025 zahrnovalo n\u011bjakou formu polymorfn\u00edho malwaru.<\/strong> kter\u00fd zm\u011bn\u00ed sv\u016fj podpis nebo chov\u00e1n\u00ed, aby se vyhnul odhalen\u00ed.[38]<\/a>. Nav\u00edc, 76% phishingov\u00fdch kampan\u00ed<\/strong> nyn\u00ed vyu\u017e\u00edvaj\u00ed polymorfn\u00ed taktiky, jako jsou dynamick\u00e9 adresy URL nebo um\u011blou inteligenc\u00ed p\u0159epsan\u00e1 u\u017eite\u010dn\u00e1 zat\u00ed\u017een\u00ed.[38]<\/a>. N\u00e1stroje, jako je nab\u00eddka dark-webu WormGPT<\/em> a FraudGPT<\/em> (neomezen\u00e9 klony ChatGPT) umo\u017e\u0148uj\u00ed i neodborn\u00edk\u016fm vytv\u00e1\u0159et droppery malwaru, keyloggery nebo ransomware pouh\u00fdm popisem toho, co cht\u011bj\u00ed.[39]<\/a>. V\u00fdsledkem je velk\u00e9 mno\u017estv\u00ed nov\u00fdch variant malwaru. Nap\u0159\u00edklad v roce 2024 se objevil zlod\u011bj informac\u00ed s n\u00e1zvem BlackMamba<\/strong> se objevil, kter\u00fd byl generovan\u00e9 v\u00fdhradn\u011b um\u011blou inteligenc\u00ed<\/em>, kter\u00fd pou\u017e\u00edv\u00e1 ChatGPT k z\u00e1pisu sv\u00e9ho k\u00f3du v segmentech - ka\u017ed\u00e9 spu\u0161t\u011bn\u00ed vytv\u00e1\u0159\u00ed m\u00edrn\u011b odli\u0161nou bin\u00e1rku, co\u017e mate tradi\u010dn\u00ed antivirov\u00e9 programy zalo\u017een\u00e9 na signatur\u00e1ch.[38]<\/a>. V\u00fdzkumn\u00edci v oblasti bezpe\u010dnosti tak\u00e9 demonstrovali polymorfn\u00ed d\u016fkazn\u00ed koncepty generovan\u00e9 um\u011blou inteligenc\u00ed, kter\u00e9 mohou obej\u00edt mnoho ochran koncov\u00fdch bod\u016f.[40]<\/a>.<\/p>\n\n\n\n

\u00dato\u010dn\u00edci nav\u00edc vyu\u017e\u00edvaj\u00ed um\u011blou inteligenci k vylad\u011bn\u00ed sv\u00fdch \u00fatok\u016f. doru\u010den\u00ed<\/em> malwaru. Um\u011bl\u00e1 inteligence dok\u00e1\u017ee inteligentn\u011b naskriptovat phishingov\u00e9 e-maily (jak bylo pops\u00e1no), kter\u00e9 obsahuj\u00ed odkazy na malware. M\u016f\u017ee tak\u00e9 pomoci s v\u00fdvojem exploit\u016f - nap\u0159. pomoc\u00ed AI naj\u00edt nov\u00e9 zranitelnosti nebo optimalizovat shellcode. Akt\u00e9\u0159i z \u0159ad n\u00e1rodn\u00edch st\u00e1t\u016f \u00fadajn\u011b vyu\u017e\u00edvaj\u00ed pokro\u010dil\u00e9 modely AI, kter\u00e9 jim pom\u00e1haj\u00ed p\u0159i odhalov\u00e1n\u00ed exploit\u016f nult\u00e9ho dne a v\u00fdvoji malwaru na m\u00edru c\u00edlov\u00fdm skupin\u00e1m.[41]<\/a>. V\u0161echny tyto trendy znamenaj\u00ed, \u017ee malware v roce 2025 bude skryt\u011bj\u0161\u00ed a p\u0159izp\u016fsobiv\u011bj\u0161\u00ed. \u010casto je \"spoluvytv\u00e1\u0159eny\" s um\u011blou inteligenc\u00ed<\/strong>, co\u017e zt\u011b\u017euje jeho odhalen\u00ed pomoc\u00ed b\u011b\u017en\u00fdch pravidel.<\/p>\n\n\n\n

Obrann\u00e1 opat\u0159en\u00ed - AI vs. AI v obran\u011b proti malwaru:<\/strong> Obrana proti malwaru vytvo\u0159en\u00e9mu um\u011blou inteligenc\u00ed vy\u017eaduje kombinaci pokro\u010dil\u00e9 detekce a anal\u00fdzy na stran\u011b obrany. Mnoho organizac\u00ed roz\u0161i\u0159uje sv\u00e9 ochrana koncov\u00fdch bod\u016f a EDR (Endpoint Detection & Response)<\/strong> s modely AI\/ML, kter\u00e9 hledaj\u00ed vzorce chov\u00e1n\u00ed k\u00f3du generovan\u00e9ho um\u011blou inteligenc\u00ed. Nap\u0159\u00edklad n\u00e1hl\u00e9 transformace k\u00f3du na hostitelsk\u00e9m po\u010d\u00edta\u010di nebo neobvykl\u00e9 vzory vol\u00e1n\u00ed rozhran\u00ed API mohou nazna\u010dovat n\u011bco jako regeneraci PROMPTFLUX. Podobn\u011b m\u016f\u017ee monitorov\u00e1n\u00ed s\u00edt\u011b zachytit anom\u00e1lie, jako je malware, kter\u00fd se obrac\u00ed na slu\u017eby AI (co\u017e nen\u00ed \"norm\u00e1ln\u00ed\" pro u\u017eivatelsk\u00e9 aplikace). Prodejci tr\u00e9nuj\u00ed detektory zalo\u017een\u00e9 na ML. rodiny<\/em> dosud identifikovan\u00e9ho malwaru s podporou um\u011bl\u00e9 inteligence, co\u017e zlep\u0161uje rozpozn\u00e1v\u00e1n\u00ed t\u011bchto nov\u00fdch hrozeb.<\/p>\n\n\n\n

Jedn\u00edm z nov\u011b vznikaj\u00edc\u00edch \u0159e\u0161en\u00ed je integrovan\u00e9 skenov\u00e1n\u00ed obsahu um\u011blou inteligenc\u00ed do v\u00fdvojov\u00fdch a sestavovac\u00edch proces\u016f.<\/strong>. To znamen\u00e1 pou\u017eit\u00ed detektor\u016f \u0159\u00edzen\u00fdch um\u011blou inteligenc\u00ed k anal\u00fdze skript\u016f, sestaven\u00ed softwaru nebo dokonce zm\u011bn konfigurace na \u0161kodliv\u00fd obsah nebo obsah generovan\u00fd um\u011blou inteligenc\u00ed. Nap\u0159, Detektor TruthScan v re\u00e1ln\u00e9m \u010dase<\/strong><\/a> m\u016f\u017ee b\u00fdt nasazena nejen na text - jej\u00ed multimod\u00e1ln\u00ed anal\u00fdza m\u016f\u017ee potenci\u00e1ln\u011b ozna\u010dit podez\u0159el\u00fd k\u00f3d nebo konfigura\u010dn\u00ed soubory t\u00edm, \u017ee rozpozn\u00e1, zda byly vytvo\u0159eny strojov\u011b s obfuska\u010dn\u00edmi vzory.[42]<\/a>[43]<\/a>. V\u00fdvojov\u00e9 t\u00fdmy a MSSP za\u010d\u00ednaj\u00ed skenovat skripty infrastruktury jako k\u00f3du, protokoly PowerShellu a dal\u0161\u00ed artefakty, aby na\u0161li zn\u00e1mky segment\u016f napsan\u00fdch um\u011blou inteligenc\u00ed, kter\u00e9 by mohly nazna\u010dovat, \u017ee je m\u00e1 na sv\u011bdom\u00ed \u00fato\u010dn\u00edk. I kdy\u017e je tato oblast v po\u010d\u00e1tc\u00edch, je slibn\u00e1: v jednom p\u0159\u00edpad\u011b bezpe\u010dnostn\u00ed t\u00fdm pou\u017eil detektor AI k zachycen\u00ed obfuskovan\u00e9ho souboru phishingov\u00e9 sady, kter\u00fd \"vypadal\" jako vytvo\u0159en\u00fd AI a skute\u010dn\u011b byl sou\u010d\u00e1st\u00ed \u00fatoku.[44]<\/a>. K\u00f3d souboru byl p\u0159\u00edli\u0161 slo\u017eit\u00fd a mnohomluvn\u00fd (znaky generov\u00e1n\u00ed um\u011blou inteligenc\u00ed) a kontrola obsahu um\u011blou inteligenc\u00ed potvrdila, \u017ee s vysokou pravd\u011bpodobnost\u00ed nebyl naps\u00e1n \u010dlov\u011bkem.[40]<\/a>.<\/p>\n\n\n\n

V neposledn\u00ed \u0159ad\u011b je z\u00e1sadn\u00ed sd\u00edlen\u00ed zpravodajsk\u00fdch informac\u00ed o hrozb\u00e1ch zam\u011b\u0159en\u00fdch na um\u011blou inteligenci. Kdy\u017e skupina Google GTIG zve\u0159ejn\u00ed podrobnosti o malwaru zalo\u017een\u00e9m na Prompt nebo kdy\u017e v\u00fdzkumn\u00edci ohl\u00e1s\u00ed nov\u00e9 techniky napaden\u00ed um\u011blou inteligenc\u00ed, organizace by je m\u011bly zahrnout do sv\u00e9ho detek\u010dn\u00edho in\u017een\u00fdrstv\u00ed. Anal\u00fdza chov\u00e1n\u00ed<\/strong> - hled\u00e1n\u00ed akc\u00ed, jako je spu\u0161t\u011bn\u00ed skriptu procesem, kter\u00fd p\u0159episuje k\u00f3d t\u00e9ho\u017e procesu, m\u016f\u017ee zachytit anom\u00e1lie, kter\u00e9 vykazuje malware s podporou um\u011bl\u00e9 inteligence. Stru\u010dn\u011b \u0159e\u010deno, obr\u00e1nci mus\u00ed bojovat s ohn\u011bm ohn\u011bm: nasadit Bezpe\u010dnostn\u00ed n\u00e1stroje \u0159\u00edzen\u00e9 um\u011blou inteligenc\u00ed<\/strong> kter\u00e9 se dok\u00e1\u017e\u00ed p\u0159izp\u016fsobit stejn\u011b rychle jako malware \u0159\u00edzen\u00fd um\u011blou inteligenc\u00ed. To zahrnuje v\u0161e od antivirov\u00fdch program\u016f s podporou AI a\u017e po anal\u00fdzu chov\u00e1n\u00ed u\u017eivatel\u016f, kter\u00e1 dok\u00e1\u017ee rozpoznat, kdy se \u00fa\u010det nebo syst\u00e9m za\u010dne chovat \"ne zcela lidsky\". P\u0159ijet\u00edm AI pro obranu mohou bezpe\u010dnostn\u00ed t\u00fdmy \u010delit v\u00fdhod\u00e1m rychlosti a rozsahu, kter\u00e9 AI poskytuje \u00fato\u010dn\u00edk\u016fm.<\/p>\n\n\n\n

Syntetick\u00e9 identity a podvodn\u00e1 sch\u00e9mata poh\u00e1n\u011bn\u00e1 um\u011blou inteligenc\u00ed<\/h2>\n\n\n\n

P\u0159esun od malwaru do sv\u011bta podvod\u016f: podvody se syntetickou identitou<\/strong> se s pomoc\u00ed generativn\u00ed um\u011bl\u00e9 inteligence velmi roz\u0161\u00ed\u0159ila. Syntetick\u00e9 podvody s identitou zahrnuj\u00ed vytv\u00e1\u0159en\u00ed fiktivn\u00edch osob kombinac\u00ed skute\u010dn\u00fdch a fale\u0161n\u00fdch \u00fadaj\u016f (nap\u0159. skute\u010dn\u00e9 SSN + fale\u0161n\u00e9 jm\u00e9no a doklady). Tyto \"frankensteinovsk\u00e9\" identity se pak pou\u017e\u00edvaj\u00ed k otev\u0159en\u00ed bankovn\u00edch \u00fa\u010dt\u016f, \u017e\u00e1dosti o \u00fav\u011br nebo k \u00fasp\u011b\u0161n\u00e9mu absolvov\u00e1n\u00ed kontrol KYC - co\u017e nakonec vede k nesplacen\u00fdm p\u016fj\u010dk\u00e1m nebo pran\u00ed \u0161pinav\u00fdch pen\u011bz. Ji\u017e d\u0159\u00edve se jednalo o jeden z nejrychleji rostouc\u00edch typ\u016f podvod\u016f a um\u011bl\u00e1 inteligence nyn\u00ed p\u0159ilila olej do ohn\u011b. Ztr\u00e1ty zp\u016fsoben\u00e9 podvody se syntetick\u00fdmi doklady toto\u017enosti v roce 2023 p\u0159ekro\u010dil $35 miliard.<\/strong>[45]<\/a>a na za\u010d\u00e1tku roku 2025 se podle n\u011bkter\u00fdch odhad\u016f t\u00e9m\u011b\u0159 25% v\u0161ech ztr\u00e1t z bankovn\u00edch podvod\u016f.<\/strong> byly zp\u016fsobeny syntetick\u00fdmi identitami[46]<\/a>. Analytici spole\u010dnosti Experian zjistili, \u017ee v\u00edce ne\u017e 80% podvod\u016f s nov\u00fdmi \u00fa\u010dty.<\/strong> na n\u011bkter\u00fdch trz\u00edch je nyn\u00ed spojena se syntetick\u00fdmi ID.[19]<\/a> - co\u017e je ohromuj\u00edc\u00ed statistika, kter\u00e1 dokl\u00e1d\u00e1, jak roz\u0161\u00ed\u0159en\u00fd je tento podvod.<\/p>\n\n\n\n

Generativn\u00ed um\u011bl\u00e1 inteligence umoc\u0148uje syntetick\u00e9 podvody n\u011bkolika zp\u016fsoby. Za prv\u00e9, um\u011bl\u00e1 inteligence umo\u017e\u0148uje trivi\u00e1ln\u00ed v\u00fdrobu \"chovatelsk\u00e9 dokumenty\"<\/em> a digit\u00e1ln\u00ed otisky pot\u0159ebn\u00e9 k prodeji fale\u0161n\u00e9 identity. V minulosti mohl podvodn\u00edk vytvo\u0159it ob\u010dansk\u00fd pr\u016fkaz ve Photoshopu nebo ru\u010dn\u011b vytvo\u0159it fale\u0161n\u00e9 \u00fa\u010dty za komun\u00e1ln\u00ed slu\u017eby. Nyn\u00ed existuj\u00ed n\u00e1stroje, kter\u00e9 umo\u017e\u0148uj\u00ed generovat autenticky vypadaj\u00edc\u00ed profilov\u00e9 fotografie, pr\u016fkazy toto\u017enosti, pasy, bankovn\u00ed v\u00fdpisy, dokonce i profily na soci\u00e1ln\u00edch s\u00edt\u00edch.<\/strong> pomoc\u00ed gener\u00e1tor\u016f obraz\u016f a jazykov\u00fdch model\u016f AI[47]<\/a>[48]<\/a>. Pomoc\u00ed um\u011bl\u00e9 inteligence lze nap\u0159\u00edklad vytvo\u0159it realistickou fotografii hlavy neexistuj\u00edc\u00ed osoby (co\u017e zabr\u00e1n\u00ed snadn\u00e9mu zp\u011btn\u00e9mu vyhled\u00e1v\u00e1n\u00ed) a vygenerovat odpov\u00eddaj\u00edc\u00ed fale\u0161n\u00fd \u0159idi\u010dsk\u00fd pr\u016fkaz s touto fotografi\u00ed. Um\u011bl\u00e1 inteligence m\u016f\u017ee tak\u00e9 simulovat \"\u017eivotn\u00ed znaky\" identity - nap\u0159. vytvo\u0159it z\u00e1znamy o syntetick\u00fdch rodi\u010d\u00edch, adresy nebo p\u0159\u00edsp\u011bvky na soci\u00e1ln\u00edch s\u00edt\u00edch.<\/strong> doplnit p\u0159\u00edb\u011bh[49]<\/a>. Bostonsk\u00fd Fed uvedl, \u017ee Gen AI m\u016f\u017ee dokonce produkovat deepfake audio a video fale\u0161n\u00e9 osoby<\/strong> - nap\u0159\u00edklad syntetick\u00fd u\u017eivatel by se mohl \"objevit\" ve videu s ov\u011b\u0159en\u00edm selfie, s unik\u00e1tn\u00edm obli\u010dejem a hlasem, a to v\u0161e vygenerovan\u00e9 um\u011blou inteligenc\u00ed.[50]<\/a>.<\/p>\n\n\n\n

Za druh\u00e9, AI pom\u00e1h\u00e1 podvodn\u00edk\u016fm zv\u00fd\u0161it rozsah<\/strong> jejich operace. Nam\u00edsto jednoho nebo dvou pad\u011blan\u00fdch identit najednou mohou programov\u011b generovat stovky nebo tis\u00edce kompletn\u00edch bal\u00ed\u010dk\u016f identit a automaticky hromadn\u011b vypl\u0148ovat \u017e\u00e1dosti o nov\u00e9 \u00fa\u010dty.[51]<\/a>[52]<\/a>. N\u011bkter\u00e9 slu\u017eby temn\u00e9ho webu \u00fa\u010dinn\u011b nab\u00edzej\u00ed \"Syntetick\u00e9 identity jako slu\u017eba\"<\/em>, kter\u00e9 pou\u017e\u00edvaj\u00ed automatizaci k chrlen\u00ed ov\u011b\u0159en\u00fdch \u00fa\u010dt\u016f k prodeji. Nap\u0159\u00edklad b\u011bhem program\u016f pomoci p\u0159i pandemii COVID-19 zlo\u010dinci pou\u017e\u00edvali boty s identitou vytvo\u0159enou um\u011blou inteligenc\u00ed, aby hromadn\u011b \u017e\u00e1dali o p\u016fj\u010dky a d\u00e1vky a zahltili syst\u00e9m fale\u0161n\u00fdmi \u017eadateli. Jak p\u0159edpokl\u00e1d\u00e1 spole\u010dnost Juniper Research, celosv\u011btov\u00e9 n\u00e1klady na podvody s digit\u00e1ln\u00ed identitou (poh\u00e1n\u011bn\u00e9 t\u011bmito taktikami) budou n\u00e1r\u016fst 153% do roku 2030<\/strong> ve srovn\u00e1n\u00ed s rokem 2025[53]<\/a>.<\/p>\n\n\n\n

Obrann\u00e1 opat\u0159en\u00ed - ov\u011b\u0159ov\u00e1n\u00ed identity ve sv\u011bt\u011b um\u011bl\u00e9 inteligence:<\/strong> Tradi\u010dn\u00ed metody prokazov\u00e1n\u00ed toto\u017enosti maj\u00ed probl\u00e9my s pad\u011blky vytvo\u0159en\u00fdmi um\u011blou inteligenc\u00ed. Aby se p\u0159izp\u016fsobily, p\u0159ij\u00edmaj\u00ed organizace v\u00edcevrstv\u00e9 ov\u011b\u0159ov\u00e1n\u00ed identity a chov\u00e1n\u00ed<\/strong> pos\u00edlena um\u011blou inteligenc\u00ed. Kl\u00ed\u010dovou vrstvou je pokro\u010dil\u00e1 forenzn\u00ed anal\u00fdza dokument\u016f a obraz\u016f<\/strong>. Nap\u0159\u00edklad, Detektor obrazu s um\u011blou inteligenc\u00ed TruthScan<\/strong><\/a> a Detektor fale\u0161n\u00fdch dokument\u016f<\/strong><\/a> umo\u017e\u0148uj\u00ed analyzovat nahran\u00e9 pr\u016fkazy toto\u017enosti, selfie nebo dokumenty, zda neobsahuj\u00ed zn\u00e1mky synt\u00e9zy nebo manipulace. Tyto n\u00e1stroje zkoumaj\u00ed artefakty na \u00farovni pixel\u016f, nesrovnalosti v osv\u011btlen\u00ed a metadata, aby ur\u010dily, zda je obr\u00e1zek vytvo\u0159en\u00fd um\u011blou inteligenc\u00ed nebo zmanipulovan\u00fd. Mohou zachytit jemn\u00e9 n\u00e1znaky - nap\u0159\u00edklad shodn\u00e9 vzory pozad\u00ed z fotografi\u00ed generovan\u00fdch GAN nebo p\u00edsma a rozestupy na pr\u016fkazu toto\u017enosti, kter\u00e9 neodpov\u00eddaj\u00ed \u017e\u00e1dn\u00e9 zn\u00e1m\u00e9 vl\u00e1dn\u00ed \u0161ablon\u011b. Nasazen\u00edm takov\u00fdch detektor\u016f p\u0159i n\u00e1stupu do zam\u011bstn\u00e1n\u00ed mohou banky automaticky ozna\u010dit \u0159idi\u010dsk\u00fd pr\u016fkaz nebo selfie \u017eadatele, pokud je pravd\u011bpodobn\u011b vytvo\u0159en um\u011blou inteligenc\u00ed (nap\u0159\u00edklad syst\u00e9m TruthScan by ozna\u010dil fale\u0161n\u00fd vojensk\u00fd pr\u016fkaz pou\u017eit\u00fd v p\u0159\u00edpadu phishingu Kimsuky APT[5]<\/a>). Podle tiskov\u00e9 zpr\u00e1vy spole\u010dnosti TruthScan pou\u017e\u00edvaj\u00ed jej\u00ed platformu finan\u010dn\u00ed instituce k ov\u011b\u0159ov\u00e1n\u00ed pravosti dokument\u016f ve velk\u00e9m m\u011b\u0159\u00edtku a k identifikaci fale\u0161n\u00fdch dokument\u016f s extr\u00e9mn\u011b vysokou p\u0159esnost\u00ed.[54]<\/a>.<\/p>\n\n\n\n

Dal\u0161\u00ed vrstvou je behavior\u00e1ln\u00ed anal\u00fdza<\/strong> a k\u0159\u00ed\u017eov\u00e9 kontroly. Skute\u010dn\u00e9 identity maj\u00ed hloubku - dlouholetou historii, ve\u0159ejn\u00e9 z\u00e1znamy, aktivity na soci\u00e1ln\u00edch s\u00edt\u00edch atd. Identity generovan\u00e9 um\u011blou inteligenc\u00ed, a\u0165 u\u017e jsou jakkoli vybrou\u0161en\u00e9, \u010dasto tyto hlubok\u00e9 ko\u0159eny postr\u00e1daj\u00ed. Banky a v\u011b\u0159itel\u00e9 nyn\u00ed pou\u017e\u00edvaj\u00ed AI ke k\u0159\u00ed\u017eov\u00e9mu porovn\u00e1v\u00e1n\u00ed \u00fadaj\u016f z \u017e\u00e1dost\u00ed s ve\u0159ejn\u00fdmi a vlastn\u00edmi \u00fadaji: Ukazuje telefonn\u00ed \u010d\u00edslo a e-mail t\u00e9to osoby historii pou\u017e\u00edv\u00e1n\u00ed? D\u00e1v\u00e1 geolokace za\u0159\u00edzen\u00ed nebo IP smysl? Zad\u00e1v\u00e1 \u00fadaje do formul\u00e1\u0159\u016f lidsk\u00fdm zp\u016fsobem, nebo je kop\u00edruje (jak to d\u011blaj\u00ed boti)? Modely um\u011bl\u00e9 inteligence lze vycvi\u010dit tak, aby rozli\u0161ovaly skute\u010dn\u00e9 chov\u00e1n\u00ed z\u00e1kazn\u00edk\u016f od syntetick\u00fdch vzorc\u016f. Feder\u00e1ln\u00ed rezervn\u00ed syst\u00e9m poznamenal, \u017ee \"syntetick\u00e9 identity jsou povrchn\u00ed a um\u011bl\u00e1 inteligence to vid\u00ed.\"<\/em> - Ov\u011b\u0159ov\u00e1n\u00ed na z\u00e1klad\u011b um\u011bl\u00e9 inteligence dok\u00e1\u017ee rychle vyhledat digit\u00e1ln\u00ed stopu identity a vyvolat poplach, pokud se nenajde \u017e\u00e1dn\u00e1 nebo jen mal\u00e1.[55]<\/a>. V praxi nyn\u00ed slu\u017eby pro ov\u011b\u0159ov\u00e1n\u00ed toto\u017enosti vyu\u017e\u00edvaj\u00ed um\u011blou inteligenci, kter\u00e1 kontroluje, zda se selfie u\u017eivatele shoduje s p\u0159edchoz\u00edmi fotografiemi (aby bylo mo\u017en\u00e9 odhalit z\u00e1m\u011bnu obli\u010deje), a b\u011bhem kontroly \u017eivosti dokonce vyz\u00fdv\u00e1 u\u017eivatele k n\u00e1hodn\u00fdm akc\u00edm (jako jsou konkr\u00e9tn\u00ed p\u00f3zy nebo fr\u00e1ze), co\u017e zt\u011b\u017euje spr\u00e1vnou reakci deepfakes.[56]<\/a>[57]<\/a>.<\/p>\n\n\n\n

Nakonec, pr\u016fb\u011b\u017en\u00e9 monitorov\u00e1n\u00ed<\/strong> chov\u00e1n\u00ed \u00fa\u010dtu po n\u00e1stupu pom\u00e1h\u00e1 zachytit syntetick\u00e9 \u00fa\u010dty, kter\u00e9 proklouzly. Proto\u017ee tyto \u00fa\u010dty nejsou v\u00e1z\u00e1ny na skute\u010dnou osobu, \u010dasto nakonec vyniknou jejich vzorce pou\u017e\u00edv\u00e1n\u00ed (nap\u0159. prov\u00e1d\u011bn\u00ed dokonale na\u010dasovan\u00fdch transakc\u00ed za \u00fa\u010delem vybudov\u00e1n\u00ed kreditu a jeho n\u00e1sledn\u00e9 vy\u010derp\u00e1n\u00ed). Monitorov\u00e1n\u00ed podvod\u016f \u0159\u00edzen\u00e9 um\u011blou inteligenc\u00ed (nap\u0159. platformy Sift nebo Feedzai) m\u016f\u017ee identifikovat anom\u00e1lie ve zp\u016fsobu pou\u017e\u00edv\u00e1n\u00ed \u00fa\u010dt\u016f a ozna\u010dit potenci\u00e1ln\u00ed syntetick\u00e9 \u00fa\u010dty ke kontrole. Souhrnn\u011b lze \u0159\u00edci, \u017ee boj proti podvod\u016fm s identitou s vyu\u017eit\u00edm um\u011bl\u00e9 inteligence vy\u017eaduje Prokazov\u00e1n\u00ed toto\u017enosti pomoc\u00ed um\u011bl\u00e9 inteligence<\/strong> - kombinuje forenzn\u00ed anal\u00fdzu dokument\u016f, biometrick\u00e9 kontroly, korelaci dat a anal\u00fdzu chov\u00e1n\u00ed. Dobrou zpr\u00e1vou je, \u017ee stejn\u00e9 pokroky v oblasti um\u011bl\u00e9 inteligence, kter\u00e9 umo\u017e\u0148uj\u00ed podvody, se pou\u017e\u00edvaj\u00ed i k jejich odhalov\u00e1n\u00ed. Spole\u010dnost TruthScan nap\u0159\u00edklad nab\u00edz\u00ed tzv. sada pro ov\u011b\u0159ov\u00e1n\u00ed toto\u017enosti<\/strong> kter\u00e1 integruje anal\u00fdzu textu, obrazu a hlasu pro prov\u011b\u0159ov\u00e1n\u00ed nov\u00fdch u\u017eivatel\u016f. D\u00edky vyu\u017eit\u00ed t\u011bchto n\u00e1stroj\u016f zaznamenala jedna z velk\u00fdch bank v\u00fdrazn\u00fd pokles \u00fasp\u011b\u0161n\u011b otev\u0159en\u00fdch syntetick\u00fdch \u00fa\u010dt\u016f, i kdy\u017e pr\u016fm\u011brn\u00e9 hodnoty v odv\u011btv\u00ed rostly. Z\u00e1vody ve zbrojen\u00ed pokra\u010duj\u00ed, ale obr\u00e1nci se u\u010d\u00ed rozpozn\u00e1vat slab\u00e9 \"digit\u00e1ln\u00ed znaky\" syntetick\u00e9ho \u00fa\u010dtu bez ohledu na to, jak dob\u0159e se um\u011bl\u00e1 inteligence sna\u017e\u00ed zam\u00e9st stopy.<\/p>\n\n\n\n

Integrace detekce um\u011bl\u00e9 inteligence nap\u0159\u00ed\u010d bezpe\u010dnostn\u00edm syst\u00e9mem<\/h2>\n\n\n\n

Prozkoumali jsme n\u011bkolik odli\u0161n\u00fdch oblast\u00ed hrozeb - phishing, deepfakes, malware, syntetick\u00e9 podvody - a v\u0161echny jsme doplnili o um\u011blou inteligenci. Je jasn\u00e9, \u017ee \u017e\u00e1dn\u00fd jedin\u00fd n\u00e1stroj nebo jednor\u00e1zov\u00e1 oprava<\/strong> vy\u0159e\u0161\u00ed tuto v\u00fdzvu. M\u00edsto toho podniky pot\u0159ebuj\u00ed komplexn\u00ed strategii, kter\u00e1 zakomponovat detekci a ov\u011b\u0159ov\u00e1n\u00ed pomoc\u00ed um\u011bl\u00e9 inteligence do ka\u017ed\u00e9 vrstvy.<\/strong> jejich z\u00e1sobn\u00edku kybernetick\u00e9 bezpe\u010dnosti. P\u0159\u00edstup mus\u00ed odr\u00e1\u017eet plochu \u00fatoku a pokr\u00fdvat e-mail, web, hlas, dokumenty, identitu a dal\u0161\u00ed oblasti. N\u00ed\u017ee uveden\u00fd diagram zn\u00e1zor\u0148uje, jak mohou organizace integrovat n\u00e1stroje pro detekci AI spole\u010dnosti TruthScan (a podobn\u00e1 \u0159e\u0161en\u00ed) nap\u0159\u00ed\u010d b\u011b\u017en\u00fdmi vrstvami podnikov\u00e9ho zabezpe\u010den\u00ed:<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

Integrace n\u00e1stroj\u016f pro detekci um\u011bl\u00e9 inteligence na r\u016fzn\u00fdch \u00farovn\u00edch bezpe\u010dnostn\u00edho bal\u00ed\u010dku - od e-mailov\u00fdch bran a call center a\u017e po ov\u011b\u0159ov\u00e1n\u00ed u\u017eivatel\u016f a ochranu koncov\u00fdch bod\u016f. Detekce obsahu AI (centrum) analyzuje text, obr\u00e1zky, zvuk a video v re\u00e1ln\u00e9m \u010dase a p\u0159isp\u00edv\u00e1 k bod\u016fm vynucen\u00ed, kter\u00e9 chr\u00e1n\u00ed aktiva a u\u017eivatele.<\/em><\/p>\n\n\n\n

V tomto modelu, multimod\u00e1ln\u00ed detektory AI funguj\u00ed jako centr\u00e1ln\u00ed mozek.<\/strong> kter\u00fd je propojen s r\u016fzn\u00fdmi bezpe\u010dnostn\u00edmi kontrolami:<\/p>\n\n\n\n