Чи підривають фейки довіру в Арізоні? Нове дослідження б'є на сполох

Звичайний дзвінок від вашого фінансового директора може стати моментом, коли довіра спрацює проти вас. Тільки уявіть, з чого починається порушення;

 “Можеш надіслати мені пароль адміністратора до обіду?’

Ти підкоряєшся так, ніби це єдиний спосіб пережити обід. Звучить розумно, адже це звичайнісінький робочий день. 

Але цей рутинний момент на роботі стане початком інциденту, пов'язаного з безпекою. Ризик тепер приходить, замаскований під буденність.

На початку 2024 року саме такий обман прийшов зі знайомим голосом і доброзичливим обличчям, коли фінансовий працівник у Гонконзі переводив гроші в готівку $25 мільйонів комусь, хто виглядає точнісінько як їхній справжній фінансовий директор. 

Ваше підприємство більше не може дозволити собі покладатися на добрі наміри. Ми ніби перебуваємо на перетині довіри та юридичної відповідальності. 

Отже, це тривожний сигнал, щоб привести свої ІТ-протоколи у відповідність до останнього законодавства щодо боротьби зі штучним інтелектом. Тому що хакери тепер говорять голосами, які ви звикли чути щодня.

Читайте далі і пориньте в нову правову еру штучного інтелекту, щоб дізнатися, як фальшиві сигнали і звуки можуть створювати реальну юридичну небезпеку. 

---

Основні висновки

• Довіра більше не є безпечною. Афера з фінансовим директором Гонконгу на суму $25 мільйонів довела, що фамільярність можна переконливо підробити.

• Законодавство зараз рухається швидше. Як тільки ШІ розгортається, юридична відповідальність слідує за підприємством. Тож неважливо, хто натиснув кнопку “впровадити”, закон вказує на вас.

• Синтетичні носії інформації настільки далеко пішли вперед, що покладатися лише на людські інстинкти - ризикована справа. Підприємствам потрібні системи виявлення ШІ в режимі реального часу, які сканують кожен електронний лист, всі відео- та голосові дзвінки, файли для спільного доступу на наявність ознак маніпуляцій.

---

Що таке фальшиве законодавство?

Глибоко фейкове законодавство більше не є абстрактним, або тим, що ми говоримо “належить лише в теорії”. Це не підлягає обговоренню юридична необхідність, яку навіть добре розвинені підприємства змушені прийняти.

Але що саме являє собою цей набір правил, які змушують робити складний вибір? Нічого заплутаного, просто карта, яка вам потрібна, щоб залишатися попереду в епоху штучного інтелекту. 

Оскільки кожен піксель містить приховану правду (або брехня.), уряди країн світу намагаються зупинити маніпуляції зі штучним інтелектом, які можуть призвести до краху компаній. Наприклад, уряди країн, що розвивають технології штучного інтелекту (ШІ). Закон ЄС про штучний інтелект тепер змушує підприємства маркувати вміст зі штучним інтелектом або ризикувати мільйонними штрафами. 

Тому що люди повинні знати, коли говорить штучний інтелект, а не жива людина.

Як Deepfake впливає на підприємства

Фішингові електронні листи та мережеві зломи? Старі новини!

Загроза тепер звучить і виглядає як ваш генеральний директор (а з урахуванням законодавства про глибокі фейки у сфері ШІ підприємства не можуть дозволити собі ігнорувати її). Лише одне “так” може коштувати мільйони. Це доводить, що довіра - це найбезрозсудніша інвестиція, яка може бути як скарб і пастка.

Але що, якщо брехня покаже свої руки першою? Так, глибоко фейкова брехня зустріла свого суперника: виявлення ШІ.

Зараз організації розгортають ШІ-датчики через внутрішні канали комунікації, бо бояться “генерального директора”, який ніколи не дзвонив.

І чесно кажучи, очікування порушення - це не що інше, як багатомільйонна авантюра.

Це більше схоже на вразливість, тому що кількість підроблених відео в наші дні просто випередила нашу природну здатність розпізнавати фейк. 

Сумна реальність полягає в тому, що різниці між BOSS і піксельним примарою більше немає, якщо тільки ви не використовуєте надійний відеодетектор зі штучним інтелектом яка відмовляється дозволити маріонетці розпоряджатися вашими зарплатами.

Юридичні ризики для підприємств

“Я не знав” не є дійсним правовим захистом у 2026 році (завдяки новим глибоко фальшиве законодавство).

Якщо ваша компанія розглядає закони про ШІ як “пропозиції”, судовий позов - це лише питання часу (цікавий факт: це лише спосіб зробити ваших юристів дуже, дуже багатими).

Тепер, щоб захистити вашу C-групу від помилки на мільйон $25 і не виходити із зали судових засідань, важливо зробити “Verify” новим улюбленим словом вашої компанії. 

Тому що, насправді, “Перевірити” - це єдина внутрішня перевірка, яка захищає бренд. 

Він гарантує, що ваші активи не стануть чиїмось чужим ROI, розриваючи ланцюг обману.

‘Перевірити’ - це не крилата фраза, це команда!

Пройшли ті часи, коли розпливчасті обіцянки та ввічливі запити були ефективними. Тепер мова йде про чіткі юридичні розписки та політику нульової толерантності до помилок.

У "The Указ президента США про штучний інтелект, не лише вимагає доброї волі, але й залишає за собою холодний, жорсткий паперовий слід, а законодавство про штучний інтелект лише додає більше зубців до цієї відповідальності.

Отже, коли ви наймаєте ШІ і робите його наріжним каменем своєї стратегії, метою має бути забезпечення його етичності. 

Тому що коли ваш автономний ШІ-агент порушить закон, суд не буде звинувачувати баг, він буде звинувачувати того, хто його розгорнув - а це означає, що ваше підприємство буде юридично на гачку. А це ніколи не закінчується добре.

Законодавство нової ери перерозподіляє відповідальність

“Людська помилка може трапитися, і жертва глибокого фейку не повинна подавати до суду”.”

Саме ці слова нового закону, як підкреслюється в останніх новинах про глибоко фальшиве законодавство, зараз привертають увагу до обману, а не до обманутих.

Гадаю, це інфраструктура, яка бере на себе удар.

Отже, якщо ваше підприємство все ще беззахисне, саме час вжити правильних запобіжних заходів, адже протистояти судді, який не вірить в “ой”, точно буде нелегко. 

Три критичні сфери правового впливу:

Наразі підприємства мають три ключові правові лінії захисту.

1- Право власності на збитки

У "The Закон про непокору А нове законодавство про боротьбу з підробками чітко покладає на компанії відповідальність за вплив їхніх технологій на подальше використання. Якщо, наприклад, ваша платформа уможливлює створення шкідливого глибокого підроблення, відповідальність ляже на вас.

2- Права контролю ідентичності

Багато хто Штати США переосмислюють питання про те, хто є власником образу людини. Ідентичність, без сумніву, є юридично захищеним активом, але в епоху штучного інтелекту та синтетичних медіа зловживання нею більше не є "сірою зоною", це пряме порушення закону. 

Таким чином, якщо будь-яке підприємство не поважає права на ідентичність, відповідальність лягає прямо на компанію в повній мірі.

3-Правова охорона слів та творів

Якщо хтось порушує права на торговельну марку та використовує захищений авторським правом матеріал без ліцензійних прав, подумайте про цивільно-правові санкції, які приземляться там, де це найболючіше - у ваших прибутках.

Виклики та вимоги до комплаєнсу

Існує тонка грань між тим, що є реальним, і тим, що тільки здається реальним. 

Комплаєнс існує для того, щоб ця межа не зникла - особливо в умовах, коли фейкові новини про законодавство демонструють, як швидко ШІ може обійти правила.

Але коли ця межа розмивається, шахрайство набуває доброзичливого вигляду. Щоб залишатися попереду, захищати активи та помічати витончену брехню, пильність має бути вашим стандартом.

Але чому саме комплаєнс спостерігає за тим, як ми падаємо? Це тому, що ШІ може так гладко розкручувати брехню, що вона здається більш реальною, ніж сама правда. 

Виклик 1: Фальшиве “Привіт”.”

Нас не обдуриш просунутими системами штучного інтелекту та кодом, нас обдурюють манерами.

Цілком очевидно, що брехня ШІ вдягається в усмішку, яку людина впізнає, тому працівники зазвичай дозволяють впізнаваності переважати над розумом. 

Від дружнього привітання в електронному листі до службової записки, яка здається звичайним робочим документом, ніхто не може звинуватити співробітників у тому, що вони втрачають пильність. 

Тому що ШІ здатен перетворити дружнє “Привіт” на високотехнологічну крадіжку, не викликаючи при цьому жодних підозр.

Виклик 2: Регуляторне відставання (старі закони, нова війна)

ШІ розвивається швидше ніж правила, покликані її контролювати.

Існуючі закони, безумовно, ефективно перевіряють ідентифікатори та логіни, але переконливі моделі? Бракує цифрової інтуїції та тяги.

Системи комплаєнсу і навіть глибоко підроблене законодавство не встигають за швидкістю обману, і це становить величезний ризик для організацій у всьому світі.

Оскільки підприємства несуть відповідальність за ризики, законодавство відстає від розвитку ШІ. 

Виклик 3: Перевантаженість людських суджень

Незалежно від того, наскільки натреновані люди, вони не можуть підтримувати досконалість мозку, який працює з 9 до 5 24/7. 

Звісно, співробітники ретельно перевіряють електронні листи, але якщо обсяг зростає, вигорання дозволяє крихітним помилкам розростатися. 

Отже, якщо підприємства продовжуватимуть покладатися на людську пильність, навіть один пропущений електронний лист може стати воротами для чогось смертельно небезпечного, наприклад:

• Руйнування репутації
• Юридичний головний біль
• Масштабна відповідальність

Вимога 1: Багаторівневий протокол безпеки

Людська та автоматизована валідація повинна проходити через повний спектр захисних заходів.

Звичайна валідація зазвичай включає прості перевірки форм і базові перехресні посилання, тому залишаються лазівки, які можуть скомпрометувати безпеку.

З іншого боку, просунута багаторівнева безпека вимагає багатоступеневих перевірок для кожної дії. 

Наприклад, при здійсненні великого грошового переказу кожен етап перед завершенням проходить біометричну, автоматизовану та людську перевірку. 

Таким чином, ніщо не прослизає непоміченим.

Вимога 2: Когнітивний годинник

Хто сказав, що тільки людські очі вловлюють фальшиві сигнали? Найкращий спосіб розпізнати синтетичні обличчя - дозволити гострому ШІ сканувати кожен сигнал.

Саме тут TruthScan Детектор штучного інтелекту в реальному часі є найкращим захисником комплаєнсу від будь-якого обману з боку ШІ. 

Оскільки справжній комплаєнс не є епізодичним явищем, детектор TruthScan працює в режимі реального часу 24/7, гарантуючи, що шахрайство ніколи не зможе закріпитися.

Він сканує електронні листи, документи та чат-платформи, щоб миттєво викривати синтетичні трюки та викривати фальшиві ідентичності. 

Вимога 3: Поведінковий спостерігач

Постановка запитань має бути за замовчуванням. 

Коли сумніви стають захисною звичкою, підприємства залишаються на два кроки попереду обману. 

Наприклад, коли високопосадовець надсилає термінове, нетипове прохання про переказ коштів, хвилина сумніву може врятувати мільйони.

Найкращі практики для забезпечення готовності підприємств

Підготовка - це все, особливо з глибоко фальшивим законодавством, яке робить відповідальність неминучою.

Найкращий захист - це команда, налаштована на постійну готовність. В епоху швидкої цифрової трансформації та постійних кіберзагроз лише пильні захищають активи та нейтралізують загрози. 

Оборона має бути непробивною. У 2024 році ціна самозаспокоєння сягнула рекордних висот. На початку 2024 року $4.88 мільйона втрат показує реальну ціну цифрової недбалості.

Отже, бути “підготовленим” означає не мати слабких ланок, кожна людина має бути навчена, а кожна система перевірена на збої. 

1- Регулярний аудит та оцінка ризиків

Якщо вона незвідана, вона не охороняється.

Підприємствам необхідно скласти карту ризиків і закрити кожну прогалину до того, як вона потрапить у заголовки газет. Галузі з високими ставками, такі як фінанси та охорона здоров'я, потребують аудиту щонайменше щокварталу, оскільки ризики не зупиняються на досягнутому.

Тоді ці перевірки допоможуть виявити кожну приховану вразливість. 

Якщо ваш захист не відповідає вимогам, визначте, наскільки ви далекі від стандартів ISO та NIST.

Не зупиняйтеся лише на аудиті, зосередьтеся на закономірностях і вивчайте тенденції, які показують, де саме ваша система є найбільш вразливою. 

Біжи!“Настільні вправи”, де керівництво імітує регуляторні штрафи та громадський контроль.

2- Розробка плану реагування на кризу

План, який не виконується, - це лише папір.

Справжній план реагування на кризу - це дорожня карта, яка перетворює невизначеність на скоординовані кроки. Це як покроковий захист від зривів. 

Вам потрібно визначити, хто що робить і коли з'являється перший сигнал про неприємності.

Чітко визначте структуру команди з управління кризовими ситуаціями (КУКС).

Створюйте готові шаблони для кожного сценарію спілкування. Наприклад, Реакція Airbnb під час туристичної кризи, спричиненої COVID-19 перетворив глобальний застій на стратегічну фору. 

Використовуючи заздалегідь створені ‘ньюзруми’ та ресурсні центри, вони гарантували, що кожне повідомлення буде своєчасним і достовірним. Це дозволило зберегти спокій стейкхолдерів, навіть коли світ змінився. 

3- Проактивна співпраця з юридичними та ІТ-командами

Ізоляція відділів не приносить нічого, окрім шкоди вашому підприємству.

Юридичний та ІТ-відділи нероздільні. Під час кризи обидва ці відділи повинні діяти як єдине ціле, повністю узгоджуючи свої зусилля для подолання ризиків, пов'язаних з глибоко фальшивим законодавством.

Юристи як мозок бізнесу

Юридичні команди повинні бути залучені до прийняття кожного рішення, щоб ваше підприємство ніколи не вчилося на власному досвіді. 

Експерти з права демонструють ваше лідерство там, де кожна юридична "сіра зона" може коштувати стосунків з клієнтами та партнерами. 

ІТ як основа

ІТ - це більше, ніж просто “технічна підтримка”, це хранителі операційної безперервності. Чим більше вони сканують, тим менше шахрайства проникає всередину.

Проактивна співпраця робить комплаєнс та ефективність партнерами, а це означає, що жодна цифрова атака не порушить операційну діяльність.

Профілактика краще, ніж лікуванняan_....Cure

Час підтверджує цей вислів.

Витрати на запобігання кризі становлять лише малу частку того, що потрібно для ліквідації її наслідків. Ціна відновлення завжди набагато вища і більша, ніж може витримати будь-який бюджет.

1- Активний захист

Вразливості необхідно усунути до того, як збитки зростуть. Незалежно від того, чи йдеться про ланцюжок поставок, кібербезпеку або цілісність даних, найрозумнішою стратегією є усунення недоліків до того, як вони стануть причиною збою.

2- Фінансування та розподіл сил

Далекоглядні організації надають перевагу захисту перед тим, щоб платити більше за виправлення криз, які можна було б зупинити за допомогою підготовки. 

Наприклад, Maersk, світовий судноплавний гігант, постраждав від $300 мільйонів збитків у 2017 році через один системний збій. 

Пізніше компанія витратила мільйони на перевстановлення тисяч машин, включаючи 4 000 серверів і 45 000 ПК, всього за десять днів, щоб уникнути занурення свого ланцюжка поставок у хаос.

Заключні думки

Готовність підприємства - це єдиний спосіб бути на два кроки попереду наступного обману з використанням штучного інтелекту. 

Оскільки технології глибокого підроблення розмивають межі між реальністю та фейком, виживають лише підготовлені. Дотримання законів про боротьбу з фейками, таких як Закон ЄС про штучний інтелект або Указ президента США про штучний інтелект, - це не просто формальність, це ваш захист від маніпуляцій.

Інтегруючи достовірні інструменти для виявлення ШІ в реальному часі, відеодетектори, та безперервне навчання співробітників, ви перетворюєте обережність на свій найкращий захист від обману.