Чому ручний перегляд зображень не спрацьовує в масштабах підприємства і що робити натомість

Не дивно, що компанії та бренди з тисячами користувачів завалені зображеннями рахунків-фактур і квитанцій. Адже їм доводиться перевіряти автентичність, перш ніж відшкодовувати або виплачувати кошти своїм клієнтам.

Однак перегляд кожного зображення вручну є досить складним завданням, особливо зважаючи на те, що деякі з цих зображень були створені штучним інтелектом, який може обдурити навіть найдосвідченіших ручних рецензентів.

У випадку, коли через ручну перевірку проходить десяток або більше фальшивих квитанцій, це може коштувати вашій компанії тисячі.

Отже, яке найкраще рішення для цього? Це корпоративний детектор зображень зі штучним інтелектом.

Давайте розберемося в деталях нижче.

---

Основні висновки

• Ручний перегляд зображень (MIR) створює величезні операційні перешкоди, оскільки людина може обробити лише кілька сотень зображень на годину, тоді як підприємства часто мають справу з десятками тисяч зображень щодня.

• Масштабування ручних команд є фінансово невигідним через високі витрати на наймання та навчання, а також ризик “зниження пильності”, коли точність людини значно падає вже через 30 хвилин.

• Покладаючись лише на людей, компанії наражаються на масове шахрайство, оскільки складні підробки та фальшиві квитанції, створені штучним інтелектом, можуть легко обдурити навіть найдосконаліших ручних рецензентів.

• Неможливість автоматизувати модерацію зображень призводить до серйозних бізнес-ризиків, включаючи багатомільйонні штрафи, відмову рекламодавців через проблеми з безпекою бренду та високий рівень вигорання працівників.

• TruthScan пропонує масштабовану альтернативу, використовуючи штучний інтелект для обробки зображень менш ніж за дві секунди з точністю 99%, що дозволяє підприємствам обробляти великі робочі процеси без затримок, пов'язаних з ручною перевіркою.

• Інтегрувавши високопродуктивний інструмент, такий як TruthScan, компанії можуть автоматизувати рутинне виявлення та зберегти людський досвід для найскладніших крайніх випадків і нюансів апеляцій.

---

Що таке ручний перегляд зображень в корпоративному середовищі?

Ручний аналіз зображень (MIR) на підприємствах - це процес безпеки, керований людиною, за допомогою якого аналітики оцінюють візуальні ресурси відповідно до формальних організаційних політик, нормативних вимог і рівнів толерантності до ризиків.

На основі цього аналізу рецензенти можуть вирішити зробити одне з наступних дій:

• Підтверджую, 
• Прапор, 
• Відхилити, або 
• Збільшити вміст.

У випадку ручного перегляду зображень, він в першу чергу зосереджується на відсіюванні невідповідних користувацький контент, перевіряючи відповідність вимогам, захищаючи цілісність бренду та зменшуючи юридичні та репутаційні ризики.

Однак ручний перегляд створює вузькі місця, знижуючи ефективність вашого бізнесу, тим самим зупиняючи зусилля з масштабування.

Чому ручний перегляд зображень не справляється з масштабуванням

Ручний перегляд зображень незамінний у ситуаціях з високими ставками на підприємствах, які повинні ретельно перевіряти шахрайські квитанції.

На жаль, ручний перегляд не пристосований до масштабування зі збільшенням обсягу обробки зображень. На цьому етапі підприємства стикаються з нестійким вузьким місцем. 

Потім система, яка раніше працювала для десятків переглядів зображень на тиждень, починає катастрофічно давати збої, коли командам потрібно переглядати тисячі зображень щодня.

Це те, що відбувається в масштабі:

1. Людина-рецензент може обробити лише від 100 до 300 зображень на годину, і це щедро. У масштабах підприємства ви отримуєте понад 10 000 зображень щодня. У такому випадку вам знадобляться сотні рецензентів на повний робочий день, що буде непідйомним операційним навантаженням. Насправді, за меншої кількості рецензентів черги на перевірку зростають швидше, ніж ваша команда може впоратися, створюючи затримки, які можуть тривати від кількох годин до кількох днів або навіть тижнів.
   
2. Навчання нового рецензента займає тижні, і це збільшує ваші загальні витрати, коли вам доводиться наймати, навчати та утримувати його.
   
3. Люди-рецензенти не ідеальні і схильні до помилок. Ці помилки збільшуються, коли вони втомлюються від щоденного бомбардування сотнями зображень. Один і той самий аналітик може схвалити зображення одного дня і відхилити схоже наступного. Таким чином, у масштабі, втома рецензента призведе до непослідовних рішень і відхилень у дотриманні вимог.
   
4. Хоча людський фактор важливий для оцінювання ризиків, покладання лише на людину може завадити вашій корпоративній системі розпізнавання зображень зі штучним інтелектом збирати метадані та шаблони, які могли б допомогти їй краще навчатися. Це призведе до дороговартісної залежності від ручної роботи.
   
5. Крім того, генеративний ШІ погіршив ситуацію для підприємств. З 2023 року, Глибокі фейки, згенеровані штучним інтелектом вимагали набагато повільнішої та ретельнішої перевірки. Інакше це могло б коштувати від тисяч до мільйонів доларів, як у випадку з фінансовим працівником гонконгського офісу Arup. Цього працівника обманом змусили переказати шахраям $25 мільйонів доларів через підробку відео у 2024 році.
   
6. Компанії, в яких працює понад 50 ручних рецензентів, ризикують знизити рівень координації та узгодженості дій між командами. На цьому етапі ви починаєте розглядати дрейф політики як основний комплаєнс-ризик.

Основні обмеження ручного перегляду зображень

Безсумнівно, люди-рецензенти необхідні для розуміння культурних нюансів і контексту. Однак ми зазначили, що швидкість завантаження даних у поєднанні з фізіологічними обмеженнями людського мозку не може бути збільшена.

Це створює наступні обмеження для вашого підприємства:

1. Неможливість масштабування з обсягом

Зазвичай, щоб переглянути вдвічі більше зображень, потрібно вдвічі більше людей. Ця модель ламається під вагою сучасного інтернет-трафіку.

Візьмемо для прикладу Instagram. Лише його користувачі завантажують понад 95 мільйонів фотографій та відео за день. А якщо ми подивимося на YouTube, то його творці також завантажують 500 годин відео щохвилини.

Виходячи з цих даних, команда з 10 000 ручних рецензентів, які працюють безперервно, фізично не може переглянути кожен фрагмент контенту з ефективністю 100%.

Це призвело до необхідності покладатися на налаштування постмодерації, які дозволяють шкідливому контенту залишатися в мережі довше, перш ніж він буде видалений.

2. Зниження пильності та рівень помилок

Люди еволюційно погано пристосовані до повторюваного, високошвидкісного ручного візуального сканування. Когнітивна психологія навіть називає це зниження пильності.

Це швидке зниження здатності виявляти сигнали з плином часу.

Крім того, дослідження показують, що здатність рецензента точно виявляти помилки значно знижується після 15-30 хвилин безперервного моніторингу.

Усе це призводить до когнітивної втоми, яка знижує ефективність.

3. Вплив на психічне здоров'я

Facebook погодилася виплатити $52 мільйони у 2020 році модераторам контенту, у яких розвинувся ПТСР під час виконання службових обов'язків.

Цей випадок є одним із багатьох, які доводять, що ручні рецензенти, особливо ті, які часто переглядають контент, що містить насильство, експлуатацію дітей та кров, можуть зіткнутися з високим рівнем вигорання та психологічною травмою, що погіршує якість їхньої роботи та коштує підприємству грошей.

4. Відсутність реагування в режимі реального часу

Ручний перегляд у масштабі підприємства не може працювати для відповідей у реальному часі. Помилка проявляється, коли людина витягує зображення з черги для перегляду.

До того часу, як людина прийде до рішення, контент може бути вже переглянутий тисячами користувачів.

Прикладом може слугувати напад у Крайстчерчі у 2019 році, який транслювався в прямому ефірі. Терористична атака в Крайстчерчі відео в прямому ефірі було переглянуто 4 000 разів і поширено зі швидкістю один раз на секунду, перш ніж його видалила команда модераторів контенту.

Очевидно, що черги ручної перевірки просто не можуть рухатися достатньо швидко, щоб зупинити віруси шкідливих і небезпечних програм. Зображення, згенеровані штучним інтелектом як тільки вони потрапляють в екосистему.

5. Обмеження щодо навчання та експертизи

Багато сфер, пов'язаних з переглядом зображень, залежать від висококваліфікованого персоналу. Процес навчання є довгим, а нестача кадрів є поширеним явищем. На практиці, суто ручне рецензування важко підтримувати у великих масштабах.

Ризики для бізнесу та комплаєнсу, пов'язані з ручною перевіркою

Хоча операційні обмеження ручного перегляду створюють вузькі місця, ручний перегляд, який не виявляє шкідливого вмісту або виявляє його занадто повільно, може призвести до наступних наслідків:

Регуляторні штрафи

Уряди переходять від саморегулювання до суворих правових рамок для підприємств, які працюють з візуальним контентом.

Наприклад, у розділі Закон Європейського Союзу про цифрові послуги (DSA), Дуже великим онлайн-платформам (VLOP) загрожують штрафи в розмірі до 61 трлн. доларів США від їхнього річного світового обороту за нездатність адекватно боротися з нелегальним контентом.

Ви можете собі уявити, що для компанії розміром з "Мета" це мільярди доларів. Як наслідок, ручна перевірка є надто повільною і не може гарантувати рівень відповідності, який вимагають нові закони.

Безпека бренду

Бренд, який не може стримувати шкідливі зображення та контент, стикається з проблемами з боку рекламодавців. Рекламодавці починають проявляти нульову толерантність до того, що їхні бренди з'являються поряд з NSFW, ненависницькими або Сміття штучного інтелекту..

Згідно з дослідженням 2024 року, проведеним Interactive Advertising Bureau (IAB) та Integral Ad Science (IAS), 51% споживачів, швидше за все, припинять користуватися брендом, який з'являється поруч із небажаним контентом.

У світлі цього, ручному перегляду не вистачає метаданих і контекстних можливостей, щоб забезпечити велику безпеку бренду в масштабі. Це може призвести до негайної втрати доходу, коли трапляються помилки.

Порушення конфіденційності даних

Ручне рецензування також вимагає від користувачів надсилати свої зображення, які часто можуть бути приватними або чутливими. 

Іноді сторонні центри аутсорсингу бізнес-процесів (BPO) або внутрішні співробітники мають доступ до цих необроблених даних користувачів. Якщо не керувати ними належним чином, ручна перевірка може стати джерелом серйозного витоку даних і порушення конфіденційності.

Нестійкий прибуток

У міру масштабування вашої корпоративної платформи ви очікуєте отримувати більше прибутку.

Однак, коли витрати на ручну перевірку зростають так само, як і дохід, або навіть швидше, це завадить вашій компанії досягти прибутку, який зазвичай забезпечує платформа модерації зображень зі штучним інтелектом.

Міграція користувачів та токсичність спільноти

Gartner прогнозує, що до 2025 року 50% компаній будуть змушені долати “кризу бренду”, пов'язану з токсичністю на своїх платформах, що безпосередньо вплине на рівень утримання користувачів.

Це стає все більш актуальним, оскільки користувачі таких платформ, як X і TikTok, наполягають на кращому дотриманні рекомендацій спільноти.

Це призведе до зростання апатії користувачів, якщо підприємства продовжуватимуть покладатися на ручну перевірку, оскільки черги на перевірку будуть переповнюватися, а шкідливий контент залишатиметься в мережі довше. Така токсичність погіршує користувацький досвід, змушуючи користувачів відмовлятися від платформи на користь безпечніших конкурентів.

Чому підприємства переходять на автоматизовану модерацію зображень

Для керівників підприємств перехід до автоматизованого виявлення іміджевих ризиків - це питання виживання.

Коли ви маєте справу з мільйонами завантажених квитанцій як організація електронної комерції, вам знадобиться детектор підроблених чеків, щоб тримати все під контролем.

Це причини, через які підприємства переїжджають:

1. ШІ забезпечує детерміновану послідовність. Якщо у вівторок ви завантажите в модель те саме зображення, що й у понеділок, ви отримаєте той самий результат. Ця стабільність необхідна для дотримання чітких правил спільноти та збереження довіри рекламодавців.
   
2. Для категорій з тривожним візуальним контентом, як-от самоушкодження чи насильство, постійний вплив може вплинути на людей-рецензентів. Автоматизувавши виявлення очевидного спаму та насильства, модератори звільняються від травматичної роботи, пов'язаної з розглядом складних апеляцій.
   
3. Автоматизовані моделі обробляють зображення за мілісекунди. Отже, інтегруючи Розпізнавання зображень зі штучним інтелектом, підприємства можуть запропонувати виявлення в режимі реального часу. Така оперативність підвищує утримання користувачів і коефіцієнт конверсії.
   
4. Ручна перевірка коштує дорого в масштабах і з'їдає прибуток. Однак завдяки автоматизації підприємства можуть усунути відставання, позбутися втоми людей, оптимізувати модерацію зображень для різних локацій і легко повернути свої інвестиції.
   
5. Автоматизована модерація може генерувати структуровані журнали, оцінки моделей, часові мітки, перевизначення рецензентів і траєкторії прийняття рішень. Це значно полегшує підтримку відповідності, внутрішнього контролю якості та звітності для клієнтів, ніж покладатися на розрізнені ручні нотатки.

Що робити замість цього: Масштабований підхід на основі штучного інтелекту

Альтернативою армії людей, які вручну переглядають кожне зображення, не є повне вилучення людей.

Ви повинні розглядати ШІ як помічника в процесі модерації та використовувати його ШІ-перевірка зображень для обробки процесу виявлення, що робить його швидшим, масштабованішим і значно менш схильним до людських помилок.

Використовуйте автоматизований аналіз зображень як першу лінію захисту

Найнадійніші автоматизовані системи розпізнавання зображень не вимагають від людини переглядати все підряд. Ви можете заздалегідь налаштувати штучний інтелект на обробку великих обсягів даних і прийняття рішень з високим ступенем достовірності.

Практична перша лінія захисту виглядає так:

• Пропускайте кожне зображення через автоматичну класифікацію під час завантаження, щоб виявити ключові категорії політики.
• Класифікуйте зображення на основі порогів довіри, таких як автоматичний дозвіл, автоматичне блокування та ескалація до перевірки людиною.
• Використовуйте робочий процес "людина в циклі" для крайніх випадків і забезпечення якості.
• Враховуйте результати рецензування в тренувальних даних і налаштуваннях порогових значень, щоб з часом покращити продуктивність.
• Ставтеся до модерації як до робочої функції, а не як до одноразової, яку ви відключаєте через деякий час.
• Додайте захист від тактик ухилення, які користувачі можуть використовувати для обходу системи. Крім того, завжди оновлюйте свої системи у разі швидкої зміни політики та появи кращих продуктів для генерації зображень зі штучним інтелектом.

Як TruthScan вирішує проблему перевірки зображень у масштабах підприємства

Сьогодні організації стикаються з вибухом зображень, згенерованих і маніпульованих штучним інтелектом, починаючи від квитанцій, наданих клієнтами, і закінчуючи перевіркою особистих даних і контентом у соціальних мережах.

Ручна перевірка в таких масштабах неможлива, а складність Генератори зображень зі штучним інтелектом як DALL-E та Midjourney, робить ручний огляд ненадійним.

TruthScan пропонує підприємствам вихід із ситуації з точністю виявлення 97,5% для зображень Midjourney і 96,71% для зображень DALL-E. Більше того, незалежні порівняння показують рівень точності 99%.

Ці результати зміцнили позиції TruthScan як комплексної платформи модерації зображень корпоративного рівня, яка захищає ваші організації від складних загроз, що генеруються штучним інтелектом.

Ось як він може допомогти вашому підприємству в масштабах:

• TruthScan має швидкість обробки менше 2 секунд, що є критично важливим для підприємств, які обробляють тисячі й мільйони зображень. Оптимізований конвеєр виявлення обробляє зображення за лічені секунди завдяки інфраструктурі корпоративного рівня.
• Він підтримує масову обробку для великих робочих процесів.
• Платформа пропонує бездоганну інтеграцію, підтримуючи автоматизовані робочі процеси та кастомні реалізації.
• Тепер це дозволяє організаціям вбудовувати виявлення зображень безпосередньо в існуючі конвеєри модерації контенту, обробку претензій тощо.
• Кожному фрагменту контенту присвоюється оцінка достовірності від 0-100%, що вказує на ймовірність того, що він був створений або підданий маніпуляціям зі сторони ШІ.

Поговоріть з TruthScan про безпечне масштабування огляду зображень

TruthScan готовий співпрацювати з вами і плавно масштабувати вашу систему виявлення зображень. Ви можете безпосередньо зв'язатися з TruthScan на їхній платформі, щоб інтегрувати їхню автоматизацію у свій робочий процес.

Підприємства, що працюють з TruthScan, отримують наступні можливості:

• Великі знижки за великі обсяги
• Розгортання на місці та в регіонах (Великобританія, ЄС та інші узгоджені місця)
• Найякісніші моделі на замовлення
• Індивідуальні інтеграції
• 24/7 спеціалізована підтримка
• Індивідуальний SLA
• Виділений менеджер по роботі з клієнтами

Ви не сплачуєте авансових платежів; навпаки, ви укладаєте договір з торговим агентом TruthScan, щоб отримати умови, які підходять саме для вашого бізнесу.

Крім того, у вас є шанс заробити до $100k в Партнерська програма використовуючи свої зв'язки, щоб запропонувати TruthScan брендам, які зазнають атак фейкового контенту та маніпуляцій зі штучним інтелектом.