Почему ручная проверка изображений не работает в масштабах предприятия и что делать вместо этого

Неудивительно, что компании и бренды с тысячами пользователей завалены изображениями счетов и квитанций. Ведь им приходится проверять их подлинность, прежде чем вернуть деньги или выплатить их своим клиентам.

Однако просматривать каждое изображение вручную очень утомительно, особенно если учесть, что некоторые из них были сгенерированы искусственным интеллектом, который обманет даже самых внимательных ручных рецензентов.

Если десяток или более поддельных квитанций пройдут ручную проверку, это может обойтись вашей компании в тысячи.

Что же является лучшим решением для этого? Это корпоративный детектор изображений с искусственным интеллектом.

Давайте разберемся в деталях ниже.

---

Основные выводы

• Ручной просмотр изображений (MIR) создает огромные узкие места в работе, поскольку человек может обрабатывать только несколько сотен изображений в час, в то время как предприятия часто имеют дело с десятками тысяч изображений ежедневно.

• Масштабирование команд, работающих вручную, финансово нецелесообразно из-за высоких затрат на наем и обучение персонала, а также риска “снижения бдительности”, когда точность работы человека значительно падает уже через 30 минут.

• Полагаясь только на людей, компании подвергают себя опасности массового мошенничества, поскольку сложные глубокие подделки и фальшивые квитанции, созданные искусственным интеллектом, могут легко обмануть даже самых тщательных ручных проверяющих.

• Неспособность автоматизировать модерацию изображений приводит к серьезным бизнес-рискам, включая многомиллионные штрафы от регулирующих органов, отказ рекламодателей от услуг из-за проблем с безопасностью бренда и высокую степень выгорания сотрудников.

• TruthScan предлагает масштабируемую альтернативу, используя искусственный интеллект для обработки изображений менее чем за две секунды с точностью 99%, что позволяет предприятиям обрабатывать большие объемы документов без задержек, связанных с ручным просмотром.

• Интегрировав такой высокопроизводительный инструмент, как TruthScan, компании могут автоматизировать рутинную работу по обнаружению и сохранить человеческий опыт для самых сложных случаев и тонких обращений.

---

Что такое ручная проверка изображений в корпоративных средах?

Ручная проверка изображений (Manual Image Review, MIR) в корпоративных системах - это процесс обеспечения безопасности, в ходе которого люди-аналитики оценивают визуальные активы на соответствие официальной политике организации, нормативным требованиям и уровням допустимого риска.

Проведя этот анализ, рецензенты могут принять решение о выполнении одного из следующих действий:

• Проверьте, 
• Флаг, 
• Отклонить, или 
• Эскалируйте содержимое.

В том случае, если просмотр изображений осуществляется вручную, он в первую очередь направлен на отсеивание неуместных пользовательский контент, подтверждение соответствия, защита целостности бренда, снижение юридических и репутационных рисков.

Однако ручная проверка создает узкие места, снижая эффективность вашего бизнеса и тем самым останавливая усилия по масштабированию.

Почему ручное рецензирование изображений приводит к сбоям при масштабировании

Ручной просмотр изображений незаменим в ситуациях с высокими ставками на предприятиях, где необходимо тщательно отсеивать фальшивые квитанции.

К сожалению, ручная проверка не рассчитана на масштабирование при увеличении объема обработки изображений. На этом этапе предприятия сталкиваются с неприемлемым узким местом. 

Система, которая работала при просмотре десятков изображений в неделю, начинает катастрофически отказывать, когда командам приходится просматривать тысячи изображений ежедневно.

Вот что происходит при масштабировании:

1. Человеческие рецензенты могут обрабатывать только от 100 до 300 изображений в час, и это еще очень щедро. В масштабах предприятия вы получаете более 10 000 изображений каждый день. В этом случае вам понадобятся сотни штатных рецензентов, что станет непосильной операционной нагрузкой. Более того, при меньшем количестве рецензентов очередь на рецензирование растет быстрее, чем может справиться ваша команда, создавая задержки, которые могут растянуться от нескольких часов до нескольких дней или даже недель.
   
2. Обучение нового сотрудника занимает несколько недель, а это увеличивает общие расходы на наем, обучение и удержание сотрудников.
   
3. Человеческие рецензенты не совершенны и склонны к ошибкам. Эти ошибки увеличиваются по мере того, как они устают от ежедневной бомбардировки сотнями изображений. Один и тот же аналитик может одобрить изображение в один день и отклонить аналогичное на следующий. Таким образом, в масштабах компании усталость рецензента приведет к непоследовательным решениям и нарушению нормативных требований.
   
4. Хотя человеческий фактор важен для оценки рисков, полагаясь исключительно на людей, ваша корпоративная система обнаружения изображений с искусственным интеллектом не сможет улавливать метаданные и закономерности, которые помогут ей лучше обучаться. Это приведет к тому, что вы окажетесь в дорогостоящей зависимости от ручного труда.
   
5. Кроме того, генеративный ИИ ухудшил положение предприятий. С 2023 года, Глубокие подделки, созданные искусственным интеллектом требовали гораздо более медленной и тщательной проверки. В противном случае это может стоить от тысяч до миллионов долларов, как это произошло с финансовым сотрудником гонконгского офиса Arup. Этого сотрудника обманом заставили перевести мошенникам $25 миллионов долларов. из-за подделки видео. в 2024 году.
   
6. Предприятия, в которых работают 50 с лишним ручных рецензентов, рискуют столкнуться с проблемой снижения уровня координации и согласия между командами. В этот момент вы начинаете рассматривать дрейф политики как серьезный риск, связанный с соблюдением нормативных требований.

Основные ограничения при ручном просмотре изображений

Несомненно, человеческие рецензенты важны для понимания культурных нюансов и контекста. Однако мы уже отмечали, что скорость загрузки данных в сочетании с физиологическими ограничениями человеческого мозга не может быть увеличена.

Это создает следующие ограничения для вашего предприятия:

1. Невозможность масштабирования в зависимости от объема

Как правило, чтобы просмотреть в два раза больше изображений, нужно в два раза больше людей. Эта модель ломается под тяжестью современного интернет-трафика.

В качестве яркого примера возьмем Instagram. Только его пользователи загружают более 95 миллионов фотографий и видео в день. А если мы посмотрим на YouTube, то его создатели также загружают 500 часов видео каждую минуту.

Исходя из этих данных, команда из 10 000 ручных рецензентов, работающих без перерыва, физически не может просматривать каждый фрагмент контента с эффективностью 100%.

Это привело к необходимости использования настроек постмодерации, которые позволяют вредоносному контенту оставаться в эфире в течение длительного времени, прежде чем на него обратят внимание.

2. Снижение бдительности и количество ошибок

Человек эволюционно не приспособлен к повторяющемуся, высокоскоростному ручному визуальному сканированию. Когнитивная психология даже называет это декрет бдительности.

Это быстрое снижение способности обнаруживать сигналы с течением времени.

Кроме того, исследования показывают, что способность рецензента точно выявлять ошибки значительно снижается после 15-30 минут непрерывного наблюдения.

Все это приводит к когнитивной усталости, которая снижает эффективность работы.

3. Влияние на психическое здоровье

Facebook согласилась выплатить $52 миллиона в рамках мирового соглашения от 2020 года модераторам контента, у которых во время работы развилось посттравматическое стрессовое расстройство.

Этот случай - один из многих, доказывающих, что ручные рецензенты, особенно те, кто часто просматривает контент, содержащий насилие, эксплуатацию детей и жестокость, могут столкнуться с сильным выгоранием и психологической травмой, что снижает качество их рецензий и стоит предприятию денег.

4. Отсутствие реагирования в режиме реального времени

Ручная проверка в масштабах предприятия не может работать для получения ответов в режиме реального времени. Ошибка проявляется к тому моменту, когда человек извлекает изображение из очереди для просмотра.

К тому моменту, когда человек примет решение, контент могут уже просмотреть тысячи пользователей.

В качестве примера можно привести теракт в Крайстчерче в 2019 году, который транслировался в прямом эфире. Сайт прямая трансляция видео его просмотрели 4 000 раз и перепостили со скоростью один раз в секунду, прежде чем он был удален командой модерации контента.

Очевидно, что очереди на ручное рецензирование просто не могут работать достаточно быстро, чтобы остановить вирусное распространение вредных и Изображения, созданные искусственным интеллектом как только они попадают в экосистему.

5. Ограничения в обучении и экспертизе

Многие области, связанные с просмотром изображений, зависят от высококвалифицированного персонала. Обучение персонала занимает много времени, а нехватка кадров - обычное дело. На практике это приводит к тому, что чисто ручной просмотр трудно поддерживать в масштабе.

Риски для бизнеса и соответствия нормативным требованиям, связанные с использованием ручного анализа

Хотя операционные ограничения ручного обзора создают узкие места, ручной обзор, не позволяющий выявить вредоносное содержимое или выявляющий его слишком медленно, может привести к следующим последствиям:

Регулирующие штрафы

Правительства переходят от саморегулирования к строгим правовым рамкам для предприятий, работающих с визуальным контентом.

Например, под Закон Европейского союза о цифровых услугах (DSA), Очень крупным онлайн-платформам (VLOP) грозят штрафы в размере до 6% от их годового глобального оборота за неспособность адекватно бороться с нелегальным контентом.

Вы можете себе представить, что для компании размером с Meta это миллиарды долларов. В результате ручная проверка слишком медленна и непоследовательна, чтобы гарантировать соответствие требованиям новых законов.

Безопасность бренда

Бренд, который не может удержать вредные изображения и контент на расстоянии, сталкивается с проблемами и со стороны рекламодателей. Рекламодатели начинают проявлять нетерпимость к тому, что их бренды появляются рядом с NSFW, ненавистными или ИИ-отстойник.

Согласно исследованию, проведенному в 2024 году компанией Бюро интерактивной рекламы (IAB) и Integral Ad Science (IAS), 51% потребителей, скорее всего, перестанут пользоваться брендом, который появляется рядом с неприемлемым контентом.

В свете этого при ручном просмотре не хватает метаданных и контекста, чтобы обеспечить высокую безопасность бренда в масштабе. Это может привести к немедленной потере прибыли при возникновении ошибок.

Нарушения конфиденциальности данных

Ручной просмотр также требует от пользователей отправки своих изображений, которые часто могут быть частными или конфиденциальными. 

Иногда доступ к этим необработанным данным пользователей имеют сторонние центры аутсорсинга бизнес-процессов (BPO) или внутренние сотрудники. Если не управлять ими должным образом, люди, занимающиеся ручной проверкой, могут стать источником крупной утечки данных и нарушения конфиденциальности.

Неустойчивая прибыль

По мере масштабирования корпоративной платформы вы рассчитываете получать все большую прибыль.

Однако если расходы на ручное рецензирование растут вровень с доходами или быстрее, это не позволит вашей компании получить прибыль, которую обычно обеспечивает платформа для модерации изображений с искусственным интеллектом.

Миграция пользователей и токсичность для общества

Gartner Согласно прогнозам, к 2025 году 50% компаний будут вынуждены преодолевать “кризис бренда”, связанный с токсичностью на их платформах, что напрямую повлияет на показатели удержания пользователей.

Это становится все более актуальным, поскольку пользователи таких платформ, как X и TikTok, настаивают на более строгом соблюдении правил сообщества.

Если предприятия будут продолжать полагаться на ручное рецензирование, это приведет к апатии пользователей, поскольку очереди на рецензирование будут затягиваться, а вредный контент будет дольше оставаться в сети. Такая токсичность ухудшает пользовательский опыт, заставляя пользователей покидать платформу в пользу более безопасных конкурентов.

Почему предприятия переходят на автоматическую модерацию изображений

Для руководителей предприятий переход к автоматизированному обнаружению рисков по изображениям - это вопрос выживания.

Когда вы имеете дело с миллионами загруженных квитанций, как организация электронной торговли, Чтобы не запутаться, вам понадобится детектор поддельных чеков.

Вот причины, по которым предприятия переезжают:

1. ИИ обеспечивает детерминированную последовательность. Если во вторник вы скормите модели то же изображение, что и в понедельник, вы получите тот же результат. Такая стабильность необходима для соблюдения четких правил сообщества и поддержания доверия рекламодателей.
   
2. В категориях с тревожным визуальным контентом, таким как самоповреждение или насилие, постоянное воздействие может негативно сказаться на рецензентах. Благодаря автоматизации обнаружения очевидного спама и насилия модераторы освобождаются от травмирующего обнаружения и могут обрабатывать сложные обращения.
   
3. Автоматические модели обрабатывают изображения за миллисекунды. Поэтому, интегрируя Обнаружение изображений с помощью искусственного интеллекта, Предприятия могут предложить обнаружение в режиме реального времени. Такая оперативность повышает уровень удержания пользователей и конверсии.
   
4. Ручное рецензирование дорого в масштабах компании и съедает прибыль. Однако с помощью автоматизации предприятия могут устранить отставание в работе, избавиться от человеческой усталости, оптимизировать модерацию изображений для разных мест и легко получить отдачу от своих инвестиций.
   
5. Автоматизированная модерация может генерировать структурированные журналы, оценки моделей, временные метки, отмены рецензентов и следы принятия решений. Это значительно упрощает поддержку соблюдения нормативных требований, внутреннего контроля качества и отчетности клиентов по сравнению с разрозненными ручными записями.

Что делать вместо этого: Масштабируемый подход, основанный на искусственном интеллекте

Альтернативой армии людей, вручную просматривающих каждое изображение, является не полное удаление людей.

Вы должны рассматривать ИИ как помощника в процессе модерации и использовать Проверка изображений AI для обработки процесса обнаружения, что делает его более быстрым, масштабируемым и значительно менее подверженным человеческим ошибкам.

Используйте автоматизированный анализ изображений в качестве первой линии обороны

Самые надежные автоматизированные системы обработки изображений не требуют, чтобы человек смотрел на все. Вы можете заранее настроить ИИ на обработку большого объема и принятие решений с высокой степенью достоверности.

Практическая первая линия обороны выглядит следующим образом:

• При загрузке каждое изображение проходит автоматическую классификацию для выявления ключевых категорий политики.
• Классифицируйте изображения на основе порогов доверия: авторазрешение, автоблокировка и передача на рассмотрение человеку.
• Используйте рабочий процесс с участием человека для решения крайних случаев и проверки качества.
• Результаты обзоров можно использовать для получения обучающих данных и настройки пороговых значений, чтобы со временем повысить производительность.
• Относитесь к модерации как к оперативной функции, а не как к одноразовой функции, которую вы через некоторое время отключаете.
• Добавьте средства защиты от тактик уклонения, которые пользователи могут использовать для обхода системы. Кроме того, всегда обновляйте свои системы в случае быстрого изменения политики и появления более совершенных продуктов для генерации изображений ИИ.

Как TruthScan решает проблему проверки изображений в масштабах предприятия

Сегодня организации сталкиваются с огромным количеством изображений, сгенерированных и обработанных искусственным интеллектом, начиная с квитанций, предоставленных клиентами, и заканчивая проверкой документов и контентом социальных сетей.

Ручное рецензирование в таких масштабах невозможно, а изощренность Генераторы изображений искусственного интеллекта как DALL-E и Midjourney, делает ручную рецензию ненадежной.

TruthScan предлагает предприятиям выход из положения, обеспечивая точность обнаружения 97,5% для изображений Midjourney и 96,71% для изображений DALL-E. Более того, независимые сравнения показали 99% корректности.

Эти результаты укрепили позиции TruthScan как комплексной платформы для модерации изображений с искусственным интеллектом корпоративного уровня, которая защищает ваши организации от сложных угроз, порождаемых искусственным интеллектом.

Вот следующие способы, которыми она может помочь вашему предприятию в масштабе:

• Скорость обработки TruthScan составляет менее 2 секунд, что очень важно для предприятий, обрабатывающих от тысяч до миллионов изображений. Оптимизированный конвейер обнаружения обрабатывает изображения за считанные секунды с помощью инфраструктуры корпоративного уровня.
• Он поддерживает массовую обработку для больших объемов работ.
• Платформа обеспечивает бесшовную интеграцию, поддерживая автоматизированные рабочие процессы и индивидуальные внедрения.
• Теперь организации могут встраивать функцию обнаружения изображений непосредственно в существующие конвейеры модерации контента, обработки претензий и т. д.
• Каждому фрагменту контента присваивается балл доверия от 0-100%, указывающий на вероятность того, что он был создан или обработан искусственным интеллектом.

Поговорите с TruthScan о безопасном масштабировании обзора изображений

Компания TruthScan готова сотрудничать с вами и плавно масштабировать процесс обнаружения изображений. Вы можете напрямую связаться с TruthScan на их платформе, чтобы интегрировать их автоматизацию в свой рабочий процесс.

Предприятия, работающие с TruthScan, получают следующие возможности:

• Большие скидки при больших объемах
• Развертывание на местах и в регионах (Великобритания, ЕС и другие регионы, с которыми ведутся переговоры)
• Модели высочайшего качества
• Пользовательские интеграции
• Круглосуточная специализированная поддержка
• Индивидуальный SLA
• Выделенный менеджер по работе с клиентами

Никаких предварительных затрат; вы сами договариваетесь с агентом по продажам TruthScan о заключении контракта, чтобы получить условия, подходящие именно вашему бизнесу.

Кроме того, у вас есть шанс заработать до $100 тысяч в Партнерская программа Используя свои связи, вы сможете предложить TruthScan брендам, которые подвергаются атакам со стороны deepfake и AI-манипулированного контента.