Как GPT-4o использует искусственный интеллект для борьбы с мошенничеством с использованием личных данных

Почему последний прорыв OpenAI стал новой головной болью каждого руководителя

Эксперимент, который сломал Интернет

В апреле 2025 года простой эксперимент в социальных сетях потряс весь мир кибербезопасности. Пользователи обнаружили, что GPT-4o от OpenAI может генерировать реалистичные поддельные карты Aadhaarнациональная идентификационная система Индии, охватывающая более 1,3 миллиарда человек. Всего за несколько часов социальные сети наводнили сгенерированные ИИ документы, удостоверяющие личность, в которых фигурируют все - от обычных граждан до таких общественных деятелей, как Сэм Альтман и Элон Маск.

Цифры были ужасающими. С момента своего выхода OpenAI GPT-4o уже создал более 700 миллионов изображений.

То, что началось как творческий эксперимент с портретами в стиле Studio Ghibli-, быстро переросло в нечто более серьезное. Пользователи начали делиться фотореалистичными макетами государственных удостоверений личности, с QR-кодами, официальным форматированием и сфабрикованными личными данными, которые выглядели тревожно достоверными.

Технология, стоящая за угрозой: Чем отличается GPT-4o

Новый класс искусственного интеллекта для генерации изображений

В отличие от DALL-E, GPT-4o встроен прямо в ChatGPT. Это дает ему новые возможности, но и создает новые риски.

Как признает OpenAI в своей официальной документации к системе: "Эти возможности, как по отдельности, так и в новых комбинациях, способны создать риски в ряде областей, причем так, как не могли предыдущие модели".

Проблема доступности

Демократизация технологии создания изображений создала то, что эксперты называют "идеальным штормом" для мошенничества с личными данными.

Во-первых, не требуется никаких технических навыков. Любой человек может создать поддельные документы, просто набрав запрос на естественном языке. Результаты получаются фотореалистичными, в точности соответствующими официальным макетам, шрифтам и дизайну.

Всего за несколько минут можно изготовить поддельные удостоверения личности в огромных масштабах. А поскольку технология работает в системах идентификации разных стран, угроза носит глобальный характер.

Проблемы с обучающими данными

Наибольшую тревогу вызывает вопрос об источниках данных. Пользователи задаются вопросом, откуда GPT-4o взяла обучающие данные для столь точного воспроизведения правительственных документов. Пользователи задаются вопросом, откуда модель взяла данные о фотографии Aadhaar для обучения и как она смогла так точно выучить формат. 

Масштабы мошенничества с изображениями с помощью искусственного интеллекта: Растущий кризис

Текущая статистика рисует ужасную картину

Мошенничество, порождаемое искусственным интеллектом, представляет собой одну из самых быстрорастущих угроз в сфере кибербезопасности:

• Глобальный уровень мошенничества вырос с 1,10% в 2021 году до 2,50% в 2024 годурост на 127% всего за три года
• На поддельные или измененные документы приходится 50% всех попыток мошенничества в 2024 году, согласно отчету Sumsub о мошенничестве с использованием личных данных.
• На цифровые подделки с использованием генеративного искусственного интеллекта теперь приходится 57% всех подделок документовна 244% больше, чем в предыдущем году
• В 2023 году число мошенничеств с использованием фейковых изображений увеличится в десять раз по сравнению с предыдущим годом

Финансовое воздействие на все отрасли промышленности

Экономические последствия уже серьезны и ускоряются:

• Мошенничество с использованием искусственного интеллекта может обойтись в $10,5 триллиона долларов в 2025 годуПо данным LexisNexis
• Синтетическое мошенничество с использованием личных данных выросло на 31% мошенники все чаще используют искусственный интеллект
• Половина всех опрошенных компаний сталкивалась с мошенничеством, связанным с контентом, созданным искусственным интеллектом в 2024 году
• Глобальные потери от цифрового мошенничества достигли более $47,8 млрд. в 2024 году, что отражает увеличение на 15%

Слепое пятно руководителя: Почему руководство не готово

Пробел в осведомленности

Несмотря на рост угрозы, большинство руководителей все еще не знают о ней:

• 76% респондентов отметили повышение нормативных требований призыв к усилению проверки документов
• На цифровые каналы теперь приходится 51% мошенничествавпервые превзойдя физические каналы.
• Только 43% финансовых организаций используют передовые методы проверки Когда появляются тревожные сигналы о мошенничестве
• Большинство организаций не имеют комплексных стратегий обнаружения мошенничества с помощью ИИ

Дефицит обучения

Разрыв между новыми угрозами и степенью готовности организаций увеличивается. Большинство тренингов по безопасности все еще не охватывают мошенничество с использованием ИИ, поэтому сотрудники не подготовлены. По-прежнему нет широких знаний о глубоких подделках и изображениях, созданных искусственным интеллектом, а процедуры проверки не адаптированы к документации, созданной искусственным интеллектом. И наконец, возможности обнаружения все еще недостаточны по сравнению с технологиями генерации. 

Влияние на промышленность: Отрасли в осаде

Наиболее уязвимые отрасли

Согласно статистике мошенничества за 2024 год, наибольшему риску подвергаются такие отрасли, как:

1. Платформы для знакомств (коэффициент мошенничества 8,9%): Романтические аферы с использованием поддельных профилей и документов, сгенерированных искусственным интеллектом
2. Онлайн-медиа (коэффициент мошенничества 4,27%): Обход верификации аккаунта с использованием синтетических документов
3. Банки и страхование (коэффициент мошенничества 3,14%): Мошенничество при открытии счетов и выдаче кредитов
4. Криптовалюта (88% случаев глубокой подделки): Обход KYC с помощью идентификаторов, созданных искусственным интеллектом

Гонка вооружений: обнаружение против генерации

Текущие возможности обнаружения

Организации, которые инвестировали значительные средства в инструменты, работающие на базе ИИ, чтобы противостоять мошенничеству, генерируемому ИИ, уже начали видеть результаты: Системы обнаружения мошенничества на основе ИИ уже помогли компаниям сократить количество случаев мошенничества примерно на 30%.

Изучаются и другие технологии. Блокчейн может обеспечить более надежную защиту данных, хотя для его эффективности необходимо более широкое внедрение.

 Биометрическая верификация в сочетании с анализом документов создает более надежную форму аутентификации.

Наконец, обнаружение в режиме реального времени становится мощным средством защиты. Оно подтверждает, что человек действительно присутствует, и не позволяет преступникам использовать поддельные статичные изображения при проверке.

Разрыв в искусности

Однако существует значительное несоответствие между уверенностью в обнаружении и реальной профилактикой:

• Процент респондентов, доверяющих технологическим компаниям в вопросах сохранности биометрических данных, снизился с 29% в 2022 году до 5% в 2024 году
• Многие организации переоценивают свои возможности по обнаружению при недооценке сложности угроз
• Традиционные меры безопасности оказываются недостаточными против документов, созданных искусственным интеллектом
• Развитие технологий обнаружения отстает от развития поколений

Нормативно-правовое регулирование: Правовой ландшафт

Действующая нормативно-правовая база

Правительства по всему миру пытаются решить проблему подделки документов, создаваемых искусственным интеллектом, но пока ситуация медленно улучшается: 

• Положение ЕС об eIDAS вступает в силу в мае 2024 года, требуя более строгой проверки цифровой идентификации.
• Несколько стран укрепили защиту Данные о здравоохранении и проверка личности
• Новые правила требуют прозрачности в процессах проверки личности с помощью искусственного интеллекта
• Уголовные наказания Существует возможность мошеннического использования документов, созданных искусственным интеллектом

Построение исполнительной защиты: Комплексная стратегия защиты

1. Непосредственная оценка риска

Аудит текущих процессов проверки: Проанализируйте, как ваша организация в настоящее время проверяет документы, удостоверяющие личность, и выявите уязвимые места в мошенничестве с использованием ИИ.

Определите точки соприкосновения с высоким риском: Нанесите на карту все точки, в которых принимаются документы, удостоверяющие личность, при входе в систему, восстановлении счета, проведении дорогостоящих операций и проверке соответствия требованиям.

Оценка возможностей обнаружения: Оцените, могут ли существующие системы идентифицировать документы, созданные искусственным интеллектом, и необходима ли их модернизация.

2. Технологические решения

Расширенный анализ изображений: Развертывание систем обнаружения на основе ИИ, способных выявлять тонкие несоответствия в документах, созданных ИИ:

• Анализ текстуры: Обнаружение неестественных узоров на фоне документов и элементов защиты
• Проверка согласованности: Проверьте выравнивание шрифтов, интервалы и официальное форматирование
• Изучение метаданных: Проанализируйте данные о создании изображений на предмет признаков создания искусственного интеллекта
• Проверка в режиме реального времени: Внедряйте системы, позволяющие мгновенно обрабатывать документы во время общения с клиентами

Многофакторная верификация: Комбинируйте анализ документов с дополнительными методами проверки:

• Проверка правительственных баз данных: Перекрестные ссылки на номера документов с официальными базами данных
• Биометрическое соответствие: Используйте распознавание лиц для сопоставления фотографий документов с живыми объектами
• Поведенческий анализ: Отслеживайте модели поведения пользователей во время процесса проверки

3. Обучение и информированность

Исполнительное образование: Руководящие группы должны пройти специальное обучение по рискам мошенничества с использованием изображений ИИ и последствиям неадекватной проверки для бизнеса.

Программы обучения сотрудников: Персонал, работающий на переднем крае, нуждается в обучении:

• Методы визуального обнаружения: Как распознать потенциальные документы, созданные искусственным интеллектом
• Процедуры проверки: Когда и как эскалировать подозрительные документы
• Интеграция технологий: Как эффективно использовать средства обнаружения

Текущие обновления: Регулярное обновление обучения по мере развития технологий генерации ИИ.

4. Редизайн процесса

Протоколы верификации: Реализуйте многоступенчатую проверку для сценариев с высоким уровнем риска:

• Обзор первичных документов: Первоначальная оценка с использованием технологии обнаружения
• Вторичная верификация: Перекрестные ссылки в базе данных для проверки подлинности документов
• Третичное подтверждение: Дополнительная проверка для особо ценных или подозрительных случаев

Обработка исключений: Четкие процедуры работы с документами, которые не прошли проверку или имеют признаки создания ИИ.

Решение: Обнаружение изображений с помощью искусственного интеллекта корпоративного уровня

Почему традиционные подходы терпят неудачу

Стандартные средства проверки документов были созданы для выявления подделок старого образца, а не документов, созданных искусственным интеллектом. Современная генерация изображений ИИ нуждается в столь же сложных возможностях обнаружения.

Существующие пробелы в проверке включают:

• Человеческая ошибка: Ручные рецензенты не могут надежно идентифицировать сложные документы, созданные искусственным интеллектом
• Ограниченный технический анализ: Базовая проверка фокусируется на очевидных изменениях, упуская тонкие индикаторы ИИ
• Ограничения масштаба: Ручные процессы не справляются с объемом попыток мошенничества, генерируемых искусственным интеллектом
• Задержка эволюции: Процедуры статической проверки не могут адаптироваться к быстро развивающимся технологиям ИИ

Необходимость специализированного обнаружения ИИ

Организациям, серьезно относящимся к защите от мошенничества с использованием изображений ИИ, необходимы специально разработанные системы обнаружения:

• Анализ маркеров поколения ИИ: Обнаружение тонких артефактов и узоров, уникальных для изображений, созданных искусственным интеллектом
• Обработка в реальном времени: Обеспечьте немедленный анализ во время представления документов
• Непрерывное обучение: Адаптация к новым технологиям создания ИИ по мере их появления
• Возможности интеграции: Легко сочетается с существующими рабочими процессами проверки

Эффективные системы обнаружения изображений с искусственным интеллектом используют передовые алгоритмы для идентификации:

• Несоответствия на пиксельном уровне: Тонкие закономерности, указывающие на генерацию ИИ
• Артефакты сжатия: Цифровые подписи процессов создания изображений ИИ
• Статистические аномалии: Математические модели, отличающиеся от естественных изображений
• Временные несоответствия: Признаки манипулирования или создания изображений

Итоги: Мошенничество с использованием искусственного интеллекта налицо и ускоряется

Статистика неоспорима: Подделка документов с помощью искусственного интеллекта превратилась из теоретической угрозы в реальность, приносящую миллиардные убытки. 

Учитывая, что только GPT-4o уже сгенерировал более 700 миллионов изображений, а возможности искусственного интеллекта быстро развиваются, организации сталкиваются с растущей угрозой, с которой не могут справиться традиционные меры безопасности.

Окно для проактивной защиты быстро закрывается.

Технология создания убедительных поддельных документов теперь доступна любому человеку, имеющему доступ в Интернет. При этом сложность генерируемых ИИ документов продолжает расти, делая их обнаружение все более сложным для людей и базовых систем проверки. 

Организации, которые отказываются адаптировать свои процессы проверки к этой новой реальности, сталкиваются с многочисленными рисками:

• Прямые финансовые потери: От мошенничества с помощью документов, созданных искусственным интеллектом
• Регулирующие штрафы: За невыполнение требований по усиленной проверке
• Ущерб репутации: От ассоциирования со случаями мошенничества с использованием личных данных
• Нарушение операционной деятельности: Начиная с расследования и заканчивая восстановительными работами

Вопрос не в том, столкнется ли ваша организация с подделкой документов, генерируемой искусственным интеллектом, а в том, будете ли вы готовы обнаружить и предотвратить ее.

Существуют технологии, позволяющие бороться с мошенничеством, созданным искусственным интеллектом. Передовые системы обнаружения могут выявлять тонкие признаки, отличающие сгенерированные ИИ документы от подлинных. Однако их внедрение требует немедленных действий, поскольку угроза развивается ежедневно.

Теперь компаниям необходимо инвестировать в комплексные средства обнаружения изображений с помощью искусственного интеллекта, иначе они рискуют стать еще одной жертвой самой быстрорастущей категории мошенничества нашего времени.

---

Руководители, готовые защитить свои организации от мошенничества с использованием изображений ИИ, могут воспользоваться передовой технологией обнаружения уже сегодня. Узнайте, как обнаружение изображений ИИ корпоративного уровня может защитить ваши процессы проверки на сайте truthscan.com/ai-image-detector.

Ссылки

1. Outlook Money. "ChatGPT может генерировать поддельные карты Aadhaar, PAN: Вот что вам нужно знать". Outlook Money5 апреля 2025 года. https://www.outlookmoney.com/news/chatgpt-can-generate-fake-aadhaar-pan-cards-heres-what-you-need-to-know
2. Бизнес сегодня. "Поддельные Aadhaar, PAN с ChatGPT: как определить настоящие правительственные удостоверения личности; проверьте шаги." Бизнес сегодня5 апреля 2025 года. https://www.businesstoday.in/personal-finance/news/story/fake-aadhaar-pan-with-chatgpt-how-to-identify-real-government-id-proofs-check-steps-470849-2025-04-05
3. Бизнес Стандарт. "ChatGPT может генерировать поддельные карты Aadhaar, PAN: Как их проверить". Бизнес Стандарт7 апреля 2025 года. https://www.business-standard.com/finance/personal-finance/chatgpt-can-generate-fake-aadhaar-pan-cards-how-to-verify-them-125040700728_1.html
4. Новости OneIndia. "Может ли ChatGPT создавать карты Aadhaar и PAN-карты? Нетизены бомбардируют социальные сети поддельными удостоверениями личности". Новости OneIndia4 апреля 2025 года. https://www.oneindia.com/india/can-chatgpt-create-aadhaar-cards-pan-cards-netizens-bombard-social-media-with-fake-id-cards-4114335.html
5. Бизнес сегодня Технологии. "Поддельные карты Aadhaar вызывают беспокойство, так как инструмент изображений ChatGPT набирает 700 миллионов созданий". Бизнес сегодня4 апреля 2025 года. https://www.businesstoday.in/technology/news/story/fake-aadhaar-cards-spark-concern-as-chatgpts-image-tool-hits-700-million-creations-470750-2025-04-04
6. MoneyLife. "Предупреждение о мошенничестве: искусственный интеллект создает настоящие "поддельные" карты Aadhaar и PAN!" MoneyLife. https://www.moneylife.in/article/fraud-alert-ais-creating-genuinelooking-fake-aadhaar-pan-cards/76873.html
7. Рынок аналитики данных. "ChatGPT вызывает опасения по поводу мошенничества с документами: Может ли он действительно генерировать поддельные карты Aadhaar и PAN?" Рынок аналитики данных. https://www.datainsightsmarket.com/news/article/chatgpt-can-generate-fake-aadhaar-pan-cards-13557
8. Ангел один. "ChatGPT может генерировать поддельные карты Aadhaar и PAN: Как их проверить". Ангел один, 8 апреля 2025 года. https://www.angelone.in/news/chatgpt-can-generate-fake-aadhaar-and-pan-cards-how-to-verify-them
9. Обновление биометрии. "Соцсети гудят от паспортов и удостоверений личности, созданных ChatGPT". Обновление биометрии11 апреля 2025 года. https://www.biometricupdate.com/202504/social-buzzes-with-chatgpt-generated-passports-and-id-cards
10. Мунсиф Дейли. "Инструмент для создания изображений ChatGPT используется для генерации карт Aadhaar и PAN, вызывает опасения за конфиденциальность и неправомерное использование". Мунсиф Дейли4 апреля 2025 года. https://munsifdaily.com/chatgpts-image-tool-used-to-generate-aadhaar-and-pan-cards/
11. Snappt. "Тенденции верификации удостоверений личности на 2025 год и перспективы на будущее". Snappt4 августа 2025 года. https://snappt.com/blog/id-verification-trends/
12. Snappt. "Статистика мошенничества с использованием личных данных за 2025 год". Snappt20 ноября 2024 года. https://snappt.com/blog/identity-fraud-statistics/
13. Sumsub. "Тенденции мошенничества в 2025 году: От мошенничества, управляемого искусственным интеллектом, до кражи личных данных и демократизации мошенничества". Sumsub. https://sumsub.com/blog/fraud-trends-sumsub-fraud-report/
14. Sumsub. "Статистика краж личных данных и мошенничества за 2024 год". Sumsub. https://sumsub.com/fraud-report-2024/
15. arXiv. "Обнаружение мошенничества с использованием искусственного интеллекта: Систематический обзор". arXiv16 января 2025 года. https://arxiv.org/html/2501.09239v1
16. Entrust. "Тенденции верификации личности в 2025 году и далее". Entrust, 5 августа 2025 года. https://www.entrust.com/blog/2025/02/identity-verification-trends-in-2025-and-beyond
17. Инкод. "Топ-5 случаев мошенничества с помощью искусственного интеллекта с 2024 года". Блог Incode20 декабря 2024 года. https://incode.com/blog/top-5-cases-of-ai-deepfake-fraud-from-2024-exposed/
18. Mitek Systems. "Предсказания о мошенничестве на 2025 год: Взгляды на возникающие угрозы мошенничества". Mitek Systems12 декабря 2024 года. https://www.miteksystems.com/blog/2025-fraud-predictions-industry-innovators
19. KYC Hub. "Топ-7 тенденций в области верификации личности на 2025 год". KYC Hub30 декабря 2024 года. https://www.kychub.com/blog/identity-verification-trends/