كيف تستخدم Sentinel منصة TruthScan لوقف الاحتيال في الأسواق المدعومة بالذكاء الاصطناعي

مسار Sentinel يلتقط الصور المُنشأة بالكامل بالذكاء الاصطناعي — هذه المسألة الأسهل. الأصعب هو اكتشاف التعديلات الصغيرة بالذكاء الاصطناعي على صور حقيقية (مثل بقعة رقمية على سترة حقيقية، أو خدش مركّب على شاشة حقيقية). هذا نوع الاحتيال الذي يغذي مطالبات الاسترداد الخاطئة على Allegro، وهنا فشل كل كاشف آخر اختبرته Sentinel.

في كشف الاحتيال، كل نتيجة ثنائية: حقيقية أو مزيفة. إذا صنّفت Sentinel مشتريًا شرعيًا كمحتال، تفقد السوق ثقة ذلك المشتري. كرّر ذلك مرتين وتتخلى السوق عن Sentinel. وفقًا لـ Szmielew:

احتاجت Sentinel إلى كاشف دقيق بما يكفي لرصد تعديلات الذكاء الاصطناعي على مستوى البكسل دون تصنيف الصور الحقيقية خطأً.

أخضع Piotr Szmielew ثلاثة حلول رئيسية لضغط شديد. أظهرت البيانات أن كواشف الذكاء الاصطناعي القياسية لا تكفي لمنتج تجاري قابل للاستمرار.

• OpenAI Vision صنّفت صورًا شرعية كمزيفة. في اختبار دفعة من ثلاث صور، أخطأت في التعرف على الصورة الأولى — صورة حقيقية دون تعديل. توقفت Sentinel عن التقييم. كاشف يفشل على الصور الأصيلة لا يُباع لسوق يتوقع أحكامًا دقيقة.
• Sightengine اكتشفت صورًا مُنشأة بالكامل بالذكاء الاصطناعي بتكلفة معقولة، لكنها لم تكشف تعديلات الذكاء الاصطناعي على صور حقيقية — وهو نوع الاحتيال الذي بُنيت Sentinel من أجله. الأداة التي تفوت جوهر المشكلة ليست أرخص خيارًا، بل الأداة الخاطئة.
• Hive Moderation لم تصل إلى مرحلة الاختبار. لم تنشر Hive أسعارًا واضحة. أرسل فريق Sentinel ثلاثة أو أربعة بريدًا ولم يصل رد. انتقلت Sentinel إلى خيارات أخرى.

بعد هذه النتائج، بدأت Sentinel اختبار TruthScan على مجموعة أوسع من عيّنات الاحتيال الواقعية. قال Szmielew إن سرعة استجابة الفريق صنعت الفارق:

0:00 / 0:00

"الشركة رائعة. لديّ طلب ميزة، فرد عليّ المدير التنفيذي، وبعد نحو أسبوعين كانت الميزة موجودة. كانت تجربة ممتعة جدًا."

تشغّل Sentinel عدة كواشف على التوالي. معظمها يلتقط الزيف الواضح — مثل الصور المُنشأة بالكامل بأنماط تلاعب معروفة. عندما تمر الصورة بهذه المرشحات ويبقى النتيجة غير مؤكدة، TruthScan تقرّر القول الفصل.

وضّح Szmielew الدور كالتالي:

0:00 / 0:00

"لهذا السبب TruthScan هي النموذج الأخير في المسار... إذا كانت النتائج السابقة غير حاسمة، فـ TruthScan هي الحَكَم الأخير."

"أدوات أخرى جيدة كخط أول... لكن عند الحاجة لقوة حقيقية، TruthScan في النهاية لحل كل شيء."

بُني المسار بهذه الطريقة بعد اختبار TruthScan على مجموعة بيانات أكبر من حالات الاحتيال الحقيقية مع أصحاب المصلحة الإضافيين. TruthScan كانت الأداة الوحيدة التي تعرّفت بثبات على تعديلات الذكاء الاصطناعي للصور الحقيقية — طبقة الاحتيال التي فاتتها الكواشف الأخرى.

• نتيجة غير حاسمة واحدة عبر كل الاختبارات. على مجموعة الاختبار الكاملة لـ TruthScan، أعادت نتيجة غير مؤكدة مرة واحدة فقط. حصلت كل الصور الأخرى على حكم حاسم (حقيقية أو مزيفة).

• 90% من قدرة كشف Sentinel تعتمد على TruthScan. قال Szmielew إن إزالة TruthScan ستخفض قدرة المنصة على كشف احتيال تعديل الذكاء الاصطناعي بنحو 90%. الأدوات الأخرى في المسار تتعامل مع الحالات البسيطة. TruthScan تتعامل مع الباقي.

• لا تأخير في المشتريات. دمجت Sentinel TruthScan دون انتظار موافقات مبيعات أو وصول إلى واجهة برمجة — عمليات أوقفت تقييم Hive. هذا سمح لـ Sentinel بمواصلة النمو مع الطلب.

بكلمات Szmielew:

0:00 / 0:00

"التكامل سهل جدًا... المخاطر منخفضة جدًا... إذا كنت تبحث عن كشف تعديل صور بالذكاء الاصطناعي، أعتقد أنها الأداة المناسبة للمهمة الآن."

تبيع Sentinel الآن منتج كشف احتيال يعيد نتيجة حاسمة على تقريبًا كل صورة تُختبر. TruthScan يوفّر 90% من تلك القدرة. لم يستطع OpenAI وHive ذلك.

قُبلت Sentinel في برنامج Google Cloud for Startups. كان تكامل TruthScan أحد العوامل في القبول. وتوسّع Sentinel الآن خارج أول عملاء السوق.