Pourquoi l'examen manuel des images échoue à l'échelle de l'entreprise et que faire à la place ?

Il n'est pas surprenant que les entreprises et les marques qui comptent des milliers d'utilisateurs soient submergées d'images de factures et de reçus. En effet, elles doivent en vérifier l'authenticité avant de rembourser ou de débourser à leurs clients.

Cependant, l'examen manuel de chaque image est fastidieux, d'autant plus que certaines de ces images ont été générées par l'intelligence artificielle, trompant même les examinateurs manuels les plus minutieux.

Si une douzaine de faux reçus ou plus passent l'examen manuel, cela peut coûter des milliers d'euros à votre entreprise.

Quelle est donc la meilleure solution ? Il s'agit d'un détecteur d'images d'IA d'entreprise.

Entrons dans les détails ci-dessous.

---

Principaux enseignements

• L'examen manuel des images (MIR) crée des goulets d'étranglement opérationnels considérables car les humains ne peuvent traiter que quelques centaines d'images par heure, alors que les entreprises en traitent souvent des dizaines de milliers par jour.

• L'extension des équipes manuelles n'est pas financièrement viable en raison des coûts élevés d'embauche et de formation, combinés au risque de “décrémentation de la vigilance”, où la précision humaine diminue de manière significative après seulement 30 minutes.

• S'appuyer uniquement sur les humains expose les entreprises à des fraudes massives, car les deepfakes et les faux reçus sophistiqués générés par l'IA peuvent facilement tromper même les examinateurs manuels les plus minutieux.

• L'absence d'automatisation de la modération des images entraîne de graves risques pour l'entreprise, notamment des amendes réglementaires de plusieurs millions de dollars, l'abandon des annonceurs en raison de problèmes de sécurité de la marque et un épuisement professionnel important des employés.

• TruthScan offre une alternative évolutive en utilisant l'IA pour traiter les images en moins de deux secondes avec un taux de précision de 99%, ce qui permet aux entreprises de gérer des flux de travail à haut volume sans le décalage d'une révision manuelle.

• En intégrant un outil performant comme TruthScan, les entreprises peuvent automatiser la détection de routine et conserver l'expertise humaine pour les cas les plus complexes et les appels nuancés.

---

Qu'est-ce que l'examen manuel d'images dans les environnements d'entreprise ?

Le contrôle manuel des images (MIR) dans les entreprises est un processus de sécurité dirigé par l'homme, dans le cadre duquel des analystes humains évaluent les biens visuels en fonction des politiques organisationnelles formelles, des exigences réglementaires et des niveaux de tolérance au risque.

Grâce à cette analyse, les évaluateurs peuvent décider de prendre l'une des mesures suivantes :

• Valider, 
• Drapeau, 
• Rejeter, ou 
• Escalade du contenu.

Dans le cas d'un examen manuel des images, il s'agit principalement de filtrer les images inappropriées. contenu généré par l'utilisateur, Il s'agit de vérifier la conformité, de protéger l'intégrité de la marque et d'atténuer les risques juridiques et de réputation.

Cependant, l'examen manuel crée des goulets d'étranglement qui réduisent l'efficacité de votre entreprise et freinent vos efforts d'expansion.

Pourquoi l'examen manuel des images ne fonctionne pas à grande échelle

L'examen manuel des images est indispensable dans les situations à fort enjeu, dans les entreprises qui doivent filtrer soigneusement les reçus frauduleux.

Malheureusement, l'examen manuel n'est pas conçu pour s'adapter à l'augmentation du volume de traitement des images. À ce stade, les entreprises sont confrontées à un goulot d'étranglement insoutenable. 

Ensuite, un système qui fonctionnait pour des dizaines d'examens d'images par semaine commence à échouer de manière catastrophique lorsque les équipes doivent examiner des milliers d'images par jour.

C'est ce qui se passe à grande échelle :

1. Les réviseurs humains ne peuvent traiter que 100 à 300 images par heure, et c'est là un chiffre généreux. À l'échelle de l'entreprise, vous recevez plus de 10 000 images par jour. Dans ce cas, il vous faudrait des centaines de réviseurs à temps plein, ce qui représenterait une charge opérationnelle insoutenable. En fait, avec moins de réviseurs, vos files d'attente de révision augmentent plus vite que votre équipe ne peut le faire, ce qui crée des retards qui peuvent s'étendre de quelques heures à plusieurs jours, voire plusieurs semaines.
   
2. La formation d'un nouveau réviseur humain prend des semaines, ce qui augmente vos coûts globaux lorsque vous devez l'embaucher, le former et le conserver.
   
3. Les examinateurs humains ne sont pas parfaits et sont enclins à commettre des erreurs. Ces erreurs augmentent à mesure qu'ils sont fatigués d'être bombardés de centaines d'images par jour. Le même analyste peut approuver une image un jour et rejeter une image similaire le lendemain. Ainsi, à grande échelle, la fatigue d'un réviseur entraînera des décisions incohérentes et une dérive de la conformité.
   
4. Bien que le contact humain soit important pour les évaluations des risques, le fait de s'appuyer uniquement sur les humains peut empêcher votre système de détection d'images par IA d'entreprise de capturer des métadonnées et des modèles qui pourraient l'améliorer. Cela vous enfermera dans une dépendance manuelle coûteuse.
   
5. En outre, l'IA générative a aggravé la situation des entreprises. Depuis 2023, Les deepfakes générés par l'IA aurait nécessité un examen beaucoup plus lent et minutieux. Dans le cas contraire, cela pourrait coûter des milliers, voire des millions de dollars, comme l'a montré le cas d'un employé du service financier du bureau d'Arup à Hong Kong. Cet employé s'est fait piéger en transférant $25 millions à des fraudeurs à cause d'un deepfake vidéo en 2024.
   
6. Les entreprises qui comptent plus de 50 réviseurs manuels courent le risque de voir les taux de coordination et d'accord chuter au sein des équipes. À ce stade, vous commencez à considérer la dérive des politiques comme un risque majeur de conformité.

Principales limites de l'examen manuel des images

Il ne fait aucun doute que les évaluateurs humains sont essentiels pour comprendre les nuances culturelles et le contexte. Cependant, nous avons remarqué que la vitesse de téléchargement des données, combinée aux limites physiologiques du cerveau humain, ne peut pas être augmentée.

Il en résulte les limitations suivantes pour votre entreprise :

1. Incapacité à s'adapter au volume

En général, pour examiner deux fois plus d'images, il faut deux fois plus d'humains. Ce modèle s'effondre sous le poids du trafic internet moderne.

Prenons l'exemple d'Instagram. Ses utilisateurs téléchargent à eux seuls plus de 95 millions de photos et de vidéos par jour. Quant à YouTube, ses créateurs téléchargent également 500 heures de vidéo par minute.

Sur la base de ces données, une équipe de 10 000 réviseurs manuels travaillant sans relâche ne peut pas physiquement réviser chaque élément de contenu avec une efficacité de 100%.

Il a donc fallu recourir à des paramètres de post-modération qui permettent aux contenus préjudiciables de rester en ligne plus longtemps avant d'être traités.

2. Diminution de la vigilance et taux d'erreur

L'homme est mal équipé, du point de vue de l'évolution, pour effectuer un balayage visuel manuel répétitif et à grande vitesse. La psychologie cognitive parle même de la vigilance décrément.

Il s'agit d'une diminution rapide de la capacité à détecter les signaux au fil du temps.

En outre, la recherche indique que la capacité d'un examinateur à détecter avec précision les erreurs diminue considérablement après 15 à 30 minutes de contrôle continu.

Tout cela aboutit à une fatigue cognitive qui réduit l'efficacité.

3. Impact sur la santé mentale

Facebook a accepté de verser $52 millions d'euros en 2020 à des modérateurs de contenu ayant développé un syndrome de stress post-traumatique (SSPT) dans le cadre de leur travail.

Ce cas est l'un des nombreux qui ont prouvé que les réviseurs manuels, en particulier ceux qui visionnent souvent des contenus violents, pédophiles et gore, peuvent être victimes d'épuisement professionnel et de traumatismes psychologiques qui dégradent la qualité de leurs révisions et coûtent de l'argent à l'entreprise.

4. Absence de réponse en temps réel

L'examen manuel à l'échelle de l'entreprise ne peut pas fonctionner pour les réponses en temps réel. Le défaut apparaît au moment où un humain retire une image d'une file d'attente pour l'examiner.

Au moment où l'humain prend une décision, le contenu peut déjà avoir été vu par des milliers d'utilisateurs.

L'attentat de 2019 à Christchurch, qui a été diffusé en direct, en est un exemple. L'attentat de vidéo en direct a été vue 4 000 fois et partagée à raison d'une fois par seconde avant d'être retirée par l'équipe de modération du contenu.

De toute évidence, les files d'attente pour les révisions manuelles ne peuvent tout simplement pas aller assez vite pour stopper la viralité des messages nocifs et dangereux. Images générées par l'IA une fois qu'ils pénètrent dans l'écosystème.

5. Contraintes de formation et d'expertise

De nombreux domaines d'examen d'images dépendent d'un personnel hautement qualifié. Les filières de formation sont longues et les pénuries de personnel sont fréquentes. Dans la pratique, il est difficile de maintenir un examen purement manuel à grande échelle.

Les risques commerciaux et de conformité liés à l'utilisation d'un contrôle manuel

Si les limites opérationnelles de l'examen manuel créent des goulets d'étranglement, un examen manuel qui ne détecte pas les contenus préjudiciables ou qui les détecte trop lentement peut avoir les conséquences suivantes :

Sanctions réglementaires

Les gouvernements passent de l'autorégulation à des cadres juridiques stricts pour les entreprises qui traitent des contenus visuels.

Par exemple, dans le cadre de la Loi sur les services numériques de l'Union européenne (DSA), Les très grandes plateformes en ligne (VLOP) risquent des amendes allant jusqu'à 6% de leur chiffre d'affaires annuel mondial si elles ne s'attaquent pas de manière adéquate aux contenus illégaux.

Vous pouvez imaginer que pour une entreprise de la taille de Meta, cela représente des milliards de dollars. Par conséquent, l'examen manuel est trop lent et trop poreux pour garantir les niveaux de conformité exigés par les nouvelles lois.

Sécurité de la marque

Une marque qui ne parvient pas à tenir à distance les images et les contenus préjudiciables est également confrontée à des défis de la part des annonceurs. Les annonceurs commencent à ne plus tolérer que leur marque apparaisse aux côtés d'images NSFW, de contenus haineux ou d'images de la Lenteur de l'IA.

Selon une étude réalisée en 2024 par la Interactive Advertising Bureau (IAB) et Integral Ad Science (IAS), 51% des consommateurs sont susceptibles de cesser d'utiliser une marque qui apparaît à proximité d'un contenu répréhensible.

Dans ce contexte, l'examen manuel ne dispose pas des métadonnées et des capacités contextuelles nécessaires pour garantir la sécurité de la marque à grande échelle. Cela peut entraîner une perte de revenus immédiate en cas de faux pas.

Violations de la confidentialité des données

L'examen manuel exige également que les utilisateurs envoient leurs images, qui sont souvent des images privées ou sensibles. 

Parfois, des centres d'externalisation des processus métier (BPO) tiers ou des employés internes ont accès à ces données utilisateur brutes. S'ils ne sont pas gérés de manière appropriée, les réviseurs manuels humains peuvent devenir la source d'une violation importante des données et de la vie privée.

Profit insoutenable

Au fur et à mesure que votre plateforme d'entreprise se développe, vous vous attendez à réaliser davantage de bénéfices.

Toutefois, lorsque le coût de la révision manuelle augmente au même rythme que le chiffre d'affaires, voire plus rapidement, votre entreprise ne peut pas réaliser les bénéfices qu'une plateforme de modération d'images par l'IA permet généralement d'obtenir.

Migration des utilisateurs et toxicité pour les communautés

Gartner a prédit que d'ici 2025, 50% des entreprises devront gérer une “crise de marque” liée à la toxicité de leurs plateformes, ce qui aura un impact direct sur les taux de fidélisation des utilisateurs.

C'est de plus en plus le cas, les utilisateurs de plateformes telles que X et TikTok faisant pression pour une meilleure application des lignes directrices de la communauté.

L'apathie des utilisateurs augmentera si les entreprises continuent de s'appuyer sur l'examen manuel, car les files d'attente d'examen s'allongeront et les contenus nuisibles resteront en ligne plus longtemps. Cette toxicité dégrade l'expérience des utilisateurs, qui abandonnent la plateforme pour des concurrents plus sûrs.

Pourquoi les entreprises adoptent-elles la modération automatisée des images ?

Pour les dirigeants d'entreprise, l'adoption de la détection automatisée des risques liés à l'image est une question de survie.

Lorsque vous traitez des millions de reçus téléchargés en tant qu'institution de l'Union européenne, vous devez faire preuve d'une grande souplesse dans l'utilisation de vos ressources. organisation du commerce électronique, Pour cela, vous aurez besoin d'un détecteur de faux reçus.

Telles sont les raisons pour lesquelles les entreprises se déplacent :

1. L'IA offre une cohérence déterministe. Si vous donnez au modèle la même image le mardi que le lundi, vous obtiendrez le même résultat. Cette stabilité est nécessaire pour faire respecter des directives communautaires claires et maintenir la confiance des annonceurs.
   
2. Pour les catégories dont le contenu visuel est dérangeant, comme l'automutilation ou la violence, une exposition constante peut affecter les réviseurs humains. En automatisant la détection du spam et de la violence évidents, les modérateurs humains sont libérés de la détection traumatique pour traiter les appels complexes.
   
3. Les modèles automatisés traitent les images en quelques millisecondes. Ainsi, en intégrant Détection d'images par l'IA, Les entreprises peuvent offrir une détection en temps réel. Cette immédiateté stimule la fidélisation des utilisateurs et les taux de conversion.
   
4. L'examen manuel est coûteux à grande échelle et réduit les bénéfices. Cependant, grâce à l'automatisation, les entreprises peuvent éliminer les retards, supprimer la fatigue humaine, rationaliser la modération des images pour différents sites et obtenir facilement un retour sur investissement.
   
5. La modération automatisée peut générer des journaux structurés, des scores de modèles, des horodatages, des dérogations pour les réviseurs et des pistes de décision. Il est ainsi beaucoup plus facile de prendre en charge la conformité, l'assurance qualité interne et le reporting client que de s'appuyer sur des notes manuelles éparses.

Que faire à la place ? Une approche évolutive basée sur l'IA

L'alternative à l'armée d'humains qui examinent manuellement chaque image n'est pas de supprimer complètement les humains.

Vous devez considérer l'IA comme une aide dans le processus de modération et l'utiliser comme un outil d'aide à la décision. Vérificateur d'images AI pour gérer le processus de détection, ce qui le rend plus rapide, plus évolutif et nettement moins sujet à l'erreur humaine.

Utiliser l'analyse automatisée des images comme première ligne de défense

Les systèmes d'imagerie automatisés les plus durables ne demandent pas aux humains de tout regarder. Vous pouvez paramétrer l'IA pour qu'elle prenne en charge les décisions à fort volume et à haut niveau de confiance dès le départ.

Une première ligne de défense pratique se présente comme suit :

• Effectuer une classification automatisée de chaque image au moment du téléchargement afin de détecter les principales catégories de politiques.
• Classer les images en fonction de seuils de confiance tels que l'autorisation automatique, le blocage automatique et le passage à un examen humain.
• Utiliser un flux de travail humain en boucle pour les cas limites et l'assurance qualité.
• Les résultats des réviseurs sont réinjectés dans les données de formation et dans l'ajustement des seuils afin d'améliorer les performances au fil du temps.
• Traitez la modération comme une fonction opérationnelle et non comme une fonction ponctuelle que vous désactivez au bout d'un certain temps.
• Ajoutez des protections contre les tactiques d'évasion que les utilisateurs peuvent utiliser pour contourner le système. En outre, mettez toujours vos systèmes à jour en cas de changement rapide de politique et d'amélioration des produits de génération d'images d'IA.

Comment TruthScan résout le problème de l'examen des images à l'échelle de l'entreprise

Les organisations sont aujourd'hui confrontées à une explosion d'images générées et manipulées par l'IA, qu'il s'agisse de reçus soumis par les clients, de vérification d'identité ou de contenu de médias sociaux.

L'examen manuel est impossible à une telle échelle, et la sophistication des systèmes d'information est telle qu'il n'est pas possible d'en faire l'analyse. Générateurs d'images AI comme DALL-E et Midjourney rendent l'examen manuel peu fiable.

TruthScan offre aux entreprises une solution avec un taux de détection précis de 97,5% pour les images de Midjourney et de 96,71% pour les images de DALL-E. En outre, des comparaisons indépendantes montrent un taux d'exactitude de 99%.

Ces résultats ont renforcé la position de TruthScan en tant que plateforme complète de modération d'images d'IA de niveau entreprise qui protège vos organisations contre les menaces sophistiquées générées par l'IA.

Voici comment il peut aider votre entreprise à l'échelle :

• TruthScan a une vitesse de traitement inférieure à 2 secondes, ce qui est essentiel pour les entreprises qui traitent des milliers ou des millions d'images. Le pipeline de détection optimisé traite les images en quelques secondes avec une infrastructure de niveau professionnel.
• Il prend en charge le traitement en masse pour les flux de travail à haut volume.
• La plateforme offre une intégration transparente, prenant en charge les flux de travail automatisés et les mises en œuvre personnalisées.
• Cela permet désormais aux organisations d'intégrer la détection d'images directement dans les pipelines de modération de contenu existants, le traitement des réclamations, etc.
• Chaque contenu se voit attribuer une note de confiance comprise entre 0 et 100%, indiquant la probabilité qu'il ait été généré ou manipulé par l'IA.

Parlez à TruthScan de la mise à l'échelle de l'examen des images en toute sécurité

TruthScan est prêt à travailler avec vous et à mettre à l'échelle votre détection d'images en douceur. Vous pouvez contacter directement TruthScan sur leur plateforme pour intégrer leur automatisation dans votre flux de travail.

Les entreprises qui travaillent avec TruthScan bénéficient des fonctionnalités suivantes :

• Remises importantes pour les gros volumes
• Déploiements sur site et régionaux (Royaume-Uni, UE et autres lieux négociés)
• Des modèles personnalisés de la plus haute qualité
• Intégrations personnalisées
• Assistance dédiée 24/7
• Accord de niveau de service personnalisé
• Gestionnaire de compte dédié

Il n'y a pas de frais initiaux ; vous négocierez votre contrat avec un agent commercial de TruthScan, afin d'obtenir un arrangement qui convienne à votre entreprise.

En outre, vous avez une chance de gagner jusqu'à $100k dans la Programme de partenariat en utilisant vos relations pour présenter TruthScan aux marques qui sont attaquées par les contenus manipulés par l'IA et les deepfakes.