Perché la revisione manuale delle immagini fallisce su scala aziendale e cosa fare al suo posto

Non sorprende che le aziende e i marchi con migliaia di utenti siano sommersi da immagini di fatture e ricevute. Perché devono verificarne l'autenticità prima di rimborsare o erogare ai loro clienti.

Tuttavia, dover rivedere manualmente ogni immagine è un'impresa ardua, soprattutto perché alcune di queste immagini sono state generate dall'intelligenza artificiale, in grado di ingannare anche i revisori manuali più scrupolosi.

Nel caso in cui una dozzina o più di ricevute false passino attraverso la revisione manuale, la vostra azienda potrebbe spendere migliaia di euro.

Qual è la soluzione migliore per questo problema? È un rilevatore di immagini AI aziendale.

Entriamo nei dettagli qui di seguito.

---

Punti di forza

• La revisione manuale delle immagini (MIR) crea enormi colli di bottiglia operativi perché gli esseri umani possono elaborare solo poche centinaia di immagini all'ora, mentre le aziende spesso ne trattano decine di migliaia al giorno.

• La scalata dei team manuali è finanziariamente insostenibile a causa degli elevati costi di assunzione e formazione, uniti al rischio di “diminuzione della vigilanza”, in cui l'accuratezza umana diminuisce significativamente dopo soli 30 minuti.

• Affidarsi solo agli esseri umani espone le aziende a frodi massicce, poiché i sofisticati deepfake e le ricevute false generate dall'IA possono facilmente ingannare anche i revisori manuali più dettagliati.

• L'incapacità di automatizzare la moderazione delle immagini comporta gravi rischi per l'azienda, tra cui multe normative milionarie, abbandono degli inserzionisti per problemi di sicurezza del marchio e forte burnout dei dipendenti.

• TruthScan offre un'alternativa scalabile utilizzando l'intelligenza artificiale per elaborare le immagini in meno di due secondi con un tasso di precisione del 99%, consentendo alle aziende di gestire flussi di lavoro ad alto volume senza il ritardo della revisione manuale.

• Integrando uno strumento ad alte prestazioni come TruthScan, le aziende possono automatizzare il rilevamento di routine e conservare le competenze umane per i casi limite più complessi e i ricorsi più sfumati.

---

Che cos'è la revisione manuale delle immagini in ambienti aziendali?

La revisione manuale delle immagini (MIR) in ambito aziendale è un processo di sicurezza guidato dall'uomo, in cui gli analisti umani valutano le risorse visive in base alle politiche organizzative formali, ai requisiti normativi e ai livelli di tolleranza del rischio.

Attraverso questa analisi, i revisori possono decidere di fare una delle seguenti cose:

• Convalidare, 
• Bandiera, 
• Rifiutare, oppure 
• Escalation dei contenuti.

Nel caso in cui venga effettuata una revisione manuale delle immagini, questa si concentra principalmente sul filtraggio di immagini inappropriate. contenuti generati dagli utenti, convalidando la conformità, proteggendo l'integrità del marchio e riducendo il rischio legale e di reputazione.

Tuttavia, la revisione manuale crea colli di bottiglia, riducendo l'efficienza dell'azienda e bloccando così gli sforzi di scalata.

Perché la revisione manuale delle immagini si rompe in scala

La revisione manuale delle immagini è indispensabile per le situazioni ad alto rischio nelle aziende che devono vagliare attentamente le ricevute fraudolente.

Purtroppo, la revisione manuale non è in grado di scalare con l'aumento del volume di elaborazione delle immagini. A questo punto, le aziende si trovano di fronte a un collo di bottiglia insostenibile. 

Poi, un sistema che funzionava per decine di revisioni di immagini alla settimana inizia a fallire in modo catastrofico quando i team devono esaminare migliaia di immagini al giorno.

Questo è ciò che accade in scala:

1. I revisori umani possono elaborare solo circa 100-300 immagini all'ora, e questo è un dato generoso. Su scala aziendale, si arriva a oltre 10.000 immagini al giorno. In questo caso, avrete bisogno di centinaia di revisori a tempo pieno, il che rappresenterà un onere operativo insostenibile. Infatti, con un numero inferiore di revisori, le code di revisione crescono più velocemente di quanto il team possa gestire, creando ritardi che possono andare da ore a giorni o addirittura settimane.
   
2. La formazione di un nuovo revisore umano richiede settimane, e questo si aggiunge ai costi complessivi di assunzione, formazione e mantenimento.
   
3. I revisori umani non sono perfetti e sono inclini a commettere errori. Questi errori aumentano quando si stancano di essere bombardati da centinaia di immagini al giorno. Lo stesso analista può approvare un'immagine un giorno e rifiutarne una simile il giorno successivo. Quindi, in scala, la stanchezza di un revisore porterà a decisioni incoerenti e a una deriva della conformità.
   
4. Sebbene il tocco umano sia importante per le valutazioni dei rischi, affidarsi esclusivamente all'uomo può impedire al sistema di rilevamento delle immagini AI aziendale di acquisire metadati e modelli che potrebbero addestrarlo meglio. In questo modo, si rischia di rimanere dipendenti da costose attività manuali.
   
5. Inoltre, l'IA generativa ha peggiorato le cose per le imprese. Dal 2023, Falsi profondi generati dall'intelligenza artificiale avrebbero richiesto una revisione molto più lenta e attenta. Altrimenti, potrebbe costare da migliaia a milioni di dollari, come nel caso di un dipendente della finanza dell'ufficio di Arup a Hong Kong. Questo dipendente è stato indotto a trasferire $25 milioni di dollari ai truffatori. a causa di un video deepfake nel 2024.
   
6. Le aziende che hanno più di 50 revisori manuali corrono il rischio che i tassi di coordinamento e di accordo tra i team diminuiscano. A questo punto, si inizia a considerare la deriva delle policy come un importante rischio di conformità.

Limitazioni principali della revisione manuale delle immagini

Senza dubbio, i revisori umani sono essenziali per comprendere le sfumature culturali e il contesto. Tuttavia, abbiamo notato che la velocità di caricamento dei dati, combinata con i limiti fisiologici del cervello umano, non può essere scalata.

Questo crea le seguenti limitazioni per l'azienda:

1. Incapacità di scalare con il volume

In genere, per esaminare il doppio delle immagini è necessario il doppio degli esseri umani. Questo modello si rompe sotto il peso del traffico internet moderno.

Prendiamo Instagram come esempio principale. Solo i suoi utenti caricano oltre 95 milioni di foto e video al giorno. E se guardiamo a YouTube, anche i suoi creatori caricano 500 ore di video al minuto.

Sulla base di questi dati, un team di 10.000 revisori manuali che lavorano senza sosta non può fisicamente esaminare ogni contenuto con un'efficienza di 100%.

Ciò ha reso necessario affidarsi a impostazioni di post-moderazione che consentono ai contenuti dannosi di rimanere attivi per periodi più lunghi prima di essere affrontati.

2. Diminuzione della vigilanza e tassi di errore

Gli esseri umani sono evolutivamente poco adatti alla scansione visiva manuale ripetitiva e ad alta velocità. La psicologia cognitiva si riferisce a questo fenomeno come alla decremento della vigilanza.

Si tratta di un rapido declino della capacità di rilevare i segnali nel tempo.

Inoltre, le ricerche indicano che la capacità del revisore di rilevare accuratamente gli errori diminuisce significativamente dopo 15-30 minuti di monitoraggio continuo.

Tutto questo culmina in un affaticamento cognitivo che riduce l'efficienza.

3. Impatto sulla salute mentale

Facebook ha accettato di pagare $52 milioni in un accordo del 2020 ai moderatori di contenuti che hanno sviluppato PTSD durante il lavoro.

Questo caso è uno dei tanti che hanno dimostrato che i revisori manuali, soprattutto quelli che spesso visualizzano contenuti che includono violenza, sfruttamento dei minori e gore, possono andare incontro a un forte burnout e a traumi psicologici che degradano la qualità delle loro recensioni e costano all'azienda.

4. Mancanza di una risposta in tempo reale

La revisione manuale su scala aziendale non può funzionare per le risposte in tempo reale. L'errore si manifesta nel momento in cui un umano estrae un'immagine da una coda per esaminarla.

Quando l'uomo prende una decisione, il contenuto potrebbe essere già stato visualizzato da migliaia di utenti.

Un esempio è l'attacco di Christchurch del 2019, che è stato trasmesso in livestreaming. Il video livestream è stato visualizzato 4.000 volte e condiviso al ritmo di uno al secondo prima di essere eliminato dal team di moderazione dei contenuti.

Evidentemente, le code di revisione manuali non sono abbastanza rapide da fermare la viralità di messaggi nocivi e di Immagini generate dall'intelligenza artificiale una volta entrati nell'ecosistema.

5. Vincoli di formazione e competenza

Molti settori di revisione delle immagini dipendono da personale altamente qualificato. I percorsi di formazione sono lunghi e la carenza di personale è comune. In pratica, la revisione puramente manuale è difficile da sostenere su scala.

I rischi commerciali e di conformità di affidarsi alla revisione manuale

Se da un lato i limiti operativi della revisione manuale creano dei colli di bottiglia, dall'altro la revisione manuale che non riesce a individuare i contenuti dannosi o li individua troppo lentamente può portare alle seguenti conseguenze:

Sanzioni regolamentari

I governi stanno passando dall'autoregolamentazione a quadri giuridici rigorosi per le imprese che trattano contenuti visivi.

Per esempio, nell'ambito del Legge sui servizi digitali (DSA) dell'Unione Europea, Le piattaforme online di grandi dimensioni (VLOP) rischiano multe fino al 6% del loro fatturato globale annuo per non aver affrontato adeguatamente i contenuti illegali.

Si può immaginare che per un'azienda delle dimensioni di Meta, questo rappresenti miliardi di dollari. Di conseguenza, la revisione manuale è troppo lenta e poco trasparente per garantire i livelli di conformità richiesti dalle nuove leggi.

Sicurezza del marchio

Un marchio che non riesce a tenere a bada immagini e contenuti dannosi deve affrontare anche le sfide degli inserzionisti. Gli inserzionisti stanno iniziando ad avere tolleranza zero per i loro marchi che appaiono insieme a immagini NSFW, odiose o AI slop.

Secondo uno studio del 2024 del Interactive Advertising Bureau (IAB) e Integral Ad Science (IAS), 51% dei consumatori sono propensi a non utilizzare più un marchio che appare in prossimità di contenuti discutibili.

Alla luce di ciò, la revisione manuale non dispone dei metadati e delle capacità contestuali per garantire la sicurezza del marchio su scala. Questo può portare a un'immediata perdita di profitti quando si verificano errori.

Violazioni della privacy dei dati

La revisione manuale richiede inoltre che gli utenti inviino le loro immagini, che spesso possono anche essere private o sensibili. 

A volte, centri di outsourcing dei processi aziendali (BPO) di terze parti o dipendenti interni hanno accesso a questi dati utente grezzi. Se non gestiti in modo appropriato, i revisori manuali umani potrebbero diventare la fonte di una grave violazione dei dati e della privacy.

Profitto insostenibile

Man mano che la vostra piattaforma aziendale si espande, vi aspettate di ottenere maggiori profitti.

Tuttavia, quando il costo della revisione manuale cresce di pari passo con le entrate o più velocemente, questo impedirà alla vostra azienda di ottenere i profitti che una piattaforma di moderazione delle immagini AI solitamente fornisce.

Migrazione degli utenti e tossicità per la comunità

Gartner ha previsto che entro il 2025 il 50% delle aziende dovrà gestire una “crisi del marchio” legata alla tossicità sulle proprie piattaforme, con un impatto diretto sui tassi di fidelizzazione degli utenti.

La situazione è diventata sempre più grave, con gli utenti di piattaforme come X e TikTok che spingono per una migliore applicazione delle linee guida della comunità.

Se le aziende continuano a fare affidamento sulle revisioni manuali, l'apatia degli utenti aumenterà, perché le code di revisione si accumuleranno e i contenuti dannosi resteranno online più a lungo. Questa tossicità degrada l'esperienza dell'utente, inducendolo ad abbandonare la piattaforma a favore di concorrenti più sicuri.

Perché le aziende stanno passando alla moderazione automatica delle immagini

Per i leader aziendali, il passaggio al rilevamento automatizzato dei rischi legati alle immagini è una questione di sopravvivenza.

Quando si ha a che fare con milioni di ricevute caricate come un organizzazione del commercio elettronico, Per tenere sotto controllo la situazione è necessario un rilevatore di scontrini falsi.

Queste sono le ragioni per cui le imprese si stanno muovendo:

1. L'intelligenza artificiale offre una coerenza deterministica. Se martedì si dà al modello la stessa immagine di lunedì, si ottiene lo stesso risultato. Questa stabilità è necessaria per applicare linee guida chiare alla comunità e mantenere la fiducia degli inserzionisti.
   
2. Per le categorie con contenuti visivi disturbanti, come l'autolesionismo o la violenza, l'esposizione costante può influenzare i revisori umani. Automatizzando il rilevamento di spam e violenza evidenti, i moderatori umani sono liberi dal rilevamento traumatico per gestire appelli complessi.
   
3. I modelli automatizzati elaborano le immagini in millisecondi. Quindi, integrando Rilevamento delle immagini AI, Le aziende possono offrire un rilevamento in tempo reale. Questa immediatezza aumenta la fidelizzazione degli utenti e i tassi di conversione.
   
4. La revisione manuale è costosa su larga scala e intacca i profitti. Tuttavia, con l'automazione, le aziende possono eliminare gli arretrati, eliminare la fatica umana, semplificare la moderazione delle immagini per le diverse sedi e ottenere facilmente un ritorno sull'investimento.
   
5. La moderazione automatizzata può generare registri strutturati, punteggi dei modelli, timestamp, override dei revisori e percorsi decisionali. In questo modo è molto più facile supportare la conformità, la QA interna e la reportistica dei clienti piuttosto che affidarsi a note manuali sparse.

Cosa fare invece: Un approccio scalabile guidato dall'intelligenza artificiale

L'alternativa all'esercito di esseri umani che esaminano manualmente ogni immagine non è quella di eliminare completamente gli esseri umani.

Bisogna considerare l'IA come un aiuto nel processo di moderazione e utilizzare Controllore di immagini AI per gestire il processo di rilevamento, rendendolo più veloce, più scalabile e significativamente meno incline all'errore umano.

Utilizzare l'analisi automatizzata delle immagini come prima linea di difesa

I sistemi d'immagine automatizzati più duraturi non chiedono all'uomo di esaminare tutto. È possibile impostare l'IA in modo che gestisca in anticipo le decisioni ad alto volume e ad alta affidabilità.

Una prima linea di difesa pratica è la seguente:

• Eseguite la classificazione automatica di ogni immagine al momento del caricamento per individuare le categorie chiave dei criteri.
• Classificare le immagini in base a soglie di confidenza come l'auto-accettazione, l'auto-blocco e l'escalation per la revisione umana.
• Utilizzate un flusso di lavoro human-in-the-loop per i casi limite e la garanzia di qualità.
• I risultati delle revisioni vengono reintrodotti nei dati di addestramento e nella regolazione delle soglie per migliorare le prestazioni nel tempo.
• Trattare la moderazione come una funzione operativa e non come una funzione una tantum che si disattiva dopo un po' di tempo.
• Aggiungere protezioni per le tattiche di evasione che gli utenti possono utilizzare per aggirare il sistema. Inoltre, aggiornate sempre i vostri sistemi in caso di rapidi cambiamenti di policy e di prodotti migliori per la generazione di immagini AI.

Come TruthScan risolve la revisione delle immagini su scala aziendale

Le organizzazioni si trovano oggi ad affrontare un'esplosione di immagini generate e manipolate dall'intelligenza artificiale, dalle ricevute inviate dai clienti alla verifica dei documenti d'identità, fino ai contenuti dei social media.

La revisione manuale è impossibile a queste dimensioni, e il livello di sofisticazione di Generatori di immagini AI come DALL-E e Midjourney rende inaffidabile la revisione manuale.

TruthScan offre alle imprese una via d'uscita con un tasso di rilevamento accurato di 97,5% per le immagini di Midjourney e 96,71% per le immagini di DALL-E. Inoltre, i confronti indipendenti mostrano un tasso di correttezza di 99%.

Questi risultati hanno rafforzato la posizione di TruthScan come piattaforma completa di moderazione delle immagini AI di livello aziendale, in grado di proteggere le organizzazioni da sofisticate minacce generate dall'AI.

Ecco i modi in cui può aiutare la vostra azienda su scala:

• TruthScan ha una velocità di elaborazione inferiore ai 2 secondi, fondamentale per le aziende che gestiscono migliaia o milioni di immagini. La pipeline di rilevamento ottimizzata elabora le immagini in pochi secondi con un'infrastruttura di livello enterprise.
• Supporta l'elaborazione in blocco per i flussi di lavoro ad alto volume.
• La piattaforma offre una perfetta integrazione, supportando flussi di lavoro automatizzati e implementazioni personalizzate.
• Ciò consente alle organizzazioni di incorporare il rilevamento delle immagini direttamente nelle pipeline di moderazione dei contenuti, nell'elaborazione delle richieste di risarcimento e così via.
• A ogni contenuto viene assegnato un punteggio di confidenza da 0-100%, che indica la probabilità che sia stato generato o manipolato dall'IA.

Parlate con TruthScan di come ridimensionare la revisione delle immagini in modo sicuro

TruthScan è pronto a lavorare con voi e a scalare il vostro rilevamento delle immagini senza problemi. Potete contattare direttamente TruthScan sulla sua piattaforma per integrare la sua automazione nel vostro flusso di lavoro.

Le aziende che lavorano con TruthScan ottengono le seguenti funzionalità:

• Sconti consistenti per volumi elevati
• Implementazioni in loco e regionali (Regno Unito, UE e altre sedi negoziate)
• Modelli personalizzati di altissima qualità
• Integrazioni personalizzate
• Assistenza dedicata 24/7
• SLA personalizzato
• Account manager dedicato

Non ci sono costi iniziali; piuttosto, negozierete il vostro contratto con un agente di vendita TruthScan, in modo da ottenere un accordo che si adatti alla vostra attività.

Inoltre, avete la possibilità di guadagnare fino a $100k nella Programma partner utilizzando le vostre connessioni per proporre TruthScan ai marchi attaccati da deepfake e contenuti manipolati dall'intelligenza artificiale.