Varför manuell bildgranskning misslyckas i stor skala och vad man kan göra istället

Det är inte förvånande att företag och varumärken med tusentals användare blir överväldigade av bilder på fakturor och kvitton. Eftersom de måste verifiera äktheten innan de återbetalar eller betalar ut till sina kunder.

Att behöva granska varje bild manuellt är dock påfrestande, särskilt eftersom vissa av dessa bilder har genererats av AI och lurar även de mest noggranna manuella granskarna.

I ett fall där ett dussin eller fler falska kvitton passerar genom manuell granskning kan det kosta ditt företag tusentals kronor.

Så vad är den bästa lösningen för detta? Det är en AI-bilddetektor för företag.

Låt oss gå in på detaljerna nedan.

---

Viktiga slutsatser

• Manuell bildgranskning (MIR) skapar enorma flaskhalsar i verksamheten eftersom människor bara kan bearbeta några hundra bilder i timmen, medan företag ofta hanterar tiotusentals bilder dagligen.

• Att skala upp manuella team är ekonomiskt ohållbart på grund av höga anställnings- och utbildningskostnader, i kombination med risken för “vigilance decrement” där den mänskliga noggrannheten sjunker avsevärt efter bara 30 minuter.

• Att enbart förlita sig på människor utsätter företag för massiva bedrägerier, eftersom sofistikerade AI-genererade deepfakes och falska kvitton lätt kan lura även de mest detaljerade manuella granskarna.

• Att inte automatisera bildmoderering leder till allvarliga affärsrisker, bland annat böter på flera miljoner dollar, att annonsörer slutar på grund av problem med varumärkessäkerheten och hög utbrändhet bland medarbetarna.

• TruthScan erbjuder ett skalbart alternativ genom att använda AI för att bearbeta bilder på under två sekunder med en noggrannhetsgrad på 99%, vilket gör att företag kan hantera arbetsflöden med stora volymer utan att behöva vänta på manuell granskning.

• Genom att integrera ett högpresterande verktyg som TruthScan kan företag automatisera rutinmässig upptäckt och spara mänsklig expertis för de mest komplexa kantfallen och nyanserade överklagandena.

---

Vad är manuell bildgranskning i företagsmiljöer?

Manuell bildgranskning (MIR) i företagsmiljöer är en mänskligt ledd säkerhetsprocess där mänskliga analytiker utvärderar visuella tillgångar mot formella organisatoriska policyer, lagstadgade krav och risktoleransnivåer.

Genom denna analys kan granskarna besluta att göra något av följande:

• Validera, 
• Flagga, 
• Avvisa, eller 
• Eskalerat innehåll.

I de fall där manuell bildgranskning görs handlar det främst om att filtrera bort olämpliga användargenererat innehåll, validera efterlevnad, skydda varumärkesintegriteten och minska juridiska risker och anseenderisker.

Manuell granskning skapar dock flaskhalsar, vilket minskar företagets effektivitet och därmed stoppar uppskalningsarbetet.

Varför manuell bildgranskning inte fungerar i stor skala

Manuell bildgranskning är oumbärlig för situationer med höga insatser i företag som noggrant måste granska falska kvitton.

Tyvärr är den manuella granskningen inte byggd för att kunna skalas upp i takt med att bildbehandlingsvolymen ökar. Vid den här tidpunkten står företagen inför en ohållbar flaskhals. 

Sedan börjar ett system som tidigare fungerade för dussintals bildgranskningar per vecka att misslyckas katastrofalt när team måste granska tusentals bilder dagligen.

Det är detta som händer i stor skala:

1. Mänskliga granskare kan bara bearbeta 100 till 300 bilder per timme, och det är generöst. På företagsnivå får du över 10 000 bilder varje dag. I så fall skulle du behöva hundratals granskare på heltid, vilket skulle vara en ohållbar operativ börda. Faktum är att med färre granskare växer dina granskningsköer snabbare än ditt team kan hantera, vilket skapar förseningar som kan sträcka sig från timmar till dagar eller till och med veckor.
   
2. Det tar flera veckor att lära upp en ny medarbetare, och det ökar dina totala kostnader när du måste anställa, utbilda och behålla dem.
   
3. Mänskliga granskare är inte perfekta och är benägna att göra misstag. Dessa misstag ökar i takt med att de blir trötta av att bombarderas med hundratals bilder varje dag. Samma analytiker kan godkänna en bild en dag och avvisa en liknande bild nästa dag. I stor skala kommer en trött granskare att leda till inkonsekventa beslut och bristande efterlevnad.
   
4. Även om den mänskliga faktorn är viktig för riskbedömningar kan det faktum att man enbart förlitar sig på människor hindra företagets AI-system för bilddetektering från att fånga upp metadata och mönster som kan förbättra det. Detta låser fast dig i ett kostsamt manuellt beroende.
   
5. Dessutom har generativ AI gjort saker och ting värre för företagen. Sedan 2023, AI-genererade djupa förfalskningar hade krävt mycket långsammare och noggrannare granskning. Annars kan det kosta tusentals eller miljontals dollar, som i fallet med en finansanställd på Arups kontor i Hongkong. Den här medarbetaren lurades att överföra $25 miljoner till bedragare på grund av en video deepfake år 2024.
   
6. Företag som har över 50 manuella granskare löper risk för att samordningen och graden av enighet minskar mellan teamen. Vid den här tidpunkten börjar du betrakta policydrift som en stor efterlevnadsrisk.

Viktiga begränsningar för manuell bildgranskning

Det råder ingen tvekan om att mänskliga granskare är avgörande för att förstå kulturella nyanser och sammanhang. Vi har dock noterat att den höga hastigheten på dataöverföringen i kombination med den mänskliga hjärnans fysiologiska begränsningar inte kan skalas upp.

Detta skapar följande begränsningar för ditt företag:

1. Oförmåga att skala med volym

För att granska dubbelt så många bilder krävs det i allmänhet dubbelt så många människor. Denna modell bryter samman under tyngden av den moderna internettrafiken.

Låt oss ta Instagram som ett bra exempel. Enbart dess användare laddar upp över 95 miljoner foton och videor per dag. Och när vi tittar på YouTube laddar dess skapare också upp 500 timmar video varje minut.

Baserat på dessa data kan ett team med 10 000 manuella granskare som arbetar nonstop inte fysiskt granska varje innehåll med 100% effektivitet.

Detta har lett till att man förlitar sig på inställningar för efterhandsmoderering som gör att skadligt innehåll kan ligga kvar under längre perioder innan det åtgärdas.

2. Minskad vaksamhet och felprocent

Människan är evolutionärt sett dåligt utrustad för repetitiv, manuell visuell skanning i hög hastighet. Kognitiv psykologi hänvisar till och med till detta som vaksamhet nedtrappning.

Detta är en snabb försämring av förmågan att upptäcka signaler över tiden.

Dessutom visar forskning att en granskares förmåga att upptäcka fel minskar avsevärt efter 15 till 30 minuters kontinuerlig övervakning.

Allt detta leder till kognitiv trötthet som minskar effektiviteten.

3. Påverkan på psykisk hälsa

Facebook gick med på att betala $52 miljoner i en förlikning 2020 till innehållsmoderatorer som utvecklade PTSD under arbetet.

Det här fallet är ett av många som har visat att manuella granskare, särskilt de som ofta tittar på innehåll som innehåller våld, utnyttjande av barn och gore, kan drabbas av hög utbrändhet och psykologiskt trauma som försämrar deras granskningskvalitet och kostar företaget pengar.

4. Bristande respons i realtid

Manuell granskning i stor skala kan inte fungera för svar i realtid. Felet uppstår när en människa drar ut en bild från en kö för att granska den.

När människan väl fattar ett beslut kan innehållet redan ha visats av tusentals användare.

Ett exempel är Christchurch-attacken 2019 som direktsändes. Den direktsänd video visades 4 000 gånger och delades vidare med en hastighet av en per sekund innan den togs bort av innehållsmodereringsteamet.

Det är uppenbart att köerna för manuell granskning helt enkelt inte kan röra sig tillräckligt snabbt för att stoppa spridningen av skadliga och AI-genererade bilder när de väl har kommit in i ekosystemet.

5. Begränsningar i utbildning och expertis

Många bildgranskningsdomäner är beroende av välutbildad personal. Utbildningsvägarna är långa och personalbrist är vanligt förekommande. I praktiken gör detta att rent manuell granskning är svår att upprätthålla i stor skala.

Affärs- och complianceriskerna med att förlita sig på manuell granskning

Även om de operativa begränsningarna i den manuella granskningen skapar flaskhalsar, kan en manuell granskning som inte fångar upp skadligt innehåll eller fångar upp det för långsamt leda till följande konsekvenser:

Lagstadgade påföljder

Myndigheterna går från självreglering till strikta rättsliga ramar för företag som hanterar visuellt innehåll.

Till exempel, under Europeiska unionens lag om digitala tjänster (DSA), kan mycket stora onlineplattformar (VLOP) få böter på upp till 6% av sin globala årsomsättning för att de inte på ett adekvat sätt hanterar olagligt innehåll.

Du kan föreställa dig att för ett företag av Metas storlek motsvarar detta miljarder dollar. Som ett resultat är manuell granskning för långsam och porös för att garantera de efterlevnadsnivåer som krävs av nya lagar.

Säkerhet för varumärke

Ett varumärke som inte kan hålla skadliga bilder och innehåll i schack ställs också inför utmaningar från annonsörer. Annonsörer börjar ha nolltolerans mot att deras varumärken visas tillsammans med NSFW, hatiska eller AI slop.

Enligt en studie från 2024 av Interactive Advertising Bureau (IAB) och Integral Ad Science (IAS), 51% av konsumenterna kommer sannolikt att sluta använda ett varumärke som förekommer i närheten av anstötligt innehåll.

Mot bakgrund av detta saknar manuell granskning de metadata- och kontextfunktioner som krävs för att säkerställa en hög varumärkessäkerhet i stor skala. Detta kan leda till omedelbara intäktsförluster när felaktigheter inträffar.

Brott mot datasekretessen

Manuell granskning kräver också att användarna skickar sina bilder, som ofta kan vara privata eller känsliga bilder. 

Ibland har tredjepartsföretag inom Business Process Outsourcing (BPO) eller interna anställda tillgång till dessa råa användardata. Om de inte hanteras på rätt sätt kan mänskliga manuella granskare bli källan till ett stort dataintrång och sekretessbrott.

Ohållbar vinst

När din företagsplattform skalas upp förväntar du dig att tjäna mer pengar.

Men när kostnaden för manuell granskning växer i takt med intäkterna eller snabbare, kommer detta att hindra ditt företag från att uppnå den vinst som en AI-plattform för bildmoderering vanligtvis ger.

Migration av användare och samhällstoxicitet

Gartner förutspådde att år 2025 kommer 50% av företagen att behöva hantera en “varumärkeskris” relaterad till toxicitet på sina plattformar, vilket direkt påverkar användarnas kvarhållningsgrad.

Detta har blivit allt vanligare, med användare på plattformar som X och TikTok som trycker på för bättre efterlevnad av riktlinjer för samhället.

Detta kommer att öka användarnas apati om företagen fortsätter att förlita sig på manuell granskning, eftersom granskningsköerna kommer att bli uppbackade och skadligt innehåll kommer att ligga kvar online längre. Denna toxicitet försämrar användarupplevelsen och får användarna att överge plattformen för säkrare konkurrenter.

Varför företag övergår till automatiserad bildmoderering

För företagsledare handlar övergången till automatiserad riskdetektering av bilder om överlevnad.

När man som företag hanterar miljontals uppladdade kvitton organisation för e-handel, behöver du en detektor för falska kvitton för att hålla koll på saker och ting.

Det här är skälen till att företagen flyttar:

1. AI ger deterministisk konsistens. Om du matar modellen med samma bild på tisdag som du gjorde på måndag får du samma resultat. Den här stabiliteten behövs för att upprätthålla tydliga riktlinjer för communityn och för att upprätthålla annonsörernas förtroende.
   
2. För kategorier med störande visuellt innehåll som självskadebeteende eller våld kan konstant exponering påverka mänskliga granskare. Genom att automatisera upptäckten av uppenbart spam och våld kan mänskliga moderatorer frigöras från traumatisk upptäckt och hantera komplexa överklaganden.
   
3. Automatiserade modeller bearbetar bilder på millisekunder. Så genom att integrera AI-bilddetektering, kan företag erbjuda upptäckt i realtid. Denna omedelbarhet ökar användarnas kvarhållande och konverteringsfrekvens.
   
4. Manuell granskning är dyrt i stor skala och tär på vinsten. Men med automatisering kan företag ta bort eftersläpningar, slippa mänsklig trötthet, effektivisera bildmoderering för olika platser och enkelt få avkastning på sin investering.
   
5. Automatiserad moderering kan generera strukturerade loggar, modellpoäng, tidsstämplar, åsidosättande av granskare och beslutsspår. Det gör det mycket enklare att stödja efterlevnad, intern kvalitetssäkring och kundrapportering än att förlita sig på spridda manuella anteckningar.

Vad ska man göra i stället? Ett skalbart AI-drivet tillvägagångssätt

Alternativet till en armé av människor som manuellt granskar varje bild är inte att ta bort människor helt och hållet.

Du måste se AI som ett hjälpmedel i modereringsprocessen och använda AI-bildkontroll för att hantera detekteringsprocessen, vilket gör den snabbare, mer skalbar och betydligt mindre känslig för mänskliga fel.

Använd automatiserad bildanalys som första försvarslinje

De mest hållbara automatiserade bildsystemen ber inte människor att titta på allt. Du kan ställa in AI för att hantera stora volymer och beslut med hög säkerhet på förhand.

En praktisk första försvarslinje ser ut så här:

• Kör varje bild genom automatiserad klassificering vid uppladdning för att upptäcka viktiga policykategorier.
• Klassificera bilder baserat på förtroendetrösklar som automatisk tillåtelse, automatisk blockering och eskalering till mänsklig granskning.
• Använd ett arbetsflöde med en människa i loopen för marginalfall och kvalitetssäkring.
• Återför resultaten från granskarna till träningsdata och tröskeljustering för att förbättra prestandan över tid.
• Behandla moderering som en operativ funktion och inte som en engångsfunktion som du avaktiverar efter ett tag.
• Lägg till skydd för undvikande taktiker som användare kan använda för att kringgå systemet. Uppdatera också alltid dina system i händelse av snabba policyförändringar och bättre produkter för AI-bildgenerering.

Hur TruthScan löser bildgranskning i stor skala

Organisationer står idag inför en explosion av AI-genererade och manipulerade bilder, från kvitton som skickas in av kunder och ID-verifiering till innehåll i sociala medier.

Manuell granskning är omöjlig i en sådan skala, och de sofistikerade AI-bildgeneratorer som DALL-E och Midjourney gör manuell granskning otillförlitlig.

TruthScan erbjuder företagen en utväg med en korrekt detekteringsgrad på 97,5% för Midjourney-bilder och 96,71% för DALL-E-bilder. Dessutom visar oberoende jämförelser en korrekthetsgrad på 99%.

Dessa resultat har stärkt TruthScans position som en heltäckande AI-bildmodereringsplattform i företagsklass som skyddar dina organisationer från sofistikerade AI-genererade hot.

På följande sätt kan den hjälpa ditt företag i stor skala:

• TruthScan har en bearbetningshastighet på under 2 sekunder, vilket är avgörande för företag som hanterar tusentals till miljontals bilder. Den optimerade detektionspipelinen bearbetar bilder på några sekunder med infrastruktur i företagsklass.
• Den stöder bulkbearbetning för arbetsflöden med stora volymer.
• Plattformen erbjuder sömlös integration, stöd för automatiserade arbetsflöden och anpassade implementeringar.
• Detta gör det nu möjligt för organisationer att integrera bilddetektering direkt i befintliga pipelines för innehållsmoderering och kravhantering, etc.
• Varje del av innehållet tilldelas en förtroendepoäng från 0-100%, vilket indikerar sannolikheten för att det har genererats eller manipulerats av AI.

Prata med TruthScan om säker skalning av bildgranskning

TruthScan är redo att arbeta med dig och skala upp din bilddetektering på ett smidigt sätt. Du kan kontakta TruthScan direkt på deras plattform för att integrera deras automatisering i ditt arbetsflöde.

Företag som arbetar med TruthScan får följande funktioner:

• Stora rabatter för stora volymer
• Driftsättningar på plats och regionala driftsättningar (Storbritannien, EU och andra platser som förhandlats fram)
• Anpassade modeller av högsta kvalitet
• Anpassade integrationer
• Dedikerad support 24/7
• Anpassad SLA
• Dedikerad kundansvarig

Det finns ingen kostnad i förskott, utan du förhandlar om ditt kontrakt med en TruthScan-försäljare, så att du kan få ett arrangemang som passar ditt företag.

Dessutom har du en chans att tjäna upp till $100k i Partnerprogram genom att använda dina kontakter för att sälja in TruthScan till varumärken som attackeras av deepfake och AI-manipulerat innehåll.