Hvorfor manuell bildegjennomgang mislykkes i stor skala, og hva du kan gjøre i stedet

Det er ikke overraskende at bedrifter og merkevarer med tusenvis av brukere blir overveldet av bilder av fakturaer og kvitteringer. De må nemlig verifisere ektheten før de refunderer eller utbetaler penger til kundene sine.

Det er imidlertid krevende å måtte gå gjennom hvert enkelt bilde manuelt, spesielt siden noen av disse bildene er generert av kunstig intelligens, noe som kan lure selv de mest grundige manuelle granskerne.

Hvis et dusin eller flere falske kvitteringer går gjennom den manuelle gjennomgangen, kan det koste bedriften tusenvis av kroner.

Så hva er den beste løsningen for dette? Det er en AI-bildedetektor for bedrifter.

La oss gå nærmere inn på detaljene nedenfor.

---

Det viktigste å ta med seg

• Manuell bildegranskning (MIR) skaper store flaskehalser i driften fordi mennesker bare kan behandle noen få hundre bilder i timen, mens bedrifter ofte håndterer titusenvis av bilder daglig.

• Skalering av manuelle team er økonomisk uholdbart på grunn av høye ansettelses- og opplæringskostnader, kombinert med risikoen for “vigilance decrement”, der den menneskelige nøyaktigheten synker betydelig etter bare 30 minutter.

• Å stole på mennesker alene utsetter selskaper for massiv svindel, ettersom sofistikerte AI-genererte deepfakes og falske kvitteringer lett kan lure selv de mest detaljerte manuelle kontrollørene.

• Hvis bildemoderering ikke automatiseres, kan det føre til alvorlige forretningsrisikoer, blant annet bøter i millionklassen, at annonsører slutter å annonsere på grunn av problemer med varemerkesikkerhet og utbrenthet blant de ansatte.

• TruthScan tilbyr et skalerbart alternativ ved å bruke kunstig intelligens til å behandle bilder på under to sekunder med en nøyaktighetsgrad på 99%, noe som gjør det mulig for bedrifter å håndtere arbeidsflyter med store volumer uten forsinkelsen ved manuell gjennomgang.

• Ved å integrere et høytytende verktøy som TruthScan kan virksomheter automatisere rutinemessig oppdagelse og spare menneskelig ekspertise til de mest komplekse tilfellene og nyanserte klagene.

---

Hva er manuell bildegjennomgang i bedriftsmiljøer?

Manuell bildegjennomgang (MIR) i bedriftsmiljøer er en menneskestyrt sikkerhetsprosess der menneskelige analytikere vurderer visuelle ressurser opp mot organisasjonens formelle retningslinjer, regulatoriske krav og risikotoleransenivåer.

Gjennom denne analysen kan anmelderne bestemme seg for å gjøre noe av følgende:

• Valider, 
• Flagg, 
• Avvis, eller 
• Eskaler innholdet.

I de tilfellene der manuell bildegjennomgang gjøres, dreier det seg først og fremst om å filtrere ut upassende brukergenerert innhold, validering av samsvar, beskyttelse av merkevareintegritet og reduksjon av juridisk risiko og omdømmerisiko.

Manuell gjennomgang skaper imidlertid flaskehalser, reduserer virksomhetens effektivitet og stopper dermed skaleringsarbeidet.

Hvorfor manuell bildegjennomgang bryter sammen i stor skala

Manuell bildegranskning er uunnværlig i situasjoner der det står mye på spill i virksomheter som må foreta en grundig screening av falske kvitteringer.

Dessverre er den manuelle gjennomgangen ikke skalerbar i takt med at bildebehandlingsvolumet øker. På dette punktet står bedriftene overfor en uholdbar flaskehals. 

Et system som tidligere fungerte for flere titalls bildegjennomganger per uke, begynner å svikte katastrofalt når teamene må gjennomgå tusenvis av bilder daglig.

Det er dette som skjer i stor skala:

1. Menneskelige korrekturlesere kan bare behandle mellom 100 og 300 bilder i timen, og det er sjenerøst sagt. I stor skala får du over 10 000 bilder hver dag. I så fall trenger du hundrevis av fulltidsvurderere, noe som vil være en uholdbar driftsbyrde. Med færre korrekturlesere vokser faktisk køene raskere enn teamet ditt kan håndtere, noe som skaper forsinkelser som kan strekke seg fra timer til dager eller til og med uker.
   
2. Det tar flere uker å lære opp en ny medarbeider, og dette øker de totale kostnadene når du må ansette, lære dem opp og holde på dem.
   
3. Menneskelige korrekturlesere er ikke perfekte, og de er tilbøyelige til å gjøre feil. Disse feilene øker etter hvert som de blir slitne av å bli bombardert med hundrevis av bilder hver dag. Den samme analytikeren kan godkjenne et bilde den ene dagen og avvise et lignende den neste. I stor skala vil en trøtthet hos en korrekturleser føre til inkonsekvente avgjørelser og manglende samsvar.
   
4. Selv om menneskelig berøring er viktig for risikovurderinger, kan det å stole utelukkende på mennesker hindre bedriftens AI-bildedeteksjonssystem i å fange opp metadata og mønstre som kan trene det opp til å bli bedre. Dette vil låse deg fast i kostbar manuell avhengighet.
   
5. På toppen av det hele har generativ AI gjort ting verre for bedriftene. Siden 2023, AI-genererte deepfakes hadde krevd en mye langsommere og grundigere gjennomgang. Ellers kan det koste tusenvis eller millioner av dollar, som i tilfellet med en finansansatt ved Arups kontor i Hongkong. Denne ansatte ble lurt til å overføre $25 millioner til svindlere på grunn av en video deepfake i 2024.
   
6. Virksomheter som har mer enn 50 manuelle granskere, risikerer at koordineringen og enigheten mellom teamene blir dårligere. På dette tidspunktet begynner man å se på avvikende retningslinjer som en stor compliancerisiko.

Viktige begrensninger ved manuell bildegranskning

Menneskelige korrekturlesere er utvilsomt avgjørende for å forstå kulturelle nyanser og kontekst. Likevel har vi lagt merke til at hastigheten på dataopplastingen, kombinert med de fysiologiske begrensningene i den menneskelige hjernen, ikke kan skaleres opp.

Dette skaper følgende begrensninger for bedriften din:

1. Manglende evne til å skalere med volum

For å se gjennom dobbelt så mange bilder trenger man som regel dobbelt så mange mennesker. Denne modellen bryter sammen under vekten av moderne internettrafikk.

La oss ta Instagram som et godt eksempel. Bare brukerne laster opp over 95 millioner bilder og videoer hver dag. Og når vi ser på YouTube, laster skaperne også opp 500 timer med video hvert minutt.

Basert på disse dataene kan ikke et team på 10 000 manuelle korrekturlesere som jobber nonstop, fysisk gjennomgå alt innhold med 100% effektivitet.

Dette har gjort det nødvendig å bruke innstillinger for ettermoderering, som gjør at skadelig innhold kan forbli live i lengre perioder før det blir tatt hånd om.

2. Redusert årvåkenhet og feilprosent

Mennesket er evolusjonært sett dårlig rustet for repetitiv, manuell visuell skanning i høy hastighet. Kognitiv psykologi omtaler til og med dette som redusert årvåkenhet.

Dette er en rask nedgang i evnen til å oppdage signaler over tid.

Forskning viser dessuten at en korrekturlesers evne til å oppdage feil reduseres betydelig etter 15 til 30 minutter med kontinuerlig overvåking.

Alt dette kulminerer i kognitiv utmattelse som reduserer effektiviteten.

3. Innvirkning på psykisk helse

Facebook gikk med på å betale $52 millioner i et forlik i 2020 til innholdsmoderatorer som utviklet PTSD mens de var på jobb.

Denne saken er én av mange som har vist at manuelle anmeldere, spesielt de som ofte ser på innhold som inneholder vold, utnytting av barn og gore, kan bli utbrent og få psykiske traumer som forringer kvaliteten på anmeldelsene deres og koster bedriften penger.

4. Mangel på respons i sanntid

Manuell gjennomgang i bedriftsskala kan ikke fungere for sanntidssvar. Feilen dukker opp når et menneske trekker et bilde fra en kø for å gjennomgå det.

Når mennesket når frem til en beslutning, kan innholdet allerede ha blitt sett av tusenvis av brukere.

Et eksempel er Christchurch-angrepet i 2019, som ble livestreamet. Det direktestrømmet video ble vist 4000 ganger og delt én gang i sekundet før den ble tatt ned av innholdsmodereringsteamet.

Det er åpenbart at manuelle gjennomgangskøer ikke er raske nok til å stoppe viraliseringen av skadelige og AI-genererte bilder når de kommer inn i økosystemet.

5. Opplæring og kompetansebegrensninger

Mange bildegranskningsområder er avhengige av høyt utdannet personell. Opplæringsløpene er lange, og det er vanlig at det er mangel på personell. I praksis er det derfor vanskelig å opprettholde en ren manuell gjennomgang i stor skala.

Risikoen for virksomheten og etterlevelsen ved å basere seg på manuell gjennomgang

Selv om de operasjonelle begrensningene ved manuell gjennomgang skaper flaskehalser, kan manuell gjennomgang som ikke fanger opp skadelig innhold, eller som fanger det opp for sakte, føre til følgende konsekvenser

Regulatoriske sanksjoner

Myndighetene går fra selvregulering til strenge juridiske rammer for virksomheter som håndterer visuelt innhold.

For eksempel, under EUs lov om digitale tjenester (DSA), De aller største nettplattformene (Very Large Online Platforms, VLOPs) risikerer bøter på opptil 6% av sin årlige globale omsetning for ikke å håndtere ulovlig innhold på en tilfredsstillende måte.

Du kan tenke deg at for et selskap på størrelse med Meta representerer dette milliarder av dollar. Som et resultat av dette er manuell gjennomgang for treg og porøs til å garantere samsvarsnivåene som kreves av de nye lovene.

Merkevaresikkerhet

En merkevare som ikke klarer å holde skadelige bilder og innhold i sjakk, møter også utfordringer fra annonsørene. Annonsører begynner å ha nulltoleranse for at merkevarene deres vises sammen med NSFW, hatefullt eller AI-slop.

Ifølge en studie fra 2024 utført av Interactive Advertising Bureau (IAB) og Integral Ad Science (IAS), er det sannsynlig at 51% av forbrukerne vil slutte å bruke et varemerke som vises i nærheten av støtende innhold.

I lys av dette mangler manuell gjennomgang metadata og kontekstfunksjoner for å sikre god merkevaresikkerhet i stor skala. Dette kan føre til umiddelbare inntektstap når det oppstår feil.

Brudd på personvernet

Manuell gjennomgang krever også at brukerne sender inn bildene sine, som ofte også kan være private eller sensitive bilder. 

Noen ganger har tredjeparts BPO-sentre (Business Process Outsourcing) eller interne ansatte tilgang til disse rådataene. Hvis de ikke håndteres på riktig måte, kan menneskelige, manuelle korrekturlesere bli kilden til store datainnbrudd og brudd på personvernet.

Uholdbar fortjeneste

Etter hvert som bedriftsplattformen skalerer, forventer du å tjene mer penger.

Men når kostnadene for manuell gjennomgang vokser i takt med inntektene eller raskere, vil dette hindre bedriften i å oppnå den fortjenesten som en AI-bildemodereringsplattform vanligvis gir.

Brukermigrasjon og samfunnstoksisitet

Gartner spådde at 50% av selskapene innen 2025 vil måtte håndtere en “merkevarekrise” knyttet til toksisitet på plattformene sine, noe som vil ha direkte innvirkning på brukernes lojalitetsgrad.

Dette har blitt stadig mer aktuelt, og brukere på plattformer som X og TikTok presser på for bedre håndhevelse av retningslinjene for fellesskapet.

Dette vil føre til økt brukerapati hvis bedrifter fortsetter å basere seg på manuell vurdering, fordi vurderingskøene vil bli opphopet og skadelig innhold vil forbli online lenger. Denne giftigheten forringer brukeropplevelsen, noe som fører til at brukerne forlater plattformen til fordel for tryggere konkurrenter.

Derfor går bedrifter over til automatisert bildemoderering

For bedriftsledere handler overgangen til automatisert deteksjon av bilderisiko om overlevelse.

Når du har å gjøre med millioner av opplastede kvitteringer som en e-handelsorganisasjon, trenger du en falsk kvitteringsdetektor for å holde kontroll.

Dette er årsakene til at bedriftene flytter:

1. AI gir deterministisk konsistens. Hvis du gir modellen det samme bildet på tirsdag som du gjorde på mandag, får du det samme resultatet. Denne stabiliteten er nødvendig for å håndheve tydelige retningslinjer for fellesskapet og opprettholde annonsørenes tillit.
   
2. For kategorier med urovekkende visuelt innhold som selvskading eller vold kan konstant eksponering påvirke menneskelige anmeldere. Ved å automatisere oppdagelsen av åpenbar søppelpost og vold, frigjøres menneskelige moderatorer fra traumatisk oppdagelse til å håndtere komplekse klager.
   
3. Automatiserte modeller behandler bilder på millisekunder. Så ved å integrere AI-bildedeteksjon, kan bedrifter tilby deteksjon i sanntid. Denne umiddelbare oppdagelsen øker brukernes oppbevaring og konverteringsfrekvens.
   
4. Manuell gjennomgang er dyrt i stor skala og tærer på fortjenesten. Med automatisering kan bedrifter imidlertid fjerne etterslep, fjerne menneskelig utmattelse, effektivisere bildemoderering for ulike lokasjoner og enkelt få avkastning på investeringen.
   
5. Automatisert moderering kan generere strukturerte logger, modellpoengsummer, tidsstempler, overstyringer og beslutningsspor. Det gjør det langt enklere å støtte compliance, intern kvalitetssikring og kunderapportering enn å basere seg på spredte manuelle notater.

Hva du kan gjøre i stedet: En skalerbar AI-drevet tilnærming

Alternativet til en hærskare av mennesker som manuelt går gjennom hvert bilde, er ikke å fjerne mennesker helt.

Du må se på AI som en hjelper i modereringsprosessen og bruke AI-bildesjekker til å håndtere deteksjonsprosessen, noe som gjør den raskere, mer skalerbar og betydelig mindre utsatt for menneskelige feil.

Bruk automatisert bildeanalyse som første forsvarslinje

De mest holdbare automatiserte bildesystemene ber ikke mennesker om å se på alt. Du kan stille inn AI-en til å håndtere store volumer og beslutninger med høy tillit på forhånd.

En praktisk første forsvarslinje ser slik ut:

• Kjør hvert bilde gjennom automatisk klassifisering ved opplasting for å oppdage viktige policykategorier.
• Klassifiser bilder basert på tillitsterskler som automatisk godkjenning, automatisk blokkering og eskalering til menneskelig gjennomgang.
• Bruk en menneskelig arbeidsflyt for edge cases og kvalitetssikring.
• Mata resultatene fra anmelderne tilbake til opplæringsdata og terskeljustering for å forbedre ytelsen over tid.
• Behandle moderering som en driftsfunksjon og ikke som en engangsfunksjon som du deaktiverer etter en stund.
• Legg til beskyttelse mot omgåelsestaktikker som brukerne kan bruke for å omgå systemet. Oppdater også alltid systemene ved raske policyendringer og bedre produkter for generering av AI-bilder.

Slik løser TruthScan bildegranskning i bedriftsskala

Organisasjoner står i dag overfor en eksplosjon av AI-genererte og manipulerte bilder, fra kundeinnsendte kvitteringer og ID-verifisering til innhold i sosiale medier.

Manuell gjennomgang er umulig i en slik skala, og de sofistikerte AI-bildegeneratorer som DALL-E og Midjourney, gjør den manuelle gjennomgangen upålitelig.

TruthScan tilbyr bedrifter en utvei med en nøyaktig deteksjonsrate på 97,5% for Midjourney-bilder og 96,71% for DALL-E-bilder. Uavhengige sammenligninger viser dessuten en korrekthetsgrad på 99%.

Disse resultatene har styrket TruthScans posisjon som en omfattende AI-bildemodereringsplattform i bedriftsklassen, som beskytter organisasjoner mot sofistikerte AI-genererte trusler.

Her er noen av måtene det kan hjelpe bedriften din i stor skala:

• TruthScan har en prosesseringshastighet på under 2 sekunder, noe som er avgjørende for bedrifter som håndterer tusenvis til millioner av bilder. Den optimaliserte deteksjonspipelinen behandler bilder på sekunder med en infrastruktur i bedriftsklasse.
• Den støtter massebehandling for arbeidsflyter med store volumer.
• Plattformen tilbyr sømløs integrasjon, og støtter automatiserte arbeidsflyter og tilpassede implementeringer.
• Dette gjør det nå mulig for organisasjoner å integrere bildedeteksjon direkte i eksisterende pipelines for innholdsmoderering og behandling av krav osv.
• Hvert innhold er tildelt en tillitsscore fra 0-100%, som angir sannsynligheten for at det er generert eller manipulert av AI.

Snakk med TruthScan om sikker skalering av bildegjennomgang

TruthScan er klar til å samarbeide med deg og skalere bildedeteksjonen din på en smidig måte. Du kan kontakte TruthScan direkte på plattformen deres for å integrere automatiseringen deres i arbeidsflyten din.

Bedrifter som samarbeider med TruthScan, får følgende funksjoner:

• Store rabatter for høye volumer
• Utplassering på stedet og regionalt (Storbritannia, EU og andre forhandlingssteder)
• Tilpassede modeller av høyeste kvalitet
• Tilpassede integrasjoner
• 24/7 dedikert kundestøtte
• Tilpasset SLA
• Dedikert kundeansvarlig

Det er ingen kostnad på forhånd, men du forhandler kontrakten med en TruthScan-salgsagent, slik at du kan få et opplegg som passer din virksomhet.

I tillegg har du sjansen til å tjene opptil $100k i Partnerprogram ved å bruke forbindelsene dine til å selge inn TruthScan til merkevarer som blir angrepet av deepfake og AI-manipulert innhold.