Mengapa Tinjauan Gambar Manual Gagal pada Skala Perusahaan dan Apa yang Harus Dilakukan

Tidak mengherankan jika bisnis dan merek dengan ribuan pengguna kewalahan dengan gambar faktur dan tanda terima. Karena mereka harus memverifikasi keasliannya sebelum melakukan pengembalian dana atau pembayaran kepada pelanggan mereka.

Namun demikian, harus meninjau setiap gambar secara manual memang melelahkan, khususnya, karena sebagian gambar telah dihasilkan oleh AI, bahkan menipu para peninjau manual yang paling detail sekalipun.

Dalam kasus di mana selusin atau lebih tanda terima palsu lolos dari pemeriksaan manual, hal ini dapat merugikan perusahaan Anda hingga ribuan dolar.

Jadi, apa solusi terbaik untuk hal ini? Solusi ini adalah detektor gambar AI perusahaan.

Mari kita bahas detailnya di bawah ini.

---

Hal-hal Penting yang Dapat Dipetik

• Manual Image Review (MIR) menciptakan hambatan operasional yang sangat besar karena manusia hanya dapat memproses beberapa ratus gambar per jam, sedangkan perusahaan sering berurusan dengan puluhan ribu gambar setiap hari.

• Menambah tim manual secara finansial tidak berkelanjutan karena biaya perekrutan dan pelatihan yang tinggi, ditambah dengan risiko “penurunan kewaspadaan” di mana akurasi manusia menurun secara signifikan setelah hanya 30 menit.

• Mengandalkan manusia saja membuat perusahaan terekspos pada penipuan besar-besaran, karena pemalsuan canggih yang dihasilkan oleh AI dan tanda terima palsu dapat dengan mudah menipu bahkan peninjau manual yang paling detail sekalipun.

• Kegagalan mengotomatiskan moderasi gambar dapat menyebabkan risiko bisnis yang serius, termasuk denda peraturan jutaan dolar, pengiklan ditinggalkan karena masalah keamanan merek, dan kelelahan karyawan yang tinggi.

• TruthScan memberikan alternatif yang dapat diskalakan dengan menggunakan AI untuk memproses gambar dalam waktu kurang dari dua detik dengan tingkat akurasi 99%, sehingga perusahaan dapat menangani alur kerja bervolume tinggi tanpa jeda peninjauan manual.

• Dengan mengintegrasikan alat berkinerja tinggi seperti TruthScan, perusahaan dapat mengotomatiskan deteksi rutin dan menyimpan keahlian manusia untuk kasus-kasus yang paling kompleks dan banding yang bernuansa.

---

Apa yang Dimaksud dengan Tinjauan Gambar Manual di Lingkungan Perusahaan?

Manual Image Review (MIR) dalam pengaturan perusahaan adalah proses keamanan yang dipimpin oleh manusia di mana analis manusia mengevaluasi aset visual terhadap kebijakan organisasi formal, persyaratan peraturan, dan tingkat toleransi risiko.

Melalui analisis ini, peninjau dapat memutuskan untuk melakukan salah satu dari yang berikut ini:

• Validasi, 
• Bendera, 
• Tolak, atau 
• Meningkatkan konten.

Apabila peninjauan gambar secara manual dilakukan, hal ini terutama berpusat pada penyaringan gambar yang tidak sesuai konten buatan pengguna, memvalidasi kepatuhan, melindungi integritas merek, dan memitigasi risiko hukum dan reputasi.

Namun, tinjauan manual menciptakan kemacetan, mengurangi efisiensi bisnis Anda sehingga menghentikan upaya peningkatan.

Mengapa Tinjauan Gambar Manual Tidak Efektif dalam Skala Besar

Peninjauan gambar secara manual sangat diperlukan untuk situasi berisiko tinggi di perusahaan yang harus menyaring tanda terima yang curang dengan hati-hati.

Sayangnya, tinjauan manual tidak dibuat untuk meningkatkan skala seiring dengan meningkatnya volume pemrosesan gambar. Pada titik ini, perusahaan menghadapi hambatan yang tidak berkelanjutan. 

Kemudian, sistem yang biasanya bekerja untuk puluhan ulasan gambar per minggu, mulai gagal total ketika tim harus meninjau ribuan gambar setiap hari.

Inilah yang terjadi pada skala besar:

1. Peninjau manusia hanya dapat memproses sekitar 100 hingga 300 gambar per jam, dan itu sudah cukup banyak. Pada skala perusahaan, Anda mendapatkan lebih dari 10.000 gambar setiap hari. Dalam hal ini, Anda akan membutuhkan ratusan pengulas penuh waktu yang akan menjadi beban operasional yang tidak berkelanjutan. Faktanya, dengan jumlah peninjau yang lebih sedikit, antrean peninjauan Anda akan bertambah lebih cepat daripada yang dapat ditangani oleh tim Anda, sehingga menimbulkan penundaan yang bisa berlangsung berjam-jam, berhari-hari, atau bahkan berminggu-minggu.
   
2. Melatih seorang peninjau baru membutuhkan waktu berminggu-minggu, dan ini menambah biaya Anda secara keseluruhan ketika Anda harus mempekerjakan, melatih, dan mempertahankan mereka.
   
3. Pengulas manusia tidaklah sempurna dan cenderung membuat kesalahan. Kesalahan ini meningkat karena mereka lelah setelah dibombardir dengan ratusan gambar setiap hari. Analis yang sama bisa saja menyetujui suatu gambar pada suatu hari dan menolak gambar yang serupa pada hari berikutnya. Jadi, dalam skala besar, kelelahan peninjau akan menyebabkan putusan yang tidak konsisten dan penyimpangan kepatuhan.
   
4. Meskipun sentuhan manusia penting untuk penilaian yang berisiko, namun hanya mengandalkan manusia dapat mencegah sistem pendeteksi gambar AI perusahaan Anda untuk menangkap metadata dan pola yang dapat melatihnya dengan lebih baik. Hal ini akan mengunci Anda dalam ketergantungan manual yang mahal.
   
5. Selain itu, AI generatif telah memperburuk keadaan bagi perusahaan. Sejak tahun 2023, Pemalsuan mendalam yang dihasilkan AI membutuhkan peninjauan yang jauh lebih lambat dan hati-hati. Jika tidak, maka bisa jadi akan merugikan ribuan hingga jutaan dolar, seperti yang terjadi pada karyawan keuangan di kantor Arup di Hong Kong. Karyawan ini tertipu untuk mentransfer uang sebesar $25 juta kepada penipu karena pemalsuan video pada tahun 2024.
   
6. Perusahaan yang memiliki lebih dari 50 peninjau manual memiliki risiko tingkat koordinasi dan kesepakatan yang menurun di antara tim. Pada titik ini, Anda mulai mempertimbangkan penyimpangan kebijakan sebagai risiko kepatuhan yang besar.

Keterbatasan Utama Tinjauan Gambar Manual

Tidak diragukan lagi, pengulas manusia sangat penting untuk memahami nuansa dan konteks budaya. Namun, kami telah mencatat bahwa kecepatan pengunggahan data yang sangat tinggi, dikombinasikan dengan keterbatasan fisiologis otak manusia tidak dapat ditingkatkan.

Hal ini menciptakan batasan berikut untuk perusahaan Anda:

1. Ketidakmampuan untuk Mengukur dengan Volume

Umumnya, untuk meninjau gambar dua kali lebih banyak, Anda memerlukan manusia dua kali lebih banyak. Model ini akan rusak di bawah beban lalu lintas internet modern.

Mari kita ambil Instagram sebagai contoh utama. Para penggunanya mengunggah lebih dari 95 juta foto dan video per hari. Dan jika kita melihat YouTube, para kreatornya juga mengunggah 500 jam video setiap menitnya.

Berdasarkan data ini, tim yang terdiri dari 10.000 peninjau manual yang bekerja tanpa henti tidak dapat meninjau setiap konten secara fisik dengan efisiensi 100%.

Hal ini menyebabkan ketergantungan pada pengaturan pasca moderasi yang memungkinkan konten berbahaya untuk tetap ditayangkan dalam waktu yang lebih lama sebelum ditangani.

2. Penurunan Kewaspadaan dan Tingkat Kesalahan

Manusia secara evolusioner tidak diperlengkapi untuk melakukan pemindaian visual manual yang berulang-ulang dan berkecepatan tinggi. Psikologi kognitif bahkan menyebut hal ini sebagai penurunan kewaspadaan.

Ini adalah penurunan yang cepat dalam kemampuan mendeteksi sinyal dari waktu ke waktu.

Lebih jauh lagi, penelitian menunjukkan bahwa kemampuan peninjau untuk mendeteksi kesalahan secara akurat menurun secara signifikan setelah 15 hingga 30 menit pemantauan terus menerus.

Semua ini berujung pada kelelahan kognitif yang mengurangi efisiensi.

3. Dampak Kesehatan Mental

Facebook setuju untuk membayar $52 juta dalam penyelesaian tahun 2020 kepada moderator konten yang mengalami PTSD saat bekerja.

Kasus ini adalah salah satu dari sekian banyak kasus yang telah membuktikan bahwa pengulas manual, terutama mereka yang sering melihat konten yang mengandung kekerasan, eksploitasi anak, dan kekerasan, dapat menghadapi kelelahan dan trauma psikologis yang tinggi yang menurunkan kualitas ulasan mereka dan merugikan perusahaan.

4. Kurangnya Respons Waktu Nyata

Peninjauan manual pada skala perusahaan tidak dapat bekerja untuk tanggapan waktu nyata. Kesalahan muncul pada saat manusia menarik gambar dari antrean untuk ditinjau.

Pada saat manusia mengambil keputusan, konten tersebut mungkin sudah dilihat oleh ribuan pengguna.

Contohnya adalah serangan Christchurch 2019 yang disiarkan langsung. The video siaran langsung dilihat 4.000 kali dan dibagikan ulang dengan kecepatan satu kali per detik sebelum dihapus oleh tim moderasi konten.

Terbukti, antrean tinjauan manual tidak dapat bergerak cukup cepat untuk menghentikan viralitas Gambar yang dihasilkan AI begitu mereka memasuki ekosistem.

5. Kendala Pelatihan dan Keahlian

Banyak domain tinjauan gambar bergantung pada personel yang sangat terlatih. Jalur pelatihan yang panjang, dan kekurangan staf merupakan hal yang umum terjadi. Dalam praktiknya, membuat tinjauan manual murni sulit untuk dipertahankan dalam skala besar.

Risiko Bisnis dan Kepatuhan Jika Mengandalkan Tinjauan Manual

Meskipun keterbatasan operasional peninjauan manual menimbulkan kemacetan, peninjauan manual yang gagal menangkap konten berbahaya atau menangkapnya terlalu lambat dapat menyebabkan konsekuensi berikut ini:

Sanksi Peraturan

Pemerintah beralih dari pengaturan mandiri ke kerangka hukum yang ketat untuk perusahaan yang berurusan dengan konten visual.

Misalnya, di bawah Undang-Undang Layanan Digital (DSA) Uni Eropa, Very Large Online Platforms (VLOPs) menghadapi denda hingga 6% dari omset global tahunan mereka karena gagal menangani konten ilegal secara memadai.

Bisa dibayangkan bahwa untuk perusahaan seukuran Meta, hal ini mewakili miliaran dolar. Akibatnya, tinjauan manual terlalu lambat dan tidak dapat menjamin tingkat kepatuhan yang disyaratkan oleh undang-undang baru.

Keamanan Merek

Merek yang tidak dapat mencegah gambar dan konten berbahaya menghadapi tantangan dari pengiklan juga. Pengiklan mulai tidak mentoleransi merek mereka yang muncul bersama NSFW, kebencian, atau Kotoran AI.

Menurut sebuah studi tahun 2024 oleh Biro Iklan Interaktif (IAB) dan Ilmu Iklan Integral (IAS), konsumen cenderung berhenti menggunakan merek yang muncul di dekat konten yang tidak menyenangkan.

Mengingat hal ini, tinjauan manual tidak memiliki kemampuan metadata dan konteks untuk memastikan keamanan merek dalam skala besar. Hal ini dapat menyebabkan hilangnya pendapatan secara langsung ketika terjadi kesalahan.

Pelanggaran Privasi Data

Tinjauan manual juga mengharuskan pengguna untuk mengirimkan gambar mereka, yang sering kali merupakan gambar yang bersifat pribadi atau sensitif. 

Terkadang, pusat Business Process Outsourcing (BPO) pihak ketiga atau karyawan internal memiliki akses ke data pengguna mentah ini. Jika tidak dikelola dengan tepat, peninjau manual manusia dapat menjadi sumber pelanggaran data besar dan pelanggaran privasi.

Laba yang Tidak Berkelanjutan

Seiring dengan meningkatnya skala platform perusahaan Anda, Anda berharap mendapatkan lebih banyak keuntungan.

Namun, ketika biaya tinjauan manual tumbuh sejalan dengan pendapatan atau lebih cepat, hal ini akan menghalangi perusahaan Anda untuk mencapai keuntungan yang biasanya diberikan oleh platform moderasi gambar AI.

Migrasi Pengguna dan Toksisitas Komunitas

Gartner memperkirakan bahwa pada tahun 2025, 50% perusahaan harus mengelola “krisis merek” yang terkait dengan toksisitas di platform mereka, yang secara langsung berdampak pada tingkat retensi pengguna.

Hal ini semakin meningkat, dengan para pengguna di platform seperti X dan TikTok yang mendorong penegakan pedoman komunitas yang lebih baik.

Hal ini akan meningkatkan sikap apatis pengguna jika perusahaan tetap mengandalkan peninjauan manual, karena antrean peninjauan akan bertambah panjang dan konten berbahaya akan tetap online lebih lama. Toksisitas ini menurunkan pengalaman pengguna, menyebabkan pengguna meninggalkan platform tersebut dan memilih pesaing yang lebih aman.

Mengapa Perusahaan Pindah ke Moderasi Gambar Otomatis

Bagi para pemimpin perusahaan, langkah menuju deteksi risiko gambar otomatis adalah tentang kelangsungan hidup.

Ketika Anda berurusan dengan jutaan tanda terima yang diunggah sebagai organisasi e-commerce, Anda memerlukan detektor tanda terima palsu untuk menjaga agar semuanya tetap terkendali.

Ini adalah alasan mengapa perusahaan-perusahaan bergerak:

1. AI memberikan konsistensi deterministik. Jika Anda memberi makan model dengan gambar yang sama pada hari Selasa seperti yang Anda lakukan pada hari Senin, Anda akan mendapatkan hasil yang sama. Stabilitas ini diperlukan untuk menegakkan pedoman komunitas yang jelas dan menjaga kepercayaan pengiklan.
   
2. Untuk kategori dengan konten visual yang mengganggu seperti melukai diri sendiri atau kekerasan, paparan yang terus-menerus dapat memengaruhi peninjau manusia. Dengan mengotomatiskan pendeteksian spam dan kekerasan yang jelas, moderator manusia terbebas dari pendeteksian yang traumatis untuk menangani banding yang rumit.
   
3. Model otomatis memproses gambar dalam hitungan milidetik. Jadi, dengan mengintegrasikan Deteksi gambar AI, perusahaan dapat menawarkan deteksi waktu nyata. Kesegeraan ini meningkatkan retensi pengguna dan tingkat konversi.
   
4. Peninjauan manual mahal dalam skala besar dan menggerogoti keuntungan. Namun, dengan otomatisasi, perusahaan dapat menghapus tumpukan pekerjaan, menghilangkan kelelahan manusia, menyederhanakan moderasi gambar untuk lokasi yang berbeda, dan mendapatkan laba atas investasi dengan mudah.
   
5. Moderasi otomatis dapat menghasilkan log terstruktur, skor model, stempel waktu, penggantian peninjau, dan jejak keputusan. Hal ini membuatnya jauh lebih mudah untuk mendukung kepatuhan, QA internal, dan pelaporan klien daripada mengandalkan catatan manual yang tersebar.

Apa yang Harus Dilakukan: Pendekatan Berbasis AI yang Dapat Diukur

Alternatif untuk pasukan manusia yang secara manual meninjau setiap gambar bukanlah menghapus manusia sepenuhnya.

Anda harus melihat AI sebagai penolong dalam proses moderasi dan memanfaatkan Pemeriksa gambar AI untuk menangani proses deteksi, sehingga lebih cepat, lebih terukur, dan secara signifikan lebih rentan terhadap kesalahan manusia.

Gunakan Analisis Gambar Otomatis sebagai Garis Pertahanan Pertama

Sistem gambar otomatis yang paling tahan lama, tidak meminta manusia untuk melihat segalanya. Anda dapat mengatur AI untuk menangani keputusan bervolume tinggi dan dengan tingkat kepercayaan tinggi di awal.

Garis pertahanan pertama yang praktis terlihat seperti ini:

• Jalankan setiap gambar melalui klasifikasi otomatis pada saat pengunggahan untuk mendeteksi kategori kebijakan utama.
• Mengklasifikasikan gambar berdasarkan ambang batas kepercayaan seperti auto-allow, auto-block, dan meningkatkannya ke tinjauan manusia.
• Gunakan alur kerja human-in-the-loop untuk casing tepi dan jaminan kualitas.
• Masukkan hasil peninjau kembali ke dalam data pelatihan dan penyetelan ambang batas untuk meningkatkan kinerja dari waktu ke waktu.
• Perlakukan moderasi sebagai fitur operasional dan bukan fitur sekali pakai yang Anda nonaktifkan setelah beberapa saat.
• Tambahkan perlindungan untuk taktik penghindaran yang dapat digunakan pengguna untuk melewati sistem. Selain itu, selalu perbarui sistem Anda jika terjadi perubahan kebijakan yang cepat dan produk penghasil gambar AI yang lebih baik.

Bagaimana TruthScan Memecahkan Tinjauan Gambar pada Skala Perusahaan

Organisasi saat ini menghadapi ledakan gambar yang dihasilkan dan dimanipulasi oleh AI, mulai dari tanda terima yang dikirimkan pelanggan dan verifikasi ID hingga konten media sosial.

Peninjauan manual tidak mungkin dilakukan pada skala seperti itu, dan kecanggihan Generator gambar AI seperti DALL-E dan Midjourney membuat tinjauan manual tidak dapat diandalkan.

TruthScan menawarkan jalan keluar bagi perusahaan dengan tingkat deteksi akurat 97,5% untuk gambar Midjourney dan 96,71% untuk gambar DALL-E. Selain itu, perbandingan independen menunjukkan tingkat ketepatan 99%.

Hasil ini telah memperkuat posisi TruthScan sebagai platform moderasi gambar AI tingkat perusahaan yang komprehensif yang melindungi organisasi Anda dari ancaman yang dihasilkan oleh AI yang canggih.

Berikut ini adalah cara-cara berikut yang dapat membantu perusahaan Anda dalam skala besar:

• TruthScan memiliki kecepatan pemrosesan di bawah 2 detik, yang sangat penting bagi perusahaan yang menangani ribuan hingga jutaan gambar. Pipeline deteksi yang dioptimalkan memproses gambar dalam hitungan detik dengan infrastruktur kelas perusahaan.
• Mendukung pemrosesan massal untuk alur kerja bervolume tinggi.
• Platform ini menawarkan integrasi tanpa batas, mendukung alur kerja otomatis dan implementasi kustom.
• Hal ini sekarang memungkinkan organisasi untuk menyematkan deteksi gambar secara langsung ke dalam jalur moderasi konten yang ada dan pemrosesan klaim, dll.
• Setiap bagian dari konten diberi skor kepercayaan dari 0-100%, yang menunjukkan kemungkinan konten tersebut dihasilkan atau dimanipulasi oleh AI.

Bicaralah dengan TruthScan Tentang Penskalaan Ulasan Gambar dengan Aman

TruthScan siap bekerja sama dengan Anda dan menskalakan deteksi gambar Anda dengan lancar. Anda dapat langsung menghubungi TruthScan di platform mereka untuk mengintegrasikan otomatisasi mereka ke dalam alur kerja Anda.

Perusahaan yang bekerja sama dengan TruthScan mendapatkan fitur-fitur berikut:

• Diskon besar untuk volume tinggi
• Penyebaran di tempat & regional (Inggris, Uni Eropa, dan lokasi lain yang dinegosiasikan)
• Model khusus dengan kualitas terbaik
• Integrasi khusus
• Dukungan khusus 24/7
• SLA khusus
• Manajer akun khusus

Tidak ada biaya di muka; sebaliknya, Anda akan menegosiasikan kontrak Anda dengan agen penjualan TruthScan, sehingga Anda bisa mendapatkan pengaturan yang sesuai dengan bisnis Anda.

Selain itu, Anda berkesempatan untuk mendapatkan hingga $100k dalam program Program Mitra dengan menggunakan koneksi Anda untuk mempromosikan TruthScan kepada merek-merek yang diserang oleh deepfake dan konten yang dimanipulasi oleh AI.