Bagaimana Facebook Menyembunyikan Betapa Mengerikannya Dengan Ujaran Kebencian
Ideas

Bagaimana Facebook Menyembunyikan Betapa Mengerikannya Dengan Ujaran Kebencian

Di depan umum, Facebook tampaknya mengklaim bahwa mereka menghapus lebih dari 90 persen ujaran kebencian di platformnya, tetapi dalam komunikasi internal pribadi perusahaan mengatakan angka itu hanya 3 hingga 5 persen yang mengerikan. Facebook ingin kita percaya bahwa hampir semua ujaran kebencian telah dihapus, padahal kenyataannya hampir semuanya tetap ada di platform.

Kemunafikan cabul ini terungkap di tengah banyak keluhan, berdasarkan ribuan halaman dokumen internal yang bocor, yang diajukan oleh karyawan Facebook, Frances Haugen dan tim hukumnya ke SEC awal bulan ini. Sementara perhatian publik pada kebocoran ini difokuskan pada dampak Instagram pada kesehatan remaja (yang hampir tidak pernah disebut-sebut sebagai senjata merokok) dan pada peran algoritme Umpan Berita dalam memperkuat informasi yang salah (hampir tidak terungkap), kegagalan total Facebook untuk membatasi ujaran kebencian dan trik menipu sederhana yang secara konsisten diandalkan untuk menyembunyikan kegagalan ini sangat mengejutkan. Ini memperlihatkan betapa Facebook bergantung pada AI untuk moderasi konten, betapa tidak efektifnya AI itu, dan perlunya memaksa Facebook untuk berterus terang.

Dalam kesaksian kepada Senat AS pada Oktober 2020, Mark Zuckerberg menunjuk pada laporan transparansi perusahaan, yang katanya menunjukkan bahwa “kami secara proaktif mengidentifikasi, saya pikir itu sekitar 94 persen dari pidato kebencian yang akhirnya kami hapus.” Dalam kesaksian di DPR beberapa bulan kemudian, Zuckerberg juga menanggapi pertanyaan tentang ujaran kebencian dengan mengutip laporan transparansi: “Kami juga menghapus sekitar 12 juta konten di Grup karena melanggar kebijakan kami tentang ujaran kebencian, 87 persen di antaranya kami temukan secara proaktif.” Di hampir setiap laporan transparansi triwulanan, Facebook menyatakan persentase moderasi ujaran kebencian di tahun 80-an dan 90-an seperti ini. Namun sebuah dokumen yang bocor dari Maret 2021 mengatakan, “Kami dapat bertindak sesedikit 3-5% dari kebencian … di Facebook.”

Apakah Facebook benar-benar terjebak dalam kebohongan yang mengerikan? Iya dan tidak. Secara teknis, kedua angka itu benar—mereka hanya mengukur hal yang berbeda. Ukuran yang benar-benar penting adalah yang disembunyikan Facebook. Tindakan yang dilaporkan Facebook secara publik tidak relevan. Ini seperti jika setiap kali seorang petugas polisi menepi dan menanyakan seberapa cepat Anda melaju, Anda selalu menjawab dengan mengabaikan pertanyaan itu dan malah membual tentang jarak tempuh mobil Anda.

Ada dua cara agar ujaran kebencian dapat ditandai untuk ditinjau dan kemungkinan dihapus. Pengguna dapat melaporkannya secara manual, atau algoritme AI dapat mencoba mendeteksinya secara otomatis. Deteksi algoritma penting bukan hanya karena lebih efisien, tetapi juga karena dapat dilakukan secara proaktif, sebelum pengguna menandai ucapan kebencian.

Angka 94 persen yang digembar-gemborkan Facebook secara publik adalah “tingkat proaktif”, jumlah item ujaran kebencian yang dihapus yang terdeteksi oleh AI Facebook secara proaktif, dibagi dengan jumlah total item ujaran kebencian yang dihapus. Facebook mungkin ingin Anda berpikir bahwa angka ini menunjukkan berapa banyak ujaran kebencian yang dihapus sebelum memiliki peluang untuk menyebabkan kerugian—tetapi yang sebenarnya diukur adalah seberapa besar peran yang dimainkan algoritme dalam pendeteksian ujaran kebencian di platform.

Yang penting bagi masyarakat adalah jumlah ujaran kebencian yang bukan dihapus dari platform. Cara terbaik untuk menangkap ini adalah jumlah penghapusan ujaran kebencian dibagi dengan jumlah total kasus ujaran kebencian. “Tingkat penghapusan” ini mengukur seberapa banyak ujaran kebencian di Facebook benar-benar dihapus—dan itulah angka yang coba dirahasiakan oleh Facebook.

Berkat Haugen, kami akhirnya mengetahui tingkat pencopotan, dan itu suram. Menurut dokumen internal, lebih dari 95 persen ujaran kebencian yang dibagikan di Facebook tetap ada di Facebook. Zuckerberg membual kepada Kongres bahwa Facebook menghapus 12 juta keping pidato kebencian di Grup, tetapi berdasarkan perkiraan yang bocor, kita sekarang tahu bahwa sekitar 250 juta keping pidato kebencian kemungkinan ditinggalkan. Ini mengejutkan, dan ini menunjukkan betapa sedikit kemajuan yang telah dibuat sejak hari-hari awal forum internet yang tidak diatur — terlepas dari investasi ekstensif yang telah dilakukan Facebook dalam moderasi konten AI selama bertahun-tahun.

Posted By : keluaran hk hari ini tercepat