Facebook mengalami kesulitan melawan ujaran kebencian

Jaringan sosial raksasa ini membuat kemajuan dalam menggunakan kecerdasan buatan untuk mendeteksi dan menghapus ketelanjangan, spam dan terorisme tapi belum mampu memerangi semua konten yang menyinggung, terutama ujaran kebencian. Untuk pertamakalinya Facebook menyebar-luaskan informasi mengenai berapa banyak dan jenis konten yang dihapusnya. Jika diperinci adalah:

• Banyak sekali spam (pesan yang bertubi-tubi tanpa dikehendaki). Facebook telah menghapus 865,8 juta posting yang kebanyakan adalah spam (837 juta) dalam triwulan pertama tahun 2018. 
• 3% sampai 4% akun Facebook adalah palsu. Facebook mengatakan telah menonaktifkan 583 juta akun palsu dalam triwulan pertama ini. Menurut perhitungan Facebook 3% - 4% dari pengguna layanan sekurang-kurangnya sebulan sekali adalah palsu.
• Kecerdasan buatan kadang-kadang dapat membantu. Sistem otomatis dapat mendeteksi 100% spam dan 96% ketelanjangan sebelum para pengguna menyatakan keberatan mengenai hal itu.
• Tetapi kecerdasan buatan bukanlah peluru ajaib. Kecerdasan buatan bekerja dengan baik dalam memburu konten teroris, ketelanjangan dan spam. Konten teroris yang berhasil dihapus 1,9 juta atau 99,5%. Tetapi tidak demikian dalam kaitan ujaran kebencian. Facebook masih mengandalkan moderator untuk menditeksi ujaran kebencian.
• Apa yang susah mengenai ujaran kebencian? Dari 2,5 juta ujaran kebencian yang dihapus Facebook pada kuartal pertama 38% ditemukan oleh kecerdasan buatan (AI). Mengapa AI dapat menemukan konten terorisme tapi menemukan kesukaran terkait ujaran kebencian? Karena AI menemui kesukaran dalam pemahaman konteks sejarah dan nuansa kebudayaan.
• Apa pentingnya penyebaran ujaran kebencian? Pengguna Fecebook menjadi kesal jika sebuah posting mereka tandai sebagai ofensif tapi Facebook menyatakan tidak ada aturannya yang dilanggar. Sebaliknya Facebook mengecewakan penggunanya jika salah menilai dan menyatakan suatu posting adalah ujaran kebencian dan menghapusnya. Misalnya Facebook terpaksa minta maaf kepada seorang penggiat dan pengarang hitam karena tidak bisa membedakan siapa yang menyebarkan ujaran kebencian dan siapa yang mengecamnya.

USA Today