Instagram Gunakan AI untuk Mendeteksi Cyberbullying dalam Postingan

HAI-online.com - Instagram mengumumkan bahwa mereka telah mulai menggunakan kecerdasan buatan (AI) untuk mendeteksi cyberbullying dalam foto yang diposting dalam platform media sosial tersebut.

Ini adalah bagian dari upaya Instagram untuk menggunakan teknologi otomatisasi dalam proses moderasi mereka.

Kepala Instagram yang baru, Adam Mosseri, mengatakan bahwa bullying online adalah masalah rumit yang mempengaruhi sejumlah besar penggunanya.

"Meskipun sebagian besar foto yang dibagikan adalah foto-foto berbau positif dan mendatangkan kegembiraan, namun terkadang foto yang dibagikan dianggap nggak layan dan nggak disukai pengguna lain."

"Kami sekarang menggunakan teknologi mesin otomatis untuk secara proaktif mendeteksi bullying dalam foto dan caption, lalu mengirimnya ke tim Operasi Komunitas kami untuk ditinjau,” kata Mosseri dalam sebuah pernyataan.

Baca Juga : Bro, Udah Saatnya Kita Puasa Dari Instagram Untuk Mengatasi Racun dan Candunya

Pengguna Instagram memang sudah dapat melaporkan konten yang melanggar aturan dari layanan tersebut, namun teknologi baru ini dapat secara otomatis mendeteksi bullying.

Saat ini teknologi tersebut sedang diluncurkan, dan akan semakin meluas dalam beberapa minggu mendatang. Mosseri mengakui bahwa alat ini akan membantu orang-orang yang biasanya nggak melaporkan bullying, seperti para pengguna yang lebih muda.

Instagram juga akan menggunakan filter dalam Live Video, yang nantinya secara otomatis dapat menyembunyikan komentar ofensif, dan penggunanya dapat menambahkan filter manual untuk mendukung algoritma tersebut.

Cyberbullying telah menjadi topik yang hangat dibicarakan akhir-akhir. Di mana banyak perusahaan teknologi mendapatkan banyak kritik karena nggak memberikan peraturan yang lebih baik mengenai pelecehan dan ujaran kebencian dalam platform mereka.

Kemudian hal ini lah yang menjadi perhatian Instagram dengan menghadirkan teknologi tersebut.

"Sembari menghentikan bullying, kita juga harus berbuat lebih banyak dengan menebarkan kebaikan di Instagram," kata Mosseri. (*)