Instagram - Menggunakan Artificial Intelligence untuk Menangkis Pelecehan Online
Media sosial milik facebook ini, yang memfokuskan diri pada berbagi foto dan video, memiliki 1 miliar pengguna aktif pada bulan Juni 2018, yang mengunggah 96 juta foto setiap harinya. Menyadari bahwa sayangnya banyak orang sering kali menggunakan media tersebut untuk menganiaya, melecehkan, dan menyakiti secara online, Instagram mengumumkan bahwa ia menggunakan artificial intelligence (AI) untuk menghentikan perilaku tidak menyenangkan yang muncul sebelum perilaku tersebut memengaruhi hidup orang lain.
Masalah Apa yang Artificial Intelligence Bantu Pecahkan?
Survei Ditch the Label's UK Charity yang mengukur tingkat bullying setiap tahun menemukan bahwa 42% kaum muda mengalami pelecehan dalam dunia maya melalui Instagram, angka tertinggi diantara platform media sosial lainnya. Dalam laporannya yang berjudul Dampak Cyberbullying pada Kesehatan Mental Kaum Muda, Children's Society diawal tahun 2018 menganggap bahwa "langkah-langkah yang diambil oleh perusahaan-perusahaan media sosial dalam hal cyberbullying tidak cukup dan tidak konsisten".
 |
Platform Digital Instagram |
Seperti pelecehan dalam dunia nyata, cyberbullying bisa memiliki dampak yang mendalam dan terus-menerus dirasakan dalam kehidupan korban, dan dalam kasus-kasus ekstrem bisa mengarah ke masalah kesehatan mental dan bunuh diri. Dengan mengambil tanggung jawab agar pengguna mereka aman dari pelecehan dan penganiayaan, perusahaan-perusahaan media sosial harus menjaga keseimbangan antara membatasi kebebasan berbicara dan menertibkan konten para penggunanya.
Bagaiaman Artificial Intelligence Digunakan dalam Praktik?
Instagram menggunakan algoritma penyaringan komen dengan artificial intelligence, yang menyaring semua komen yang diunggah ke jaringan tersebut. Teks, seperti juga ucapan dalam video, diuraikan oleh filter, dan apapun yang dianggap komentar yang bersifat menganiaya, hinaan, atas penampilan seseorang, atau ras atau jenis kelamin mereka, misalnya secara otomatis disaring.
Jika satu akun dilihat sering difilter, sekelompok staf manusia akan mengulas secara manual akun tersebut, yang kemudian akan menentukan apakah pengguna dibalik akun tersebut melanggar ketentuan penggunaan. Bisa jadi nantinya pengguna tersebut dilarang untuk menggunakan platform tersebut.
Teknologi, Perangkat, dan Data Apa yang Digunakan?
Filter anti-bullying Instagram menggunakan teknologi natural language processing yang disebut DeepText, yang dikembangkan oleh Facebook. DeepText menggunakan deep learning yang melibatkan jaringan saraf untuk mengelompokkan teks-teks yang diunggah, juga konteks yang dimaksud oleh teks tersebut. Oleh karena keakuratan sistem deep learning meningkat oleh latihan dan praktik, sistem tersebut semakin dapat membedakan, misalnya, hinaan yang dilontarkan antarteman dengan maksud bercanda dan bahasa yang mengindikasikan pelecehan cyber yang memang sengaja dan ditargetkan.
Selain memberikan tanda identifikasi untuk setiap kata, dan menggunakannya untuk mencatat frekuensi kata dan konteks dalam sebuah teks, DeepText juga memosisikan setiap kata pada jaringan hubungan semantik. Ini memungkinkan AI untuk mempelajari hubungan yang sama antara kata, dan situasi dimana kata-kata yang berbeda digunakan untuk mengutarakan maksud yang sama.
Triknya adalah bahwa DeepText bisa melakukan hal ini begitu cepat hingga sistem tersebut efektif secara realtime. Artinya, menganalisis, memahami, dan memahami keputusan sekitar 1.000 unggahan Instagram setiap detik.
Apa Hasilnya?
Inisiatif anti-bullying Instagram sangat baru dan perusahaan tersebut belum mengatakan apa pun tentang hasil yang sudah dilihatnya. Namun, harapannya adalah dengan menghapusnya komentar-komentar yang kasar, menghina, menimbulkan amarah atau menyakitkan sebelum komentar itu dilihat, pengguna akan memiliki pengalaman yang lebih positif dan sesuai harapan dengan platform tersebut.
Tantangan Utama, Poin Pembelajaran, dan Hal yang Harus Diingat
1. Bullying adalah masalah yang selalu ada dalam masyarakat, namun internet dan media sosial membuatnya lebih parah karena perilaku bisa menargetkan korban secara publik dan tanpa diketahui namanya.
2. Tanpa AI tidak mungkin semua unggahan yang masuk ke Instagram disaring secara langsung. Ini berarti tanpa DeepText, penghapusan konten negatif secara proaktif tidak bisa dilakukan.
3. Ada pula risiko tidak sengaja menghapus komentar seseorang yang sebenarnya hanya mengungkapkan kebebasan bicaranya atau hak mereka untuk menyatakan keberatan atau ketidaksetujuan, Namun analisis text dan natural language processing sekarang cukup canggih dan dapat diandalkan untuk membedakannya.
sumber :
Artificial Intelligence In Practice - Bernard Marr & Matt Ward.
0 Komentar