YouTube akan Jauhkan Pengguna dari Konten Kekerasan dan Terorisme

Bulan lalu, Google melakukan langkah-langkah yang diperlukan untuk membantu memberantas konten yang terkait ekstremisme dan terorisme secara online. Sekarang Google mengumumkan sebuah fitur baru di YouTube untuk membantu pengguna agar menjauh dari konten video propaganda terorisme dan mengarahkan mereka ke konten yang mengandung pesan dan informasi mengenai terorisme. Fitur baru ini disebut Redirect Method (Metode Pengalihan), karena pada dasarnya fitur ini mengalihkan pengguna yang mencari kata kunci spesifik di YouTube ke daftar video yang menampilkan konten yang melawan gerakan ekstremis.

Tim Jigsaw Google telah bekerja sama dengan Moonshot CVE, sebuah perusahaan yang memiliki metode melawan "ekstrimisme kekerasan," untuk mengembangkan Redirect Method. Moonshot CVE mampu melakukan penelitian ekstensif untuk memahami bagaimana kelompok ekstremis menggunakan internet dan teknologi secara lebih luas untuk menyebarkan pesan mereka melalui YouTube.

Google menyebut Redirect Method masih dalam tahap pengembangan dan mengatakan akan terus menambahkan lebih banyak fitur ke depan. Secara khusus, Google menginginkan YouTube untuk mengetahui lebih banyak istilah penelusuran dalam bahasa selain bahasa Inggris dan menggunakan teknologi machine learning untuk memperbarui kata kunci secara otomatis dan dinamis dalam daftarnya.

Perusahaan juga berencana untuk bekerja sama dengan LSM non-pemerintah untuk mengembangkan lebih banyak video untuk melawan pesan ekstremis yang ditujukan pada orang-orang yang rendah pemahaman atau galau yang sedang dalam proses radikalisasi. Kedengarannya seperti orang-orang yang telah masuk lebih dalam ke dunia ekstremis akan mendapatkan konten yang berbeda dari pada mereka yang baru mulai menjelajahi dunia kekerasan tersebut. Terakhir, Google akan terus bekerja sama dengan Moonshot untuk memperluas Redirect Method di Eropa dan Asia.

Adapun bagaimana Google mengukur keberhasilan metode ini adalah dengan melihat seberapa banyak konten yang berhasil diarahkan. Redirect Method bukan satu-satunya cara Google memerangi pesan ekstremis di YouTube. Sebagai bagian dari pengumuman bulan lalu, Google juga meningkatkan teknologi yang digunakan YouTube untuk mengidentifikasi video terkait pesan ekstremis dan terorisme serta meningkatkan jumlah pakar manusia untuk meneliti dalam program "trust flagger". Usaha Google mungkin tidak cukup untuk menghentikan teroris menggunakan YouTube sebagai platform rekrutmen, namun jelas Google menganggap serius masalah ini.