Facebook telah meluncurkan alat AI baru yang akan menemukan dan menghapus pornografi balas dendam.
Raksasa teknologi tersebut mengatakan kepada Seven bahwa mereka telah secara proaktif mencari solusi efektif untuk mengakhiri penyalahgunaan berbasis gambar untuk selamanya.
Tonton video di atas.
Tonton berita terkini di Channel 7 atau streaming gratis 7 ditambah >>
“Sekarang setelah sebuah gambar diunggah, kami mungkin dapat mendeteksinya dan menghapusnya sebelum ada orang yang melihatnya atau melaporkannya kepada kami,” kata kepala keamanan global Facebook Antigone Davis.
Pertanyaan besarnya tentu saja adalah bagaimana alat kecerdasan buatan akan menentukan apakah suatu gambar diunggah dengan persetujuan penuh dari subjek atau tidak?
Alat pelacak AI
Facebook mengatakan pihaknya menggunakan teknologi untuk menentukan dua hal.
Apakah gambar atau video berisi ketelanjangan atau hampir ketelanjangan – dan apakah gambar atau video tersebut dibagikan dengan cara yang penuh dendam.
Untuk menguraikannya lebih jauh lagi – satu-satunya cara untuk melatih AI adalah dengan memberikan data.
Teknologi baru mereka dilatih berdasarkan contoh pornografi balas dendam yang telah dikonfirmasi sebelumnya.
Oleh karena itu, ia dapat mengenali pola bahasa dan kata kunci yang akan menunjukkan apakah suatu gambar atau video telah dibagikan tanpa izin.
“Selama bertahun-tahun, kami fokus pada keselamatan perempuan, khususnya dan memberikan banyak perhatian pada pembagian gambar intim tanpa persetujuan,” kata Davis.
Orang pertama yang didakwa berdasarkan undang-undang pornografi balas dendam yang baru akan mengaku bersalah.
Uji coba pengiriman foto
Hal ini menyusul program percontohan kontroversial yang melibatkan Facebook bermitra dengan pemerintah Australia.
Mereka mengembangkan alat pengiriman foto di mana orang-orang yang khawatir menjadi korban dapat mengirimkan foto yang mereka khawatirkan akan disebarluaskan.
Facebook kemudian membuat sidik jari digital dari gambar tersebut sehingga dapat melihat apakah salinannya pernah diunggah sebelum foto aslinya dihapus dari servernya.
Seperti yang mungkin dapat Anda bayangkan – reaksinya tidak sepenuhnya positif – dengan banyak pengguna yang khawatir berbagi konten terbuka dengan raksasa media sosial tersebut mengingat sejarah privasinya.
Namun Komisaris eSafety Australia Julie Inman Grant mengatakan ini adalah langkah ke arah yang benar.
“Karena ini merupakan pelanggaran privasi yang serius, orang pasti enggan untuk melapor atau membagikan gambar atau melaporkan ke situs media sosial atau mengambil langkah ekstra untuk melapor ke lembaga pemerintah, kata Grant.
Para korban dan organisasi pendukung telah memberikan masukan yang cukup positif kepada Facebook untuk memperluas uji coba ini dalam beberapa bulan mendatang.
