Berita AI dan kekerasan berbasis gender – Pakistan

Dikatakan bahwa kita berada di titik puncak “revolusi industri keempat”. Kemunculan dan penyebaran kecerdasan buatan (AI) dan pembelajaran berbasis mesin akan mengantar pada era baru produktivitas, efisiensi, dan tata kelola di seluruh sektor publik dan swasta.

Menyadari potensi tersebut, Kementerian Teknologi Informasi dan Telekomunikasi telah mengeluarkan rancangan Kebijakan Kecerdasan Buatan Nasional tahun lalu, yang kabarnya akan dipresentasikan di hadapan kabinet bulan ini. Kebijakan tersebut menetapkan target ambisius untuk penggunaan, penskalaan, dan penyebaran AI, sembari mengakui — meskipun hampir secara sepintas — kebutuhan untuk memastikan penggunaan AI yang etis dan bertanggung jawab, yang menjunjung tinggi hak-hak dasar dan privasi pengguna. Mengingat kinerja negara saat ini dalam hal keamanan siber, khususnya bagi perempuan, jaminan ini tampak tidak realistis.

AI merupakan bidang luas yang mencakup pengembangan sistem komputer yang mampu mensimulasikan pembelajaran, pemahaman, pemecahan masalah, pengambilan keputusan, dan kreativitas manusia. AI menggunakan berbagai alat seperti pembelajaran mesin dan pembelajaran mendalam untuk menganalisis data (termasuk teks dan gambar) guna mengidentifikasi pola, membuat prediksi, dan menghasilkan ucapan seperti manusia.

ChatGPT mungkin merupakan alat AI generatif yang paling sering ditemui/digunakan. AI generatif menghasilkan teks dan gambar sebagai respons terhadap perintah atau permintaan yang dikirimkan oleh pengguna. Teknologi ini telah digunakan secara bermanfaat dalam lingkungan bisnis untuk, misalnya, meningkatkan efisiensi melalui otomatisasi tugas-tugas sederhana, mensintesis dan menganalisis data untuk meningkatkan pengambilan keputusan bisnis, dan membantu usaha-usaha kreatif.

Menurut sebuah penelitian, meskipun 26 persen wanita berusia 18-24 tahun mengalami cyberstalking, hanya 7 persen pria dalam rentang usia yang sama yang mengalaminya.

Namun, ada sisi sebaliknya. Teknologi deepfake — suatu bentuk AI generatif — dapat menciptakan gambar dan video orang yang realistis tetapi sepenuhnya palsu dengan menganalisis data audiovisual yang ada.

Banyak dari kita yang pernah menemukan klip video yang direkayasa dari tokoh-tokoh terkemuka di internet — beberapa lucu dan yang lainnya lebih jahat dalam niat dan sifatnya. Faktanya, yang terakhir lebih dominan di internet: 98 persen video deepfake bersifat pornografi; 99 persen menargetkan wanita atau anak perempuan. Statistik ini tidak mengejutkan. Kasus-kasus yang melibatkan video deepfake (sering kali bersifat seksual) yang menargetkan jurnalis wanita dan politisi wanita telah menjadi berita utama di Pakistan baru-baru ini.

Kekerasan berbasis gender yang difasilitasi teknologi (TFGBV), seperti konten deepfake, juga bermanifestasi sebagai pelecehan dan pemerasan berbasis gambar, misinformasi/pencemaran nama baik, peniruan identitas, cyberstalking, dan ancaman kekerasan. Meskipun pria juga menjadi korban kekerasan siber, hal ini merupakan fenomena gender di seluruh dunia. Wanita merupakan korban pelecehan daring terbesar di Pakistan. Menurut studi Pew Research Centre, meskipun 26 persen wanita berusia 1824 tahun mengalami cyberstalking, hanya 7 persen pria dalam rentang usia yang sama yang mengalaminya. Dunia maya merupakan tempat yang paling tidak aman bagi wanita di seluruh dunia.

AI kini telah mengubah arena tempat TFGBV terjadi, meningkatkan keaslian dan kredibilitas misinformasi dan berita palsu yang disebarkan di internet. Ini bukan hanya karena teknologi deepfake. AI generatif dapat digunakan tidak hanya untuk membuat templat pelecehan siber, tetapi juga untuk menghasilkan dan memodifikasi sejarah pribadi perempuan yang salah namun meyakinkan, sehingga mengabadikan siklus misinformasi dan berita palsu.

TFGBV melanggar hak perempuan atas martabat, privasi, dan nondiskriminasi. Sering kali, hal itu berujung pada kekerasan fisik. Masalah persetujuan dan hak kekayaan intelektual juga muncul dengan penggunaan data berhak cipta yang (sering kali) tidak berdasarkan persetujuan oleh teknologi AI — masalah yang menjadi sorotan tahun lalu dalam aksi protes Hollywood terhadap penggunaan replika AI milik aktor tanpa izin oleh studio film.

Regulasi AI merupakan bidang yang terus berkembang. Mengingat risiko yang muncul akibat meningkatnya penggunaan dan akses terhadap teknologi AI, berbagai upaya telah dilakukan di seluruh dunia untuk mengatur penggunaannya.

Mengambil langkah awal dalam pendekatan yang berpusat pada hak asasi manusia terhadap regulasi AI, Undang-Undang Kecerdasan Buatan Uni Eropa tahun 2024, menempatkan keselamatan dan kesesuaian dengan hak asasi dan kebebasan fundamental sebagai prinsip panduan regulasi AI. Undang-undang ini melarang penggunaan AI untuk pengawasan biometrik dan penyusunan basis data pengenalan wajah (Pasal 5) dan menetapkan bahwa jika konten video, audio atau gambar dibuat dengan teknologi deepfake, pengungkapan mengenai pembuatan/manipulasi buatan tersebut harus diberikan (Pasal 52).

Rekomendasi UNESCO tentang Etika Penggunaan Kecerdasan Buatan (2023) juga menetapkan perlindungan hak asasi manusia dan kebebasan sebagai “nilai” panduan pertama dalam regulasi AI. Cetak Biru AS untuk RUU Hak AI, sebuah buku putih yang diterbitkan oleh Gedung Putih, mengartikulasikan prinsip-prinsip tertentu untuk perlindungan hak-hak sipil dan nilai-nilai demokrasi dalam pembangunan, penerapan, dan tata kelola sistem otomatis.

Kebijakan AI Pakistan juga mengakui bahaya khusus AI dalam menciptakan “konten palsu seperti teks, gambar, dan video”, dan membayangkan bahwa Direktorat Regulasi AI (ARD) akan mengeluarkan pedoman untuk mengatasi “kemungkinan penyebaran disinformasi, pelanggaran privasi data, dan berita palsu”. Mekanisme pasti dari regulasi tersebut mungkin akan dijabarkan lebih rinci dalam undang-undang AI yang akhirnya disahkan.

Untuk saat ini, mekanisme yang ada, di bawah Cybercrime Wing dari FIA, sebagian besar tidak efektif dalam menangani banyaknya pengaduan tentang TFGBV yang dibuat oleh perempuan berdasarkan Undang-Undang Pencegahan Kejahatan Elektronik, 2016, yang mengkriminalkan pengiriman informasi palsu dan pencemaran nama baik melalui sistem elektronik, distorsi gambar seseorang untuk menunjukkan dirinya dalam posisi eksplisit seksual, dan cyberstalking. Namun, seperti yang diamati dengan tajam oleh Pengadilan Tinggi Sindh tahun lalu, Cybercrime Wing tidak memiliki “kompetensi untuk menyelidiki kejahatan dunia maya secara efektif, apalagi memerangi kejahatan dunia maya.”[ese] [offences]”.

Memblokir arus informasi dan lalu lintas di internet tidak akan menjadi solusi. Negara harus memastikan bahwa setiap regulasi di masa mendatang terkait TFGBV yang dipimpin AI — yang akan ditetapkan oleh ARD atau ditegakkan oleh Badan Investigasi Kejahatan Dunia Maya Nasional yang baru dibentuk — efektif dan menjunjung standar etika dan hak asasi manusia yang dianut oleh kebijakan AI-nya.

Penulis adalah seorang pengacara.

Diterbitkan di Dawn, 30 Agustus 2024