Zaman Fitnah

Masih ingat ujaran di video singkat Tiktok yang cukup viral beberapa waktu terakhir, ketika seorang dengan akun @opiniroyshakti mengawali ujarannya dengan kalimat: “Kabar buruk bagi kaum wanita. Kenapa, karena kini muncul sebuah aplikasi yang dapat menjadikan seorang wanita tampil bugil tanpa yang bersangkutan pernah [dengan sengaja] melakukannya.. dst dst..”

Aplikasi tersebut sengaja dibuat dan ditargetkan bagi kaum Hawa, karena dengan hanya menempelkan potret wajah seseorang ke database berisikan sejumlah besar gambar lengkap perempuan tanpa busana, tinggal pencet klik dan jadilah foto pose seorang wanita dalam keadaan—maaf—telanjang bulat mempertontonkan aurat yang seharusnya ditutup rapat-rapat itu. Rasanya tidak mungkin bagi seorang perempuan waras dan terhormat yang tega melakukannya di depan publik.

Nah, gambar hasil modifikasi menggunakan aplikasi berbasis AI (artificial intelligence) atau kecerdasan buatan itu, konon, begitu sempurna, seolah-olah seperti orang bersangkutan benar-benar berfoto tak senonoh. Dengan variasi fitur komputasi yang dimilikinya, AI seolah-olah dapat melakukan segala-galanya.

Bagi mereka yang berniat jahat, foto fitnahan seperti itu dapat digunakan untuk mendukung kegiatan tak bermoral. Kita tentu ingat beberapa tahun silam, seorang gadis lugu dari sebuah kota di Sumatra yang terjebak utang kepada pengelola aplikasi pinjol abal-abal, terpaksa mengakhiri hidupnya dengan terjun dari sebuah gedung bertingkat.

Si gadis nekat bunuh diri karena tak mampu melunasi utang kepada si pengelola pinjol yang membebaninya dengan tingkat bunga pinjaman gila-gilaan, dan oleh debt collector alias penagih utang kaki tangan si pinjol tadi, foto si gadis disebarluaskan ke seluruh keluarga dan atau kenalannya yang nomornya tersimpan di address book ponsel gadis tersebut. Termasuk, mungkin, foto rahasia si gadis yang dia tidak menginginkan foto-foto itu tersebar.

Pada praktiknya, sebelum seseorang menyetujui berutang melalui aplikasi di ponsel, ia harus dengan suka rela menyerahkan kedaulatannya atas database di ponselnya untuk boleh diakses oleh pengelola pinjol. Nah, dengan niat jahatnya, pengelola pinjol menjadikan “aset” data pribadi di ponsel si peminjam sebagai agunan jika yang bersangkutan tidak dapat mengembalikan pinjaman tepat waktu.

Bukan tidak mungkin aplikasi berbasis AI yang dapat menyulap hanya wajah seseorang menjadi tampilan bugil seluruh tubuh seseorang itu tadi akan digunakan oleh para pelaku kejahatan siber yang kian hari semakin merajalela. Bisa saja, mereka yang selama ini berlaku baik-baik di media sosial, tetiba wajahnya dicomot para penjahat siber itu, dan kemudian foto rekayasa tidak sah tadi dijadikan alat untuk memeras, memfitnah, dan pelbagai tindakan jahat nan keji lainnya.

IT yang semula didengung-dengungkan bakal mengubah landscape dunia Internet, ternyata berpotensi pula menjadi monster menakutkan. Bukan hanya foto still yang dapat dimodifikasi, bahkan produk audio video pun dapat dengan mudah direkayasa nyaris mirip dengan aslinya. Masyarakat teknologi informasi mengenalnya sebagai fenomena deepfake.

Mengenal Deepfake//

Fenomena deepfake dapat mengecoh siapa pun tanpa pandang bulu. Dengan memanfaatkan deepfake, pelaku dapat dengan mudah menipu audiens sasaran dan, biasanya, si target tak menyadari bahwa dirinya sedang tertipu.

Mengutip penjelasan dari TechTarget—perusahaan layanan berbasis data dari AS—deepfake merupakan salah satu tipe dari kecerdasan buatan (AI) yang digunakan untuk membuat foto, audio, video hoaks yang cukup meyakinkan. Deepfake dibuat menggunakan dua algoritma AI yang saling bertentangan: satunya disebut generator, yang lain disebut diskriminator.

Generator, yang membuat konten multimedia, meminta kepada diskriminator untuk menentukan apakah sebuah konten asli atau palsu. Bersama-sama, mereka membentuk sebuah hal yang disebut Generative Adversarial Network (GAN).

Setiap kali diskriminator secara akurat mengidentifikasi konten sebagai sesuatu yang palsu, ia menghasilkan informasi berharga tentang perbaikan yang berguna untuk penggunaan deepfake selanjutnya. Kecanggihan deepfake membuat mata biasa sulit membedakan mana konten asli atau palsu. Namun, para peneliti Facebook mengatakan mereka telah mengembangkan kecerdasan buatan yang dapat mengidentifikasi deepfake dan melacak asal konten tersebut dengan menggunakan reverse engineering atau rekayasa balik.

"Metode kami akan memfasilitasi pendeteksian dan penelusuran deepfake dalam pengaturan dunia nyata, di mana gambar deepfake itu sendiri sering kali merupakan satu-satunya informasi yang dapat dianalisis," tulis ilmuwan riset untuk Facebook Xi Yin dan Tal Hassner, Rabu (15 Juni), seperti dikutip News PR dan dilansir CNN.

Perangkat lunak baru Facebook menjalankan gambar deepfake melalui jaringannya. Kemudian program AI mereka mencari “sidik jari” atau jejak digital yang tertinggal dalam proses pengubahan gambar digital. Dalam fotografi masa kini, jejak digital digunakan untuk mengidentifikasi kamera penghasil gambar. Jejak digital itu juga merupakan pola unik yang sama-sama dapat digunakan untuk mengidentifikasi model generatif dari mana gambar itu berasal.

Sejumlah peneliti dari Massachusetts Institute of Technology (MIT) juga membuat eksperimen yang memungkinkan orang-orang untuk mengenal fenomena deepfake lebih dekat. Eksperimen bertajuk Detect Fakes ini menampilkan sejumlah konten teks, audio, dan video, lalu menguji seberapa mampu pengguna membedakan konten asli dan palsu. MIT memberikan sejumlah tips untuk membedakan konten yang telah dimanipulasi dengan deepfake, misalnya dengan memperhatikan wajah.

Manipulasi deepfake jelas atau hampir selalu merupakan transformasi wajah. Selain itu, perlu diperhatikan bagian pipi dan dahi. Apakah kulit tampak terlalu halus atau terlalu keriput? Apakah usia kulit sama dengan usia rambut dan mata? Deepfake sering tidak kongruen pada beberapa dimensi, dan banyak lagi pengidentifikasian hasil olahan deepfake itu.

Menyikapi Zaman Fitnah

Sayangnya, sebagian besar masyarakat terlalu masih mudah dikelabui hanya dengan konten rekayasa dan asli tapi palsu itu. Hasil produksi konten berbasis AI akan lebih meyakinkan bagi yang hanya memiliki kemampuan literasi digital rendah.

Kita sudah mencapai titik yang disebut sebagai point of no return—tidak ada jalan  kembali lagi—mengingat teknologi sudah melaju sejauh ini, serumit sekarang ini. Yang dapat kita lakukan tampaknya meminimalkan kehadiran kita di dunia digital. Usahakan kita tampil sesedikit mungkin di alam media sosial—yang bertumpu pada media digital itu. Terlebih dengan fenomena deepfake dan tampil bugil tadi, fenomena tersebut dapat saja melanda diri, keluarga, sanak famili, sahabat dan teman dekat serta orang-orang yang kita kenal.

“Superintelligence—termasuk di dalamnya AI, tentu—adalah 'pedang bermata dua',” kata Elon Musk, miliarder AS yang ngetop dengan produksi mobil listrik Tesla, bos perusahaan antariksa SpaceX, dan juga juragan medsos Twitter, suatu ketika.

AI memang menghadirkan manfaat yang tidak kecil bagi kemanusiaan, namun ia juga dapat menjadi “senjata perang” yang mematikan tanpa manusia harus “repot-perot: turun tangan atau bahkan turun ke lapangan. Cukup mengadu domba para pihak yang memang tampak berseberangan, maka bakal terjadi kekisruhan dan kerusuhan.

Terbukti sekarang, apa yang kadang dilarang oleh ajaran agama, ternyata baru ketahuan mudaratnya belakangan ini. Jauh-jauh hari, Rasulullah SAW mengimbau agar orang tidak menggambar makhluk bernyawa, termasuk manusia tentunya. Memang, soal gambar-menggambar ini masih menjadi perdebatan tak berkesudahan. Di antara para fuqaha (ahli fiqh), masih berselisih paham soal itu.

Namun, lebih penting lagi adalah bersikap hati-hati dan bijak menyangkut penyebaran data diri kita—termasuk foto diri, tentu—sehingga tidak sampai disalahgunakan oleh orang yang tidak bertanggung jawab. Lebih penting adalah melek literasi. Jangan asal percaya atas informasi yang kita peroleh, terlebih dari sumber tidak tepercaya alias tidak kredibel. Tentang hal ini, Al-Qur’an sudah mengingatkannya 16 abad silam, yakni agar seseorang meneliti kebenaran suatu informasi, agar tidak mengalami hal yang tidak diinginkan akibat kebodohan dan atau kecerobohan yang nantinya menghasilkan sesal berkepanjangan.

Cek Berita dan Artikel yang lain di Google News