Deepfake dan Ancaman Manipulatif

oleh -112 views
Deepfake dan Ancaman Manipulatif
ILUSTRASI: (BASAJAN.NET/JM/ADOBE FIREFLY).

Oleh: Mariani*

BASAJAN.NET- Berita Kompas.com pada 2 Juli 2024 melaporkan bahwa beberapa politisi perempuan dari Inggris menjadi korban video pornografi. Korban-korban tersebut termasuk Angela Rayner dan Penny Mordaunt dari Partai Buruh, Gillian Keegan Sekretaris Negara untuk Pendidikan Britania Raya, mantan Menteri Dalam Negeri Priti Patel, dan anggota parlemen Stella Creasy.

Pada Januari 2024, kasus serupa juga menimpa penyanyi Taylor Swift. Foto telanjang pelantun Blank Space itu, tersebar luas di platform media sosial X. Di tanah air, artis Nagita Slavina juga ikut menjadi korban. Video tak senonoh yang menampilkan wajahnya sempat beredar luas di jagat maya.

Fenomena di atas merupakan beberapa kasus kejahatan yang muncul seiring dengan semakin berkembangnya teknologi informasi. Hari ini kita mengenal kecerdasan buatan atau Artificial Intelligence (AI) berkembang secara signifikan. AI merupakan suatu teknologi melibatkan pengembangan algoritma untuk mengenali pola dalam data dan mengumpulkan informasi dari pengalaman pengguna di media digital. AI membuat keputusan berdasarkan informasi dari pengguna media digital.

Saat ini, AI telah berkembang sebagai mitra bermedia yang lebih interaktif dan adaptif. Karenanya, AI terus menjadi fokus utama dalam perkembangan inovasi teknologi modern, sehingga mampu melakukan tugas-tugas manusia. AI terus berinovasi untuk mewujudkan kesempurnaan seperti perilaku manusia, sehingga dapat menjadi mitra terbaik dalam kehidupan. Salah satu hasil dari perkembangan AI yang menarik perhatian belakangan ini adalah teknologi deepfake.

Apa Itu Deepfake?

Deepfake adalah salah satu teknologi yang menggunakan kecerdasan buatan untuk membuat video, visual, audio dan audio visual palsu yang sangat realistis. Kata deepfake berasal dari kombinasi “deep learning” yaitu pembelajaran mendalam, dan “fake” yang berarti palsu. Deepfake adalah teknologi pembelajaran mesin yang melakukan tipuan, melibatkan penggunaan jaringan saraf tiruan, khususnya jenis Generative Adversarial Networks (GANs).

Deepfake bekerja dengan mengambil video dari seseorang yang menjadi target dan mengganti wajah mereka dengan wajah orang lain. Jaringan saraf tiruan yang dilatih pada gambar wajah akan berfungsi untuk memetakan ekspresi wajah sumber ke target secara otomatis. Dengan pemrosesan lanjutan, video yang dihasilkan bisa terlihat sangat nyata.

Di bidang pendidikan, deepfake dapat digunakan untuk membuat konten edukatif. Dalam mata pelajaran sejarah misalnya, deepfake dapat membuat video dari foto tokoh sejarah, sehingga memungkinkan tokoh tersebut berbicara dan menjelaskan materi di dalam kelas. Selain itu, juga dapat membuat guru virtual untuk memberikan pelajaran maupun kuliah umum, sehingga keterlibatan siswa semakin meningkat dan membuat pembelajaran lebih dinamis.

Di bidang kesehatan, deepfake digunakan sebagai simulasi untuk melatih profesional seperti dokter, tentara, dan pilot. Dalam bidang penelitian psikologi, deepfake dapat digunakan untuk mempelajari perilaku manusia dalam situasi yang dikendalikan dan aman.

Sementara di bidang komunikasi dan media, deepfake sudah mulai digunakan di bidang jurnalisme. Seperti halnya penggunaan presenter AI di tvOne pada 21 April 2023 lalu. TvOne menjadi TV pertama yang menggunakan AI di Asia. Kondisi serupa juga terjadi dalam industri hiburan, sehingga dapat mengurangi biaya logistik dan mempercepat proses produksi film atau siaran televisi.

Ancaman Deepfake

Seiring perkembangannya, deepfake seringkali dikaitkan dengan aspek negative, terutama terkait ancaman privasi dan keamanan. Kehadiran FakeApp tahun 2018, memudahkan masyarakat untuk membuat konten foto dan video palsu. Hal ini memunculkan kekhawatiran terhadap penyebaran konten ilegal, seperti pemalsuan wajah artis, black campaign saat Pemilu, hingga fenomena yang memicu tindakan ilegal seperti cyberbullying, pornografi dan ajang balas dendam.

Fenomena ini sangat mengkhawatirkan karena deepfake tidak hanya mempengaruhi opini publik, tapi juga menimbulkan pelanggaran hak privasi dan citra korban. Menurut laporan US Federal Trade Commission (FTC) tahun 2022, terdapat lebih dari 36.000 laporan kasus penipuan deepfake, dengan kerugian mencapai 11 juta dolar AI. Penyebaran konten deepfake yang seringkali melibatkan selebriti dan politikus terkenal.

Pada penyelenggaraan Pemilu 2024, konten-konten AI yang digunakan sebagai media black campaign (kampanye hitam), semakin tak terbendung. Konten-konten tersebut menghasilkan disinformasi dan memantik emosi, sehingga mengakibatkan perpecahan antar masyarakat.

Di samping itu, studi DeepTrace tahun 2019 menunjukkan, hampir 96% dari konten video deepfake online adalah pornografi non-konsensual. Dalam studi Ajder tentang “Sudut-sudut Gelap Internet” menjelaskan, mayoritas pengguna deepfake adalah laki-laki. Motif yang digunakan bervariasi, mulai dari kepuasan seksual, balas dendam dan mengintimidasi politisi atau selebriti perempuan.

Kondisi tersebut menunjukkan bagaimana teknologi AI telah dimanfaatkan untuk tujuan yang merugikan. Lebih parah lagi, jika deepfake digunakan oleh komunitas ekstremis misoginis sebagai alat pelecehan. Efeknya bukan hanya masalah privasi, tetapi juga masalah martabat dan harga diri korban melalui gambar-gambar fantasi seksual ekstrim dengan cara yang merendahkan.

Perlu Regulasi Hukum yang Lebih Kompleks

Penelitian juga menunjukkan, anak-anak sering kali menjadi korban pembuatan gambar deepfake yang eksplisit. Kemudian disebarluaskan sebagai bentuk pelecehan dan perundungan. Anak perempuan menjadi sasaran utama, dan gambar-gambar ini dapat digunakan untuk memeras atau mengancam mereka.

Untuk itu, sudah seharusnya media dan masyarakat lebih memperhatikan implikasi deepfake terhadap kekerasan terhadap perempuan, yang sering kali diabaikan dalam diskusi umum tentang teknologi AI. Pentingnya dilihat permasalahan ini melalui pendekatan hukum yang tegas dan perlindungan privasi yang lebih ketat terhadap individu.

Regulasi hukum yang lebih kompleks dan jelas terkait penggunaan AI dan teknologi deepfake sangat diperlukan. Hingga saat ini, Indonesia belum memiliki undang-undang konkret yang secara efektif mengatur peredaran konten AI, seperti deepfake di internet. Walaupun upaya ini telah dilakukan dengan perubahan undang-undang terkait dengan keamanan digital atau elektronik dalam undang-undang Informasi dan Transaksi (UU ITE).

Sejauh ini Indonesia hanya memiliki hukum yang sebatas aspek keterlibatan AI sebagai agen elektronik. Karena itu, hukum terkait dengan AI terutama konteks kejahatan deepfake belum sepenuhnya mencakup isu-isu mendalam terkait dengan privasi data, etika, kejahatan, dan implikasi sosial.

Pembentukan dan penerapan hukum yang tegas sangat urgensi terkait dengan kasus deepfake terutama kejahatan deepfake porn. Diperlukan kecanggihan teknologi yang lebih canggih dalam mendeteksi deepfake itu sendiri. Pemerintah perlu aktif dalam pembuatan undang-undang yang bersifat urgen untuk menanggulangi kemajuan teknologi.

Edukasi dan Kesadaran Masyarakat

Selain regulasi, juga diperlukan edukasi dan kesadaran masyarakat dalam melihat isu dan fenomena. Agar lebih cerdas dan kritis terhadap setiap informasi yang didapatkan, terutama informasi dari media sosial yang harus dibuktikan kebenarannya untuk menghindari hoaks dan disinformasi.

Masyarakat harus meningkatkan rasa tanggung jawab dan mempertimbangkan etika dan moral dengan menghormati hak asasi manusia dan nilai-nilai kemanusiaan itu sendiri. Kolaborasi pemerintah, lembaga hukum, akademisi dan masyarakat pengguna media sosial, akan melindungi masyarakat dari dampak negatif deepfake di masa depan.

Perlindungan hukum yang tegas, akan melindungi masyarakat dari konten deepfake secara ilegal dan menghindari pengulangan kasus serupa. Kerjasama dan kesadaran akan nilai-nilai, etika dan moral dalam kehidupan sosial akan menjaga keseimbangan teknologi yang terus berkembang dan berubah. Dengan begitu, kehadiran AI akan semakin bermanfaat sebagai mitra bagi manusia dalam mengembangkan sosial dan budayanya.(*)

* Penulis adalah pengurus Komunitas Basajan, saat ini sedang menyelesaikan Pendidikan S2 di Universitas Padjadjaran. Email: mariani23001@mail.unpad.ac.id.

===========

EDITOR: JUNAIDI MULIENG

Tinggalkan Balasan

Alamat email Anda tidak akan dipublikasikan. Ruas yang wajib ditandai *

No More Posts Available.

No more pages to load.