Saat ini, semakin sulit untuk membedakan antara rekayasa dan fakta. Dengan satu klik, kita dapat membuat wajah palsu, meniru suara, dan membuat berita hoaks. Artificial intelligence atau AI dapat melakukan dua hal sekaligus di dunia digital.
Di satu sisi, kecerdasan buatan membantu manusia mengatasi keterbatasan mereka. Sebaliknya, teknologi tersebut berkembang menjadi alat manipulasi, menghasilkan algoritma yang bias, disinformasi, dan deepfake yang menghalangi kelompok tertentu dari keadilan digital.
Di masyarakat yang belum paham digital, orang lebih mudah percaya video palsu. Banyak orang percaya bahwa ada video pasti benar. Tapi ini sangat berbahaya. Deepfake membuat kita kehilangan kemampuan kritis.
Kita bisa tertipu dan percaya pada sesuatu yang tidak benar. Teknologi seharusnya membantu kita maju. Tapi sekarang, teknologi ini membuat kita harus bertanya lagi tentang apa yang benar dan apa yang salah. Kita jadi kehilangan fondasi kebenaran.
Teknologi yang dulu membuat kita kagum sekarang terasa menakutkan. Kita bisa melihat video yang terlihat nyata bahkan mengubah ekspresi seseorang agar sejalan dengan narasi.
Dalam beberapa menit, seseorang bisa terlihat mengucapkan kata-kata yang tidak pernah ia ucapkan. Video seperti ini dapat menimbulkan kemarahan publik, merusak nama seseorang, atau menyebabkan ketegangan politik.
Hal ini menunjukkan bahwa batas antara yang nyata dan yang tiruan semakin tipis. Kalau mata tidak bisa melihat mana yang benar, dan banyak hal bisa menipu, maka siapa yang bisa kita percayai?
1. Ini Bukan Sekadar Isu Belaka, Tapi Nyata Terjadi
Krisis kepercayaan lebih dari sekadar istilah. Sekarang, ini nyata dan terlihat dari semua aktivitas di ponsel kita. Orang mulai ragu terhadap media, pemerintah, dan orang lain. Bukan karena semua berbohong, tapi karena mereka merasa sering dibohongi.
Setiap kali muncul video yang mengganggu, kita langsung bertanya “Ini asli atau palsu?” Pertanyaan itu menunjukkan bahwa kita tidak percaya lagi terhadap apa yang kita lihat di internet.
Menurut laporan VIDA, perusahaan keamanan digital, fenomena deepfake di Indonesia meningkat 1,550% dalam periode 2022–2023. Deepfake bukan sekadar konten digital.
Fenomena ini mempunyai suatu ancaman lebih serius. Dengan video dan suara yang sangat realistis, seseorang bisa dengan mudah merekayasa sebuah kebohongan.
Dalam konteks sosial politik di Indonesia, hal ini bisa sangat merusak stabilitas, terutama menjelang momentum penting, seperti pemilu.
Di ruang maya yang pada dasarnya bebas, isi opini padat, sebatang video palsu cukup untuk mentransformasi kepercayaan publik, dan meragukan semua hal, terhadap semua pemangku kepentingan, bahkan negara.
Salah satu kasus yang paling menyita perhatian publik adalah munculnya video deepfake yang menampilkan Presiden Prabowo Subianto seolah sedang menjanjikan bantuan tunai kepada masyarakat. Wajah dan suara yang tampil di layar terlihat begitu meyakinkan. Banyak orang percaya.
Pelakunya, pria berinisial AMA (29 tahun) asal Lampung, berhasil menipu setidaknya 11 orang dengan total kerugian sekitar Rp 30 juta hanya dalam empat bulan. Modusnya sederhana: korban diminta membayar biaya administrasi agar bantuan bisa cair. Nyatanya, bantuan itu tidak pernah ada.
Kasus ini menunjukkan betapa kuatnya daya tipu visual yang dihasilkan AI. Orang-orang yang menontonnya tak punya alasan untuk ragu. Wajahnya mirip, suaranya sama, dan pesan yang disampaikan sesuai dengan harapan banyak orang: bantuan ekonomi.
Bareskrim Polri pun telah menindak pelaku. Kasus-kasus deepfake yang mencatut nama pejabat negara kini sudah dilimpahkan ke Kejaksaan Negeri Lampung Tengah untuk diproses hukum.
Namun langkah penegakan hukum saja belum cukup, karena masalah ini bukan hanya pelanggaran hukum tapi juga krisis kepercayaan sosial.
Baca Juga: Pemanfaatan Teknologi sebagai Media Perkembangan Membaca Anak
2. Algoritma: Penguasa Sunyi di Balik Layar
Namun persoalan tidak berhenti di ranah visual saja. Di luar semua ini, algoritma media sosial yang beroperasi di bawah permukaan juga memperburuk situasi.
Postingan yang lebih sensasional memiliki kemungkinan lebih besar untuk muncul di linimasa publik. Algoritma media sosial di desain agar tetap menarik perhatian. Ia tidak mengenal mana yang benar dan mana yang salah.
Ia hanya mengenal seberapa banyak orang yang “klik” dan berapa lama waktu tonton. Ia memperlakukan kemarahan sama berharganya dengan kekaguman karena keduanya sama-sama interaksi.
Semakin banyak reaksi yang diperoleh, semakin besar kemungkinan untuk disebar. Interaksi adalah kunci, dan itu diperoleh dengan cara yang tidak benar.
Gelembung keyakinan disebar dengan cara memancing dan menekankan sebagian dari isi yang disebar. Ruang gema diperoleh dengan cara membuat suara yang berlawanan menjadi hilang.
Ruang gema memberlakukan kebohongan di sekeliling pengguna. Ketika pengguna hanya melihat apa yang ingin dilihat, maka persepsi pun diseragamkan dan di mosaik untuk dikomunikasikan. Kebenaran tidak bisa dilihat dan didengar. Ruang dan waktu membuang dan mengabaikan.
Masyarakat digital sekarang ada di dalam kontradiksi dan membuang kebenaran dalam interaksi. Pola ini menciptakan ruang gema di mana pengguna hanya mendengar apa yang mereka inginkan. Ketika suatu berita cepat menjadi viral, masyarakat sulit membedakan antara kebenaran dan manipulasi.
Dulu, kita percaya bahwa mata bisa membuktikan sesuatu. Kalau kita lihat, berarti kita percaya. Tapi sekarang, itu tidak benar lagi. Dengan teknologi deepfake, apa yang kita lihat bisa saja palsu dan menipu kita.
Lebih buruk lagi, teknologi ini tidak hanya dipakai untuk menyerang orang penting. Tapi juga untuk menyerang kehidupan pribadi. Contohnya, revenge porn, pemerasan, fitnah di dunia digital, dan menyebarkan berita palsu tentang orang lain. Semuanya bisa tampak sangat nyata dan meyakinkan.
3. Bela Negara di Ruang Maya
Di kala dunia digital semakin canggih, bela negara tak dapat lagi ditentukan dari kecintaan semata. Nasionalisme pada periode kecerdasan buatan juga berarti harus cerdas dan sadar dalam ranah digital.
Memahami dan mengantisipasi manipulasi, menghindari penjarahan informasi yang bersifat hoaks, dan berpikir kritis pada algoritma yang mengontrol informasi merupakan perlawanan yang diwajibkan. Perang fisik telah usai, yang ada adalah resolusi logis dan data.
Pemerintah Indonesia mulai mengantisipasi hal ini. Untuk mengawasi potensi ancaman, Kementerian Komunikasi dan Informatika (Kominfo) berwenang melakukan sekatan dan pengendalian hoaks, penegakan hukum kepada pengelola sistem digital, dan pengawasan yang erat dalam progres dan sistem digital.
VIDA, salah satu perusahaan swasta, menggembangkan sistem deteksi deepfake dan verifikasi identitas digital sebagai sistem perlindungan perdata. Kendati demikian, perlindungan dari atas tidak cukup tanpa kesadaran di akar rumput.
Pada awal Maret 2021, Microsoft mengumumkan laporan Digital Civility Index (DCI) terbarunya yang menilai perilaku sopan santun pengguna internet di ranah digital.
Hasil riset tersebut menempatkan masyarakat Indonesia di posisi ke-29 dari 32 negara yang disurvei.
Artinya, masih banyak pengguna internet yang belum memahami etika dan tanggung jawab bermedia. Literasi digital bukan sekadar kemampuan membuka browser, tetapi juga kesanggupan mengenali jebakan algoritma dan mengolah informasi secara kritis.
Karena itu, bela negara di era digital selain tentang melawan hoaks atau menjaga kedaulatan siber, tetapi juga memperjuangkan nilai kemanusiaan dalam sistem algoritmik.
Memastikan bahwa teknologi tidak menjadi alat diskriminasi adalah bagian dari menjaga martabat bangsa. Prinsip keadilan sosial, sebagaimana termaktub dalam Pancasila, kini perlu diterjemahkan dalam kode dan data.
Menangkal deepfake dan bias algoritma juga bagian dari bela negara. Bukan dengan senjata, tetapi dengan menjaga setiap yang diunggah tetap jujur. Di dunia digital, ancaman datang dari luar maupun dari dalam.
Di ranah publik, transparansi dari penyedia platform digital menjadi keharusan. Pengguna berhak mengetahui bagaimana algoritma bekerja dan bagaimana datanya digunakan.
Audit algoritma harus menjadi norma baru, bukan sekadar wacana. Kepercayaan publik terhadap teknologi hanya dapat tumbuh jika sistemnya terbuka dan akuntabel.
Setiap orang harus ikut menjaga kebenaran. Hati-hati saat membagikan info, cek fakta dulu, dan berempati saat di ruang obrolan.
Itu bentuk patriotisme baru di dunia maya. Bela negara di dunia digital artinya kita harus jaga ruang publik dari kebohongan. Teknologi harus dipakai untuk membangun, bukan memecah. Harus menggunakan akal sehat ketika info sedang ramai dan bising.
Kampus dan mahasiswa sangat penting untuk mencapai tujuan ini. Lingkungan belajar harus tidak hanya fokus pada membuat mahasiswa tahu teknologi, tapi juga membangun karakter yang bijak dan bertanggung jawab dalam pemakaiannya.
Mahasiswa jurusan informatika, komunikasi, dan hukum bisa jadi pelopor dalam riset tentang penggunaan kecerdasan buatan yang etis. Mereka juga harus meningkatkan kesadaran tentang bahaya manipulasi digital di masyarakat.
Di zaman sekarang, pelajaran tentang etika dan literasi digital harus jadi bagian utama dari kurikulum, bukan cuma pelengkap.
Orang yang paling rawan disalahgunakan teknologi juga harus diperhatikan. Perempuan dan anak-anak sering jadi target deepfake porno dan eksploitasi digital.
Hukum, dukungan psikologis, dan sistem pelaporan yang cepat harus ada buat melindungi mereka. Tidak ada kedaulatan tanpa keamanan, dan tidak ada keamanan tanpa keadilan.
Kecerdasan buatan tidak bisa dihentikan, tapi bisa diarahkan. Teknologi hanya jadi masalah kalau dikendalikan tanpa hati. Melindungi negara hari ini berarti kita harus jaga ruang digital agar tetap sehat, adil, dan sopan.
Di tengah banyak berita palsu, perjuangan untuk cari tahu yang benar jauh lebih penting dari sekadar ngecop tombol di layar ponsel.
Di zaman AI, nasionalisme bukan cuma kata-kata yang diucapkan, tapi kesadaran yang kita jalankan. Menolak berita palsu, melawan bias dalam sistem, dan pakai etika digital adalah cara baru melawan bentuk penindasan modern.
Penjajahan sekarang tidak datang dari luar, tapi dari dalam algoritma yang pengaruhi cara kita berpikir.
Kita hidup di zaman dimana kenyataan bisa diedit. Kebohongan bisa dibuat sangat meyakinkan. Tapi, ada satu hal yang tak boleh hilang yaitu nurani manusia.
Kalau kebenaran tidak tampak, itu bukan berarti hilang selamanya. Selalu ada jalan untuk kebenaran, dari orang yang berpikir jernih, bertanya kritis, dan tak tunduk pada kebohongan.
Asal kita tahu, melawan deepfake bukan cuma soal teknologi. Tapi soal moral. Ini tentang bagaimana kita tetap menjadi pengendali, jangan jadi korban ciptaan sendiri.
Kita boleh bangga dengan kemajuan digital, tapi jangan sampai lupa jaga arah. Dunia digital butuh koneksi serta kesadaran. Butuh kecerdasan dan juga kebijaksanaan manusia.
Penulis: Rahmadini Alamanda
Mahasiswa Prodi Informatika UPN Veteran Jawa Timur
Dosen Pengampu: Dewi Puspa Arum, S.Pd., M.Pd.
Editor: Fifi Elvira
Bahasa: Rahmat Al Kafi
Ikuti berita terbaru Media Mahasiswa Indonesia di Google News
⚡ Baca Lebih Cepat Artikel MMI di Ponsel Anda!
Ikuti Channel WhatsApp
Media Mahasiswa Indonesia (MMI):
KLIK DI SINI
