Waspada Pilah Informasi, Konten Deepfake di Media Sosial Dapat Timbulkan Kerugian

designsuperstars.net, Jakarta – Ancaman dunia maya semakin meningkat seiring semakin bergantungnya masyarakat pada platform media sosial. Selain itu, perkembangan teknologi AI mempermudah pembuatan konten palsu dan buatan AI yang menarik.

Hal ini juga mengaburkan batas antara kenyataan dan fantasi. Penggunaan kecerdasan buatan di media sosial juga menimbulkan kekhawatiran mulai dari potensi bias algoritmik hingga penyebaran informasi yang salah.

Salah satu penggunaan AI adalah untuk membuat deep fakes, sejenis teknologi AI yang memungkinkan pengguna membuat video atau klip audio palsu agar terlihat seperti orang yang mereka tiru.

Ancaman seperti deep phishing juga meningkat seiring dengan munculnya teknologi seperti GPT-3, yang dapat menghasilkan teks dan video yang sangat mirip dengan gaya bahasa dan perilaku seseorang.

Jika teknologi tersebut digunakan secara tidak bertanggung jawab, teknologi tersebut dapat memanipulasi informasi dan mengelabui orang lain agar memberikan informasi sensitif yang dapat menimbulkan kerugian finansial dan privasi.

Menanggapi tingginya kemungkinan penggunaan deepfake di media sosial, Lisa Sim, wakil presiden pemasaran untuk Asia Pasifik dan Jepang, Palo Alto Networks, mengatakan kehadiran kecerdasan buatan meningkatkan ancaman yang ditimbulkan oleh penjahat dunia maya di media sosial.

“Ini karena misteri yang mendalam dan konten yang dihasilkan AI semakin mengaburkan batas antara kenyataan dan fiksi,” kata Lisa seperti dikutip dalam pernyataannya.

Lisa memberikan gambaran sederhana bagaimana AI bisa dimanfaatkan oleh pihak-pihak yang tidak bertanggung jawab, seperti di Indonesia.

“Pada pemilu presiden baru-baru ini, kami melihat banyak konten yang sangat menyinggung tersebar di media sosial, seperti video yang menampilkan mantan presiden atau tokoh nasional lainnya,” kata Lisa.

Ia mengatakan penggunaan deepfake pada saat pemilihan presiden dapat mempengaruhi perbincangan politik dan berpotensi mempengaruhi opini publik. Hal ini menunjukkan kemampuan kecerdasan buatan untuk membuat konten yang dapat dipercaya namun palsu, serta kekuatan media sosial untuk memperluas jangkauan penjahat.

“Kombinasi media sosial dan konten yang dihasilkan AI memberikan penjahat dunia maya alat rekayasa sosial yang kuat untuk memanipulasi orang-orang biasa agar melakukan tindakan berisiko seperti mengklik tautan jahat,” kata Lisa.

Ia menambahkan, pada Hari Media Sosial Sedunia yang diperingati pada 30 Juni 2024, pihaknya mengingatkan kita akan pentingnya melindungi diri dari konten palsu yang dapat menyesatkan kita.

“Kita harus berhati-hati dalam menyaring konten yang kita gunakan, memeriksa sumber dan pelanggaran apa pun dalam video atau gambar,” kata Lisa.

Mereka menyarankan pengguna media sosial untuk meninjau dan memperbarui privasi akun secara teratur untuk mengontrol siapa yang dapat melihat unggahan dan informasi pribadi pengguna.

“Hanya melalui kewaspadaan terus-menerus kita dapat melindungi diri dari ancaman online,” katanya.

Deepfake sangat berbahaya sehingga Google pernah melarang iklan yang mempromosikan situs web dan aplikasi yang mengandung deepfake. 

Google telah memperbarui kebijakan konten tidak pantasnya dengan menyertakan bahasa yang secara eksplisit melarang pengiklan mempromosikan situs web, aplikasi, atau layanan yang mempromosikan deep porn.

Meskipun Google memiliki pembatasan ketat terhadap iklan yang berisi jenis konten seksual tertentu, pembaruan ini dirancang untuk mencegah promosi konten sintetis yang diedit, vulgar secara seksual, atau berisi ketelanjangan.

Setiap pengiklan yang mempromosikan situs atau aplikasi yang memproduksi pornografi deepfake, menawarkan petunjuk tentang cara membuat pornografi deepfake, dan mendukung atau membandingkan berbagai layanan porno deepfake, akan diblokir tanpa pemberitahuan.

Mereka juga tidak akan dapat memasang iklan mereka di Google. Perusahaan akan mulai menerapkan aturan ini pada 30 Mei 2024 dan akan memberikan kesempatan kepada pengiklan untuk menghapus iklan apa pun yang melanggar kebijakan baru.

Seperti diberitakan 404 Media, mengutip Engadget, hari ini, Senin (6/5/2024), kemunculan teknologi deepfake menyebabkan peningkatan jumlah iklan alat promosi bagi pengguna yang ingin membuat konten seksual.

Beberapa alat ini bahkan terlihat seperti layanan kesehatan untuk mengakses Apple App Store dan Google Play Store.