AI bisa Bedakan Suara Manusia Asli dan Rekayasa Deepfake

JAKARTA, VIWA – Kecerdasan buatan (AI) semakin mendorong terciptanya audio deepfake sehingga menimbulkan kekhawatiran di berbagai bidang. Dimulai dengan politik dan diakhiri dengan penipuan finansial. Pemerintah federal Amerika Serikat (AS) telah melarang robocall yang menggunakan suara kecerdasan buatan dan menawarkan hadiah uang tunai untuk solusi yang dapat mengurangi dampak negatif penipuan kloning suara. Sementara itu, para peneliti dan sektor swasta berlomba mengembangkan perangkat lunak untuk mendeteksi kloning suara. yang sering dipasarkan sebagai alat pendeteksi penipuan. Namun, solusi teknologi tidak selalu efektif dalam mendeteksi suara yang dihasilkan AI. Dalam percobaan yang dilakukan NPR, NPR mengirimkan 84 klip audio berdurasi lima hingga delapan detik ke tiga penyedia layanan deteksi deepfake, yakni PinDrop Security, AI or Not, dan AI Voice Detector. Sekitar setengah dari klip tersebut merupakan kutipan dari laporan radio asli. Dan sisanya adalah suara dari reporter yang sama. Hasil eksperimen menunjukkan bahwa perangkat lunak pendeteksi sering kali gagal mengenali klip yang dihasilkan AI atau salah mengidentifikasi suara asli sebagai suara AI. Perlindungan Pindrop memiliki tingkat keberhasilan tertinggi, sementara AI atau Not gagal mengenali sebagian besar klip yang dihasilkan AI. Detektor Abdullah Azozi menjelaskan, jika suatu model memperkirakan suatu klip memiliki peluang 60 persen atau lebih tinggi untuk dibuat oleh kecerdasan buatan, maka klip tersebut dianggap dibuat oleh kecerdasan buatan. Namun, alat tersebut salah mengidentifikasi 20 dari 84 sampel yang diserahkan ke NPR. Meskipun penggunaan AI untuk deteksi AI merupakan pendekatan yang menjanjikan, ada beberapa tantangan yang harus dihadapi. Tantangan utamanya adalah perlunya melatih model pembelajaran mesin pada setiap generator audio AI baru di pasar untuk mendeteksi perbedaan halus antara model tersebut dan orang sungguhan. Amit Gupta, kepala produk di PinDrop Security, menjelaskan bahwa salah satu cara kerja algoritme mereka adalah dengan merekayasa balik saluran vokal, suatu properti fisik tubuh manusia yang diperlukan untuk menghasilkan suara. Selain itu, model pembelajaran mesin dapat dengan mudah dipecah. Di dunia nyata. Akurasi dapat berkurang jika audio menurun atau terdapat kebisingan di latar belakang, kata Sarah Barrington, peneliti kecerdasan buatan dan forensik di Universitas California, Berkeley, AS, yang mengatakan algoritme khusus dapat mendeteksi deepfake dari para pemimpin dunia yang suaranya diketahui dan didokumentasikan. . Seperti: Presiden AS Joe Biden. Namun, hal ini tidak berlaku bagi orang yang kurang terkenal. Perusahaan teknologi besar seperti Meta, TikTok juga telah melakukan upaya dan tampaknya mereka lebih fokus pada video dan tidak jelas apakah itu juga mencakup audio. Panggilan penipuan yang menyamar sebagai orang tersayang tidak dapat dideteksi secara efektif menggunakan teknologi tinggi. Komisi Perdagangan Federal merekomendasikan untuk mengajukan pertanyaan terlebih dahulu yang penipu tidak tahu jawabannya dan menelepon kembali untuk memastikan panggilan tersebut tidak palsu. Meskipun ada kemajuan dalam teknologi deteksi audio deepfake, masih banyak tantangan yang dihadapi. Perangkat lunak pendeteksi yang salah dapat menimbulkan konsekuensi serius, dan dengan seringnya model deepfake baru dirilis, game ini terus berkembang. UMY jajaki pemanfaatan kecerdasan buatan dan big data untuk kampanye Pilkada Serentak 2024 UMY jajaki pemanfaatan kecerdasan buatan dan big data untuk kampanye Pilkada Serentak designsuperstars.net.co.id 11 Agustus 2024