OpenAI Sebut Ada Perusahaan Israel Pakai AI untuk Sebar Disinformasi

designsuperstars.net, Jakarta – Perusahaan teknologi kecerdasan buatan OpenAI merilis laporan yang menyebutkan kecerdasan buatan digunakan oleh Israel, Rusia, China, dan Iran dalam operasi rahasia untuk menyebarkan informasi palsu.

Laporan Guardian, Kamis (6/6/2024), pelaku kejahatan menggunakan model AI yang dikembangkan OpenAI untuk membuat dan mendistribusikan konten yang diposting di platform media sosial. AI generatif juga digunakan untuk menerjemahkan konten ke berbagai bahasa.

Laporan tersebut juga mengungkapkan bahwa sejauh ini tidak ada rencana jahat yang menjangkau khalayak luas.

Namun, seiring dengan berkembangnya industri AI generatif, terdapat kekhawatiran di kalangan peneliti dan pembuat kebijakan bahwa AI akan digunakan untuk menghasilkan data yang tidak realistis di Internet.

OpenAI, pengembang ChatGPT, sebelumnya telah mencoba mengatasi kekhawatiran ini dan memanfaatkan keterbatasan teknologi mereka.

Salah satu caranya adalah laporan OpenAI setebal 39 halaman tentang penggunaan perangkat lunak mereka (oleh orang yang tidak terverifikasi) untuk iklan.

Peneliti OpenAI mengatakan mereka telah menemukan dan memblokir dana terkait lima proyek yang dilakukan oleh pegawai pemerintah dan sektor swasta dalam tiga bulan terakhir.

Misalnya, dua perusahaan di Rusia membuat dan mendistribusikan konten yang mengkritik Amerika Serikat, Ukraina, dan beberapa negara Baltik lainnya.

Sebuah proyek yang menggunakan model OpenAI untuk mengedit kode sumber dan membuat bot yang tertanam di Telegram.

Dan dampak pekerjaan di Tiongkok telah menghasilkan artikel di X alias Twitter dan Medium dalam bahasa Inggris, Mandarin, Jepang, dan Korea.

Sedangkan untuk aktor Iran, dia menciptakan sesuatu dengan AI. Artikel ini menyinggung Amerika dan Israel. Teks tersebut diterjemahkan ke dalam bahasa Inggris dan Prancis.

Belakangan, sebuah perusahaan politik Israel bernama Stoic menjalankan jaringan akun media sosial palsu yang menghasilkan banyak konten. Ini termasuk laporan yang menuduh mahasiswa Amerika melakukan kejahatan terhadap serangan Israel di Gaza.

Di sisi lain, Meta juga memblokir perusahaan Israel Stoic dari platformnya karena dianggap ilegal.

Banyak kampanye berita palsu yang dilarang oleh OpenAI di platformnya telah dilaporkan ke pihak berwenang. Sementara itu, Departemen Keuangan AS menjatuhkan sanksi terhadap dua orang Rusia yang diduga berada di balik salah satu rencana yang diidentifikasi oleh OpenAI.

Laporan OpenAI menyoroti bagaimana AI generatif digunakan dalam berita palsu, yang dirancang untuk meningkatkan beberapa hal dalam pembuatan konten. Misalnya saja mengunggah postingan luar negeri yang lebih terpercaya.

“Semua pekerjaan ini menggunakan kecerdasan buatan sampai tingkat tertentu, namun tidak ada yang menggunakannya secara eksklusif,” kata laporan itu.

Meskipun tidak ada kampanye iklan yang memberikan dampak besar, penggunaan teknologi OpenAI menunjukkan betapa pelaku kejahatan memanfaatkan AI untuk meningkatkan iklan mereka.

Misalnya, menulis, menerjemahkan, dan mengunggah konten dapat dilakukan dengan lebih efisien menggunakan alat AI.

Selain itu, Guardian mencatat bahwa selama bertahun-tahun, pelaku kejahatan telah menggunakan AI generatif untuk mempengaruhi politik dan opini publik di banyak negara di dunia.

Audio deepfake, gambar yang dihasilkan AI, dan kampanye teks dapat dibuat oleh AI dan digunakan untuk memengaruhi pemilu.

Hal ini memberikan tekanan lebih besar pada perusahaan seperti OpenAI untuk membatasi penggunaan alat mereka.

Sementara itu, OpenAI mengatakan pihaknya berencana untuk menerbitkan laporan serupa tentang operasi rahasia dan menghapus akun yang melanggar aturannya.