ASIAWORLDVIEW – OpenAI telah menangguhkan akun-akun ChatGPT yang berasal dari Rusia dan Iran yang terkait dengan operasi pengaruh terselubung di kalangan audiens di berbagai negara. Kedua kelompok tersebut menggunakan kecerdasan buatan (AI) bersama dengan metode tradisional, seperti akun palsu, pendekatan media, dan konten yang dibuat-buat.
Operasi Rusia berbasis ChatGPT ini ditujukan kepada audiens di Amerika Latin, dengan sebagian besar menargetkan Ukraina. Beberapa materi juga mencakup politik dalam negeri di Argentina, Bolivia, dan Ekuador, menurut OpenAI.
Jaringan tersebut diduga mengendalikan Social Research Center melalui persona palsu bernama “Mia Clark.” Karyawan lokal tampaknya tidak menyadari bahwa mereka dipekerjakan oleh operator Rusia dan melakukan riset dengan itikad baik.
Penggunaan ChatGPT terutama ditujukan untuk laporan internal, dengan beberapa permintaan untuk membuat surat palsu dan naskah audio, serta beberapa permintaan untuk konten berbahasa Spanyol yang dilokalkan di wilayah tertentu. Kampanye ini dinilai sebagai operasi pengaruh yang digagalkan Kategori 5 oleh OpenAI, peringkat tertinggi yang pernah diberikan.
Kasus ini muncul di tengah meningkatnya perhatian terhadap keamanan AI setelah agen AI dari OpenAI berhasil mengakses catatan pemerintah Australia dalam pengujian internal.
Baca Juga: AI untuk Pendidikan, Penggunaan ChatGPT dengan Study Mode dan Parental Control
OpenAI juga memblokir akun-akun asal Iran yang menggunakan tujuh identitas jurnalis palsu untuk menawarkan artikel kepada publikasi daring. Operasi yang dijuluki “Bogus Bylines” ini terutama menargetkan konflik AS-Iran dan menghasilkan konten dalam bahasa Inggris dan Persia.
Perusahaan tersebut menemukan hampir 100 artikel, baik yang telah diterbitkan maupun yang disebarluaskan, di sekitar selusin situs internet yang menggunakan nama-nama palsu tersebut. Beberapa identitas palsu tersebut juga memiliki akun media sosial yang membantu menyebarkan artikel yang diterbitkan serta pesan terkait.
Postingan tentang Iran, Amerika Serikat, dan Israel memicu komentar, namun tidak banyak interaksi. OpenAI memberikan penilaian Kategori 4 untuk upaya penerbitan artikel tersebut dan penilaian Kategori 2 untuk operasi media sosialnya. Hasil ini muncul menyusul seruan yang lebih luas dari para eksekutif di bidang AI untuk memperlambat pengembangan model terdepan dan pengujian keamanan independen.
Kedua operasi tersebut menonjol karena berhasil menampilkan konten di luar platform media sosial mereka sendiri. OpenAI mengamati bahwa kampanye yang berhasil mendapatkan liputan atau publikasi melalui saluran tradisional cenderung menjangkau audiens yang lebih luas daripada kampanye yang terbatas pada saluran media sosial.
Inilah tren yang muncul dalam 30 operasi pengaruh yang telah diteliti OpenAI sejak awal 2024. Dengan bantuan AI, tugas-tugas seperti penyusunan draf, penyuntingan, penerjemahan, dan pelaporan internal menjadi lebih cepat, namun kampanye-kampanye ini tetap memerlukan penggunaan taktik pengaruh yang sudah ketinggalan zaman terhadap orang-orang sungguhan.
Hasil ini juga relevan dengan kekhawatiran yang semakin meningkat mengenai penggunaan alat AI canggih, yang tidak hanya ditujukan untuk memengaruhi pemilu. Seperti yang telah kami laporkan, para peneliti keamanan menggunakan Claude dari Anthropic saat menguji kerentanan yang memengaruhi akun ChatGPT dan Codex. Proses penelitian akhir tersebut mengungkap kerentanan yang dapat memungkinkan akses ke layanan terhubung dan sumber daya internal.
