AI dan jurnalis 'palsu' Afrika
Taruhan bola – AI dan Jurnalis ‘Palsu’ Afrika Teknologi AI ‘menyerang pembawa pesan’ dengan menyamar sebagai jurnalis profesional untuk memperoleh kredibilitas bagi narasi palsu.
Diterbitkan pada 16 April 2025 di ISS Today Oleh Karen Allen, Konsultan ISS Pretoria, Konsultan ISS Pretoria Tidak lama lalu, alat jurnalisme terdiri dari buku catatan, mesin ketik, dan mungkin beberapa koin untuk telepon umum untuk mengirimkan berita ke meja redaksi. Kemudian komputer, email, dan telepon seluler membawa kecepatan, konektivitas, dan potensi untuk menuntut pertanggungjawaban yang lebih besar dari para pemimpin dunia, seiring media memanfaatkan teknologi komunikasi yang lebih baik.
Setelah insiden Black Hawk Down di Somalia pada 1993, yang disiarkan ke seluruh dunia dan membentuk masa depan operasi kontra-terorisme, perang Irak pada 2002 menandai era baru siaran berita 24/7. Liputan sepanjang waktu memungkinkan ruang redaksi untuk mengungkap peristiwa global secara real-time. Sistem satelit Broadband Global Area Network (BGAN) menyiarkan gambar dan audio berkualitas tinggi di Kecepatan.
Sistem tersebut digantikan oleh sistem seperti LiveU, standar industri yang menggunakan koneksi seluler multiple untuk menyiarkan berita. Setiap iterasi baru teknologi telah mempertahankan prinsip dasar jurnalisme berita. Kunci dari profesi ini adalah kemampuan untuk mengawasi kekuasaan sebagai bagian dari hak konstitusional untuk kebebasan pers.
Namun, tren yang mengkhawatirkan adalah penyalahgunaan teknologi baru untuk mencemari lingkungan informasi. Hal ini dapat dilakukan dengan memanipulasi apa yang kita lihat atau baca, mengendalikan cara informasi disampaikan, atau menyamar sebagai penyampai informasi. Artinya, meniru jurnalis, yang secara tradisional dianggap sebagai sumber informasi yang kredibel berdasarkan fakta.
Avatar AI sedang dibuat untuk meniru jurnalis dan menyebarkan narasi secara massal dan cepat Tren avatar jurnalis berbasis AI yang meniru jurnalis investigasi di seluruh Afrika tercatat dalam laporan terbaru Konrad Adenauer Foundation. ‘Demokrasi bergantung pada pluralisme, yaitu banyak opini.’ “Informasi yang memengaruhi keputusan sosial dan politik,” kata Hendrik Sittig, Direktur Program Media organisasi untuk Afrika Sub-Sahara.
“Namun, informasi yang kita gunakan untuk membentuk opini kita harus . berdasarkan fakta dan benar . hal lain dapat memiliki konsekuensi tragis dan menghancurkan.”
Laporan tersebut mengidentifikasi bagaimana – selain serangan deepfake yang dihasilkan AI terhadap jurnalis dan influencer – avatar AI dibuat untuk menyamar sebagai jurnalis dan menyebarkan narasi secara massal dan cepat. Ini merupakan bagian dari operasi informasi, atau manipulasi dan campur tangan informasi asing (FIMI), yang digunakan sebagai alat pengaruh geopolitik.
Sebuah penyelidikan yang diungkap oleh African Digital Democracy Observatory menemukan bahwa perusahaan keamanan siber Israel, Percepto International, menggunakan teknik-teknik tersebut untuk menciptakan jurnalis investigasi palsu asal Prancis-Ghana dengan profil media sosial dan situs webnya sendiri.
Dia digunakan untuk menyisipkan materi ke dalam media massa Afrika, dan dirancang untuk ‘mencemarkan’ r politisi lokal dan organisasi internasional di Afrika dengan pengungkapan palsu.’ Membuat jurnalis investigasi palsu secara argumen memberikan kredibilitas pada sebuah cerita sambil menginjak-injak kode etik yang mendasari jurnalisme profesional. Penyelidikan menemukan beberapa contoh jurnalis avatar semacam itu.
Taktik ini tampaknya meniru penggunaan persona palsu dalam kampanye iklan politik terkemuka di Burkina Faso, di mana aktor internasional secara harfiah tampak memberikan dukungan kepada para pemimpin kudeta September 2022 di negara tersebut. Perusahaan Graphika mengamati teknik serupa yang digunakan untuk menyebarkan propaganda pro-Partai Komunis Tiongkok melalui situs web palsu yang diisi dengan avatar. Membuat jurnalis investigasi palsu memberikan kredibilitas pada sebuah cerita sambil menginjak-injak jurnalisme profesional.
Meskipun teknologi di balik pembuatan avatar AI dirancang terutama untuk pelatihan dan pemasaran, aktor jahat menggunakannya untuk merusak kepercayaan publik. Teknologi itu sendiri tidak bersalah – sebaliknya. d, masalahnya adalah ketidakhadiran batasan yang mengelilingi penggunaannya.
Baru-baru ini, penyelidikan Al Jazeera menemukan bahwa ‘wartawan hantu’ menulis propaganda pro-Rusia di Afrika Barat dan Tengah, menggunakan identitas orang yang telah meninggal, yang diubah menjadi jurnalis investigasi. Konten tersebut diposting di media berita di seluruh benua. Artikel yang diterbitkan di setidaknya 12 negara Afrika mengaitkan praktik tersebut dengan apa yang disebut tim Al Jazeera sebagai kampanye pengaruh pro-Rusia yang terkoordinasi.
Penggunaan teknologi baru untuk mencemari lingkungan informasi atau menebar keraguan tentang fakta yang sudah mapan merupakan ancaman bagi demokrasi. Di demokrasi yang rapuh seperti banyak negara di Afrika, ketidakhadiran media profesional yang kuat untuk melawan disinformasi semacam itu menjadi kekhawatiran bagi mereka yang peduli pada integritas informasi. Meskipun pemimpin Afrika mengadopsi manfaat teknologi digital dan kecerdasan buatan generatif, misalnya melalui Strategi Kecerdasan Buatan Kontinental Uni Afrika, rasa urgensi Dalam memahami risiko, tampaknya masih ada kekurangan.
Bahaya lain adalah erosi media profesional tradisional, baik dari segi pendanaan maupun tenaga kerja. Seorang editor senior mengatakan kepada peneliti Institut Studi Keamanan (ISS) bahwa selama pemilu Mei 2024 di Afrika Selatan, beberapa anggota tim jurnalis muda mereka kesulitan memahami peran mereka dalam proses demokratis.
Keterbatasan akses perusahaan teknologi terhadap data online membuat sulit untuk mengukur risiko yang dihadapi negara-negara Afrika Meskipun demikian, studi terpisah ISS menemukan bahwa jurnalisme profesional berperan sebagai benteng melawan kampanye mis/disinformasi selama pemilu tersebut.
Ada beberapa upaya untuk mendidik masyarakat tentang bahaya lingkungan informasi yang terdistorsi. Yayasan Konrad Adenauer baru-baru ini menerbitkan komik bergaya Marvel yang dijelaskan sebagai ‘perjalanan seorang jurnalis mencari keadilan di era kecerdasan buatan’, ditulis dan diilustrasikan oleh tim Afrika Selatan. Ini, ditambah inisiatif dari organisasi seperti Media Monitoring Afrika merupakan pengecualian yang menonjol dalam mempromosikan literasi digital dan dapat menjadi inspirasi untuk intervensi di masa depan.
Meskipun perdebatan saat ini di Afrika Selatan banyak berfokus pada platform media sosial dan regulasi konten online – terutama dalam konteks narasi supremasi kulit putih yang baru-baru ini muncul – hal ini kemungkinan besar tidak akan mampu menangkap para peniru jurnalis yang menggunakan kecerdasan buatan generatif.
Sebuah Undang-Undang Kecerdasan Buatan seperti yang baru-baru ini diperkenalkan di Eropa mungkin tidak, dan secara argumen seharusnya tidak, direplikasi di seluruh Afrika karena banyak yang berargumen bahwa ada kekurangan data, kapasitas, dan ketidaksetaraan dalam akses.
Organisasi berbasis di Afrika Selatan seperti Research ICT Africa mengatakan akan sulit untuk mengukur risiko dan mengembangkan langkah-langkah ketahanan kecuali perusahaan teknologi memberikan akses ke data online kepada organisasi penelitian dan pemantauan seperti yang mereka lakukan di negara-negara Utara.
Mengintegrasikan kesadaran AI ke dalam pelatihan ruang redaksi juga dapat menjadi solusi praktis yang perlu dipertimbangkan di sisi pasokan. Di sisi permintaan, kampanye publik diperlukan yang mengemas. Jurnalisme profesional sebagai barang publik dan menyoroti bahaya yang ditimbulkan oleh pemalsuan – sama seperti halnya dengan merek palsu.
Hak eksklusif untuk mempublikasikan ulang artikel ISS Today telah diberikan kepada Daily Maverick di Afrika Selatan dan Premium Times di Nigeria. Bagi media yang berbasis di luar Afrika Selatan dan Nigeria yang ingin mempublikasikan ulang artikel, atau untuk pertanyaan mengenai kebijakan publikasi ulang kami, silakan kirim email kepada kami.
