Peringatan Anti-AI Paus Mungkin Ditulis oleh AI, Klaim Alat Deteksi

Singkatnya

• Pangram Labs menandai beberapa posting dari akun resmi X Paus Leo XIV sebagai hasil AI.
• Ekstensi Chrome perusahaan memindai ulasan produk, posting media sosial, dan artikel berita secara real time.
• Peneliti mengatakan bahwa teks yang dihasilkan AI atau dibantu AI kini muncul di lebih dari sepertiga situs web baru.

Bahkan peringatan Paus tentang kecerdasan buatan mungkin telah ditulis oleh kecerdasan buatan. Dilaporkan pertama kali oleh Wired, Pangram Labs, sebuah startup deteksi AI, mengatakan bahwa ekstensi Chrome yang diperbarui menandai beberapa posting dari akun resmi X Paus Leo XIV sebagai kemungkinan hasil AI, termasuk pesan yang memperingatkan pengikut tentang pengaruh AI terhadap pemikiran manusia dan struktur sosial. Salah satu posting tersebut memperingatkan: “Ketika simulasi menjadi norma, itu melemahkan kapasitas manusia untuk membedakan.”

“Jelas, dia tidak menjalankan akun Twitter-nya sendiri,” kata CEO Pangram Labs Max Spero kepada Wired. “Mereka memiliki orang media sosial. Tapi juga jelas bahwa mereka menggunakan setidaknya beberapa tingkat AI.” Pangram mengklaim model deteksinya memiliki tingkat akurasi 99,98% dan tingkat positif palsu satu dari 10.000. Sebuah studi Universitas Chicago bulan Desember 2025 menempatkan Pangram tertinggi di antara alat deteksi AI yang diuji dan menemukan tingkat positif palsunya mendekati nol.  “Karena setiap detector setidaknya sedikit tidak sempurna, organisasi masih harus mengevaluasi sendiri apakah dan bagaimana menggunakannya, dengan mempertimbangkan potensi penyalahgunaan AI dan risiko tuduhan palsu,” kata studi tersebut.

Pangram Labs tidak segera menanggapi permintaan komentar dari Decrypt, begitu pula perwakilan dari Vatikan. Deteksi AI tetap kontroversial, dan positif palsu tetap menjadi kekhawatiran di seluruh industri. Pada 2024, detektor AI ZeroGPT menjadi perhatian online setelah diungkapkan oleh Christopher Penn, Kepala Ilmuwan Data di perusahaan analitik pemasaran berbasis Boston Trust Insight, bahwa alat tersebut menandai Deklarasi Kemerdekaan AS sebagai 97,93% hasil AI. “Alat-alat ini digunakan untuk melakukan hal-hal seperti mendiskualifikasi siswa, menempatkan mereka dalam masa percobaan akademik atau skorsing,” kata Penn kepada Decrypt saat itu. Itu adalah “aplikasi yang sangat berisiko ketika, di Amerika Serikat, pendidikan perguruan tinggi memakan biaya puluhan ribu dolar per tahun,” ujarnya. Menurut Wired, ekstensi Pangram juga dilaporkan menandai posting dari influencer bercentang biru di X, penulis Substack yang sedang tren, dan pesan dari CEO Apple Tim Cook yang menandai ulang tahun ke-50 perusahaan. Peluncuran ini muncul saat kekhawatiran tentang konten sampah yang dihasilkan AI terus meningkat. Awal bulan ini, para peneliti di Stanford University, Imperial College London, dan Internet Archive menemukan bahwa teks yang dihasilkan AI atau dibantu AI menyumbang sekitar 35% dari situs web yang baru dipublikasikan hingga pertengahan 2025.