Попівські попередження щодо штучного інтелекту можуть бути написані штучним інтелектом, стверджує інструмент виявлення

Коротко

• Pangram Labs позначила кілька дописів з офіційного акаунта Папи Лео XIV у X як згенеровані ШІ.
• Розширення Chrome компанії сканує відгуки про продукти, пости у соціальних мережах та новинні статті в реальному часі.
• Вчені кажуть, що текст, згенерований ШІ або з його допомогою, тепер з’являється на більш ніж третині нових сайтів.

Навіть попередження Папи про штучний інтелект, можливо, були написані штучним інтелектом. Першим про це повідомив Wired, стартап Pangram Labs, який займається виявленням ШІ, заявив, що його оновлене розширення для Chrome позначило кілька дописів з офіційного акаунта Папи Лео XIV у X як ймовірно згенеровані ШІ, зокрема повідомлення, що попереджають послідовників про вплив ШІ на людську думку та соціальні структури. Один із таких дописів попереджав: «Коли симуляція стає нормою, це послаблює здатність людини до розрізнення».

«Очевидно, він сам не керує своїм акаунтом у Twitter», — сказав CEO Pangram Labs Макс Сперо Wired. «У них є спеціаліст із соціальних мереж. Але також очевидно, що вони використовують принаймні деякий рівень ШІ». Pangram стверджує, що його модель виявлення має точність 99,98% і рівень хибних спрацьовувань один на 10 000. Дослідження Чиказького університету 2025 року посіло Pangram найвищі місця серед протестованих інструментів виявлення ШІ і виявило, що його рівень хибних позитивів був близький до нуля.  «Оскільки кожен детектор є хоча б трохи недосконалим, організації все одно мають самостійно оцінювати, як і чи використовувати їх, балансуючи потенційне зловживання ШІ із ризиком хибних звинувачень», — йдеться у дослідженні.

Pangram Labs не одразу відповіла на запит Decrypt щодо коментаря, так само як і представники Ватикану. Виявлення ШІ залишається спірним питанням, і хибні спрацьовування залишаються проблемою у галузі. У 2024 році детектор ШІ ZeroGPT викликав резонанс у мережі після того, як його виявив Крістофер Пенн, головний науковець з даних у бостонській маркетинговій аналітичній компанії Trust Insight, і він повідомив, що він позначив Декларацію незалежності США як 97,93% згенеровану ШІ. «Ці інструменти використовуються для дискваліфікації студентів, постановки їх на академічний іспит або відрахування», — сказав Пенн Decrypt тоді. Це «дуже ризиковане застосування, особливо коли в США коледжська освіта коштує десятки тисяч доларів на рік», — додав він. За даними Wired, розширення Pangram також нібито позначило дописи від впливових осіб із синьою галочкою у X, популярних авторів Substack і повідомлення від генерального директора Apple Тіма Кука, присвячене 50-річчю компанії. Запуск відбувається на тлі зростаючої тривоги щодо контенту, створеного ШІ. На початку цього місяця дослідники Стенфордського університету, Лондонського імперського коледжу та Інтернет-архіву виявили, що текст, згенерований ШІ або з його допомогою, становить приблизно 35% нових сайтів, опублікованих до середини 2025 року.