Anthropic спільно з Microsoft(MSFT.US) та іншими технологічними гігантами тестують нову модель ШІ для протидії ризикам кібербезпеки

Додаток Zhitong Finance дізнався, що у вівторок Anthropic оголосила про запуск нової ініціативи спільно з кількома великими технологічними компаніями, щоб завчасно протидіяти ризикам кібербезпеки, які можуть спричинити потужніші AI-моделі.

Згідно з повідомленням, Anthropic запустила партнерський проєкт під назвою «Project Glasswing» і надасть доступ до ще не випущеної AI-моделі «Mythos» для кількох технологічних компаній, зокрема Amazon (AMZN.US), Apple (AAPL.US), Microsoft (MSFT.US) і Cisco (CSCO.US). Відповідні компанії використовуватимуть цю модель для виявлення вразливостей у власних продуктах і спільно діляться результатами досліджень з галуззю.

Anthropic заявила, що наразі немає планів відкривати Mythos для громадськості. У майбутньому, залежно від результатів, отриманих у межах проєкту Glasswing, для цієї моделі встановлять більш досконалі «запобіжні обмежувачі» безпеки. Цей крок відображає посилення занепокоєння технологічної індустрії щодо того, що передові AI-моделі можуть бути зловживані хакерами або нападниками, які підтримуються державою.

У галузі загалом вважають, що зі зростанням можливостей AI його здатність до аналізу коду та пошуку вразливостей також відповідно посилюється, що потенційно може бути використано для обходу існуючих систем мережевого захисту. Конкурент Anthropic, OpenAI, раніше також підкреслював подібні ризики та запустив пілотні проєкти, надаючи AI-інструменти насамперед для використання захисниками.

Керівник команди з кібербезпеки Anthropic Ньютон Чен (Newton Cheng) заявив, що це не проблема лише однієї компанії, а виклик, який має спільно долати вся галузь і навіть уряд. «Ми хочемо, щоб через Glasswing захисники отримали перевагу в часі до того, як технологія почне поширюватися», — сказав він.

Також компанія повідомила, що вже провела комунікації щодо можливостей безпеки Mythos із відповідними державними органами США, і співпрацює з Управлінням з кібербезпеки та безпеки інфраструктури (CISA) та Національним інститутом стандартів і технологій (NIST).

Хоча Mythos не створювали спеціально для кібербезпеки, його результати викликали інтерес. Anthropic стверджує, що ця модель виявила кілька важливих вразливостей, зокрема інтернет-ключову програмну вразливість, яка існувала 27 років, а також дефект ігрового коду, який тривав 16 років і лишався непоміченим; при цьому останній, як повідомляється, не був ідентифікований, хоча його сканували автоматизовані тестові інструменти понад 5M разів.

Щоб запобігти технічному зловживанню, Anthropic заявила, що встановила суворі заходи контролю доступу для учасників проєкту Glasswing, але не розкрила конкретні деталі.