600 співробітників Google спільно протестували: відмовитися від підключення Gemini до секретної військової мережі Пентагону

Більше 600 співробітників Google (включно з понад 20 віце-президентами та високопосадовцями) підписали відкритого листа генеральному директору Сундару Пічаю, вимагаючи від компанії відмовитися від нової угоди щодо розширення Gemini до секретних мереж Пентагону. Співробітники зазначають, що у конфіденційному середовищі жоден зовнішній суб’єкт не може контролювати системи ШІ, а існуючі заходи безпеки технічно не здатні це забезпечити.
(Попередній огляд: Інтерпретація керівництва Y Combinator щодо AI Agent: які тенденції розвитку мають майбутнє?)
(Додатковий контекст: дослідження Каліфорнійського університету про явище «AI-тіль» — 14% працівників офісу злітають з глузду через агентів та автоматизацію, 40% мають високий намір звільнитися)

Зміст цієї статті

Перемикач

• Від неконфіденційного до конфіденційного
• Структурні проблеми у конфіденційному середовищі
• Тихе зникнення принципів Google AI у порівнянні з історією Maven

Більше 600 співробітників Google підписали відкритого листа генеральному директору Сундару Пічаю, серед підписантів — досвідчені дослідники DeepMind, понад 20 віце-президентів та високопосадовців, з проханням не дозволяти Gemini входити до секретних військових мереж Пентагону.

Від неконфіденційного до конфіденційного

Спершу давайте узагальнимо співпрацю обох сторін. Наприкінці 2022 року Google разом з AWS, Microsoft та Oracle виграли ключовий контракт Міністерства оборони США на хмарні послуги JWCC, загальний обсяг до 9 мільярдів доларів.

У грудні 2025 року офіційно запущено платформу GenAI.mil на базі Gemini для неконфіденційного середовища.

До березня 2026 року агент Gemini AI вже був розгорнутий для всіх 3 мільйонів співробітників Міноборони.

Усі ці застосування залишаються у неконфіденційній сфері.

Але тепер у переговорах йдеться про нову угоду, яка передбачає розширення функцій Gemini до «конфіденційного» середовища: тобто у ізольовану мережу з фізичним відокремленням від зовнішніх мереж, так звану air-gapped мережу, спеціально для військових операцій. Простими словами: Gemini потрапить у командний центр бойових дій.

Розбіжності на переговорах очевидні. Google намагається закласти у контракт «червоні лінії»: заборонити використання Gemini для відстеження громадян країни або для автоматичного прийняття ударних рішень без людського втручання. У той час як Пентагон наполягає на «усіх законних цілях», ці слова не залишають жодних чітких заборон і однозначно забороняють зовнішнім постачальникам мати будь-який контроль над системами ШІ.

Два умови прямо суперечать один одному. У відкритому листі співробітники Google зазначають, що заходи безпеки, запропоновані компанією, «з технічної точки зору неможливо реалізувати».

Структурні проблеми у конфіденційному середовищі

Автори листа підкреслюють одну фундаментальну проблему: «Конфіденційна робота за визначенням є непрозорою». Це означає, що як тільки Gemini потрапить у конфіденційну мережу, навіть Google не зможе бачити, що вона робить.

У неконфіденційному середовищі Google може аудитувати API-запити, контролювати вихідні дані моделей, встановлювати захисні бар’єри і втручатися у разі проблем. У конфіденційному ж середовищі ці можливості відсутні.

Співробітники у листі висловлюють конкретні побоювання: профілювання особистості (створення моделей поведінки та ідентичності цільових осіб за допомогою ШІ), використання безневинних цивільних для цілей ударів. Ці сценарії не є гіпотетичними — вони вже є у практиці застосування ШІ у військових цілях.

Проблема для керівництва Google у тому, що технічно вони не можуть гарантувати співробітникам, що Gemini не буде використаний для певних цілей, оскільки він просто не може бути перевірений у цій мережі.

Тихе зникнення принципів Google AI у порівнянні з історією Maven

У лютому 2025 року Google тихо змінив свої принципи використання ШІ, виключивши чіткий заборонний пункт щодо «розробки озброєнь або систем моніторингу ШІ». Головний виконавчий директор DeepMind Деміс Гассабіс пояснив це тим, що глобальна конкуренція за лідерство у ШІ посилюється, і правозахисні організації, такі як Amnesty International, одразу ж засудили цей крок.

У 2018 році у справі Maven понад 4000 співробітників підписали відкритий лист, щонайменше 12 з них звільнилися, і в підсумку Google не продовжила контракт, передавши його Palantir.

2018 рік: Google і Міністерство оборони США співпрацюють у рамках «Maven проекту»

Ця співпраця передбачала використання AI та машинного навчання Google для автоматичного аналізу аерознімків безпілотників з метою допомоги військовим у ідентифікації цілей. Однак ця ініціатива викликала гостру етичну дискусію всередині Google і стала ключовим поворотним моментом у історії технологічної співпраці з військовими.

Успіх Maven частково пояснюється тим, що у 2018 році застосування військового AI було ще периферійною темою, і репутаційні витрати Google були вищими за вигоду від контракту. Через вісім років AI стала основою оборонних інфраструктурних проектів, і Google разом з AWS та Microsoft активно змагаються за великі контракти.

Позиція ринку, політичний тиск і конкуренція ведуть до одного й того ж висновку: одна відкриття листа навряд чи зможе протистояти грошовим інтересам, що стоять за великими контрактами.