Google заключила соглашение с Пентагоном по ИИ для секретных работ, несмотря на протесты сотрудников

Вкратце

• Сообщается, что Google подписала соглашение о предоставлении моделей ИИ Пентагону для секретных работ
• Пентагон подписал аналогичные соглашения с OpenAI и xAI.
• Сотрудники Google призывают генерального директора Сундар Пичаи отказаться от выполнения секретных задач с использованием ИИ.

Google подписала соглашение о предоставлении Пентагону своих моделей искусственного интеллекта для секретных работ, сообщает The Information. Это соглашение позволяет Министерству обороны США использовать ИИ Google для «любых законных государственных целей», сообщили The New York Times источники, знакомые с договором. Язык документа совпадает с контрактами, которые Пентагон подписал в прошлом месяце с OpenAI и xAI для использования их моделей ИИ в секретных сетях. «Мы гордимся тем, что являемся частью широкого консорциума ведущих лабораторий ИИ и технологических и облачных компаний, предоставляющих услуги и инфраструктуру ИИ в поддержку национальной безопасности», — заявил представитель Google The New York Times. «Мы остаемся приверженными консенсусу частного и государственного секторов о том, что ИИ не должен использоваться для внутреннего массового наблюдения или автономного оружия без соответствующего человеческого контроля.»

Google не сразу ответила на запрос о комментарии от Decrypt. Хотя детали не были раскрыты, перед подписанием соглашения, оно вызвало протесты среди сотен сотрудников Google, подписавших открытое письмо генеральному директору Сундару Пичаи с призывом не предоставлять свои системы ИИ Пентагону.  «Мы хотим, чтобы ИИ приносил пользу человечеству; а не использовался в бесчеловечных или крайне вредных целях», — говорится в письме. В настоящее время единственный способ гарантировать, что Google не станет связана с такими вредоносными действиями, — это отказаться от выполнения секретных задач. В противном случае такие использования могут происходить без нашего ведома и возможности остановить их.»

В письме отмечается, что системы ИИ «делают ошибки» и могут «централизовать власть», а также подчеркивается, что у Google есть ответственность предотвращать «самые неэтичные и опасные использования», включая «смертельное автономное оружие и массовое наблюдение». Сотрудники предупреждают, что неправильное решение прямо сейчас может нанести непоправимый ущерб репутации, бизнесу и роли Google в мире. Пентагон ускорил усилия по заключению соглашений с крупными компаниями в области ИИ с января, когда министр обороны Пит Хегсетх заявил, что технология должна быть интегрирована в вооруженные силы. Письмо подчеркивает растущий разрыв между военными и некоторыми разработчиками ИИ относительно того, как должна использоваться эта технология в войне. В марте Пентагон признал Anthropic «риском цепочки поставок», фактически запретив этой стартап-компании из Сан-Франциско работать с федеральным правительством, после того как генеральный директор Дарио Амодеи отказался разрешить неограниченное использование своих моделей ИИ. С тех пор Anthropic подала в суд на Пентагон по поводу этого статуса, стремясь продолжить работу с другими ведомствами правительства. Несмотря на сопротивление сотрудников, Google, похоже, продолжает реализовывать свое соглашение с Пентагоном, поскольку Министерство обороны расширяет использование искусственного интеллекта в секретных операциях. «Проще говоря, Соединенные Штаты должны выиграть стратегическую конкуренцию за технологическое превосходство XXI века», — заявил Хегсетх в речи на базе Илона Маска Starbase в январе, назвав это «давно назревшей задачей». «Очень скоро у нас будут ведущие в мире модели ИИ на всех несекретных и секретных сетях нашего департамента», — добавил он.