Цена принципов: Anthropic на грани разрыва с Пентагоном

Компания Anthropic оказалась в тисках почти неразрешимого противоречия. До пятницы у неё есть время, чтобы принять судьбоносное решение: согласиться ли на требование Министерства обороны США предоставить неограниченный доступ к своим ИИ-моделям для любых законных целей. В случае отказа Пентагон грозит признать стартап «риском для цепочки поставок» или принудить к сотрудничеству, используя особый закон о производстве в интересах обороны.

Всё началось с контракта на 200 миллионов долларов, заключённого в июле. Anthropic первой среди крупных И-лабораторий внедрила свои модели в рабочие процессы на засекреченных сетях военных. Однако компания, известная своим принципиальным подходом к безопасности ИИ, настаивала на гарантиях: её технологии не должны использоваться для создания полностью автономного оружия или массовой слежки за гражданами США.

«В ряде случаев ИИ может подрывать, а не защищать демократические ценности», — заявил в четверг генеральный директор Anthropic Дарио Амодеи. Переговоры зашли в тупик, превратившись в самый громкий на сегодняшний день тест на прочность для репутации компании.

Ситуация безвыходная. Уступить — значит запятнать имидж «ответственного» разработчика ИИ, рискуя доверием сотрудников и клиентов. Отказаться — потерять крупный контракт и, возможно, быть отрезанной от будущих госзаказов. Эксперты уже говорят, что в этом противостоянии не будет победителей.

В Пентагоне настаивают, что у них «нет интереса» к запрещённым сценариям, и называют свои требования «разумными». Однако тон обсуждения накалился до предела: один из высокопоставленных чиновников министерства в социальных сетях позволил себе резкие личные выпады в адрес Амодеи.

За развитием конфликта пристально следят во всей индустрии. Более 330 сотрудников Google и OpenAI подписали открытое письмо с призывом к солидарности и отказу от требований военных. Многие опасаются, что подобный жёсткий прессинг со стороны государства оттолкнёт технологические компании, и в итоге пострадают те, кто на передовой.

Anthropic заявляет, что не намерена отступать под давлением, но её «сильное предпочтение» — продолжать сотрудничество с оборонным ведомством. Пока же часы тикают, и решение, которое примет компания, станет важным прецедентом для всего мира ИИ.