Глава Anthropic бросает вызов Пентагону: «Мы не откроем ящик Пандоры»

Генеральный директор Anthropic Дарио Амодеи сделал неожиданное заявление, фактически отказав Пентагону в предоставлении неограниченного доступа к своим системам искусственного интеллекта. Причина – этические принципы, которые компания не готова нарушить.

«Мы не можем по совести согласиться на это требование», – заявил Амодеи. Он подчеркнул, что его компания уважает право военных на принятие решений, но есть красные линии, которые Anthropic переступать не будет. Речь идет о двух конкретных сценариях: использовании ИИ для тотальной слежки за гражданами и создании полностью автономного летального оружия, действующего без человека в цепи. По мнению главы Anthropic, такие применения не только подрывают демократические ценности, но и выходят за рамки возможностей современных технологий с точки зрения безопасности.

Этот демарш прозвучал менее чем за сутки до дедлайна, который установил министр обороны США. Пентагон настаивает, что имеет право использовать модель Claude для любых законных целей, и его действия не должны диктоваться частной компанией. Однако, как сообщил представитель Anthropic, последний вариант контрактных условий от военных практически игнорировал ключевые требования по safeguards (защитным механизмам). Новые формулировки, преподнесенные как компромисс, содержали юридические лазейки, позволявшие обойти эти ограничения.

В попытке оказать давление на компанию Пентагон, по данным источников, рассматривал два жестких сценария: объявить Anthropic риском для цепочки поставок (статус, обычно применяемый к иностранным противникам) или применить Закон о производстве в интересах обороны, что позволило бы фактически принудить компанию к сотрудничеству. Амодеи парировал, указав на противоречие: «Одна угроза маркирует нас как угрозу безопасности, другая – объявляет Claude жизненно важным для национальной безопасности».

Несмотря на жесткую позицию, Anthropic не разрывает диалог и заявляет о готовности продолжить работу на благо военных – но только при условии соблюдения двух ключевых safeguards. Компания является единственным разработчиком передового ИИ, чьи системы уже готовы для работы с классифицированной информацией. «Наше сильное предпочтение – продолжать служить, – сказал Амодеи. – Но если министерство выберет другой путь, мы обеспечим плавный переход к другому поставщику, без ущерба для операций». Суть его послания проста: мы можем разойтись цивилизованно, без лишней драмы.