Компания Anthropic, специализирующаяся на разработке искусственного интеллекта, совместно с Министерством энергетики США проводит уникальные испытания своей модели Claude 3 Sonnet. Целью эксперимента является проверка способности ИИ «не делиться» потенциально опасной информацией, связанной с ядерной энергетикой, в частности, с созданием оружия.

Источник изображения: Copilot

Как стало известно изданию Axios, специалисты из Национального управления ядерной безопасности (NNSA) при Министерстве энергетики США с апреля этого года проверяют модель Claude 3 Sonnet, чтобы убедиться, что она не может быть использована для создания атомного оружия. В ходе «красных запросов» эксперты манипулируют системой, пытаясь её «сломать».

По словам Anthropic, подобные тесты, проходящие в совершенно секретной среде, являются первыми в своём роде и могут открыть путь для аналогичных взаимоотношений с другими государственными структурами. «В то время как американская промышленность лидирует в разработке передовых ИИ-моделей, федеральное правительство приобретает уникальный опыт, необходимый для оценки систем искусственного интеллектана предмет определенных рисков для национальной безопасности», — заявила руководитель отдела политики национальной безопасности Anthropic Марина Фаваро (Marina Favaro).

Представители NNSA также подчеркнули важность работы в этом направлении. Вендэн Смит (Wendin Smith), заместитель администратора NNSA, заявила, что ИИ является «одной из ключевых технологий, которая требует постоянного внимания в контексте национальной безопасности».

Anthropic планирует и дальше продолжить сотрудничество с правительством, чтобы разработать более надёжные меры безопасности для своих систем. Пилотная программа, в рамках которой тестируется также более новая модель Claude 3.5 Sonnet, продлится до февраля 2024 года. Компания обещает поделиться результатами тестирования с научными лабораториями и другими организациями.

Китайскую академию инженерной физики (CAEP), занимающуюся разработками ядерного оружия, США внесли в санкционные списки ещё в 1997 году, но как минимум с 2020 года ей удавалось получить американские чипы, к которым у неё не должно было быть доступа. The Wall Street Journal сообщает о не менее чем 12 случаях, причём многие чипы приобретались входящей в состав академии лабораторией вычислительной гидродинамики, занятой в том числе моделированием ядерных взрывов.

Источник изображения: Diane Serik/unsplash.com

Подобные покупки, по данным издания являются, обходом ограничений, наложенных США и предназначенных для того, чтобы помешать использованию американских продуктов в ядерных исследованиях иностранными державами. Академия — одна из первых китайских структур, внесённых в санкционные списки. В частности, она создала первую в Китае водородную бомбу. Журналистское расследование позволило установить, что из научных работ, опубликованных CAEP за последние 10 лет, как минимум в 34 упоминается использование в исследованиях американских полупроводников в тех или иных целях, как минимум в семи случаях исследования могут быть связаны с ядерным оружием.

В октябре прошлого года США расширили список экспортных ограничений в отношении Китая, призванных помешать геополитическим соперникам получать передовые технологии, предназначенные для систем ИИ и суперкомпьютеров. Впрочем, в большинстве случаев используемые решения широко доступны на международном рынке. В NVIDIA сообщили, что CAEP в основном использует чипы общего назначения, проконтролировать движение которых по планете практически невозможно. Intel тоже подтвердила, что соблюдает введённые ограничения и то же обязаны делать и её клиенты, в теории. Эксперты сходятся во мнении, что движение чипов практически невозможно отследить, поскольку на Китай только в 2021 году приходилось более трети покупок чипов из общего объёма в $556 млрд.

Министерство торговли США в июне 2020 года расширило ограничения в отношении CAEP, добавив в свой чёрный список 10 структур, принадлежащих академии или управляемых ею, а также 17 прокси-структур, которые использовались для покупки необходимых американских комплектующих.

Тем не менее, китайские военные и их поставщики пока обходят санкции, закупая компоненты через подставные структуры и другими способами. Кроме того, множество разработанных в США чипов выпускаются за пределами США, из-за чего усложняется экспортный контроль. Помимо собственно закупки чипов проводятся и тендеры на другие виды товаров и услуг, например — на закупку и обслуживание плат, разработанных Cadence Design Systems, Inc., хотя в самой Cadence, утверждают, что строго соблюдают санкционный режим. По данным журналистов, тендеры в основном выполняются малыми китайскими компаниями.

Заметим, что американские компании иногда выпускают специальные версии своих продуктов для Китая. Так в ноябре NVIDIA сообщила, что будет выпускать ускоритель A800 — специальную версию ускорителя A100 с урезанной функциональностью специально для Поднебесной. И та же CAEP очень заинтересованно в этих и других моделях.

Источник изображения: Joshua Sortino/unsplash.com

Как сообщает The Wall Street Journal со ссылкой на Пентагон, сегодня у Китая имеются порядка 400 ядерных боеголовок, но к 2035 году их число должно вырасти до порядка 1500.

Некоторые из работ CAEP, рассмотренных журналистами, связаны с инерциальным термоядерным синтезом (ICF), предусматривающим использование лазеров высокой мощности для запуска процессов, в малых масштабах имитирующих термоядерные реакции. В числе прочего описывалось использование американских полупроводников для оптимизации применения таких устройств и использования чипов в других процессах. В условиях, когда ядерные испытания в мире почти не проводятся благодаря международным соглашениям, их заменители чрезвычайно важны для ядерных держав.

По мнению экспертов, для того, чтобы политика ограничений экспорта оказалась эффективной, необходимо прекратить продажи комплектующих дистрибуторам, если неизвестны конечные пользователи. Впрочем, эксперты признают, что ограничить оборот полупроводников будет чрезвычайно трудно. Но США пытаются.