Центр стандартов и инноваций в области ИИ расширяет сотрудничество с технологическими гигантами

Центр стандартов и инноваций в области ИИ (CAISI), структурное подразделение Министерства торговли США, заключил соглашения с компаниями Google DeepMind, Microsoft и xAI. В рамках партнерства ведомство получило право проводить оценку новейших моделей искусственного интеллекта до того, как они станут доступны широкой общественности.

Усиление контроля над разработками

Согласно заявлению CAISI, входящего в состав Национального института стандартов и технологий (NIST), основной задачей ведомства станет проведение предрелизных проверок и целевых исследований. Это необходимо для качественной оценки возможностей передовых систем ИИ и повышения уровня безопасности технологий.

К инициативе уже присоединились такие компании, как Anthropic и OpenAI. Аналогичные соглашения были подписаны ими около двух лет назад, когда организация функционировала под названием Институт безопасности искусственного интеллекта США. В планах CAISI — предоставление разработчикам рекомендаций по улучшению систем в тесном сотрудничестве с британским Институтом безопасности ИИ.

Представители Microsoft отметили, что подобные соглашения критически важны для формирования доверия к сложным системам ИИ. По мере развития технологий методы тестирования и механизмы защиты также должны становиться более строгими.

Переход к проактивной безопасности

Фриц Жан-Луи, ведущий эксперт по кибербезопасности Info-Tech Research Group, подчеркнул, что действия CAISI знаменуют переход к проактивной модели контроля. Государственное тестирование дает возможность отслеживать автономное поведение алгоритмов и ускоряет внедрение стандартов безопасности на этапе проектирования.

Тем не менее, эксперт указывает на ряд потенциальных сложностей, например, вопросы защиты интеллектуальной собственности при предоставлении доступа к закрытым разработкам. Несмотря на это, данные меры оцениваются как позитивный шаг для всей отрасли.

Подготовка новых государственных директив

Анонс CAISI совпал с сообщениями о подготовке администрацией президента США исполнительного указа, направленного на создание единой системы проверки для всех новых моделей ИИ. Особое внимание уделяется таким разработкам, как модель Mythos от Anthropic, которая, по данным аналитиков, способна находить уязвимости в компьютерных сетях, что создает определенные риски для глобальной кибербезопасности.

Независимый технологический аналитик Карми Леви отмечает, что текущие события указывают на резкий разворот в политике Вашингтона. Если ранее правительство придерживалось политики невмешательства, то теперь наблюдается стремление к ужесточению контроля над взаимодействием с ИИ-вендорами.

• Усиление роли государства в тестировании моделей способствует выработке единых отраслевых стандартов.
• Разработчики вынуждены искать баланс между скоростью вывода продуктов на рынок и соблюдением жестких требований кибербезопасности.
• Политизация партнерства между государством и частными компаниями вызывает осторожность со стороны бизнеса.

В текущих условиях компании вроде Google, Microsoft и xAI оказываются в ситуации необходимости соблюдения политического баланса. Индустрия стремится избежать сценария, при котором правила игры диктуются хаотично, однако участие государственных органов в процессе тестирования воспринимается рынком неоднозначно.