May 6

Microsoft, Google и xAI позволят правительству протестировать свои модели ИИ перед запуском.

Google, Microsoft и xAI будут предоставлять правительству ещё не выпущенные версии своих ИИ-моделей для снижения киберугроз, сообщил Национальный институт стандартов и технологий США во вторник.

Партнёрство появилось после того, как новая мощная ИИ-модель Mythos от Anthropic в прошлом месяце усилила обеспокоенность по поводу влияния искусственного интеллекта на кибербезопасность и подтолкнула Белый дом к обсуждению возможного официального процесса проверки ИИ.

Новые соглашения позволят Центру стандартов и инноваций в области ИИ (CAISI), входящему в Министерство торговли США, оценивать новые модели ИИ и их потенциальное влияние на национальную безопасность и общественную безопасность ещё до их запуска. Центр также будет проводить исследования и тестирование после внедрения моделей и уже завершил более 40 оценок ИИ-систем.

«Независимая и строгая научная оценка крайне важна для понимания передового ИИ и его последствий для национальной безопасности», — заявил директор CAISI Chris Fall. — «Расширение сотрудничества с индустрией помогает нам масштабировать работу в общественных интересах в критически важный момент».

Mythos, которую Anthropic назвала моделью, значительно опережающей другие системы в сфере кибербезопасности, за последний месяц вызвала волну беспокойства среди правительств, банков и энергетических компаний. Компания заявила, что пока не готова выпускать модель в открытый доступ и ограничивает доступ только для одобренных организаций. Также представители Anthropic провели закрытые брифинги для высокопоставленных чиновников США, посвящённые возможностям модели.

OpenAI на прошлой неделе также сообщила, что предоставляет свои самые продвинутые ИИ-модели всем проверенным государственным структурам, чтобы опережать угрозы, связанные с использованием искусственного интеллекта.

По словам старшего аналитика исследовательского центра безопасности и новых технологий Джорджтаунского университета Jessica Ji, партнёрства помогут CAISI эффективнее тестировать ИИ благодаря дополнительным ресурсам.

«У них просто нет такого объёма ресурсов, как у крупных технологических компаний — ни по количеству сотрудников, ни по техническим специалистам, ни по вычислительным мощностям, необходимым для полноценного анализа и тщательного тестирования моделей», — отметила она.

По данным журналистов и представителей прессы, Белый дом сейчас консультируется с группой экспертов по вопросу возможного создания государственного механизма проверки новых ИИ-моделей. Такой шаг может означать отход от нынешнего более мягкого подхода администрации Трампа к регулированию искусственного интеллекта.

Ранее о создании рабочей группы сообщали американские СМИ.

«Любые официальные заявления по вопросам политики будут исходить непосредственно от президента. Обсуждения возможных указов пока остаются спекуляциями», — сообщил представитель Белого дома журналистам.

Хотя Microsoft регулярно тестирует собственные модели, CAISI предоставляет дополнительную «техническую, научную и связанную с национальной безопасностью экспертизу», заявила директор Microsoft по ответственному ИИ Natasha Crampton.

Google отказалась от дополнительных комментариев по поводу соглашения. xAI не ответила на запросы прессы о комментариях.

Latest from our blog