Anthropic собирается восстановить публичный доступ к своим самым мощным моделям ИИ, Claude Fable 5 и Mythos 5, спустя несколько недель после того, как они были отключены по распоряжению правительства США.
Доступ к двум последним моделям Anthropic был ограничен для общественности с 12 июня, когда правительство ввело экспортный контроль после сообщения о том, что исследователи обошли меры безопасности Fable 5, вынудив Anthropic немедленно прекратить доступ к моделям. Правительство сняло эти ограничения в среду, заявили в Anthropic.
«После серии продуктивных переговоров с правительством США мы повторно внедряем модель с новым набором классификаторов для выявления и блокировки большего количества задач в области кибербезопасности», — заявили в Anthropic .
По мнению экспертов и технологов, приостановка работы этих моделей вызвала опасения по поводу государственного контроля над передовыми технологиями искусственного интеллекта и создала опасный прецедент. Контроль за экспортом также подчеркнул опасения Белого дома по поводу потенциальной угрозы национальной кибербезопасности, если эти мощные модели будут взломаны и использованы в злонамеренных целях.
Внедрение лучших технологий остается приоритетной задачей
Министр торговли США Говард Лютник заявил в среду на X:
«В течение последних двух недель мы тесно сотрудничали с Anthropic для анализа и утверждения Fable 5, чтобы обеспечить согласованность действий всего правительства США и укрепить лидерство Америки в области ИИ».
Между тем, глава администрации Белого дома Сьюзи Уайлз заявила в эфире X, что приоритетом правительства остается «как можно более быстрое и безопасное внедрение лучших технологий искусственного интеллекта».
Предложена классификация джейлбрейка с использованием ИИ
Компания Anthropic также начала разработку согласованной концепции с Amazon, Microsoft, Google и другими партнерами в рамках проекта Glasswing — сотрудничества, объявленного в апреле для защиты от угроз кибербезопасности ИИ, — для «оценки серьезности взломов систем ИИ».
Компания также расширяет сотрудничество с правительством США в области тестирования моделей ИИ и мер защиты.
«Это будет включать в себя предварительный доступ к моделям и мерам защиты для оценки, обмен информацией о взломах и злоупотреблениях, а также выделение ресурсов для совместных исследований», — говорится в заявлении.
Известный исследователь в области искусственного интеллекта заявил, что взломал Fable 5 в течение 48 часов после её запуска в июне, до введения правительственных ограничений, и поделился скриншотами, демонстрирующими, как он обошёл защитные механизмы модели.
Читайте также:
