Компания Anthropic, занимающаяся разработкой ИИ, официально подтвердила случайную утечку информации о своей самой мощной на сегодняшний день модели ИИ, пишет УНН со ссылкой на Mashable.
Детали
Модель, теперь известная как Claude Mythos, была впервые обнаружена в отчете Fortune. Anthropic подтвердила подробности утечки изданию.
По данным Fortune, утечка данных включала информацию о предстоящем выпуске модели ИИ Claude Mythos, «эксклюзивном мероприятии для генерального директора» и другие внутренние материалы, такие как PDF-файлы и изображения. В общей сложности утечка включала почти 3000 материалов, которые Anthropic ранее не публиковала.
По данным Anthropic, утечка произошла из-за проблемы с системой управления контентом (CMS), которую использует компания. Anthropic не пометила эти элементы как приватные, поэтому данные были сохранены в общедоступном хранилище данных.
Согласно утечке о Claude Mythos, Anthropic завершила обучение модели и называет ее «на сегодняшний день самой мощной моделью ИИ, которую мы когда-либо разрабатывали». В заявлении, предоставленном Fortune после утечки, представитель Anthropic описал Claude Mythos как «качественный скачок» в производительности ИИ и заявил, что модель «самая функциональная из всех, что мы создали на сегодняшний день». Anthropic заявляет, что Claude Mythos сейчас находится на стадии тестирования и доступен избранным «клиентам раннего доступа».
Помимо новой модели ИИ, в сообщении также упоминается новый, еще не выпущенный уровень моделей ИИ от Anthropic под названием Capybara. В настоящее время Anthropic предлагает три различных уровня для каждой из своих моделей ИИ: Opus, Sonnet и Haiku. Opus в настоящее время является самым мощным и дорогим уровнем, тогда как Haiku — самым маленьким и наименее дорогим. Capybara будет даже выше Opus, будучи самым большим и наиболее интеллектуальным уровнем моделей ИИ от Anthropic.
В сообщении также подробно описываются опасения Anthropic по поводу рисков кибербезопасности, которые есть у Claude Mythos. Очевидно, Anthropic считает, что Claude Mythos могут использовать хакеры для кибератак. «Готовясь к выпуску Claude Capybara, мы хотим действовать с особой осторожностью и понимать риски, которые он представляет — даже помимо того, что мы узнаем в ходе собственных испытаний, — говорится в сообщении Anthropic. — В частности, мы хотим понять потенциальные краткосрочные риски, связанные с этой моделью, в сфере кибербезопасности и поделиться результатами, чтобы помочь специалистам по киберзащите подготовиться».
Компания Anthropic описала свою еще не выпущенную модель как такую, что «в настоящее время значительно опережает любую другую модель ИИ в области кибербезопасности» и заявила, что модель «предвосхищает будущую волну моделей, которые смогут использовать уязвимости способами, значительно превосходящими усилия специалистов по защите». В просочившемся в сеть блоге компания заявила, что предоставляет ранний доступ к проекту, чтобы дать организации «преимущество в повышении надежности их кодовых баз против волны эксплойтов, управляемых ИИ».
Суд в США заблокировал запрет администрации Трампа на ИИ от Anthropic в саге с Пентагоном27.03.26, 18:39 • 4288 просмотров
