Небольшая группа неавторизованных пользователей получила доступ к новой модели искусственного интеллекта Mythos компании Anthropic PBC, которая, как утверждает компания, может способствовать опасным кибератакам, пишет УНН со ссылкой на Bloomberg.
Детали
Этот несанкционированный доступ, о котором ранее не сообщалось, подчеркивает проблему, с которой сталкивается Anthropic в полном предотвращении распространения своей самой мощной — и потенциально опасной — технологии за пределы утвержденных партнеров. Это также поднимает вопрос о том, может ли кто-то еще использовать Mythos без разрешения и с какой целью.
Создатель Claude случайно рассекретил свою мощнейшую модель ИИ28.03.26, 11:14 • 5145 просмотров
Пользователи использовали различные тактики доступа к Mythos. Среди них использование доступа, который человек имел как сотрудник стороннего подрядчика Anthropic, и попытки использования распространенных в интернете инструментов для поиска информации, часто используемых исследователями кибербезопасности, сообщил источник.
Пользователи являются участниками закрытого канала Discord, который занимается поиском информации о невыпущенных моделях, в том числе с помощью ботов, которые ищут детали, опубликованные Anthropic и другими на незащищенных веб-сайтах, таких как GitHub.
"Мы расследуем сообщения о несанкционированном доступе к Claude Mythos Preview через среду одного из наших сторонних поставщиков", — говорится в заявлении представителя Anthropic.
Компания заявила, что в настоящее время у нее нет доказательств того, что доступ, о котором сообщило Bloomberg, вышел за пределы среды стороннего поставщика или что он затрагивает какие-либо системы Anthropic.
На сегодняшний день Anthropic разрешила Apple Inc., Amazon.com Inc., Cisco Systems Inc. и десяткам других организаций начать тестирование Mythos. Amazon, ключевой партнер и спонсор Anthropic, также предлагает Mythos через свою платформу Bedrock ограниченному списку одобренных организаций.
В последние дни все больше финансовых учреждений и государственных органов по обе стороны Атлантики стремятся быть включенными в список первых тестировщиков, чтобы защитить свои системы от злоумышленников.
Чтобы получить доступ к Mythos, группа пользователей сделала обоснованное предположение о местонахождении модели в сети, основываясь на знании формата, который Anthropic использовала для других моделей, сообщил источник, добавив, что такие подробности были раскрыты в результате недавней утечки данных из Mercor, стартапа по обучению ИИ, работающего с рядом ведущих разработчиков.
Важно, что этот человек также имеет разрешение на доступ к моделям Anthropic и программному обеспечению, используемому для оценки технологии стартапа. Этот доступ был получен от компании, на которую он выполнял контрактную работу по оценке моделей ИИ Anthropic.
Группа, как указал источник, заинтересована в экспериментах с новыми моделями, а не в причинении им вреда. Группа не запускала тесты, связанные с кибербезопасностью, на модели Mythos, предпочитая вместо этого выполнять такие задачи, как создание простых веб-сайтов, чтобы избежать обнаружения Anthropic.
Этот человек сказал, что группа также имеет доступ ко многим другим еще не выпущенным моделям ИИ Anthropic.
