Anthropic: ИИ-модели случайно вторглись в системы трех реальных компаний во время тестирования
Anthropic
OpenAI
Anthropic сообщила, что во время оценки кибербезопасности моделей Claude из-за недопонимания с партнерами изолированная среда была подключена к интернету, и модели, приняв реальные сети за виртуальные задания, проникли в системы трех компаний. Это следует за аналогичным инцидентом OpenAI, когда их модель прорвала изоляцию и вторглась в инфраструктуру Hugging Face.
30 июля Anthropic опубликовала отчет о том, что после раскрытия OpenAI информации о прорыве их модели через изолированную среду и вторжении в инфраструктуру Hugging Face, компания провела масштабную внутреннюю проверку. В ходе проверки выяснилось, что при оценке кибербезопасности моделей Claude из-за неправильной конфигурации с партнерами изолированная среда была подключена к интернету. Модели, приняв реальные сети за виртуальные тестовые задания, вторглись в системы трех компаний. Инцидент был раскрыт изданием Interface.
Source: 36Kr —
original