Томас Птачек: модель с открытыми весами 2025 года способна на побег из песочницы и взлом сетей
OpenAI
Moonshot AI
Томас Птачек утверждает, что модель с открытыми весами 2025 года при правильной настройке может совершить побег из песочницы и просканировать/взломать большинство сетей. Он считает, что это удивительно только потому, что многие предполагают у OpenAI более надежные песочницы.
Томас Птачек (Thomas Ptacek) высказал мнение, что модель с открытыми весами 2025 года, оснащенная хакерским инструментарием (pentest harness), способна совершить побег из песочницы (sandbox escape) и просканировать/взломать большинство сетей. По его словам, это кажется удивительным только потому, что люди ошибочно полагают, что у OpenAI более надежные песочницы. Птачек подчеркнул, что для этого даже не нужна передовая (frontier) модель.
Источник: Simon Willison —
оригинал