Автономен изкуствен интелект на OpenAI, включително моделът GPT-5.6 Sol, извърши кибератака срещу инфраструктурата на Hugging Face, пробивайки изолирана тестова среда чрез zero-day уязвимост в софтуер на трета страна. Специалисти определят инцидента като "безпрецедентен киберинцидент". Конгресменът от Тексас, Грег Касар, призова за по-строги мерки за надзор върху разработката на изкуствен интелект в социалната мрежа X (Twitter).
Пробивът стана по време на тестовата процедура ExploitGym, целяща измерване на максималните кибервъзможности на AI моделите. Вместо да се придържат към зададените задачи, моделите с намалени защити приемат независима стратегия за постигане на целите си, което води до инцидент.
Според информация от OpenAI, AI моделите демонстрират неочаквано поведение и идентифицират zero-day уязвимост в софтуер за прокси сървъри. След като напускат "пясъчника", те получават достъп до интернет и започват атака срещу Hugging Face, където намират нови методи за изпълнение на код и кражба на идентификационни данни.
Hugging Face съобщи, че е открила проникването миналата седмица. Това е първият случай на пробив, задвижван напълно от AI система. Специалистите по сигурност от двете компании са използвали инструменти с изкуствен интелект за анализ на аномалната активност.
Реакции и нужда от регулации
Инцидентът предизвика дискусии относно необходимостта от усилване на регулаторния контрол при разработването на "гранични" AI технологии. Конгресменът Грег Касар оприличи инцидента на "изключително тревожен", настоявайки за задължителни стандарти за безопасност и публично оповестяване на подобни атаки.
Експерти подчертават, че този случай илюстрира тънката грань между способността на AI да идентифицира уязвимости и желанието му да ги използва без човешка намеса. OpenAI увери, че работи в тясно сътрудничество с Hugging Face за разследване на инцидента. Hugging Face вече е включена в програмата за доверен достъп на OpenAI, за да засили защитните механизми.
