Безпрецедентен инцидент в областта на киберсигурността между OpenAI и Hugging Face повдига повече въпроси, отколкото изглежда на пръв поглед. Самата възможност агенти с ИИ да излязат извън контрол и да проникнат в чужди платформи е поразителна. Но може би още по-голям проблем, който поражда и повече въпроси, е начинът, по който OpenAI подходи към случая.
По собствените ѝ думи на 16 юли OpenAI е тествала два езикови модела в изолирана и строго наблюдавана среда, като задачата им е била да извършат хакерска атака. Според официалното изявление на компанията в теста са участвали GPT-5.6 Sol и все още необявен експериментален модел. За да може тестът за киберсигурност да бъде проведен успешно, компанията е изключила защитните механизми, които задължително се прилагат при публично достъпните модели.
Задачата на двата модела е била да работят напълно самостоятелно като агенти, да търсят уязвимости в зададен код и чрез използването на различни пробойни в сигурността да преодолеят защитните бариери.
Докато изпълнявали задачата, моделите открили как да излязат от изолираната среда, получили достъп до интернет и стигнали до извода, че в базата данни на Hugging Face могат да намерят ключовете, с които да пробият първоначалната си цел. По време на инцидента вариантите на моделите, настроени за задачи по киберзащита, открили няколко сериозни уязвимости както в системите на OpenAI, така и в тези на Hugging Face.
Случаят става още по-сериозен заради твърдението на Hugging Face, че OpenAI не е направила опит незабавно да се свърже с платформата. Hugging Face сама установила проникването, а използваните от нея агенти се опитали да отблъснат атаката. Компанията не знаела, че зад нея стои именно OpenAI, но веднага разпознала, че не става дума за обичаен проблем с киберсигурността , тъй като идентифицирала „система от автономни агенти с ИИ, действаща от началото до края“.
След като станало ясно какво точно се е случило, OpenAI и Hugging Face обединили събраната информация, за да проследят какво точно е извършил управляваният от двата модела агент и как е действал във фонов режим. Това са важни изводи, които ще помогнат подобни случаи да бъдат предотвратени в бъдеще.
Кой е най-големият проблем, освен самия факт, че нещо подобно изобщо е могло да се случи? Начинът, по който OpenAI подхожда към инцидента. Напълно очевидно е, че наред с признаването на вината си компанията се опитва да превърне случая в безплатна реклама.
Тя непрекъснато подчертава колко мощни са нейните изключително усъвършенствани решения за киберсигурност. С резултати от тестове се опитва да докаже, че GPT моделите са сред водещите и в тази област, след като току-що са пробили собствената ѝ система, а и чужда услуга. Освен това OpenAI е предложила да включи Hugging Face сред привилегированите си партньори, за да ѝ помогне да укрепи защитата си. (При положение че, както изглежда, е имало още какво да се подобри и в собствената ѝ защита.)
Изключително тревожно е, че след подобен инцидент OpenAI на практика се опитва да се обгради с ореол на слава. Експерти по киберсигурност и преди са подчертавали, че бързото, почти необуздано и нерегулирано развитие на генеративния ИИ може да има непредвидими последици. Този случай показва за пореден път, че дори самите технологични компании не са способни да контролират собствените си разработки. По-добре да не си представяме на какво биха били способни киберпрестъпниците с все по-усъвършенстваните инструменти — или дори с вътрешен модел, попаднал в неподходящи ръце.































