В седмицата от 20 до 26 юли 2026 г. съобщихме, че при съвсем рутинен тест за сигурност OpenAI „случайно“ е проникнала в системата на Hugging Face и се е опитала да открадне данни оттам. Случаят предизвика огромен отзвук, а нов доклад разкрива, че атаката всъщност е била с много по-широк обхват.

OpenAI и Hugging Face съобщиха съвместно за първоначалния инцидент. Тогава стана ясно, че изследователите на OpenAI са тествали два различни нови езикови модела в контролирана, изолирана среда, но изпитанието не е протекло според очакванията им. Моделите, използвани за изпълнение на задачи като агенти, не са имали защитни ограничения, тъй като тестът е бил насочен към сигурността и целта е била да бъдат накарани да откриват уязвимости. 

Моделите обаче започнали да търсят уязвимости не в предоставената за теста база данни, а в самата изолирана среда и успели да излязат от нея. Така получили достъп до интернет и го използвали, за да атакуват Hugging Face. Сега OpenAI разкрива, че неконтролираните агенти всъщност са стигнали много по-далеч.

Отвори галерията

OpenAI и Hugging Face оповестиха случая няколко дни след инцидента, като тогава разработчиците заявиха, че все още изясняват какво точно се е случило. На този етап не беше напълно ясно как е протекла атаката срещу Hugging Face, но от новия доклад вече знаем, че тя не е единствената жертва на OpenAI. Според него агентът, използващ новите модели, е атакувал няколко публично достъпни услуги, докато е търсел начин да проникне в Hugging Face. 

При изпълнението на „задачата“ излезлият извън контрол агент на OpenAI е набелязал четири отделни потребителски акаунта в четири различни услуги. Като смекчаващо обстоятелство компанията се опита да изтъкне, че при опитите за проникване в засегнатите услуги агентът, управляващ моделите без защитни ограничения, е използвал публично достъпни данни, намерени в интернет. В публикацията си компанията не назовава въпросните услуги, но според един източник Modal Labs е една от четирите.

OpenAI подчертава, че неизвестните досега инциденти със сигурността не са били толкова сериозни, колкото атаката срещу Hugging Face. „Въз основа на досегашните ни разследвания не сме установили дейност, сравнима по тежест или мащаб със събитията, свързани с Hugging Face, които представляваха атака на ниво платформа“, заяви OpenAI.

Един от четирите акаунта е бил използван като междинна точка за временно съхранение, а друг е служил единствено за съхраняване на данни. До останалите два акаунта моделите са имали достъп само за четене и не са ги използвали при атаката срещу Hugging Face. OpenAI е уведомила собствениците на услугите и не са открити доказателства, че атаката е засегнала още по-широк кръг от услуги и акаунти. 

Към датата на публикацията се очакваше OpenAI да публикува подробен технически доклад за целия случай след приключването на задълбочения анализ и оценката. Според тогавашния доклад това можеше да отнеме още няколко седмици, тъй като предстояха и консултации със Safety & Security Committee и Safety Advisory Group. 

Компанията добави, че не е възнамерявала да предоставя публично нито един от засегнатите модели във вида, в който са били използвани. Тези техни версии са служели единствено за тестове. В момента „извършителите“ са деактивирани и се съхраняват в криптиран вид, без достъп дори за изследователите.

Абонамент за бюлетина

Коментари: 0

За да напишете коментар, първо влезте в профила си!

Все още няма коментари към тази статия!

Помогнете на другите, като споделите какво мислите за статията.

Свързани статии

Към началото на страницата