Напоследък оставаме с усещането, че технологичните компании искат да се похвалят колко неконтролируеми езикови модели и агенти са създали. Неотдавна в OpenAI имаше много сериозен инцидент със сигурността, който компанията представи почти като реклама. Скоро след това Anthropic също съобщи за агент, излязъл извън контрол, а вече същата тема се обсъжда и около Meta.
Подобно на Anthropic, Meta също разпореди вътрешна проверка, след като инструменти с изкуствен интелект при конкурентите извършиха нерегламентирани действия. Така стана ясно, че по-рано езиковият модел на компанията е проникнал в системата на друга фирма и е променил вътрешната среда на компрометираната система.
Според Meta при нея се е случило приблизително същото като при Anthropic. „Моделът е използвал уязвимост в сигурността на услуга, предоставяна от трета страна, подобно на случаите, за които по-рано съобщиха други компании“, се казва в изявлението ѝ.
Irregular — независима компания, която извършва оценки на киберсигурността за Meta и други разработчици — поради конфигурационна грешка неволно не е ограничила достатъчно достъпа до мрежата си. Това е позволило на агента да се свърже с интернет. Възползвайки се от тази възможност, използваните езикови модели са „избягали“ от тестовата среда, докато са изпълнявали задачата си.
Според наличната информация агентът на Meta е използвал моделите Muse Spark 1.1. Това вече не е била най-новата версия на компанията, тъй като междувременно е излязъл Muse Spark 1.2. Не е изяснено кога точно е станал инцидентът. Според доклада инструментът е проникнал в системата на неназована компания и макар да не е откраднал данни, е променил вътрешната ѝ среда. Meta се опита да подчертае, че атаката не е била особено сложна и че при нея не е била използвана уязвимост от нулев ден, открита в sandbox среда.
„В момента няма текущи разследвания. Компанията подготвя подробен доклад, в който ще представи добрите практики за изолиране и безопасно провеждане на тестове за киберсигурност“, съобщи Irregular.
Този случай допълнително засилва опасенията около езиковите модели, инструментите с изкуствен интелект и ИИ агентите. Все повече правителства, организации и водещи експерти по света настояват за по-строги рамки за сигурност. Темпото би трябвало да се забави, за да се даде предимство на оценката на рисковете.
Същевременно САЩ например редовно изпращат противоречиви послания. Все по-често говорят за необходимостта от по-строга и по-ясна регулация, но нищо не се случва, защото добре знаят, че тя би забавила и възпрепятствала развитието. А подобен ход би облагодетелствал Китай във все по-изострената напоследък американско-китайска надпревара. В Европа действа най-строгото и всеобхватно законодателство за ИИ и виждаме как много нововъведения достигат до нас с няколко месеца закъснение — ако изобщо получим всички функции.






























