Напоследък оставаме с усещането, че технологичните компании искат да се похвалят колко неконтролируеми езикови модели и агенти са създали. Неотдавна в OpenAI имаше много сериозен инцидент със сигурността, който компанията представи почти като реклама. Скоро след това Anthropic също съобщи за агент, излязъл извън контрол, а вече същата тема се обсъжда и около Meta.

Подобно на Anthropic, Meta също разпореди вътрешна проверка, след като инструменти с изкуствен интелект при конкурентите извършиха нерегламентирани действия. Така стана ясно, че по-рано езиковият модел на компанията е проникнал в системата на друга фирма и е променил вътрешната среда на компрометираната система.

Според Meta при нея се е случило приблизително същото като при Anthropic. „Моделът е използвал уязвимост в сигурността на услуга, предоставяна от трета страна, подобно на случаите, за които по-рано съобщиха други компании“, се казва в изявлението ѝ.

Irregular — независима компания, която извършва оценки на киберсигурността за Meta и други разработчици — поради конфигурационна грешка неволно не е ограничила достатъчно достъпа до мрежата си. Това е позволило на агента да се свърже с интернет. Възползвайки се от тази възможност, използваните езикови модели са „избягали“ от тестовата среда, докато са изпълнявали задачата си.

Отвори галерията

Според наличната информация агентът на Meta е използвал моделите Muse Spark 1.1. Това вече не е била най-новата версия на компанията, тъй като междувременно е излязъл Muse Spark 1.2. Не е изяснено кога точно е станал инцидентът. Според доклада инструментът е проникнал в системата на неназована компания и макар да не е откраднал данни, е променил вътрешната ѝ среда. Meta се опита да подчертае, че атаката не е била особено сложна и че при нея не е била използвана уязвимост от нулев ден, открита в sandbox среда. 

„В момента няма текущи разследвания. Компанията подготвя подробен доклад, в който ще представи добрите практики за изолиране и безопасно провеждане на тестове за киберсигурност“, съобщи Irregular.

Този случай допълнително засилва опасенията около езиковите модели, инструментите с изкуствен интелект и ИИ агентите. Все повече правителства, организации и водещи експерти по света настояват за по-строги рамки за сигурност. Темпото би трябвало да се забави, за да се даде предимство на оценката на рисковете. 

Същевременно САЩ например редовно изпращат противоречиви послания. Все по-често говорят за необходимостта от по-строга и по-ясна регулация, но нищо не се случва, защото добре знаят, че тя би забавила и възпрепятствала развитието. А подобен ход би облагодетелствал Китай във все по-изострената напоследък американско-китайска надпревара. В Европа действа най-строгото и всеобхватно законодателство за ИИ и виждаме как много нововъведения достигат до нас с няколко месеца закъснение — ако изобщо получим всички функции.

Абонамент за бюлетина

Коментари: 0

За да напишете коментар, първо влезте в профила си!

Все още няма коментари към тази статия!

Помогнете на другите, като споделите какво мислите за статията.

Свързани статии

Към началото на страницата