Големите технологични компании се стремят да използват изкуствения интелект във възможно най-много области. Сред технологичните гиганти Meta е начело в това отношение, но изглежда, че би било добре да подхожда по-предпазливо към внедряването на нови инструменти с ИИ, защото те могат да създадат сериозни проблеми.

The Information съобщи, че няколко дни преди 22 март служители на Meta са имали неоторизиран достъп както до фирмени, така и до потребителски данни в продължение на почти два часа.

Според наличната информация ИИ агент, създаден от Meta за вътрешна употреба и подобен на OpenClaw, е дал неточен технически съвет и е публикувал отговора си публично. След това служител е изпълнил указанията и е променил системата така, че е станал възможен неоторизиран достъп до фирмени и потребителски данни.

The Verge се е свързал с Meta по случая, откъдето са потвърдили, че инцидентът действително се е случил и твърденията не са безпочвени. В официалното изявление обаче говорителят на компанията Трейси Клейтън е подчертал, че „не е имало неправомерно използване на потребителски данни“.

Отвори галерията

По думите на Клейтън вътрешният ИИ агент на Meta „по същество е подобен на OpenClaw, но работи във вътрешна среда за разработка“. Основната му задача е да анализира технически въпроси, зададени от други служители в затворения форум на компанията. Агентът е трябвало да изпрати личен отговор след одобрение, но вместо това го е публикувал без проверка.

След това един от служителите е изпълнил неточните указания, което в крайна сметка е довело до инцидент със сигурността от ниво SEV1 — второто най-високо ниво в Meta.

В отговора си Трейси Клейтън се е опитал да подчертае, че ИИ агентът не е изпълнявал никакви команди и не е променял нищо. Той само е давал съвети, а човек е изпълнил указанията му. По същество с това говорителят се е опитал да изтъкне, че грешката е на служителя, а не на ИИ. Трудно е обаче случаят да се обясни единствено с човешки пропуск.

„Служителят, който е общувал със системата, е бил напълно наясно, че взаимодейства с автоматизиран бот“, е заявил Клейтън пред The Verge. „Агентът не е предприел никакви действия, освен да отговори на въпроса. Ако инженерът, който се е заел със случая, е бил по-добре информиран или е извършил допълнителни проверки, това е можело да бъде избегнато.“

Тази новина е излязла в особено неподходящ момент, тъй като по същото време се появиха информации, че Meta може да подготвя най-голямото съкращение в историята си, а задачите на служителите вероятно ще бъдат прехвърлени на инструменти с изкуствен интелект.

Според тези информации Meta е възнамерявала да се раздели с над 20 % от служителите си, за да повиши ефективността си. По последните данни към онзи момент това би означавало освобождаването на около 16.000 души. Предвид цитираното официално изявление не би било изненадващо, ако сред съкратените се окаже и служителят, който е предизвикал инцидента, следвайки указанията на ИИ агента.

Още през 2023 г. Meta широко внедри генеративен ИИ във вътрешната си мрежа, а през следващите години непрекъснато работеше, за да го превърне във възможно най-ефективен помощник. Описаният случай показва, че към март 2026 г. ИИ агентите вече са работели активно, което може да е дало основание на компанията да смята, че моментът за драстични съкращения е настъпил. Същевременно този инцидент е сериозно предупреждение, че на този етап е нужна много по-голяма предпазливост.

Абонамент за бюлетина

Коментари: 0

За да напишете коментар, първо влезте в профила си!

Все още няма коментари към тази статия!

Помогнете на другите, като споделите какво мислите за статията.

Свързани статии

Към началото на страницата