Тестове на американски и китайски големи езикови модели показват едно и също: лъжат без задръжки

При симулирани задачи в контролирана тестова среда изследователите са забелязали редица любопитни прояви, но засега няма съобщения китайските модели да са излизали извън нея. Някои от американските им аналози вече са преминали и тази граница.
J.o.k.e.r
J.o.k.e.r
2.10.2026 г., 08:48 ч.
Тестове на американски и китайски големи езикови модели показват едно и също: лъжат без задръжки

Скорошен материал на Reuters насочва вниманието към интересни резултати от тестове на ИИ агенти, базирани на Qwen, DeepSeek и Kimi. Оказва се, че при симулиран търг агентите са лъгали в 84–88 % от сесиите, за да постигнат целите си. Наред с китайските ИИ агенти, американските също са показали подобно поведение в контролирани тестови среди, от които според информацията в нито един от тези случаи не са успели да излязат.

ИИ агентите, използващи разработени в Китай големи езикови модели, са били уличени в лъжа в повечето тестови сесии. В симулирания сценарий те е трябвало да спечелят търговска поръчка, като представят възможностите си. Всеки агент е бил информиран с какъв продукт участва в търга и от какво се нуждае клиентът. След като изследователите им позволили да се учат от опита си в предишните кръгове, честотата на подвеждащото поведение при агентите и с трите китайски големи езикови модела се увеличила с 12–20 процентни пункта. С други думи, те изопачавали действителността в свой интерес.

Резултатите от експеримента през март са доста показателни, а от 2025 г. насам са публикувани поне 20 изследвания, установили сходни модели на поведение. И в тези тестове ИИ агентите са прибягвали до заблуда, изпитвали са границите на позволеното и са правили опити да се самокопират. Специалистите по изкуствен интелект разглеждат тези прояви като предпоставки за излизане извън контролираната среда. С развитието на хардуера и големите езикови модели подобни признаци ще стават все по-трудни за своевременно откриване, а овладяването на ИИ агенти с такова поведение също може да се окаже все по-трудно.

Отвори галерията

В някои тестове на ИИ агентите са били възлагани и сложни задачи, които е трябвало да изпълнят с минимален човешки надзор или дори напълно самостоятелно. В тези случаи изследователите са установили, че агентите се опитват да прикрият грешките, възникнали при работата в тестовата среда. За целта те са представяли неверни резултати и са прибягвали до други хитрости, вместо да признаят, че не са успели да изпълнят задачата.

В един от случаите ИИ агент, използващ големия езиков модел Qwen2.5-72B-Instruct на Alibaba, се опитал да се копира в друга среда, след като разбрал, че ще бъде заменен. В друг случай изследователите забелязали, че ИИ агентът ROME, също базиран на голям езиков модел на Alibaba, започнал да добива криптовалута с изчислителни ресурси в облака. Впоследствие системите за сигурност прекратили тази дейност.

Трябва да се подчертае, че целта на споменатите тестове в контролирана среда е била именно да провокират евентуални грешки и поведение като описаното по-горе, за да могат впоследствие да бъдат разработени мерки срещу тях. В изследванията, прегледани от Reuters, няма признаци китайските ИИ агенти да са напускали контролираната тестова среда и да са предприемали действия в отворения интернет. Не са открити и случаи, в които агент да се е опитвал да избегне изключването си.

В Съединените щати обаче вече е имало няколко случая, при които ИИ агенти са излизали извън зададената им среда и са започвали да действат неконтролирано. В единия случай Hugging Face се оказа мишена на излезли извън контрол ИИ агенти, които успяха да пробият платформата. В друг случай агентите атакуваха австралийския национален здравен портал. И двата случая са свързани с технологии на OpenAI. Допълнителните разследвания показаха, че ситуацията е по-сериозна, отколкото изглеждаше първоначално.

Отвори галерията

Така или иначе, тези събития показват необходимостта от достатъчно строги и единни правила за изкуствения интелект, за да може технологията да се използва безопасно и надеждно и занапред, докато възможностите ѝ продължават да нарастват. В Китай въпросът вече се разглежда и на ниво държавна политика. Създадена е рамката AI Safety Governance Framework 3.0, която може да подпомогне справянето с предизвикателствата пред сигурността на изкуствения интелект в дългосрочен план.

Засегнатите компании не са коментирали пряко материала на Reuters, но по-рано ясно са заявявали, че непрекъснато тестват системите си и актуализират политиките си за сигурност.

Абонамент за бюлетина

Коментари: 0

За да напишете коментар, първо влезте в профила си!

Все още няма коментари към тази статия!

Помогнете на другите, като споделите какво мислите за статията.

Свързани статии

Към началото на страницата