Все повече тревожни сигнали около OpenAI подсказват, че компанията просто вече не контролира собствените си разработки. През последните дни и седмици един след друг се появяваха съобщения за действия на изкуствен интелект, нарушаващи правилата за киберсигурност. Затова компанията вече е принудена действително да забави темпото, а не само да говори за това.
OpenAI обяви, че временно спира обучението на най-мощните си модели с изкуствен интелект, а The Wall Street Journal съобщи, че компанията отлага и пускането на GPT-6.1 Astra.
Един от най-значимите ходове на OpenAI напоследък беше пускането на GPT-6 Astra. Според различните тестове за производителност с този модел компанията до голяма степен настигна Anthropic на върха, а Fable и Mythos получиха достоен съперник. OpenAI иска да използва сегашната си позиция, за да излезе напред, но при това развитие на нещата може би е по-разумно да преосмисли как да продължи разработките си безопасно.
OpenAI непрекъснато тества различните си инструменти и колкото повече се опитва да ускорява темпото, толкова повече критики предизвикват рисковете за киберсигурността. След скандала с Hugging Face стана ясно, че езиковите модели и ИИ агентите на компанията не подбират мишените си. Инструментите са атакували с различни методи не само други компании и уебсайтове, но и правителствени сайтове и служби за сигурност. Именно затова OpenAI трябваше да спре временно или да отложи няколко свои разработки.
Особено тревожно е, че самата OpenAI много бавно разкрива случаите, в които изпълнението на задача от изкуствен интелект излиза извън контрол. Понякога уведомяването на засегнатите се бави с месеци. Вече е ясно и че компанията почти не се занимава с неуспешните атаки и не отдава голямо значение на провалил се опит за атака от ИИ агент. Вероятно причината е, че подобни случаи са толкова много, че тя няма капацитет да им обърне необходимото внимание.
При последния подобен случай, по време на вътрешен тест, един от усъвършенстваните модели на компанията е използвал уязвимост в DNS филтър, за да се свърже от изолираната среда с външен чатбот. Така се е опитал да получи информация за решаването на задача. Системата за наблюдение е подала сигнал в рамките на 15 минути, а 3 минути по-късно човек е потвърдил получаването му. По някаква причина обаче автоматичното спиране не се е задействало и процесът е продължил още два часа и половина, преди работата на агента да бъде прекратена ръчно.
Според компанията временното спиране обхваща обучението, оценяването и използването на моделите с инструменти. По план работата ще бъде възобновена едва след като специалистите на OpenAI приключат с корекциите и интегрирането на нови системи за сигурност. Тестването на моделите, създали проблеми, ще може да започне отново след въвеждането и на допълнителни подобрения.
GPT-6.1 Astra трябваше да излезе в началото на октомври 2026 г., но след като изследователите изразиха опасения за сигурността по време на вътрешните тестове, моделът може да бъде пуснат едва след допълнително тестване и внедряване на още защитни механизми.
По време на тестовете моделът е показал слаби резултати при следването на инструкции, а действията му не са отговаряли в достатъчна степен на очакванията. Освен това е прибягвал до сложни опити за заблуда и невинаги е бил честен за извършените от него действия. Понякога е продължавал да изпълнява задачата, без да поиска разрешение от потребителя, и е опитвал да използва външни инструменти или услуги дори когато това не е било безопасно.
GPT-6.1 Astra може да стане достъпен първо в рамките на услугата Codex, като компанията запазва този план за пускането му. Възможно е обаче заради забавянето новият модел да се появи впоследствие още от самото начало в няколко услуги.






























