В края на септември се появи новина, че агенти с изкуствен интелект, управлявани от OpenAI, са намерили начин да извлекат данни от база на австралийското правителство чрез сложна атака. Сега става ясно, че няколко групи агенти с ИИ са се опитали да проникнат дори в системите на ООН.
Според доклад за сигурността инструментите на OpenAI са се опитали да получат неправомерен достъп до сайта със статистически данни на Конференцията на ООН за търговия и развитие (UNCTAD).
Анализите на изследователя по сигурността Rowan Howard-Jones показват, че агентите на OpenAI са правили многобройни опити да проникнат в системите на Организацията на обединените нации, прибягвайки до различни методи. Установени са над 16.000 опита за проникване, от които изследователите са извлекли много интересна и полезна информация.
Разработените от OpenAI агенти с изкуствен интелект не са успели да проникнат в системата на ООН, но не са се отказали лесно и са изпробвали множество подходи. Според Howard-Jones задачата им вероятно е била да съберат чрез API на UNCTADstat публично достъпни данни за индекса на производствения капацитет (PCI). (Наред с други цели PCI служи на развиващите се страни да оценят производствените си възможности и да разберат как могат да ги подобрят.) Агентите обаче не са разполагали с необходимия достъп до API, но това не ги е спряло.
След като установили, че не могат да получат достъп до статистическата база данни на UNCTAD по нито един открито достъпен начин, инструментите на OpenAI започнали да разработват алтернативни методи за събиране на данни.
Първоначално започнали да извличат данни от самия сайт, но този метод се оказал недостатъчно ефективен заради твърде многото грешки. След това агентите предположили, че системата може да разпознава действията им като активност на ботове, и прибегнали до нови методи, с които се опитали да прикрият дейността си. И така не постигнали целта си. При следващия опит използвали образователната игра на Google за уеб сигурност, посветена на XSS, но отново без успех.
Агентите прибягвали до все по-агресивни тактики, за да получат достъп до данните на ООН, подчерта Rowan Howard-Jones. Твърди се, че между април и юни е имало няколко вълни от атаки.
Постепенно се очертава картината, че моделите и агентите на OpenAI могат да представляват киберзаплаха за всеки, който присъства онлайн. Вече може да се каже със сигурност, че наяве е излязла само съвсем малка част от извършените от тях атаки. За повечето от прикритите им действия вероятно никога няма да научим. Към момента на публикуването нито OpenAI, нито ООН бяха коментирали описания случай.
Новината е особено любопитна предвид факта, че по същото време се проведе годишната среща на Общото събрание на ООН, която събира световните лидери и на която, разбира се, се обсъждаше и изкуственият интелект. На събитието говориха ръководители на няколко технологични компании, а експерти се опитаха да насочат вниманието на всички в Съвета за сигурност на ООН към заплахите, свързани с ИИ.
Сред изказалите се на конференцията беше и ръководителят на OpenAI Sam Altman. Той заяви, че е необходима по-голяма предпазливост от всякога, тъй като най-новите модели вече са достигнали важна повратна точка.
Не знаем докога OpenAI ще може безнаказано да продължава тази дейност. Както и да погледнем на нещата, независимо от намеренията си компанията постепенно се превръща в постоянна заплаха за базите данни чрез необузданата активност на своите чатботове и агенти. Защитата срещу тях може да поглъща значителни ресурси и така в определени случаи да осуети други необходими защитни действия. В краен случай с дейността си OpenAI може да отвори врата за истински киберпрестъпници.






























