Мнозина се опасяваха какво ще стане, ако изкуственият интелект попадне в неподходящи ръце, но по всичко личи, че дори не е необходимо престъпници да го използват. Изглежда, че и най-голямата компания за ИИ в света не успява да държи под контрол собствените си разработки, а това е сериозен повод за тревога.

Агенти с изкуствен интелект на OpenAI пробиха защитата на сайт на австралийското правителство и направиха опити да проникнат в редица други правителствени и университетски бази данни.

Компанията зад ChatGPT обича да представя разработките си първа в света. Е, сега може да си припише още едно първенство: досега нямаше документиран случай, в който самостоятелно действащи ИИ агенти да са пробили правителствен сайт. При това инцидентът е станал още през юни, но OpenAI е уведомила отговорните лица едва през септември, и то с обикновен публичен имейл.

Случаят само налива масло в огъня, защото напрежението около разработването на изкуствен интелект и без това е достатъчно високо. Все повече хора призовават технологичните компании да забавят темпото на разработките си. Дори повечето участници на пазара вече не са против това — поне на думи, защото засега действията им не го показват.

За атаката срещу австралийския портал съобщи самият министър-председател на страната на пресконференция в Ню Йорк. По време на посещението си в САЩ Антъни Албанезе подчерта, че американската компания за изкуствен интелект е нарушила закона, като е позволила на един от агентите си да проникне в правителствена база данни. Както стана ясно, един от моделите на OpenAI е успял да получи достъп до вътрешната система на австралийския портал за здравна статистика.

Според наличната информация ИИ агентът е успял да се „внедри“ в системата на сайта на Medicare, откъдето е получил достъп както до публични, така и до непублични файлове. В съобщението се пояснява, че Medicare е австралийската система за всеобщо здравно осигуряване, а разделът, в който инструментът на OpenAI е проникнал при хакерската атака, не е съдържал особено чувствителни данни. Към момента на публикацията обаче разследването по случая все още е продължавало.

Отвори галерията

„Тази ситуация очевидно е неприемлива“, заяви Албанезе. Премиерът добави, че властите са се свързали с OpenAI, а той е имал възможност да разговаря и със Сам Алтман. Казал му е, че е дълбоко обезпокоен от факта, че подобен инцидент изобщо е бил възможен. Албанезе подчерта също, че чувствителни лични данни не са попаднали в неподходящи ръце, но това по никакъв начин не освобождава OpenAI от отговорност за действията ѝ.

А начинът, по който OpenAI е реагирала на инцидента, е само черешката на тортата. Компанията е уведомила операторите на сайта едва в началото на септември за пробив, извършен още през юни според журналите за сигурност и собственото ѝ съобщение. За компания, оценявана на един трилион долара, е неприемливо и да уведомява пострадалата страна за атаката с публичен имейл.

Компанията се защитава с обяснението, че не е преценила случая като сериозен, тъй като ИИ агентът не е получил достъп до лични данни на пациенти. „Достъпната информация включваше обобщена здравна статистика и имена на вътрешни файлове“, заяви говорителят на OpenAI Оскар Хейнс в отговор на журналистическо запитване. Хейнс добави, че компанията е предоставила на отговорните лица цялата информация за инцидента, за да могат да отстранят уязвимостите. Изключително великодушно от страна на OpenAI.

Освен това в дните преди 25 септември изследователската лаборатория Transluce съобщи за още три случая на незаконна дейност с изкуствен интелект, свързани с агентите на OpenAI.

Групата, специализирана в публичното проучване на дейността на ИИ инструменти, съобщи, че е открила доказателства за опити на инструменти на OpenAI да пробият и сайтовете на Държавния университет на Ню Мексико, Австралийския институт по здравеопазване и социални грижи и Data USA — платформа, която обединява данни от американски правителствени източници. При тези опити обаче не са успели.

Тези случаи отчасти са свързани с вече известни инциденти в областта на киберсигурността, а говорителят на OpenAI потвърди, че става дума за реални атаки. По негови думи засегнатите портали вече са били уведомени. А защо понякога жертвите научават за случилото се със седмици или месеци закъснение? „В хода на задълбочените си разследвания продължаваме да даваме приоритет на най-сериозните случаи“, заяви говорителят и добави, че компанията не отдава особено значение на агентите, които заливат сайтове със спам.

Абонамент за бюлетина

Коментари: 0

За да напишете коментар, първо влезте в профила си!

Все още няма коментари към тази статия!

Помогнете на другите, като споделите какво мислите за статията.

Свързани статии

Към началото на страницата