Изкуственият интелект се развива с темпове, които никой не е очаквал, а с появата на ChatGPT развитието му пое и в посока, за която нямаше подготовка. В дните преди 16 юли Демис Хасабис заяви, че трябва много бързо да се създаде организация, която да регулира тези процеси на международно равнище.
В момента почти няма държави, в които използването на изкуствен интелект да е уредено по някакъв начин със закони или други нормативни актове. В тази област водещи са Китай и Европейският съюз. Макар да се опитват да я държат под контрол с доста различни подходи, инструментите им работят по-ефективно от тези в Съединените щати. В САЩ мнозина настояват за регулация, но изглежда, че за правителството е по-важно страната да запази технологичното си лидерство.
Там, където предварително се обмисляше регулиране на ИИ, този процес се предвиждаше по съвсем различен начин. Показателен е Европейският съюз, който е сред първите в тази област: той продължаваше да променя подготвяния регламент дори в последния момент, а след въвеждането му вече внесе и актуализации в AI Act. Въпреки че специалистите работиха по AIA в продължение на години, в първоначалния проект например изобщо не се споменаваше генеративен ИИ.
Днес много разработки в областта на ИИ трябва да бъдат адаптирани, за да могат да се предлагат в Европа. В същото време САЩ защитават по-скоро иновациите, отколкото потребителите си, и при нужда се опитват да гасят пожари впоследствие, вместо да предотвратяват проблемите.
В публикация в LinkedIn Демис Хасабис заяви, че САЩ трябва да поемат инициативата за създаване на международен орган за надзор на ИИ. Ако обаче се погледнат правните рамки по света, Европейският съюз вече има значително повече опит в тази област. Според изпълнителния директор на Google DeepMind е необходима твърда и решителна намеса спрямо водещите модели, ако те станат прекалено опасни. Възможността нов модел да представлява сериозен риск за националната сигурност вече съвсем не е научна фантастика.
Случаят с разработения от Anthropic Mythos показа, че нов езиков модел, по-усъвършенстван от всички предишни, може да създаде сериозни рискове за сигурността, ако не му бъдат наложени подходящи ограничения. При повечето модели обаче предпазните механизми обикновено се добавят в края на разработката. Това е една от практиките, които технологичните компании трябва да променят.
Според Хасабис САЩ трябва да оглавят международния регулаторен орган, защото имат водеща роля и в самите разработки — както в технологично, така и в икономическо отношение. Надзорът трябва да се осъществява от екип от водещи независими експерти и представители на общностите от разработчици, привлечени от цял свят. Така глобалната регулация би могла да работи ефективно.
Подобна организация би могла да изисква за всеки нов езиков модел да се публикува стандартизирана оценка на риска. Специалисти биха могли да координират и внедряването на тези модели, така че процесът да бъде прозрачен, за разлика от това, което наблюдаваме днес.
Електронните устройства и други продукти преминават през множество вътрешни контролни изпитвания, преди да бъдат пуснати на пазара, и трябва да отговарят на различни изисквания за безопасност. За сметка на това инструментите с изкуствен интелект се появяват един след друг без сериозен контрол. Заради ожесточената конкуренция те често се пускат, докато все още са в процес на разработка, и веднага стават достъпни за всеки заинтересован по целия свят.
„Намираме се в решаващ момент от историята на човечеството. Вероятно ни делят само няколко години от постигането на истински изкуствен общ интелект (AGI). Когато през следващите десетилетия погледнем назад към този период, мисля, че ще осъзнаем, че сме били на прага на сингулярността — зората на нова епоха за човечеството“, подчерта Хасабис.
Той вече е призовавал и за по-строги мерки и контрол по отношение на биологичните оръжия, създавани с помощта на ИИ. Световните лидери трябва да проучват по-задълбочено и очакваните икономически последици от новите технологии.
Според информация от сектора ръководителят и съосновател на DeepMind от известно време работи зад кулисите, за да убеди администрацията на Тръмп да съдейства за създаването на замисления от него орган. Твърди се също, че вече е лобирал за това не само в САЩ, но и в Европа.
Според наличната информация такъв международен орган за надзор на ИИ може действително да бъде създаден още през 2026 г. Освен Хасабис и други специалисти се опитват да постигнат пробив в тази област. Мнозина вече изразиха тревога от твърде големите разногласия по света, при положение че всяка разработка може да има значими последици в глобален мащаб. Истински регулаторен пробив би бил възможен само с общи усилия, тъй като днес географското местоположение рядко ограничава достъпа до услугите.
































