Fable 5 и Mythos 5 бяха представени с големи надежди няколко дни преди 16 юни, но почти веднага възникнаха проблеми, които наложиха ограничаване на достъпа до тях. Случаят все още не беше изяснен, но едно беше сигурно: за Anthropic той беше изключително неприятен и едва ли можеше да дойде в по-неподходящ момент.

През пролетта Anthropic, една от водещите компании в надпреварата за изкуствен интелект, представи модел с името Mythos, за който се твърдеше, че открива уязвимости с невиждана досега ефективност. Достъп до него обаче получи само тесен елитен кръг, тъй като моделът се оказа твърде опасен: в него липсваха предпазните механизми и ограниченията, които присъстват във всички съвременни публично достъпни модели с ИИ.

През седмицата от 8 до 14 юни обаче компанията представи Mythos 5 и Fable 5. Според официалната позиция Mythos 5 вече превъзхожда предишната предварителна версия на Mythos, а при Fable 5 се твърдеше, че безопасната употреба е гарантирана на всички нива. По тези твърдения Fable 5 е напълно безопасен. Скоро се появиха и отзиви, според които ограниченията му са дори прекомерни, тъй като отказва да отговаря и на съвсем обикновени въпроси. 

Мнозина бяха изненадани, че Anthropic толкова бързо представи усъвършенствана и укротена версия на модела, определян като изключително опасен, но изглеждаше, че пускането ще мине гладко. В следобедните часове на 12 юни обаче Министерството на търговията на САЩ съвсем неочаквано издаде разпореждане за ограничаване на износа. С него ведомството нареди на Anthropic незабавно да прекрати достъпа до новите инструменти за всички чуждестранни лица и организации. 

Държавното ведомство се позова на риск за националната сигурност и Anthropic беше принудена да изпълни разпореждането. Компанията напълно спря новите модели, тъй като не разполагаше с подходящи средства, за да приложи изискваните от правителството ограничения.

Дотогава американското правителство никога не беше нареждало по този начин на компания да ограничи достъпа до инструмент с изкуствен интелект. Anthropic изпълни искането за периода на разследването, но подчерта, че не е съгласна с него и не е получила по-подробна информация за това какво може да се е случило. 

„Дори не сме били уведомени за потенциален начин за заобикаляне на защитите, специфичен за тези модели, който да е довел до вредни последици. Потенциалните начини за заобикаляне на защитите, за които получихме сигнали, са или напълно безобидни, или толкова незначителни открития, че не дават никакво предимство, характерно за Mythos“, заяви Anthropic в отговор на разпореждането. Според американските власти група с връзки с Китай може да е получила достъп до инструмента, но не бяха открити следи, които да потвърждават това.

След неочакваната намеса на Министерството на търговията редица политически лидери изразиха тревога от тази „новаторска“ практика. Най-голямо възмущение сред политиците предизвикаха сведенията, че САЩ се опитват да забранят достъпа до новите модели на всички чуждестранни лица. Те видяха в това злоупотреба с политическа власт за придобиване на неправомерно предимство. 

Според някои предположения зад всичко стои отмъщение от страна на правителството

Преди това американската администрация влезе в конфликт с Anthropic, тъй като компанията отказа да предостави различните си езикови модели и инструменти с изкуствен интелект на Министерството на отбраната. САЩ използваха Claude неправомерно за наблюдение и проектиране на оръжия, а когато това излезе наяве, Anthropic остро възрази. В отговор администрацията реши да включи продуктите на компанията в забранителен списък. 

Още когато Anthropic обяви, че ще предостави предварителната версия на Mythos и на Европейския съюз с цел подобряване на киберсигурността, американската администрация изрази недоволството си.

Anthropic прояви голяма смелост с пускането на тези модели, но в условията на ожесточена пазарна конкуренция вероятно е сметнала, че трябва да използва всяка възможност. Освен това зад кулисите компанията вече се подготвяше да излезе на борсата, така че желанието ѝ да впечатли бранша и конкурентите не беше изненадващо. Случаят с моделите Fable и Mythos обаче можеше лесно да има обратен ефект.

Абонамент за бюлетина

Коментари: 0

За да напишете коментар, първо влезте в профила си!

Все още няма коментари към тази статия!

Помогнете на другите, като споделите какво мислите за статията.

Свързани статии

Към началото на страницата