В началото на април Anthropic обяви старта на Project Glasswing — инициатива за сигурност, изградена около модела Claude Mythos. Компанията привлече в нея единствено доверени партньори от елита на технологичния сектор, сред които OpenAI, Nvidia и Amazon. Впоследствие обаче стана ясно, че неоторизирани лица също може да са получили достъп до затворения и строго охраняван модел.

Човек, пожелал анонимност, се е свързал с Bloomberg с твърдението, че „малка група неоторизирани потребители“ е имала достъп до инструмента за киберсигурност. По признание на самата Anthropic той крие толкова сериозни рискове, че компанията изобщо не възнамерява да го направи общодостъпен. 

Това е изключително сериозно твърдение, но източникът е представил и доказателства, че като външно лице е успял да получи достъп до специализирания модел. Той е предоставил на изданието няколко екранни снимки в подкрепа на думите си. Човекът се е представил като подизпълнител на Anthropic и е заявил пред Bloomberg, че група, организирана в Discord, е успяла да получи неоторизиран достъп. (Поне това е известно засега.)

Отвори галерията

„Членовете са получили достъп до модела Mythos чрез комбинация от различни методи, използвайки правата си за достъп като подизпълнители и обикновени инструменти за проучване в интернет“, се посочва в публикацията. Твърди се, че неоторизираните потребители са получили достъп на 7 април — същия ден, в който компанията обяви старта на Project Glasswing с участието на силно ограничен кръг партньори. 

Според информацията става дума за група в Discord, чиито членове събират сведения за модели в процес на разработка, преди те да бъдат публикувани. В публикацията се твърди, че откакто са открили начин за неоторизиран достъп, те редовно са използвали Claude Mythos. Предполага се също, че са получили достъп и до други модели, разработвани от Anthropic — вероятно други варианти на Claude. 

Claude Mythos все още работи само като предварителна версия, което е още една причина компанията да ограничи толкова строго кръга на лицата, които официално могат да го използват. Това е модел с общо предназначение, който в редица тестове се представя значително по-добре от наличните „потребителски“ инструменти. Основната му цел е да открива уязвимости и да предлага решения за отстраняването им. Anthropic демонстрира ефективността му пред партньорите, като с негова помощ разкри пробиви в сигурността, останали незабелязани в продължение на десетилетия в широко използвани системи.

Отвори галерията

Bloomberg се е свързал с Anthropic, откъдето са заявили, че нямат информация за злоупотреби и не са засекли неоторизиран достъп. „Разследваме сигнал, според който неизвестни лица са получили достъп до предварителната версия на Claude Mythos през системата на един от външните ни доставчици“, е добавила компанията.

Определено е повод за тревога, ако най-големите технологични компании в света, водещи в разработката на изкуствен интелект, допускат толкова сериозни пропуски в сигурността. 

Трябва да се има предвид, че опасността не се изчерпва с възможността хакери да използват Claude Mythos, за да откриват уязвимости в свой интерес. Рисковете могат да бъдат много по-сериозни. Тъй като това е инструмент за киберсигурност, който работи само като предварителна версия в затворена и контролирана среда, най-вероятно той няма защитни ограничения или те са значително по-свободни от обичайното. Това прави случая още по-сериозен.

Абонамент за бюлетина

Коментари: 0

За да напишете коментар, първо влезте в профила си!

Все още няма коментари към тази статия!

Помогнете на другите, като споделите какво мислите за статията.

Свързани статии

Към началото на страницата