В началото на април Anthropic обяви старта на Project Glasswing — инициатива за сигурност, изградена около модела Claude Mythos. Компанията привлече в нея единствено доверени партньори от елита на технологичния сектор, сред които OpenAI, Nvidia и Amazon. Впоследствие обаче стана ясно, че неоторизирани лица също може да са получили достъп до затворения и строго охраняван модел.
Човек, пожелал анонимност, се е свързал с Bloomberg с твърдението, че „малка група неоторизирани потребители“ е имала достъп до инструмента за киберсигурност. По признание на самата Anthropic той крие толкова сериозни рискове, че компанията изобщо не възнамерява да го направи общодостъпен.
Това е изключително сериозно твърдение, но източникът е представил и доказателства, че като външно лице е успял да получи достъп до специализирания модел. Той е предоставил на изданието няколко екранни снимки в подкрепа на думите си. Човекът се е представил като подизпълнител на Anthropic и е заявил пред Bloomberg, че група, организирана в Discord, е успяла да получи неоторизиран достъп. (Поне това е известно засега.)
„Членовете са получили достъп до модела Mythos чрез комбинация от различни методи, използвайки правата си за достъп като подизпълнители и обикновени инструменти за проучване в интернет“, се посочва в публикацията. Твърди се, че неоторизираните потребители са получили достъп на 7 април — същия ден, в който компанията обяви старта на Project Glasswing с участието на силно ограничен кръг партньори.
Според информацията става дума за група в Discord, чиито членове събират сведения за модели в процес на разработка, преди те да бъдат публикувани. В публикацията се твърди, че откакто са открили начин за неоторизиран достъп, те редовно са използвали Claude Mythos. Предполага се също, че са получили достъп и до други модели, разработвани от Anthropic — вероятно други варианти на Claude.
Claude Mythos все още работи само като предварителна версия, което е още една причина компанията да ограничи толкова строго кръга на лицата, които официално могат да го използват. Това е модел с общо предназначение, който в редица тестове се представя значително по-добре от наличните „потребителски“ инструменти. Основната му цел е да открива уязвимости и да предлага решения за отстраняването им. Anthropic демонстрира ефективността му пред партньорите, като с негова помощ разкри пробиви в сигурността, останали незабелязани в продължение на десетилетия в широко използвани системи.
Bloomberg се е свързал с Anthropic, откъдето са заявили, че нямат информация за злоупотреби и не са засекли неоторизиран достъп. „Разследваме сигнал, според който неизвестни лица са получили достъп до предварителната версия на Claude Mythos през системата на един от външните ни доставчици“, е добавила компанията.
Определено е повод за тревога, ако най-големите технологични компании в света, водещи в разработката на изкуствен интелект, допускат толкова сериозни пропуски в сигурността.
Трябва да се има предвид, че опасността не се изчерпва с възможността хакери да използват Claude Mythos, за да откриват уязвимости в свой интерес. Рисковете могат да бъдат много по-сериозни. Тъй като това е инструмент за киберсигурност, който работи само като предварителна версия в затворена и контролирана среда, най-вероятно той няма защитни ограничения или те са значително по-свободни от обичайното. Това прави случая още по-сериозен.































