Всяка година все повече хора настояват за по-строг контрол върху технологиите с изкуствен интелект, а тези призиви най-често намират отзвук в Европейския съюз. ЕС е почти единственият, който видимо полага усилия да държи под контрол новостите в областта на изкуствения интелект. Именно европейски нормативен акт ще направи и Claude по-прозрачен в бъдеще.

Anthropic обяви, че занапред както текстовете, така и изображенията, създавани от чатбота Claude, ще бъдат обозначавани с воден знак. Той ще се разпознава предимно машинно, така че подходящите системи и софтуер ще могат с висока надеждност да установяват дали проверяваното съдържание е създадено частично или изцяло от изкуствен интелект. 

„В генерираните текстове ще бъдат вграждани водни знаци, а генерираните файлове ще съдържат цифрово подписани метаданни за произхода, когато това се поддържа“, пише Anthropic на обновената страница за поддръжка на Claude.

През последните години се появиха множество инструменти, чиято цел е да откриват следи от изкуствен интелект и да установяват злоупотреби с него. В преобладаващата част от случаите обаче те са ненадеждни и единствено засилват недоверието между хората. И в тази област са необходими работещи инструменти, но според специалистите за това е задължително компаниите да осигурят надеждно поставяне на водни знаци.

В началото на август Европейският съюз обяви, че в рамките на Законодателния акт за изкуствения интелект (AI Act) въвежда система за обозначаване на съдържанието, създадено с изкуствен интелект, за да повиши прозрачността. Тя изисква задължително обозначаване на материалите, създадени с генеративен ИИ, като разграничава две категории: съдържание, генерирано с ИИ, и съдържание, редактирано или променено с ИИ. За тях са предвидени различни обозначения, но не е ясно дали например Claude ще може да различава изцяло генерираното съдържание от промененото. 

Отвори галерията

Изискванията на Европейския съюз за обозначаване на съдържание, създадено с ИИ, бяха въведени с четиримесечен гратисен период. Това означава, че компаниите трябва да приведат дейността си в съответствие с обновения AI Act до края на 2026 г. Ако не го направят, ЕС може да започне разследване. Като се има предвид колко активна е Европейската комисия напоследък, не се съмняваме, че ще предприеме тази стъпка. 

Бъдещите модели на Claude ще обозначават генерираните материали още от първия ден на използването си. Моделите, които вече работят, все още не правят това, но според наличната информация актуализацията се подготвя и за тези варианти на Claude.

Anthropic ще използва два различни подхода за поставяне на водния знак според формата на съдържанието. За изображенията и файловете ще се прилага системата C2PA, която Google, OpenAI и Adobe вече използват. Текстовите отговори ще бъдат обозначавани по друг метод, който буквално ще се крие между редовете.

„Когато поддържан модел на Claude генерира текст, той вплита незабележим воден знак директно в самия текст. Този знак е невидим и не променя смисъла, качеството или четимостта на отговора на Claude“, подчерта компанията.

Според предоставената информация водният знак ще остава откриваем независимо къде потребителят копира текста. Той ще може да се разпознава и след редактиране, но методът все пак не е безотказен. В особено кратки откъси водният знак няма да може да бъде надеждно скрит, а при значителни промени и сериозно преформулиране отпечатъкът на моделите Claude също може да се изгуби. 

Anthropic ще прилага водните знаци повсеместно и в целия свят, а не само за ЕС. Компанията и преди е предприемала стъпки за повече прозрачност, така че не е изненадващо, че не търси начин да заобиколи и новите правила. Claude API, чатботът Claude, Claude Code, Claude Cowork и Claude Tag ще поставят водни знаци. Доставчикът също няма да има значение: всички нововъведения ще работят по един и същ начин и в системите на AWS, SpaceXAI, Google Cloud и Microsoft.

Абонамент за бюлетина

Коментари: 0

За да напишете коментар, първо влезте в профила си!

Все още няма коментари към тази статия!

Помогнете на другите, като споделите какво мислите за статията.
Към началото на страницата