Anthropic, която разработва Claude, скоро ще излезе на борсата и покрай това напоследък направи няколко важни съобщения. Този път новината е, че след повече от година компанията обнови правилата за ползване на Claude. Промяната е съществена, защото именно тези правила определят допустимите начини за използване на услугата и могат да послужат като основание за блокиране на потребители в платформата.

Компанията изясни и затегна правилата, които забраняват злоупотребите с чатбота, умишленото манипулиране на системата и взаимодействията, включващи тормоз и малтретиране. 

Обновените правила обръщат специално внимание на опитите изкуственият интелект да бъде използван за симулиране на ситуации с насилие, унижение или психологическа манипулация. Anthropic изрично забранява промптове, насочени към моделиране на насилническо поведение, сексуален или словесен тормоз, както и към създаване на ситуации, чиято цел е умишленото преодоляване на защитните механизми на модела. 

Новите правила се отнасят не само до злонамереното използване срещу други хора, но и уточняват границите на допустимото общуване със самия модел. 

По наблюдения на компанията някои потребители редовно изпращат на чатбота агресивни и обидни съобщения. Anthropic смята и това за неприемливо и е решила, че е време да му сложи край. Всеки, който иска да използва Claude, трябва да общува с услугата прилично — както подобава при общуване с човек. По-внимателното следене на подобно поведение ще позволи на компанията да засича и повече ситуации със съмнения за злоупотреба. След актуализацията от август 2025 г. Claude и досега можеше да прекратява такива разговори, но занапред тези „злоупотреби“ ще получават още по-голямо внимание.

Промяната защитава и безопасността на потребителите: правилата затягат ограниченията за самонараняване, развиване на крайна психологическа зависимост и вредни взаимодействия, откъснати от реалността. За съжаление, вече е напълно реалистично някой да обсъжда тежката си депресия с чатбот или да споделя с него суицидните си мисли и намерения. Claude ще може да реагира по-добре в подобни ситуации. Има и немалко хора, които просто проверяват как услугата ще отговори на такива промптове, но компанията ще се опитва да ограничава и тези симулации.

Anthropic обедини и допълни няколко съществуващи ограничения в нова разпоредба, забраняваща подвеждащите търговски или политически кампании. Така компанията показва, че обръща внимание на все по-сериозния проблем с пропагандата, генерирана от изкуствен интелект. Тя ограничава опитите да се прикрие кой стои зад дадено послание или да се увеличи разпространението на съдържание чрез фалшиви профили и публикации. 

Отваряне на галерията

Правилата за изборите забраняват и заблуждаването на избирателите и възпрепятстването на изборния процес. Това включва разпространяване на подвеждаща информация за кандидатите или начина на гласуване, представяне за кандидати или изборни служители, както и опити за потискане на избирателната активност.

Според последния доклад на компанията за анализ на заплахите системи за наблюдение, базирани на Claude, все по-често се използват за идентифициране и проследяване на политически противници. Затова Anthropic изясни и забраните си, свързани с наблюдението.

Anthropic съобщи, че макар правилата ѝ за ползване винаги изрично да са забранявали използването на Claude за разработване на оръжия, компанията е засекла няколко опита той да бъде използван за създаване на софтуер за тяхното насочване и управление. Затова обновените правила разширяват обхвата на забраната. Тя вече обхваща и софтуера и компонентите, които осигуряват работата на оръжията, както и дейности като въоръжаването на дронове и други автономни превозни средства. 

Отваряне на галерията

Anthropic въведе и ново правило: когато моделите ѝ за изкуствен интелект са свързани с хардуер, способен самостоятелно да извършва физически действия и потенциално да причини наранявания, обучен оператор трябва да може да наблюдава оборудването и при необходимост да го спре. Това вече очевидно се отнася до роботиката. Според позицията на Anthropic, когато Claude се използва в робот, задължително трябва да има и човек оператор.

Отваряне на галерията

Технологичната част на правилата също беше значително затегната. Те вече определят още по-ясно какво представляват неразрешеното тестване на сигурността и опитите за заобикаляне на защитите. Категорично се забранява и всяка дейност, насочена към достъп чрез пробив до вътрешните мисловни процеси на Claude, копиране на отговорите на модела в промишлен мащаб или неразрешен обратен инженеринг на кода на системата.

Тази стъпка е пряко свързана с последните обновявания на моделите на Anthropic — включително пускането на Claude Sonnet 5.5 и Haiku 5.5. При тях компанията започна да защитава системите си с вградени филтри на хардуерно и софтуерно ниво срещу мрежи, извършващи автоматизирана „дестилация“. 

Последната промяна в правилата за ползване създава правна и административна основа за санкциониране на злоупотребите, включително незабавно. За спазването на правилата Anthropic използва многостепенен механизъм за контрол.

Абонамент за бюлетина

0 коментара

За да напишете коментар, първо влезте в профила си!

Все още няма коментари към тази статия!

Помогнете на другите, като споделите какво мислите за статията.
Обратно към началото на страницата