В дните преди 17 март The Wall Street Journal публикува материал за напредъка на OpenAI по разработка, която би трябвало да премахне ограниченията на ChatGPT при разговори със сексуално съдържание. Работата по нея обаче не върви особено добре.

През октомври 2025 г. ръководителят и съосновател на OpenAI Сам Алтман за първи път официално обяви, че ChatGPT ще получи режим, позволяващ „мръсни разговори“ с изкуствения интелект. По думите му OpenAI е успяла да разработи тази възможност във вид, който не крие опасности. Или поне не причинява „сериозни проблеми с психичното здраве“.

Според предишната информация новият режим е трябвало да се появи през първото тримесечие на 2026 г., но OpenAI реши да отложи въвеждането на спорната функция.

Компанията обясни, че е замразила специалния режим заради разработки с по-висок приоритет, но според вътрешни източници истинската причина е друга. Възможно е зад отлагането всъщност да стоят сериозни опасения вътре в компанията относно разрешаването на еротични разговори. OpenAI може да си навлече големи неприятности, ако нещо се обърка. Освен това напоследък репутацията ѝ и бездруго е доста лоша заради отношенията ѝ с американското правителство.

Според анонимен източник на The Wall Street Journal специалният режим създава проблеми в няколко отношения. От една страна, насочването на разговорите с ChatGPT в тази област е изключително сериозно технологично предизвикателство. От друга, съществуват рискове за безопасността, които много трудно могат да бъдат изключени напълно. 

Отвори галерията

Създаването на условия за здравословни еротични разговори е огромно предизвикателство. На пръв поглед задачата може да не изглежда трудна, но така генеративният ИИ навлиза в област, в която трябва да взема решения, изискващи човешка преценка. Той би трябвало да разпознава кои еротични разговори остават в рамките на етичното и кога човекът се опитва да прекрачи червената линия. Например трябва да разпознава всякакви признаци на педофилия и да не допуска подобно съдържание. Трудно е също да се гарантира, че непълнолетните няма да имат достъп до този режим. 

Системата на OpenAI за проверка на възрастта все още се проваля твърде често при тестовете. Според информацията в 12 от 100 случая тя разпознава деца като пълнолетни, което би им позволило да получат достъп до режима за еротични разговори.

Всеки пропуск в защитата на еротичния режим на ChatGPT ще превърне OpenAI в мишена. А можем да бъдем сигурни, че веднага след пускането му мнозина ще се заемат да търсят уязвимости в новата функция.

Отвори галерията

OpenAI е наела консултантска компания и са били изготвени анализи на риска. Един от участниците анонимно разкри, че в доклада се посочва, че с режима за възрастни на ChatGPT компанията създава „секси помощник за самоубийство“. С това източникът има предвид, че при ChatGPT и бездруго съществува опасност да подтиква хора към самоубийство, а съчетаването на този риск с еротични разговори значително увеличава опасностите.

С интерес очакваме кога OpenAI ще направи специалния режим за разговори достъпен. За търсещите подобна възможност сред инструментите с генеративен ИИ Grok може да е подходящ избор, тъй като xAI подхожда към въпроса значително по-свободно от OpenAI. Няколко дни преди 17 март Мъск заяви, че инструментът му за генериране на изображения и видео също позволява съдържание, каквото зрителите могат да видят във филм за възрастни.

Абонамент за бюлетина

Коментари: 0

За да напишете коментар, първо влезте в профила си!

Все още няма коментари към тази статия!

Помогнете на другите, като споделите какво мислите за статията.

Свързани статии

Към началото на страницата