Локален ИИ на практика – SAPPHIRE AMD Radeon AI PRO R9700

Тестваме ускорителя за ИИ на AMD, който изпълнява големи езикови модели на собствения ви компютър, без изпращане на данни и без облак. Проверихме как се справя видеокарта, създадена специално за локален ИИ, с творческо писане, програмиране и анализ на изображения.
iPon
iPon
15.04.2026 г., 06:02 ч.
Локален ИИ на практика – SAPPHIRE AMD Radeon AI PRO R9700

Оценка на автора

Оценка на читателите

90

Притеснявате ли се какво правят големите технологични компании с данните ви? Имаме добра новина: вече не е задължително да изпращате каквото и да било където и да е. Моделите за ИИ, които могат да се изпълняват локално, се развиха изключително бързо напоследък. Това, което преди няколко години изискваше милионни инвестиции в сървърна инфраструктура, днес е постижимо с една отделна видеокарта. SAPPHIRE AMD Radeon AI PRO R9700 е създадена точно за това – а ние проверихме какво означава то на практика.

Не е за игри – и това е напълно нормално

На пръв поглед може да изглежда странно да говорим за видеокарта, която не е насочена към най-новите AAA игри, а е проектирана специално за изкуствен интелект. Както подсказва и името ѝ, SAPPHIRE AMD Radeon AI PRO R9700 е специализиран хардуер: оптимизирана е за локално изпълнение на големи езикови модели (LLM). Ключът е във VRAM, защото при локалното изпълнение обемът на видеопаметта определя колко голям модел можем да заредим и с каква скорост можем да работим с него.

В тестовата конфигурация картата работеше с процесор AMD Ryzen 7 и 32 GB системна RAM. Акцентът обаче не беше върху системната памет, а върху това какъв обем от собствената си VRAM видеокартата може да използва и колко ефективно го прави. Целта е ясна: моделът да се изпълнява върху GPU, а не върху CPU – защото именно това определя скоростта.

За какво е полезен локалният ИИ и за кого си струва

Преди да преминем към резултатите, си струва да изясним за кого и защо изобщо е важно моделите да се изпълняват локално. Краткият отговор е: сигурност на данните. Всеки, който работи с чувствителни бизнес данни, клиентска информация или вътрешни документи, има основание да се притеснява, че те ще попаднат на сървърите на облачен доставчик – дори ако според правилата му не се използват за обучение.

При локално изпълнение данните никога не напускат компютъра. Няма заявки към API, няма облак, няма трета страна. Каквото се случва на машината, остава на нея. Това може да е от ключово значение особено за европейския пазар, където спазването на GDPR е съществен въпрос – независимо дали става дума за адвокатска кантора, доставчик на здравни услуги или финансов консултант.

Важна уговорка за цената: ако разглеждаме цялата компютърна конфигурация, една използваема система излиза около 2.740 евро. На пръв поглед това изглежда много, но нека поставим сумата в контекст: ако някой преминава към локално изпълнение единствено заради безплатното ползване, по месечните цени на ChatGPT Plus или Claude Pro тази инвестиция се равнява приблизително на 9–10 години абонамент. Следователно само за икономия не си струва – но от гледна точка на защитата на данните и бизнеса може да е безценна.

Тестовата среда: LM Studio и Qwen 3.5

За тестовете използвахме приложението LM Studio (lmstudio.ai), което в момента е един от най-лесните начини всеки да изтегли и изпълнява модели с отворен код на собствения си компютър. Интерфейсът е изключително интуитивен: избираме модела, изтегляме го и вече можем да разговаряме с него – точно както с ChatGPT, само че всичко се случва на собствения ни хардуер.

Тествахме семейството модели Qwen 3.5 в два варианта: по-малък с 9 милиарда параметъра (9B) и по-сериозен с 35 милиарда параметъра (35B). Втория изпълнявахме с Q8 квантизация – това е лека компресия, която намалява размера на модела, за да се побере във VRAM, като запазва приблизително 95–97 % от първоначалните му възможности. По същество квантизацията прилича на закръгляне на число до по-малко знаци след десетичната запетая: има известна загуба на точност, но на практика тя почти не се забелязва.

Тестовете: от творческо писане до програмиране

Творческо писане – тестът с кафенето

Като първа задача зададохме тест за писане на текст: състави кратка, забавна реклама за кафене в Будапеща, което отваря в 5 сутринта. То се казва Koránkelő Kávézó, насочено е към сънливи ИТ специалисти и ранобудни баби, а рекламата трябва да включва игра на думи и промоционална оферта в максимум 100 думи.

Първо опита моделът 9B, но унгарската граматика на места куцаше, игрите на думи бяха пресилени, а общото впечатление беше по-скоро объркващо, отколкото забавно. Скоростта обаче впечатляваше: 86 токена в секунда с включен режим на разсъждение. На прост въпрос без разсъждение отговорът се генерираше със 102 токена/с – светкавично бързо.

Моделът 35B обаче създаде изненадващо добър текст. „Тук кафето е толкова силно, че се събуждаш по-лесно дори за Hello World!“ – това вече е напълно използваема игра на думи за ИТ аудитория. „При нас няма бъгове, само Java“ – отлично съобразяване с целевата публика. Скоростта, разбира се, беше по-ниска: 28 токена/с, а фазата на разсъждение също беше по-дълга и отне около две минути. Резултатът обаче осезаемо е в по-висока категория.

Отвори галерията

Програмиране – миночистач, Pomodoro, викторина и уиджет за времето

При тестовете за програмиране моделът получи четири различни задачи, всяка от които трябваше да реализира в един HTML файл:

  • Миночистач – Qwen 35B го създаде в режим на разсъждение за около 3–4 минути. Резултатът: работеща още от първия опит игра, с добре коментиран на унгарски код. Не е AAA заглавие, но самият факт, че локално изпълняван модел дава от първия опит безгрешен код, който може да се стартира, е забележителен.
  • Таймер Pomodoro – С тази задача се справи бързо, без разсъждение. Пауза, рестартиране, превключване – всичко работеше. Дизайнът също беше напълно приличен.
  • Приложение с викторина за ИИ – 8 въпроса с по четири възможни отговора, незабавна обратна връзка и краен резултат. Моделът сам генерира въпросите и отговорите по темата за ИИ – и предложи изненадващо уместни, образователни въпроси. Сам измисли и въпроса за предимствата на локалното изпълнение на ИИ.
  • Уиджет за времето – С данни, зададени директно в кода, но с хубав дизайн: можеше да се превключва между Будапеща, Дебрецен, Сегед, Печ и Дьор. Работата по CSS беше особено изпипана.

Наистина впечатляващо беше, че изпълнявахме последните две задачи паралелно, в два отделни прозореца за чат. Видеокартата обслужваше и двете без затруднения – нямаше засичане или критично прегряване, а макар охлаждането понякога да се чуваше по-силно, шумът далеч не беше дразнещ. Това подсказва, че R9700 се справя надеждно и в реални работни процеси, а не само в лабораторни тестове с една задача.

Отвори галерията

Математика – калкулаторът за отстъпки

За да проверим логическото мислене, зададохме математическа задача с няколко стъпки: магазин предлага 20 % отстъпка за всички продукти, а ако първоначалната сума надхвърля около 140 евро, получавате още 10 % отстъпка от вече намалената цена. Първоначалната цена е около 210 евро – колко трябва да платите накрая, колко сте спестили и колко процента е общата отстъпка?

Моделът 35B изведе изчислението стъпка по стъпка, без грешки: около 210 евро → около 165 евро (20 % отстъпка) → около 150 евро (още 10 %) → спестени около 60 евро, тоест обща отстъпка от 28 %. Скоростта беше 26,58 токена/с, а времето до първия токен – 1,21 секунди. Логиката беше правилна от начало до край – това вдъхва доверие, че моделът може надеждно да се използва и за изчислителни задачи.

Анализ на изображения – залезът над Балатон

Изненадващ тест: Qwen 3.5 35B има и зрителни възможности, тоест може да анализира изображения. Подадохме му снимка на залез над Балатон с въпроса: какво има на изображението? Във фазата на разсъждение моделът допусна, че гледката много прилича на района около хълма в Балатонбоглар край езерото, макар в крайния си отговор да беше по-предпазлив. Описанието на изображението беше точно по съдържание: залез, алея за разходки, зелени площи, поддържан парк. Не се ангажира с категорично определяне на мястото, но разсъжденията му бяха в правилната посока – това е особено добро представяне за локален модел с 35 милиарда параметъра.

Обобщение на скоростите

ЗадачаМоделСкорост
Обикновен чат (с разсъждение)Qwen 3.5 9B86 токена/с
Обикновен чат (без разсъждение)Qwen 3.5 9B102 токена/с
Творческо писанеQwen 3.5 35B (Q8)28 токена/с
Математическа задачаQwen 3.5 35B (Q8)26,58 токена/с
Програмиране (паралелно)Qwen 3.5 35B (Q8)19 токена/с

Моделът 9B е светкавично бърз, но възможностите му не стигат за по-сложни задачи. Вариантът 35B с Q8 предлага най-добрия баланс: достатъчно способен е, за да върши реална работа, и достатъчно бърз, за да не се налага да чакаме по няколко минути за всеки отговор. Паралелното изпълнение естествено намалява скоростта на генериране на токени, но и така тя остава достатъчна за практическа работа – ключов фактор при реална експлоатация.

На кого я препоръчваме?

SAPPHIRE AMD Radeon AI PRO R9700 не е за всеки – и това е напълно нормално. За човек, който просто иска да използва ИИ всекидневно, абонаментът за ChatGPT или Claude е по-евтино и удобно решение. Има обаче ясно очертана аудитория, за която тази карта може да промени съществено начина на работа:

  • Предприятия и фирми, за които сигурността на данните не е пожелателна, а основно изискване – адвокатски и счетоводни кантори, доставчици на здравни услуги, финансови консултанти
  • ИТ екипи, които искат да внедрят вътрешен ИИ асистент, без чувствителните данни да напускат фирмената мрежа
  • Разработчици и ентусиасти в областта на ИИ, които искат да експериментират с отворени модели и фина настройка и се нуждаят от надежден, бърз хардуер
  • Създатели на съдържание, които биха използвали локален ИИ за транскрибиране на аудиозаписи, обработка на текст или анализ на изображения – при това материалите никога не напускат компютъра
Отвори галерията

Обобщение

SAPPHIRE AMD Radeon AI PRO R9700 е продукт с ясно предназначение: прави точно това, за което е проектирана, и го прави добре. Не се опитва да бъде геймърска видеокарта или универсално решение – предлага убедителна производителност, предвидима работа и реална практическа полза при локалното изпълнение на ИИ. Тестовете с Qwen 3.5 35B показват, че днес дори отворен модел със среден брой параметри може да пише смислени творчески текстове, да генерира работещ код, да решава математически задачи и да анализира изображения – изцяло локално, без риск от изтичане на данни.

Стабилността при паралелно изпълнение на задачи и постоянните скорости на генериране на токени показват, че тази карта може да бъде не само инструмент за любители, а и основа за сериозни работни станции. С високата си цена тя не е импулсивна покупка, но за онези, които знаят за какво им е нужна, е инвестиция, която се изплаща.

Обобщение

Оценка на автора

AMD Radeon AI PRO R9700 в момента е едно от решенията с най-добро съотношение между цена и възможности за локално изпълнение на ИИ. Не е евтина, но за онези, за които сигурността на данните е приоритет и които са готови да инвестират в собствена инфраструктура, тя е надежден, бърз и стабилен помощник. С бързото развитие на отворените модели тази карта ще става все по-ценна – и това е може би най-силният аргумент в нейна полза.
Добра скорост с модели със среден размер (35B) – 19–28 токена/с според задачата
Стабилно паралелно изпълнение на задачи, едновременно обслужване на няколко потока
Лесно пускане в експлоатация с LM Studio, готовност за работа за минути
Пълна сигурност на данните – нищо не напуска компютъра
Широка съвместимост с модели – поддържат се Qwen, Mistral, GLM и много други
Цялата конфигурация струва около 2.740 евро, което не е по възможностите на всеки
Не е проектирана за игри – не бива да се очаква геймърска производителност
Най-големите модели (80B+) вече не се побират – обемът на VRAM е ограничение
Режимът на разсъждение при модела 35B удължава времето за отговор (над 2 минути при сложни задачи)

Оценка на читателите (4 бр.)

Моля, влезте в профила си, за да оцените!
Вход
Абонамент за бюлетина

Коментари: 0

За да напишете коментар, първо влезте в профила си!

Все още няма коментари към тази статия!

Помогнете на другите, като споделите какво мислите за статията.

Свързани статии

Към началото на страницата