← Усі пости

Есе · Автор: Andrew Maryasov, засновник Grow2.ai ·

Чому той самий AI-агент дає різні результати — і як перевірити підрядника

Інфографіка: та сама модель, різні результати — три шари навколо моделі: harness із кроками й критеріями приймання, функціональні інструкції замість ролей, свіжа документація

Дві компанії запускають AI-агента на одній і тій самій моделі. У першої він місяцями стабільно обробляє звернення, у другої сьогодні відповідає блискуче, а завтра видає нісенітницю. Власник другої робить висновок «AI ще сирий» і відкладає тему на рік. Насправді він щойно оплатив різницю не в моделях, а в тому, як підрядник побудував обмеження довкола моделі. Цю різницю видно на етапі перемовин, якщо знати, про що питати.

Шість питань підряднику

Демо тут не допоможе: на презентації агент працює завжди, бо йому показують підготовлений випадок. Зате обмеження перевіряються розмовою.

Питання

Відповідь, яку варто почути

Як ви обмежуєте агента?

Кожна задача описана окремо: мета, кроки, критерії приймання, формат відповіді, заборони

Скільки задач виконує один агент?

Одну. Широку задачу ділимо між кількома

Що буде з неправильним результатом?

Не пройшов критерії приймання — не зараховується й не йде клієнту

Чи пишете у промптах «ти — найкращий експерт»?

Ні, ролі функціональні: що на вході, що на виході, де межа якості

Звідки агент бере актуальні дані?

З живого джерела: ваша CRM, база знань, документація постачальника — не лише з пам'яті моделі

Результати нестабільні — ваші дії?

Звужуємо задачу й посилюємо обмеження

Якщо у відповідь на скаргу про нестабільність вам пропонують перейти на потужнішу модель — це заміна двигуна там, де бракує керма й гальм.

Чотири червоні прапорці в комерційній пропозиції

Нуль ескалацій. Якщо в пропозиції написано, що агент відповідає на всі звернення сам, підрядник або не міряв, або не покаже вам помилки. Робоча норма ескалації, тобто частка звернень, які агент свідомо передає людині, — 10–20 % у наших кейсах.

Нема критеріїв приймання. «Запустимо агента для підтримки» — це не предмет договору. Предмет договору — число, яке має зрушити, і спосіб його виміряти.

Демо на чужих даних. Агент, який добре виглядає на прикладі з презентації, нічого не каже про ваш потік: у вас інші формулювання клієнтів, інший асортимент і власні винятки.

Одна велика задача. «Агент закриє весь клієнтський сервіс» коштує дорожче й ламається частіше, ніж три вузькі агенти, запущені по черзі.

Що стоїть за цими питаннями

Три речі визначають, чи буде агент передбачуваним. Жодна з них не пов'язана з тим, яка модель усередині.

Обмеження. В інженерії їх називають harness — обгортка довкола моделі, яка задає, що агенту можна, що він бачить і за якими правилами його результат зараховується. Звучить контрінтуїтивно, але чим вужча задача й чим суворіші критерії, тим стабільніший результат. Посередня модель у суворих обмеженнях передбачуваніша за найрозумнішу без них. Це не лише про AI: згадайте найкращого працівника, якому не дали чіткого завдання.

Формулювання. Популярний рецепт «дайте моделі роль, і вона стане розумнішою» не працює. Роль не додає моделі знань — вона активує усереднений стереотип із навчальних даних, і агент починає звучати як обережна корпоративна вікі. Працює функціональний опис: що агент отримує на вхід, що повертає на вихід, де межа якості. Порівняйте «ти — найкращий рев'юер з двадцятирічним досвідом» і «отримуєш зміни, повертаєш максимум п'ять зауважень із позначками критично / попередження / дрібниця». Друге формулювання перевіряється, перше — ні.

Свіжість. У кожної моделі є дата, після якої вона не знає нічого: нових цін, нового асортименту, нових правил повернення, нової версії інструменту. Агент, який спирається лише на пам'ять моделі, впевнено розповідатиме клієнтам минулорічну правду. Тому агента під'єднують до живого джерела — вашої CRM, бази знань, каталогу — і він читає звідти в момент відповіді.

Як це виглядає в живому впровадженні

Виробнича компанія з мережею 500 дилерів (назву не розкриваємо за домовленістю) поставила агента між дилерами й обліковою системою. Раніше цю роль виконували двоє менеджерів: дилер писав питання про залишок чи статус відвантаження, менеджер відкривав ERP і відповідав.

Стабільність тут тримають чотири шари, а не вибір моделі. База знань дає агенту фактуру. Guardrails — жорсткі правила, які фізично не дозволяють вийти за межі дозволеного, зокрема доступ до облікової системи лише на читання. Окрема модель-супервізор перевіряє відповідь до відправлення. Ескалація передає випадок людині, коли впевненості замало.

Результат: 95 %+ точності на типових запитах, решта випадків іде людині. Рутина, що коштувала ≈700 тис. грн на рік (≈$17K), закривається агентом, збірка якого коштувала ≈110 тис. грн (≈$2,7K) плюс ≈18 тис. грн на рік (≈$440) обслуговування; чистий ефект першого року — ≈572 тис. грн (≈$14K), окупність 2–3 місяці. Звільнених людей — нуль. Повний розбір кейсу з цифрами — окремою статтею.

Для технічної команди

Три спостереження з відкритих джерел, які підтверджують те саме з іншого боку.

Дослідження групи Принстонського університету «Towards a Science of AI Agent Reliability» (прийняте на ICML 2026) розводить дві властивості, які часто плутають: точність і надійність. Автори пропонують дванадцять метрик за чотирма вимірами — узгодженість, стійкість, передбачуваність і безпека — і, оцінивши 15 моделей на двох бенчмарках, доходять висновку, що зростання можливостей дало лише невеликий приріст надійності. Розумніша модель сама по собі стабільності не додає.

Команда Manus описала, що переписувала обгортку свого агента чотири рази, щоразу після того, як знаходила кращий спосіб формувати контекст. Моделі при цьому лишалися ті самі.

Vercel опублікував розбір під назвою «We removed 80% of our agent's tools»: внутрішнього агента для роботи з даними позбавили більшості спеціалізованих інструментів і звели до одного. Успішність виросла з 80 % до 100 % при меншій кількості кроків і токенів. Менше опцій — менше місця для помилки.

Звідси три робочі правила: один агент на одну задачу, критерії приймання в коді, актуальні дані через MCP — протокол, яким агент звертається до зовнішніх джерел у момент відповіді. Для документації бібліотек цю роль закриває, наприклад, Context7.

Що записати в договір на пілот

Перевірка підрядника закінчується формулюванням у договорі, не розмовою. Три речі, без яких пілот не варто починати: назване число, яке має зрушити; спосіб його виміряти, узгоджений до старту; і термін, на якому ви разом дивитеся на результат.

У Grow2.ai це виглядає так. Starter — €1 800 за пілот на 14 днів, далі від €49 на місяць. Practice — €3 600 за 21 день, далі від €99. Operator — від €6 000 за 30 днів, далі від €149. Зверху — модельні витрати. Пілот оплачується наперед; якщо на рев'ю 30-го дня узгоджена KPI не зрушила — повертаємо повну суму. Grow2.ai — AI-підрозділ Auspex; налаштування процесів і CRM, у яких житиме агент, бере на себе Auspex.

Хочете перевірити, чому ваш агент працює нестабільно? Безкоштовний AI-аудит за 2 хвилини розбирає це на вашому конкретному процесі, а тридцятихвилинний розбір із засновником пройде по тексту вашого договору з підрядником. Ширша карта — у хабі AI-агенти для бізнесу.

Джерела

Часті запитання

Чи розв'яже проблему перехід на потужнішу модель?

Зазвичай ні. Дослідження Принстонського університету «Towards a Science of AI Agent Reliability» оцінило 15 моделей на двох бенчмарках і показало, що зростання можливостей дало лише невеликий приріст надійності: точність і передбачуваність — різні властивості. Коли результати стрибають, спершу звужують задачу, додають критерії приймання й заборони. Пропозиція «замінимо модель» у відповідь на нестабільність — червоний прапорець.

Що таке harness простими словами?

Це обгортка довкола моделі: набір обмежень, який задає, що агенту можна робити, які дані він бачить і за якими критеріями його відповідь зараховується. Аналогія з наймом працює точно: модель — це кваліфікація людини, harness — посадова інструкція, доступи й контроль якості. Команда Manus публічно описала, що переписувала свою обгортку чотири рази на тих самих моделях, і кожна ітерація давала кращий результат.

Чому «ти — досвідчений маркетолог» не покращує відповіді?

Роль не додає моделі знань. Вона активує усереднений образ із навчальних даних, тому відповіді стають обережними й передбачуваними. Замість ідентичності описують функцію: що агент отримує на вхід, що повертає на вихід і де межа якості. Перевіряти можна лише друге формулювання.

Скільки звернень агент має віддавати людині?

Робоча норма в наших кейсах — 10–20 % ескалацій. Нуль означає, що агент відповідає навіть там, де не має підстав, і ви побачите ці випадки вже у скаргах клієнтів. Занадто високий відсоток означає, що задача описана надто широко або даних для відповіді бракує. Цю частку узгоджують до пілота й дивляться на неї щотижня.

Як відрізнити слабку модель від слабкого налаштування?

За характером помилок. Слабка модель помиляється рівномірно й на простому теж. Слабке налаштування дає інший малюнок: на підготовлених випадках усе добре, а на реальних агент плаває, повторює ту саму помилку в одному й тому самому місці й не має, за яким критерієм зупинитися. Другий випадок трапляється значно частіше.

Що вимагати від підрядника до підписання договору?

Три речі: назване число, яке має зрушити за пілот; узгоджений до старту спосіб його виміряти; і дату спільного рев'ю. Плюс перелік того, що агент робити не буде — заборони так само важливі, як задачі. Пропозиція без цих пунктів означає, що результат пілота потім можна буде трактувати як завгодно.

AI-агенти для бізнесу — 2–3 листи на місяць

Розбори, кейси та інструменти, які вже працюють у компаніях.

Без спаму. Відписатися можна в один клік.