Чому ШІ-системи відповідають по-різному: справа не лише в моделі
Одна модель дає розгорнуту відповідь, інша відмовляється, третя додає застереження. Річ не в інтелекті, а в архітектурі контролю, що оточує ШІ.
Коли користувач ставить однакове питання різним чат-ботам, відповіді можуть бути діаметрально протилежними. Це легко списати на різницю в здібностях моделей, але насправді модель — лише один із гвинтиків великої системи.
Поведінку ШІ визначають навчання, системні інструкції, політики безпеки, фільтри запитів і відповідей, доступ до інструментів, права користувача та навіть вимоги законодавства. Тому, порівнюючи Claude, GPT, Gemini чи DeepSeek, ми насправді порівнюємо не лише здатність генерувати текст, а й цілу архітектуру контролю навколо моделі.
Поширена уява про безпеку ШІ проста: є модель і фільтр поверх неї. У реальності все складніше. Частина поведінки закладається під час навчання, коли модель на прикладах засвоює бажані й небажані відповіді. Після цього ваги моделі залишаються "замороженими", але це не означає, що поведінка системи незмінна.
Між незмінними вагами та готовим продуктом існує цілий шар: системні правила, модерація, маршрутизація запитів, інструменти та інфраструктура. Саме тому зміна поведінки ШІ не обов'язково вимагає перенавчання моделі.
Чому ж одна система відповідає, а інша відмовляється? Усе залежить від балансу між корисністю та безпекою. Консервативна політика радше заблокує потенційно ризикований запит, навіть якщо це призведе до помилкових відмов. Ліберальніша — розширює можливості, але збільшує ризики. Розробники постійно шукають золоту середину, і в різних продуктів вона своя.
Користувач бачить чат і думає, що спілкується з моделлю напряму. Насправді запит може пройти через кілька компонентів: визначення типу, перевірку політики, вибір інструментів, отримання контексту — і лише потім потрапити до моделі. Відповідь також проходить перевірку перед публікацією.
У такій схемі мовна модель стає лише одним із елементів. Ваги можуть бути незмінними, але система навколо вирішує, який контекст модель побачить, які інструменти отримає і що зможе зробити з результатом. Це принципова різниця між моделлю та готовим продуктом — і саме її варто враховувати, оцінюючи можливості сучасного ШІ.
