Чому ШІ-системи відповідають по-різному: що стоїть за обмеженнями

Коли ми порівнюємо різні чат-боти, насправді порівнюємо не лише їхню здатність генерувати текст. За кожним інтерфейсом ховається складна система: навчання, системні правила, фільтри, інструменти та інфраструктура. Модель — лише один із компонентів.

Безпеку ШІ часто уявляють просто: є модель, а поверх неї — фільтр, який вирішує, що можна відповідати. У реальності все набагато заплутаніше. Частина поведінки закладається ще під час навчання, коли модель бачить приклади бажаних і небажаних відповідей. Після цього її ваги залишаються замороженими — але це не означає, що поведінка системи незмінна.

Між замороженими вагами та готовим продуктом існує цілий архітектурний шар. Системні інструкції задають правила взаємодії, фільтри перевіряють запити й відповіді, маршрутизатор спрямовує різні питання до різних моделей, а політики доступу визначають, які інструменти можна використовувати. Тому зміна поведінки ШІ не обов'язково означає перенавчання моделі.

Чому ж одна система відповідає, а інша відмовляється? Усе залежить від балансу, який обирає розробник. Консервативна політика безпеки частіше блокує потенційно ризиковані запити, навіть якщо це призводить до помилкових відмов. Більш ліберальний підхід розширює можливості користувачів, але збільшує ризики. Ідеального варіанту немає: надто жорсткі обмеження псують досвід, надто слабкі — загрожують безпеці та репутації.

Користувач бачить чат і думає, що спілкується з моделлю. Насправді його запит проходить кілька етапів: визначення типу, перевірка політики, вибір інструментів, отримання контексту — і лише потім потрапляє до моделі. Відповідь також перевіряється перед показом. У цій схемі модель — лише ланка ланцюга, а «заморожені ваги» означають лише те, що сама модель не змінюється, але система навколо неї може бути гнучкою. Це і є принципова різниця між моделлю та продуктом.