ШІ дає впевненість, а не знання: чому це небезпечно

Знайомий ефект Даннінга-Крюґера — коли люди з низьким рівнем знань переоцінюють свої здібності — отримав у часи ШІ потужний підсилювач. Людина, яка не розбирається в темі, ставить запит моделі, отримує гладку впевнену відповідь і вірить їй більше, ніж живому фахівцю. Перевіряти? Навіщо, адже все так гарно написано.

Науковці це перевірили — і виявили цікаве. З ШІ класичний ефект ніби зникає, але не тому, що всі порозумнішали. Просто тепер переоцінюють себе всі: і слабкі, і сильні. А хто вважає себе знавцем ШІ — помиляється в самооцінці ще більше. Тобто ШІ не посилив ефект, а демократизував його. Ще 2015 року в Єльському університеті помітили: людина, яка щойно щось погуглила, починає вище оцінювати свої знання навіть у темах, яких не шукала. З чат-ботом ефект сильніший — група, яка розбиралася в темах через ChatGPT, переоцінила своє розуміння найбільше, а пояснити тему своїми словами змогла гірше за тих, хто працював без ШІ.

Насправді фраза «я працюю з ШІ» може означати що завгодно: від «питаю замість Гугла» до «побудував систему, яка сама веде процеси». Між цими крайнощами — прірва. В Україні 63% дорослих ШІ взагалі не користуються. Серед тих, хто користується, переважають найпростіші сценарії: майже половина повідомлень у ChatGPT — це запитання, ще 40% — прохання щось зробити, здебільшого написати чи відредагувати текст. Агентами, які самі виконують багатокрокові задачі, у 2025 році користувалися 31% розробників — найпросунутішої в ШІ професії. Усю або більшу частину роботи виконують із ШІ лише 2% працівників США. Отже, більшість людей, які впевнено міркують про «можливості ШІ», бачили його на рівні пошуковика й редактора текстів.

А тепер приклади, від яких стає не по собі. Турецькі школярі з доступом до ChatGPT розв'язували вправи на 48% краще. На іспиті без нього вони написали на 17% гірше за тих, хто ШІ не мав зовсім. Найкумедніше, що модель давала правильну відповідь лише приблизно в половині випадків, а учні просто її переписували. Досвідчені програмісти з ШІ витрачали на задачі на 19% більше часу. Після експерименту вони були певні, що прискорилися на 20%. Консультанти BCG намагалися вказати моделі на помилки — вона їх не визнавала, а засипала людей новими аргументами. Дослідники Гарвардської школи бізнесу назвали це «persuasion bombing». Юрист у Нью-Йорку подав до суду шість справ, вигаданих ChatGPT. Засумнівавшись, він спитав у ChatGPT, чи справи справжні, і той упевнено підтвердив. Закінчилося санкцією в $5 000 для юристів та їхньої фірми. Відтоді світова база судових справ із вигаданими ШІ матеріалами перевищила 2 000. Наш Верховний Суд теж уже отримав касаційну скаргу з п'ятьма постановами ВС, яких не існує. А Deloitte повернула уряду Австралії частину гонорару за звіт вартістю A$440 000, де знайшли вигадані посилання.

За глобальним опитуванням 48 тисяч людей у 47 країнах, 66% працівників хоча б інколи беруть відповідь ШІ без перевірки, а 56% уже помилялися в роботі через ШІ. 42% роблять це не зрідка, а іноді або частіше. У моделі немає внутрішнього сигналу «я цього не знаю» — правду і вигадку вона подає однаково впевнено. А ще любить погоджуватися з користувачем: торік OpenAI навіть відкликала оновлення своєї моделі, бо вона стала надто лестивою.

ШІ не робить людину розумнішою, зате робить її впевненішою. Досвідченого він справді підсилює, а тому, хто в темі не розбирається, дає лише видимість сили. У задачах поза межами можливостей моделі навіть консультанти BCG з ШІ на 19 відсоткових пунктів рідше знаходили правильне рішення, ніж колеги без нього. Тож питання не в тому, яка модель краща, а в тому, чи здатні ви перевірити її відповідь. Використовуйте ШІ для пошуку, а не для вердикту: запит «покажи, де сказано X, з цитатою» перевіряється за хвилину, а запит «оціни звіт» не перевіряється ніяк. Цифри, дати й посилання звіряйте з першоджерелом. Не перевіряйте ШІ тим самим ШІ — іншою моделлю теж не варто: моделі помиляються схоже. І простий тест: закрийте чат і поясніть відповідь своїми словами. Не виходить? Тоді це не ваше знання, а позичене. ШІ — потужний множник, але множник працює лише тоді, коли є що множити.