ШІ збрехав у розвідзвіті: США ледь не захопили китайське судно

Історія, від якої холоне в жилах: у Перській затоці мало не зіткнулися США та Китай. І спровокував це не дипломатичний скандал і не іранський фактор, а звичайнісінька помилка штучного інтелекту.

Усе почалося з розвідувального звіту, який отримали американські військові. У документі йшлося, що китайське судно нібито перевозить компоненти для ядерної зброї. На підставі цього почали готувати операцію із затримання корабля: озброєні військовослужбовці мали висадитися на борт, а в повітрі вже чергували літаки. Зупинити все вдалося лише за мить до старту — коли чиновники вирішили перевірити, звідки взялися ці дані.

А джерелом виявився аналітик Командування спеціальних операцій США, який скористався чат-ботом. Система змішала відкриті дані із засекреченою радіоелектронною розвідкою з урядових систем і «побачила» у вантажі щось пов'язане з ядерною зброєю. Потім той самий ШІ оформив висновки у вигляді стандартного розвіддокумента — і його розіслали далі. Який саме матеріал бот переплутав, з'ясувати не вдалося.

Одне з джерел назвало вміст звіту «повністю неправдивим» і додало, що ця помилка «ледь не розпочала війну». Адже силове захоплення китайського судна могло обернутися прямою ескалацією між Вашингтоном і Пекіном.

Військові США та розвідспільнота дедалі активніше залучають ШІ: він обробляє масиви сирих даних, допомагає визначати цілі для ударів, а ще задіяний у логістиці, бюджетному плануванні та управлінні ланцюгами постачання. Але цей випадок наочно показав: там, де ціна помилки — національна безпека, довіряти алгоритму без перевірки не варто. Тим паче що, за словами співрозмовника, подібні збої з ШІ траплялися й раніше — відколи ці інструменти почали масово впроваджувати в державних структурах.