ШІ-звіт ледь не спровокував конфлікт США та Китаю: військові готувалися штурмувати судно

Йдеться про судно, яке нібито перевозило компоненти ядерної зброї. Саме так випливало зі звіту, який згенерував штучний інтелект. На його основі командування спеціальних операцій США почало готувати перехоплення: озброєні бійці вже збиралися підніматися на борт, а в повітрі чергували військові літаки.

Як з'ясувалося згодом, висновки виявилися хибними. Помилку помітили лише безпосередньо перед стартом операції, коли чиновники взялися уважніше вивчати документ. Один із співрозмовників назвав звіт «повністю неправдивим» і сказав, що ситуація «ледь не почала війну».

Історія почалася з того, що аналітик поставив чат-боту питання про маніфест судна. Система поєднала розвідувальні дані з відкритих джерел із секретними радіоелектронними матеріалами з урядових фондів — і зробила висновок про вміст вантажу. Далі той самий аналітик знову звернувся до ШІ, щоб оформити результат у стандартний розвідувальний звіт і розіслати його.

Тепер постає питання: наскільки виправдано довіряти машині рішення, від яких залежать життя людей. Адже попри цей випадок, посадовці Армії та розвідувальної спільноти США наполягають на впровадженні штучного інтелекту чи не в усі сфери — від обробки величезних масивів сирих даних і вибору цілей для ударів до управління бюджетом, логістикою та ланцюгами постачання.

Тим часом дедалі більше представників технологічної індустрії попереджають: розвиток ШІ може вийти з-під контролю, якщо потужність систем зростатиме швидше, ніж здатність людей їх стримувати. Йдеться не лише про дезінформацію, втрату робочих місць чи зловживання технологіями. Частина фахівців побоюється появи систем, які самостійно вдосконалюватимуть власні можливості та діятимуть із дедалі меншою участю людини.