ШІ вигадав вантаж, а США вже підняли літаки: як звіт чат-бота ледь не спричинив конфлікт із Китаєм
Американські військові мало не пішли на штурм китайського судна через звіт, який від початку до кінця вигадав штучний інтелект.
За даними CNN, інцидент стався після того, як аналітик командування спеціальних операцій США підготував розвідувальний документ за допомогою чат-бота. У звіті йшлося, нібито судно з Китаю перевозить компоненти ядерної зброї.
Далі події розгорталися стрімко: у повітря вже підняли військові літаки, а озброєні бійці готувалися до штурму. Лише згодом з'ясувалося, що жодних підстав для цього не було.
Механізм помилки виявився доволі показовим. Аналітик попросив нейромережу перевірити маніфест корабля. ШІ самостійно поєднав відкриті дані із секретною радіоелектронною інформацією з урядових баз, після чого зробив хибний висновок про характер вантажу. А щоб надати цим припущенням офіційного вигляду, фахівець звернувся до бота вдруге — і той оформив їх як стандартний звіт.
«Цей звіт був повністю неправдивим і ледь не почав війну», — сказав інсайдер.
Наслідки могли бути серйозними: потенційна атака на китайське судно загрожувала масштабною ескалацією між Вашингтоном і Пекіном.
Попри цей випадок, посадовці американської армії та розвідки не відмовляються від упровадження штучного інтелекту. Його планують залучати до аналізу сирих даних, вибору цілей для ударів і управління логістикою. Натомість представники технологічної індустрії застерігають: потужність таких систем зростає надто швидко, тож вони можуть вийти з-під контролю людини.
Читайте також
