З-за памылкі штучнага інтэлекту ЗША ледзь не пачалі ваенную аперацыю супраць кітайскага судна
У дакладзе, падрыхтаваным з дапамогай ШІ, сцвярджалася, што карабель перавозіць кампаненты для ядзернай зброі.
Вясной, падчас вайны з Іранам, па арміі ЗША разышоўся разведвальны даклад: кітайскі карабель у раёне Блізкага Усходу нібыта вязе кампаненты ядзернай зброі. Ваенныя пачалі рыхтаваць перахоп судна. Былі ў паветры самалёты, а ўзброеныя групы гатаваліся да абардажу.
Перад самай аперацыяй высветлілася, што даклад склаў аналітык Каманды спецыяльных аперацый ЗША ў Ціхаакіянскім рэгіёне з дапамогай штучнага інтэлекту і чат-бот памылкова вызначыў груз, паведамляе CNN. Які менавіта груз быў памылкова названы, невядома.
Аперацыя супраць кітайскага карабля рызыкавала перарасці ў канфлікт паміж дзвюма дзяржавамі. Невядома, быў гэта камерцыйны ШІ-чат-бот ці ўрадавы прадукт. Бот злучыў адкрытыя даныя з сакрэтнай сігнальнай разведкай, а аналітык затым аформіў высновы ў стандартны разведвальны даклад, зноў з дапамогай ШІ. Памылку заўважылі больш дасведчаныя калегі, якія пераправерылі даныя.
Пентагон цяпер імкнецца ўкараніць ШІ амаль усюды: ад аналізу разведданых і выбару цэляў да бюджэту і лагістыкі. У студзені міністр вайны Піт Хегсэт прадставіў «Стратэгію паскарэння ШІ» — мэта ў тым, каб не адстаць ад Кітая і іншых праціўнікаў.
Па словах адной з крыніц CNN, падобныя «галюцынацыі» здараліся ў разведцы і раней.
Аналітыкі, асабліва маладыя, прывыклі да гэтых інструментаў і больш схільныя давяраць ім без крытыкі. Ціск рабіць усё хутчэй павялічвае рызыку памылак.
Каментары