На косъм от Трета световна война: изкуствен интелект едва не предизвика нападение срещу китайски кораб

Изкуствен интелект (ИИ) е предоставил на американското разузнаване невярна информация за китайски кораб, пътуващ към Иран, като погрешно е идентифицирал товара му като компоненти за ядрени оръжия. Грешката едва не е довела до военна операция срещу плавателния съд.

Случаят, разкрит от CNN, се е разиграл миналата пролет и показва колко сериозни могат да бъдат последствията от използването на изкуствен интелект при анализ на разузнавателна информация.

Американски анализатор в разузнаването е използвал чатбот с ИИ при обработката на данни за товара на китайския кораб. Получената информация впоследствие е била включена в официален разузнавателен доклад и разпространена по секретните канали на Пентагона. Само че информацията е била невярна. Чатботът погрешно е определил част от товара като компоненти за ядрени оръжия.

Това е задействало сериозна тревога във Вашингтон. Особено чувствителен е бил фактът, че корабът е пътувал към Иран — страна, която от години е в центъра на международни спорове за ядрената си програма.

Военните планове са били задействани, а операция за проверка на място на китайския кораб е започнала да се подготвя.

Според CNN американски специални сили вече са били във въздуха, готови да предприемат действия срещу плавателния съд.

Тогава обаче някой е решил все пак да провери още веднъж разузнавателната информация. И именно тази проверка е предотвратила потенциално много по-опасен сценарий.

Служители са установили, че докладът е бил изготвен с помощта на чатбот с изкуствен интелект. При последващ анализ станало ясно, че системата е допуснала сериозна грешка и че предполагаемите компоненти за ядрени оръжия всъщност не са били такива.

Операцията е била отменена.

Един от неназованите източници на CNN определя разузнавателната оценка като „изцяло невярна“ и заявява, че тя „почти е започнала война“.

Как се е стигнало дотук?

Според информацията на CNN анализаторът първоначално е задал на чатбот въпрос относно разузнавателни данни за товарния манифест на кораба. Информацията е произхождала от Тихоокеанското командване на специалните операции на САЩ, базирано на Хаваите.

Не е известно дали е използван комерсиален чатбот или система, разработена специално за американското правителство.

По време на анализа системата е комбинирала информация от открити източници със секретни данни от електронното разузнаване, съхранявани в правителствени масиви.

Така ИИ е достигнал до погрешното заключение относно товара на кораба.

Но историята не приключва дотук.

След като получил резултатите, анализаторът отново използвал изкуствен интелект — този път, за да превърне информацията в стандартен разузнавателен доклад.

Този документ вече изглеждал като обикновена разузнавателна оценка — от онези, на които военните и държавните служители разчитат при вземането на решения. И бил разпространен.

Когато грешката на машината стигне до бойното поле

Случаят идва на фона на все по-бързото внедряване на изкуствения интелект в американската армия и разузнавателните служби.

Според CNN Вашингтон се стреми да използва ИИ практически във всички сфери на военната и разузнавателната дейност — от обработката на огромни количества информация и определянето на цели за удари до логистиката, бюджетите и снабдяването.

Това носи очевидни предимства, но и нов тип риск.

Една грешка на алгоритъм може да остане просто грешка — или да се превърне в разузнавателен доклад, после във военна заповед и накрая в реална операция.

В случая с китайския кораб веригата е била прекъсната навреме.

Остава обаче по-важният въпрос: какво ще стане следващия път, ако никой не се сети да провери отново?

Източник: “Обективно.бг”