CNN: США едва не начали войну с Китаем из-за чат-бота
Весной этого года в ходе военной кампании против Ирана Соединенные Штаты из-за ошибочной информации, предоставленной искусственным интеллектом, едва не начали боевые действия против Китая. Об этом со ссылкой на информированные, но анонимные источники сообщает американский телеканал CNN.
По данным канала, военные США получили разведывательный доклад, согласно которому следовавшее на Ближний Восток китайское судно везло компоненты, необходимые для создания ядерного оружия. По данным четырех собеседников издания, сразу же был разработан план перехвата этого корабля.
По словам двух из этих четырех источников, вооруженные американские военные готовились подняться на борт. В воздух были подняты боевые самолеты, добавил один из фигурировавших выше собеседников и еще один осведомленный источник.
Только незадолго до начала операции лица, принимающие решения, углубились в изучение отчета, составленного аналитиком Командования специальных операций. Они обнаружили, что документ был создан с помощью искусственного интеллекта и что «чат-бот, использованный аналитиком, неверно определил груз, перевозимый судном». CNN не удалось узнать, что за груз вез корабль на самом деле.
Доклад был «полностью ложным», но он «чуть не спровоцировал войну», констатировал один из источников телеканала. Аналитик запросил у чат-бота информацию о грузовой ведомости судна, полученную от Тихоокеанского командования специальных операций США. Однако нейросеть смешала сведения из открытых источников с секретными данными радиоэлектронной разведки и пришла к ложному выводу.
После этого аналитик снова использовал искусственный интеллект, чтобы составить стандартный разведывательный отчет на основе выданных чат-ботом данных, и распространил получившийся документ.
Неизвестно, являлся ли чат-бот коммерческой программой или специальной государственной разработкой. При этом бывший высокопоставленный американский чиновник, знакомый с системами ИИ, используемыми военными и разведчиками США, утверждает, что такие инструменты – в основном просто улучшенные версии коммерческих разработок.
