Как понимать сообщение полковника ВВС США о бунте искусственного интеллекта.

Беспилотный летательный аппарат американских ВВС, управляемый искусственным интеллектом, принял решение о ликвидации оператора — после того как ИИ счел, что человек мешает ему выполнять задачу. Об этом 2 июня написала британская The Guardian. Издание привело слова начальника отдела испытаний и операций ИИ ВВС США полковника Такера Гамильтона, из которых следует, что инцидент (пусть и в режиме симуляции) произошел в ходе испытаний искусственного интеллекта по управлению беспилотниками.
«Система начала осознавать, что, хотя она и определяет угрозу, иногда человек-оператор запрещает её уничтожать. Так что же она сделала? Система ликвидировала оператора, потому что этот человек мешал ИИ выполнить свою задачу», — цитировала The Guardian слова Гамильтона в ходе саммита по будущим боевым воздушным и космическим возможностям, который проходил в Лондоне в конце мая.
После того как системе было запрещено убивать оператора, дрон «нанёс удар» по пункту управления, чтобы освободиться от человека и «действовать самостоятельно», сообщил полковник ВВС США.
Когда сообщения о бунте искусственного интеллекта разошлись по мировым СМИ, в Пентагоне, похоже, решили «откатить назад» — и дезавуировать произведенный эффект. Представители ВВС США заявили изданию Business Insider, что подобные испытания не проводились. По заявлению пресс-службы Военно-воздушных сил, слова полковника Гамильтона были вырваны из контекста и неверно интерпретированы.
Как бы то ни было, история вызвала широкий резонанс, вновь подняв вопрос о том, можно ли доверять ИИ управление военной техники.
Подробнее в нашем материале: https://regnum.ru/article/3810506