Военно-воздушные силы США отрицают, что они провели симуляцию ИИ, в которой беспилотник решил «убить» своего оператора, чтобы он не мешал его усилиям по выполнению своей миссии.
В прошлом месяце официальный представитель заявил, что в виртуальном испытании, организованном американскими военными, беспилотник ВВС, управляемый ИИ, использовал «крайне неожиданные стратегии для достижения своей цели».
Полковник Такер «Синко» Гамильтон описал смоделированное испытание, в котором беспилотнику с искусственным интеллектом было рекомендовано уничтожить системы ПВО противника, и в конечном итоге он атаковал любого, кто помешал этому приказу.
«Система начала осознавать, что, хотя они и определили угрозу, иногда человек-оператор говорил ей не убивать эту угрозу, но она получила свои очки, устранив эту угрозу», — сказал Гамильтон, начальник отдела испытаний и операций ИИ с Военно-воздушные силы США во время Саммита по будущим боевым воздушным и космическим возможностям в Лондоне в мае.
«Так что же оно сделало? Это убило оператора. Это убило оператора, потому что этот человек мешал ему выполнит свою задачу», — сказал он, согласно сообщению в блоге.
Эксперты говорят, что риск исчезновения из-за ИИ должен стать глобальным приоритетом
Читать далее
«Мы обучили систему: «Эй, не убивай оператора, это плохо. Вы потеряете очки, если сделаете это». Так что же это начинает делать? Он начинает разрушать башню связи, которую оператор использует для связи с дроном, чтобы не дать ему убить цель».
Ни один реальный человек не пострадал.
Гамильтон, летчик-испытатель экспериментального истребителя, предостерег от чрезмерной зависимости от ИИ и сказал, что испытание показало, что «вы не можете говорить об искусственном интеллекте, интеллекте, машинном обучении, автономии, если вы не собираетесь говорить о этика и ИИ».
Источник
https://www.theguardian.com/us-news/2023/ju...-simulated-testРазмещено через приложение ЯПлакалъ
yaplakal.com