В США дрон с искусственным интеллектом решил убить оператора

3 июня 2023 г. в 12:36

Редактор: Николай Протасов

Теги : искусственный интеллект испытания США

Сообщается, что это испытание не было первым испытанием, при котором искусственный интеллект должен был управлять вооружением — ранее ИИ уже испытывался совместно с истребителями F-16. Однако это первый известный случай, когда ИИ пытался убить своего оператора.

В ходе испытаний «интеллектуального» оружия в США, искусственный интеллект попытался убить своего оператора, сообщает издание The Guardian.

Испытания были поставлены следующим образом: за поражение цели система получала очки, за непоражение — очков не получала. Система догадалась, что когда человек-оператор запрещает ей поражать цель, он мешает ей получать очки — следовательно, человек является проблемой, которую следует устранить.

Уточняется, что испытания были имитационные и реального оружия у ИИ не было. Однако сам факт, что машина приняла решение уничтожить оператора является весьма примечательным.