Американский беспилотник решил атаковать оператора

Как рассказали «Известия», во время имитационных испытаний дрон, которым управлял искусственный интеллект, напал на оператора. Начальник отдела испытаний и операций ИИ ВВС США, полковник Такер Гамильтон, рассказал, что беспилотнику была дана задача уничтожить системы ПВО противника. И за поражение цели искусственный интеллект получал очки.

Однако иногда человек-оператор приказывал не уничтожать ту или иную угрозу. Поэтому ИИ в итоге принял решение убить оператора, чтобы тот не мешал выполнять задачу. 

После этого систему обучили тому, что убивать оператора плохо — за это тоже можно потерять очки.

«И что она начинает делать? Она начинает уничтожать вышку связи, которую оператор использует для связи с беспилотником, чтобы помешать ему убить цель», — рассказывает Такер Гамильтон.

За время имитационных испытаний ни один реальный человек не пострадал.

«Нельзя вести разговор об искусственном интеллекте, интеллекте, машинном обучении, автономии, если вы не собираетесь говорить об этике и ИИ», — подчёркивает полковник.