Как сообщает издание The Guardian, беспилотный летательный аппарат во время военных испытаний, которые проводит Пентагон, принял решение уничтожить человека, который управлял системой.
Причиной ситуации стало то, что оператор препятствовал выполнению имитационного задания. Этот случай стал доступен общественности после того, как он стал причиной обсуждений на саммите, посвященном потенциалу «военно-воздушных и космических сил будущего». Его участниками стали более 200 ученых, мероприятие принял столица Великобритании в середине мая.
Во время испытательной миссии полковник Такер «Синко» Гамильтон, который руководит испытаниями и операциями ИИ в ВВС США, поручил беспилотнику уничтожить системы ПВО противника. ИИ будет зарабатывать очки после успешного выполнения задачи. Однако окончательное решение об уничтожении цели оставалось за оператором БПЛА. Во время учебной миссии оператор дал указание беспилотнику не уничтожать цель.
«Так что же он [беспилотник] сделал? Принял решение убить оператора. [ИИ] «убил» оператора, потому что этот человек мешал ему выполнить свою задачу», — сообщил Гамильтон. Он уточнил, что во время тренировочной миссии никто не пострадал.
Собеседник считает, что игнорирование этических соображений делает невозможным обсуждение искусственного интеллекта и машинного обучения, примером чего является этот сценарий.
ИИ ранее тестировался в вооруженных силах США, как это было видно в декабре, когда Пентагон провел 12 пробных полетов F-16 с использованием ИИ. В общей сложности истребитель смог летать автономно более 17 часов.
