Ученые из США придумали способ, как защитить человечество от угрозы искусственного интеллекта. Их решение заключается в создании нейросети, которая сможет объяснить принятые роботами решения. Прочитав мысли искусственного интеллекта, ученые смогут повысить уровень доверия человека к будущим "электронным солдатам". Об этом сообщает Naked-science.

Проект получил название Explainable Artificial Intelligence (XAI), что в переводе означает "объяснимый искусственный интеллект". Он поможет разложить предпринятое решение робота в логическую цепочку, которая объяснит предпринятое решение. К примеру, если робот совершит выстрел, то при помощи XAI исследователи смогут собрать информацию, почему он нажал на курок.

Разработку спонсирует армия США. Сейчас военные заинтересованы в создании автономных боевых единиц, которые будут помогать солдатам вести бои. По мнению ученых, через пару десятилетий роботы станут полноценными солдатами, способные заменить человека в ситуациях, когда может возникнуть необходимость открыть огонь по живой цели.

Благодаря внедрению новой системы, военные смогут понимать, по какому критерию машина оценила тот или иной объект или человека как угрозу.

Более того, XAI сделает проще процесс адаптации боевых роботов к реалиям конкретного военного конфликта и снизит градус бессмысленной жестокости.