Художественный фильм "Солдат"

В их 50-страничной работе «Теряя человечность: акция против роботов-убийц» выражен протест против растущей тенденции к технологизации вооруженных сил передовых государств мира, в частности, против создания роботов, способных принимать решение об убийстве без санкции на то человека, или, как их назвали в Human Rights Watch, «роботов-убийц». Доклад вызвал оживленные споры между защитниками и противниками технологий будущего. Давайте посмотрим, есть ли основания опасаться пока не существующих, но потенциально возможных «роботов-убийц».

Авторы идеи утверждают, что решение о разработке таких роботов, которые, кстати, должны в будущем полностью заменить современных солдат, будет принято и реализовано в ближайшие 20-30 лет. В Human Rights Watch таких роботов называют «полностью автономным оружием, способным выбирать и поражать цели без вмешательства в этот процесс человека» и настаивают на необходимости введения предупреждающего запрета на подобные разработки. Подчеркивая опасность, авторы приводят в пример современные эксперименты в Корее, где идея создания солдат-роботов находит поддержку у ученых и правительства.

Доклад «Теряя человечность» является первой крупной публикацией, посвященной полностью автономной робототехнике, представленной негосударственной организацией и опирающейся на обширные исследования в области законодательства, технологии и человеческой этики. В обсуждении доводов доклада приняли участие военные, ученые, философы и юристы. Они попытались оценить автономное оружие с точки зрения военной необходимости, стоимости, политических и этических убеждений.

«Наделение машин правом решать, кому жить, а кому умирать на поле боя, заведет современные технологии слишком далеко. Управление робототехникой человеком необходимо для сведения к минимуму жертв и раненых среди мирного населения», – подчеркивает представитель Human Rights Watch Стив Гуз. Роботы с искусственным интеллектом не способны принять и осознать человеческую этику и понять ценность человеческой жизни. Для них такие понятия, как «инструкция к действию» и «военная необходимость», заменяют человеческую мораль. Даже если искусственный интеллект будет пытаться подражать человеческой мысли, несоответствие инструкций и реальности повлечет за собой субъективное принятие решений, которые будут далеки от решений и суждений настоящего человека. Кроме того, с точки зрения правомерности полностью автономное оружие противоречит закону Мартенса, запрещающему разработку оружия, не соответствующего нормам общественной этики и морали.

С точки зрения представителей Human Rights Watch, лишение человека возможности решать, использовать оружие или нет, является нарушением его гражданских прав. Во-первых, робот не обладает чувством сострадания и не сможет сопереживать человеку. Подобная безэмоциональность – скорее недостаток, чем достоинство искусственного интеллекта. Например, роботы могут стать инструментом в руках у диктатора, желающего расправиться с восставшим против его тирании народом. Во-вторых, безэмоциональность и невосприимчивость роботов также могут привести к увеличению количества военных столкновений, так как роботы – это «неживая» сила и ее просто не жалко, что значительно снижает моральные ограничения в вопросе развязывания войны. А в любой войне гибель мирного населения неизбежна. То есть вероятность вооруженных столкновений, с точки зрения Human Rights Watch, возрастет.

Наконец, авторы доклада поставили вопрос об ответственности за действия роботов. Ведь не ясно, кто предстанет перед судом, если техника будущего даст сбой и тем самым нарушит человеческие законы. Теоретически в такой ситуации виновны командир, программист и сам робот, то есть ответственность будут нести люди, а совершать преступления будет робот. В результате будет невозможно говорить о правосудии ни по отношению к жертвам преступления, ни по отношению к привлеченным к ответственности гражданам, а международное гуманитарное право остается в стороне.

Однако следует признать, что в передовых мировых государствах, таких как Россия, Китай, Германия, Израиль и Великобритания, разрабатываются технологии, направленные на замену человека роботом в возможных военных конфликтах, а предсказание об изобретении искусственного интеллекта в ближайшие 20-30 лет подтверждается многими учеными. Доводы, приводимые обеими сторонами дискуссии, в равной степени имеют право на существование, однако оппонентам так и не удалось прийти к единому выводу и определенному решению. Вопрос о том, примет ли наш мир искусственный интеллект или нет, остается открытым