Персональный сайт Николая Арестенко                                                                                                  ВЫ МОЖЕТЕ БЫТЬ ЛИБО ПРАВЫ, ЛИБО СЧАСТЛИВЫ

Категории раздела

Мои статьи [10]
Политика [195]
Экономика [110]
Кризис [270]
Информационный мир [61]
Это интересно [83]

Полезные ссылки

Поиск

Seo анализ сайта

Каталог статей

Главная » Статьи » Информационный мир

Роботы сделают войну более гуманной

Создать идеального терминатора мешают международные конвенции

Моральный кодекс для киборгов от Айзека Азимова безнадежно устарел. Хотя, казалось, формулировки «Трех законов роботехники» столь же всеобъемлющи, сколь и изящны:

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат первому закону.

3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит первому и второму законам.

Эти максимы были написаны почти 70 лет назад. Но ко времени, когда обрели актуальность этические проблемы, связанные с использованием роботов, они оказались слишком утопичны для применения.

В декабре минувшего года компания In-Q-Tel — венчурное предприятие ЦРУ, которое инвестирует в разработки гражданского назначения, представляющие интерес для разведслужбы, — провела конференцию, на которой выступил философ Патрик Лин, один из ведущих специалистов по этике новых технологий. Его доклад «Этика беспилотников» вполне можно считать некрологом для азимовских «Трех законов», хотя Лин о них даже не упомянул. Зато он описал множество ситуаций, в которых целесообразность применения машин вступает в противоречие с моралью.

Счет роботов, предназначенных для военных целей и нужд шпионажа, уже идет на десятки тысяч. Силовиков привлекает то, что машины отлично справляются с работой по формуле трех D — Dull, Dirty, Dangerous, то есть скучной, грязной и опасной. Они не устают от продолжительного патрулирования, не рискуют отравиться и ими легко пожертвовать в случае неудачного разминирования или зачистки тоннелей от боевиков. При этом использование роботов на поле боя и в шпионаже не регламентируется ни законами, ни конвенциями, хотя такая необходимость давно назрела.

Лин отмечает, что в эту формулу все чаще добавляют четвертое D — Dispassion, отсутствие эмоций, хотя ценность этой черты вовсе не очевидна. Впрочем, сам Лин полагает, что это скорее плюс. Роботам неведома ярость и ненависть, в машинном масле нет адреналина, и все это снижает риск расстрелов пленных, изнасилований и других военных преступлений. Машинам не грозит нервное истощение, голод и усталость, которые сказываются на реакциях и мыслительных способностях человека; кроме того, их сенсоры более чувствительны, нежели наши органы чувств, и это уменьшает вероятность случайных убийств. Вместе с тем они могут оставаться объективными, невозмутимыми наблюдателями, гарантируя этичное поведение в военных условиях. Поэтому, полагает Лин, роботы способны выполнять многие из наших работ лучше нас и, возможно, действовать более этично, по крайней мере, в условиях сильного стресса войны.

Но означает ли это, что роботу можно позволить в определенных ситуациях не подчиняться человеку? Если, к примеру, получив приказ «уничтожить», он идентифицирует цель как ребенка или убежище, полное гражданских лиц? Нынешние роботы зачастую не в состоянии отличить наставленный на них ствол от рожка мороженого в руках девочки, но у людей также с этим бывают серьезные проблемы, как показывает опыт иракской и афганской кампаний.

В то же время применение боевых роботов чревато несоизмеримым поставленной задаче сопутствующим ущербом, как это уже сейчас нередко случается, когда беспилотники ЦРУ охотятся на членов «Аль-Каиды». Да и какое количество невинных жертв можно считать приемлемым в такой ситуации? Как классифицировать такую операцию, противоречащую нынешним правилам ведения войны? Кто-то называет ее «целевым устранением», кто-то — «заказным убийством», но эти понятия никак не трактуются международным законодательством, а кроме того, несут противоположную смысловую окраску. Опять же, неясно, кто должен ответить за действия или бездействие робота.

Предположим, будет создан терминатор, который безошибочно ликвидирует только военные цели. Но, как ни странно, тем самым будет нарушено требование Международного комитета Красного Креста (МККК), которое запрещает применение оружия, смертность от которого превышает 25% на поле боя и 5% — в госпиталях. В то же время МККК — единственный регулятор в области международного гуманитарного права (МГП), поэтому его требования не оспариваются (хотя нередко игнорируются). Робот с эффективностью, близкой к 100%, по определению будет признан слишком негуманным средством ведения войны (по той же причине под запретом оказалось и химическое оружие). Это противоречит понятию честного боя, которое основано на теории справедливой войны — фундаментальном положении МГП. Не говоря уже о том, что создание такого робота ставит вопрос об этичности изготовления машин, самостоятельно уничтожающих людей. Другие нормы МГП также применимы к роботехнике. Усовершенствование солдат с помощью фармацевтики или кибернетики может трактоваться как создание биологического оружия, ведь соответствующая конвенция не сводит это понятие к патогенным микроорганизмам и их производным.

К слову, если такой солдат невосприимчив к боли в силу генной или технологической модификации, можно ли его подвергать пыткам? И будет ли считаться пыткой удар молотком по механической конечности? Можно представить и обратную ситуацию — ведь привлечение роботов к допросам с пристрастием освобождает от морального бремени врачей: машины не давали клятву Гиппократа, но они отлично справляются с регистрацией жизненных показателей человека. А отсутствие эмоций и психических отклонений позволяет им причинять дозированную боль.

Впрочем, с другой стороны, отмечает Лин, роботизированные тюремщики, по идее, не будут издеваться над заключенными, а значит повторения Абу-Граиба и Гуантанамо можно не бояться. Правда, автор доклада опускает вопрос, не станет ли для заключенных психологической пыткой вынужденное общение с «жестянками».

Достижения в области роботехники поднимают также вопрос о неприкосновенности частной жизни. Усовершенствование возможностей считывания биометрических показателей, обнаружения и идентификации предметов (оружия, наркотиков и т.д.) на расстоянии стирает грань между наблюдением и обыском. В отношениях между государствами проблема становится еще глубже. Свежий тому пример — история с падением в Иране новейшего американского разведчика-беспилотника. С одной стороны, противник таким образом получает доступ к самым секретным технологиям. С другой, — будь на таком аппарате система самоуничтожения и сработай она в неудачный момент (скажем, его нашли дети), будет ли это считаться поводом для войны? Да и в более широком контексте, технические методы разведки постепенно стирают грань между шпионажем и войной, снижая порог применения силы. И весьма симптоматично, что новая доктрина Пентагона предусматривает возможность физического удара в ответ на киберугрозы.

Из всего этого следует очень неутешительный вывод: возлагая на роботов все больше человеческих задач, мы все больше от них зависим, теряя частицу себя. Ведь даже любимые наши изобретения имеют этот побочный эффект. Наша память ослабла благодаря печатному станку, мы хуже справляемся с вычислениями благодаря калькулятору, мы пишем с ошибками, потому что в текстовых редакторах есть проверка правописания. Что отберут у нас киборги?

Алексей Кафтан



Источник: http://gazeta.comments.ua/?art=1326355399
Категория: Информационный мир | Добавил: proxyz100 (16.03.2012)
Просмотров: 299 | Рейтинг: 0.0/0

  Горячие статьи

  • Сможет ли Майдан победить?
  • Мир, где невозможна победа
  • Почему гарантирован обвал рынка
  • Прогноз на будущее
  • Война за новый мировой порядок
  • Ювенальный террор
  • Краткое изложение теории кризиса
  • Добро пожаловать в ад
  • Теории заговоров, которые подтвердились
  • Бомба: ньютаунский стрелок умер за день до расстрела
  • Революция капитализма
  • Элита США прячется по норам
  • Большой Взрыв уничтожит 1/2 ВВП Евросоюза
  • Украина. На пороге шухера
  • Ветер непростых перемен
  • Могут ли хранилища западных центробанков быть пустыми?
  • Мир на пороге новых времен
  • Коррупция в Украине — это извращенная форма общественного договора
  • Кто предупреждён, тот вооружён
  • Феодальная Украина для чайников
  • Будущее, которого никогда не будет
  • Предчувствие Железной пяты
  • Верхи не могут
  • Провал в новое варварство
  • Выживание в условиях кризиса. Готовимся
  • Как правительство распоряжается нашими деньгами
  • Центр Спасения Цивилизации
  • Что такое настоящий кризис?
  • Разговор Плохиша и Кибальчиша
  • Статистика