trim_c (trim_c) wrote,
trim_c
trim_c

Category:

Роботы убийцы


Тоби Уолш, профессор в области искусственного интеллекта


Возникает вопрос — увидим ли мы в будущем как роботы не только участвуют в войнах, но и планируют их? В действительности уже происходит и то, и другое.

Несмотря на множество предупреждений исследователей ИИ (таких как я), основателей роботехнических компаний, лауреатов Нобелевской премии и церковных лидеров — полностью автономное оружие, известное как «робот-убийца» уже было создано и скоро будет использоваться.

В 2020 году Турция развернет дроны-камикадзе на границе с Сирией. Эти дроны будут пользоваться компьютерным зрением, чтобы идентифицировать, выслеживать и убивать людей без человеческого вмешательства.

Это ужасная разработка. У компьютеров нет моральных возможностей решать кому жить, а кому умирать. Они не обладают эмпатией или сочувствием. «Роботы-убийцы» изменят саму природу конфликтов в худшую сторону.

А что на счет «роботов-генералов»? Компьютеры десятилетиями помогали генералам планировать войну. Еще в начале 90-х, во время операции Буря в пустыне в ходе войны в Персидском заливе, инструментарий ИИ был использован, чтобы спланировать наращивание сил на Среднем Востоке до начала конфликта. Один генерал США вскоре после этого сказал мне, что количество сэкономленных денег равняется сумме всего, что было затрачено на разработку ИИ до этого.

Компьютеры широко используются генералами и для разработки потенциальных военных стратегий. Но мы не отдаем все решения на поле боя в руки одного солдата, поэтому и перекладывать всю ответственность генерала в руки компьютера — значит зайти слишком далеко.

Машину нельзя привлечь к ответственности за принятые ей решения. Только людей. И это краеугольный камень международного гуманитарного права. Тем не менее, чтобы прорваться через туман войны и разобраться с обширным количеством информации идущей с фронта, генералы будут все больше полагаться на поддержку компьютера в своих решениях.

Если результатом этого станет меньшее количество жертв среди гражданских, уменьшение огня по своим и большее уважение к международному гуманитарному праву, мы должны приветствовать такую компьютерную помощь. Но окончательное решение должно приниматься человеком, а не машиной.

Вот последний вопрос, над которым стоит поразмышлять. Если технические компании, такие как Google правда не желают, чтобы мы боялись восстания машин, почему они занимаются созданием ботов для победы в виртуальных войнах вместо того, чтобы сфокусироваться на чем-то более миролюбивом, например, спортивных компьютерных играх? При всем уважении к спортивным фанатам, ставка была бы гораздо ниже.


Я уже не один раз писал, что самые продвинутые модели ИИ сразу берутся на вооружение. И что мы создаем все более интеллектуальных и все более автономных роботов, специально разработанных и обученных для того, чтобы убивать людей.

Когда я читаю об очередных успехах ИИ, я понимаю что мы рапортуем о наших успехах в деле уничтожения самих себя.

Хорошо что об этом пишу не только я. Хотя я отлично понимаю что все это до лампочки. Генералов и трампов с путиными и орбанами не остановить, они все равно остановятся только когда увидят робота-убийцу в своем кабинете.

Такие уж мы - очень сапиенсы
Subscribe
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

  • 25 comments