Здравствуйте, в этой статье мы постараемся ответить на вопрос: «Бесчеловечное решение: как развитие боевых роботов достигло опасной черты». Если у Вас нет времени на чтение или статья не полностью решает Вашу проблему, можете получить онлайн консультацию квалифицированного юриста в форме ниже.
Такая технология существовала в своей базовой форме уже несколько десятилетий. В 1980-х и 1990-х годах американские военные стратеги экспериментировали с ракетами «Томагавк» и «Гарпун», которые могли идентифицировать цели; обе используются по сей день.
Каковы аргументы в пользу смертельных и независимых оружий?
«Вы не можете справиться с каждой ситуацией. Вы совершите ошибку в любом случае», – утверждает Тони Серри, который до недавнего времени курировал аналитику данных и симуляции в Армии США.
Он считает, что вероятность совершения ошибки автоматизированным оружием очень низкая. «Робот, действующий в миллисекунды, проанализирует данные, которые вы даже не сможете понять, и решит, что это правильное время для использования конкретного оружия». Автоматизированное оружие зачастую сравнивают с беспилотными автомобилями. В обоих случаях машины управляют сложной средой без отвлечений, усталости и других человеческих факторов, которые могут привести к фатальным ошибкам. Тем не менее, оба аргумента в пользу технологий противоречат моделям поведения, которые возникают в результате того, что умные машины интерпретируют мир не так, как люди.
Научатся думать и станут убивать
Перспективы развития боевых РТК эксперты связывают с переходом от дистанционно управляемых систем к автономным, способным решать задачи с минимальным участием человека или совсем без него. Сам нашел цель, опознал ее и уничтожил. При этом возникает набор рисков, связанных с исключением человека из цепочки принятия решений, – на международных площадках это называется «проблемой значимого человеческого контроля». Можно ли делегировать машине право на убийство? Как будут взаимодействовать умные роботы с людьми, и может ли робот отдавать приказ человеку? Да и сам военный конфликт из противостояния вооруженных людей превращается (хотя бы частично) в противоборство человека и думающей машины, нацеленной на убийство людей…
По версии Вадима Козюлина, полностью автономное оружие может оказаться вне рамок международного гуманитарного права. Вдобавок встает проблема юридической ответственности за совершенные действия: если беспилотник неверно определит цели и применит по ним оружие, кто будет отвечать за ошибку?
Сейчас технологии искусственного интеллекта уже открывают широкие возможности для влияния на жизнь человечества. Например, для социальных манипуляций. По мнению специалистов, компьютерный анализ трёхсот лайков пользователя в соцсетях позволяет составить более точный психологический портрет человека, нежели это сможет сделать самый близкий родственник. Что эти знания могут быть применены в корыстных целях, подтверждает скандал, связанный с предоставлением информации о 50 миллионах пользователей Facebook в США предвыборному штабу Дональда Трампа накануне президентских выборов 2016 года. Но куда опаснее могут быть боевые роботы, несущие на себе смертоносное оружие в виде пулемётов, пушек и даже ракет. Сегодня окончательное решение об атаке принимает человек, искусственный интеллект боевой машины может дать только рекомендации. Но развитие технологий идёт столь стремительно, что в скором времени именно компьютеру могут доверить принятие решения.
Впервые о возможности переложить ответственность за гибель людей на машины на международном уровне сказали в 2014 году на заседании ООН. С тех пор в некоторых странах мира уже были созданы прототипы боевых машин, без помощи оператора идентифицирующие цели и принимающие решение об уничтожении противника. Естественно, страны, которые претендуют на серьёзную роль в мире, не желают отстать от конкурентов и вкладывают огромные средства в разработку всё более совершенных роботов.
Искусственный интеллект – это будущее не только России, это будущее всего человечества. Здесь колоссальные возможности и трудно прогнозируемые сегодня угрозы. Тот, кто станет лидером в этой сфере, будет властелином мира, — дал свою характеристику проблемы президент России Владимир Путин во время открытого урока со школьниками из разных регионов 1 сентября 2017 года.
По оценкам экспертов, до 2027 года государства потратят на развитие боевых роботов $487 млрд, а мировой рынок таких машин составит около $68 млрд (сегодня он оценивается в $39 млрд).
Эти роботы не несут вооружения, их целью является сбор разведывательной информации. Однако в профессиональной литературе активно обсуждается возможность создания вооруженных роботов, которые будут вести себя подобно саранче или другим насекомым.
Они должны объединяться в огромный рой при появлении противника и набрасываться на него, подобно тому, как муравьи атакуют свою жертву. Каждое такое устройство должно обладать небольшой боеголовкой или использовать кинетическую энергию удара.
Пит Сингер, специалист по будущим военным технологиям в Институте Брукингса в Вашингтоне, считает, что появление на поле боя боевых роботов поднимает фундаментальные вопросы.
«Время от времени в истории боевой техники наступает момент, когда появляется нечто, что приводит к полному изменению ситуации, — говорит он. — Например, так было с порохом, так было с пулеметом, атомной бомбой, компьютером. И боевые роботы могут стать такой революционной технологией».
«Это означает, что с их появлением изменится все — начиная с тактики, применяемой на поле боя, до организации войск, не говоря уже о вопросах политики, этики и права», — считает эксперт.
Для некоторых, насилие против роботов может показаться непримечательным. Действительно, есть ли повод для беспокойства? В недавнем телефонном интервью, директор института робототехники при университете Карнеги-Меллон, посоветовал обратить внимание на агрессию в сторону роботов для улучшения общества .
Возьмем, например проблему голода в мире. Автоматизированные технологии сельского хозяйства и умные алгоритмы могут существенно увеличить урожайность. Автономный трактор уже делает большие успехи в этом направлении. Также существует острая нехватка грамонтного медицинского обслуживания в некоторых частях мира. Появление алгоритмов машинного обучения для диагностики заболеваний может оказать существенное влияние в предоставление дешевого источника медицинской экспертизы для людей с небольшим или совсем никаким доступом к медицинскому обслуживанию.
Почему же существует угроза робот Апокалипсиса? Скорее всего, роботы будут играть ключевую роль в решении многих проблем общества и как люди будут реагировать на своих роботизированных помощников станет вопросом повышенной важности. В этом свете, недавний всплеск насилия против роботов — это больше чем небольшая тревога. Если люди выбирают путь борьбы с роботами, а не принимают, то переход к новой эре технологий вероятно станет неспокойным.
Пока ни в одной стране мира ещё не существует технологий, которые могли бы функционировать без контроля со стороны человека. Тем не менее подобные разработки ведутся. Так, специалисты из Технологического института Джорджии разработали особую программу, которая научит роботов… лгать. Правда, только друг другу.
— Подобная тактика может быть использована для роботов, охраняющих военные склады или боеприпасы на полях сражений, — сообщают авторы проекта. — Это поможет им обмануть врага и выиграть время до подхода подкрепления.
Известная компания Google применяет в своём программном обеспечении алгоритмы так называемого глубокого обучения (deep learning), которые имитируют деятельность нейронов в коре головного мозга. Это позволяет программам распознавать те или иные закономерности в звуках, изображениях и других виртуальных данных.
Контраст между практическим применением роботов и НФ существовал с момента появления этого жанра. В истории «Робби», открывавшей сборник «Я, робот» Айзека Азимова от 1950 года, Азимов предсказывал, что к 1998 году роботы уже будут передвигаться достаточно хорошо, чтобы стать партнёром по играм для детей, но при этом «Говорящий робот» будет громоздким устройством, ограниченным пределами музея. В реальности всё произошло наоборот – у вас в кармане, наверно, есть «говорящий» бот, умеющий отвечать на вопросы, но науке ещё предстоит в совершенстве овладеть биомеханикой человеческого движения.
Согласно доктору Сингеру, ноги являются сложной задачей для инженеров, поскольку они комбинируют задачи передвижения и балансировки. Для одного шага требуется работа десятка мускулов, суставов и связок, работающих вместе, от пальцев ног до бёдер, а тело и мозг при этом выполняют подстройку «на лету». Роботы ещё не дошли до этого. Из-за сложности задачи Сингер считает, что разработка ходячих роботов, даже таких известных их представителей, как Atlas от Boston Dynamics, находится в стадии «научного проекта».
«Работа над ними идёт, но ещё не один из проектов не был введён в действие,- говорит Сингер. – Нет ни одного рабочего прототипа, демонстрировавшегося на выставке. Мы ещё не дошли до этого».
По его словам, хотя в лаборатории антропоморфные роботы выглядят многообещающе, но сейчас они пригодны лишь для съёмки крутых видео для YouTube. Многие не могут работать без привязки к внешнему питанию. При этом, другие типы военных роботов – передвигающихся на колёсах, гусеницах, крыльях и пропеллерах – уже используются на полях сражений. «Роботы с ногами – всё ещё научный проект, а другие виды можно потрогать, увидеть в деле и купить».
Может ли искусственный разум не слушать человека
Несмотря на стремительное развитие робототехнической отрасли, существующие сегодня интеллектуальные системы нельзя назвать полноценной конкуренцией человеческому разуму.
Так, специальные программы могут обыграть шахматиста, но не могут отвечать на вопросы, ответы на которые не были ранее запрограммированы. Происходит это потому, что ИИ еще не настолько умен. Основное, чего ему пока не хватает, — автономной возможности думать.
Умные системы работают в соответствии с заранее заданными человеком параметрами. Они способны решать лишь те задачи, для которых и были разработаны, искусственный разум не будет работать в других направлениях. Он не сможет ослушаться человека или принять самостоятельное решение, поскольку попросту на это не способен.
Почему люди боятся роботов
В психологии существует термин – эффект «зловещей долины». Согласно научной гипотезе, любой искусственный объект, внешне напоминающий человека (в том числе и робот-андроид), вызывает у наблюдателя дискомфорт и подсознательный страх.
Люди симпатизируют человекоподобным анимационным и кукольным персонажам, но лишь до некоторого предела. Реалистичный неживой объект пугает мелкими несоответствиями своему прообразу.
Первоисточник возникновения такой реакции до конца не изучен. Психологи предполагают, что безотчетный страх порождается работой мозга, который фиксирует даже малейшие отклонения от «нормальности»: четкую симметрию лица, неестественные позы, монотонность речи и т. д.
Андроиды, находящиеся между категориями «робот» и «человек», вызывают у наблюдателя чувство тревоги и воспринимаются им как угроза. Этот феномен часто используют кинематографисты. Сюжеты фильмов «Терминатор», «Трансформеры», «Киборг», «Я робот» основаны на иррациональном страхе людей перед человекоподобными роботами.
В то время как производственные машины, не обладающие внешним сходством с человеком, воспринимаются как неодушевленные предметы и не вызывают негативных эмоций.
Дети, воспитанные роботами, будут мало приспособлены к жизни
В будущем будет оставаться все меньше дел, которых нельзя доверить роботам. Чисто технически они смогут делать все. Уже сейчас роботы способны развлекать детей в отсутствие пап и мам. Но прогресс не стоит на месте. Однажды мы поддадимся соблазну и доверим им воспитание наших детей. Казалось бы, ну что в этом ужасного – робот и накормит, и спать уложит, и даже прочитает сказку. Расскажет, что делать можно, а чего делать нельзя. А еще оденет ребенка, погуляет с ним и проследит, чтобы он не спутался с плохой компанией и не залез, куда не следует. Сделает все, на что не нахватает времени у родителей. Даже подерется с обидчиком вашего чада. Ваш ребенок будет сыт и одет. Но в будущем воспитание роботом чревато проблемой.
Британский эксперт по робототехнике, профессор Ноэль Шарки предостерегает нас о новой проблеме, связанной с роботами. Профессор считает, что пора задуматься о влиянии роботов на человеческие взаимоотношения. Неконтролируемый рост числа роботов, по мнению Шарки, может привести к недостатку общения между людьми. Причем это касается как социальных роботов, способных общаться с человеком – домашних помощников, воспитателей, медперсонал, – так и различных автоматов и систем, заменяющих людей, например беспилотных автомобилей. Но особенно негативно это отразится на детях.
Если дети будут общаться с роботами, а не с родителями или сверстниками, то неизвестно, как это скажется на их психике и самом важном процессе детства – социализации.
Мы рискуем получить новых маугли. Маугли каменных джунглей, воспитанных роботами, которые просто не найдут общего языка с другими людьми уже во взрослой жизни. Кроме того, по мнению Шарки, есть риск, что повзрослевшие дети, воспитанные роботами, просто забросят своих родителей.
…но в будущем роботы превзойдут нас
Сейчас бытовые роботы – это роботы-пылесосы и милые роботы, развлекающие наших детей. Завтра они станут более универсальными. Роботы-сиделки, кулинары, носильщики и другие домашние роботы станут все более похожи на людей. Все еще больше изменится, когда технологии позволят создать робота с интеллектом, подобным человеческому.
Роботы будущего будут существовать на стыке двух миров – виртуального и реального – и смогут использовать преимущества обоих. Им будет доступна все информация Интернета и возможности их искусственных тел. Нам будет сложно конкурировать с ними.
Мы стоим на пороге взрывного развития робототехники. Нам уже доступны многие технические возможности в создании роботов, только стоит ли их использовать? Ученые по всему миру предостерегают нас от многих опасностей, связанных с массовым появлением роботов в нашей жизни и, в частности, в наших домах. Но они не призывают к тому, чтобы остановить прогресс и запретить создание роботов и искусственного интеллекта. Речь идет о том, чтобы выявить заранее скрытые угрозы, связанные с появлением роботов в нашей жизни, и выработать правила и стандарты робототехники, которые позволили бы нам чувствовать себя в окружении роботов безопасно.
Надежды на искусственный интеллект
Современные роботы делятся на управляемые оператором, полуавтономные и автономные машины. В целом человечество стремится к максимальной автономизации робототехники. Толчком к появлению автономных боевых машин является развитие самообучающихся систем нейронных сетей.
Роботы будущего должны действовать независимо от человека, обладать способностью к анализу допущенных ошибок, накоплению опыта и самообучению. Нынешние роботы, а точнее — робототехнические системы, пока не могут работать полностью самостоятельно в боевых условиях.
Боевые машины, которые демонстрируются на выставках и полигонах, управляются оператором. Военнослужащий с переносной станцией радиоуправления, как правило, находится в сотнях метров или нескольких километрах от робота.
Есть ли у робота Софии чувства?
На основе фотографий в Instagram, В эмоциях Софии преобладают нейтральные и счастливые, за которыми следуют печаль и удивление..
Как роботы повлияют на рабочие места в будущем? В отчете PwC за 2015 г. говорится Скорее всего, пострадают рабочие места, в которых системы компьютерного обучения или робототехника способны выполнять простые и рутинные задачи быстрее и точнее, чем люди.. «Как правило, это неквалифицированная или малоквалифицированная работа в офисах, на фабриках и в магазинах», — говорится в документе.
Какие рабочие места исчезнут к 2030 году?
5 рабочих мест, которые исчезнут к 2030 году
- Тур-агент. Меня поражает, что в 2020 году турагент по-прежнему работает …
- Водители такси. …
- Касси магазина. …
- Повара быстрого питания. …
- Административно-правовые вакансии.