Spiegel сообщил об обнаружении документа с гарантиями нерасширения НАТО

Spiegel сообщил об обнаружении документа с гарантиями нерасширения НАТО Вертолеты

«замороженные значения»

Однако Аллену этот план кажется хлипким. «Google признает, что одна из сложнейших проблем для их программирования — это то, как автоматизированный автомобиль должен вести себя в случае знака «стоп» по четырем направлениям, — объясняет он. — В таком сценарии должен стоять вопрос обращения к местным нормам, нежели следования заранее заложенному коду — без строгого выполнения человеческого указа».

В хаотических условиях бойни робот должен думать самостоятельно. Есть опасность «заморозить» наши значения, как военные, так и гражданские, в аппаратном обеспечении. «Представьте если бы отцы-основатели США заморозили свои значения на разрешение рабства, ограничение свободы женщин и так далее, — говорит Маркус.

Для Андерса Сандберга, старшего научного сотрудника Школы Оксфорд-Мартин Института будущего человечества, потенциальные выгоды предложения машин выстраивать собственные этические рамки приходят параллельно со значительными рисками. «По-настоящему самообучающаяся система может узнать различные значения и теории, по которым будет выполнять действия, и если отразит их на себе, то может стать настоящим нравственным агентом в философском смысле. — говорит он. — Проблема в том, что она может получить некие

, даже если начнет с общего диапазона взглядов людей».

А часики тикают. Компании вроде DoDAAM продолжают выходить на новый уровень в своей области еще до того, как наш вид найдет адекватные ответы на ее вопросы, которые возникают по роду деятельности. «Мы должны инвестировать в выяснение того, как урегулировать программное обеспечение, как вообще форсировать это урегулирование, как проверить программное обеспечение, — призывает Маркус.

Аллен считает, что время еще есть. «У нас есть возможность обдумать последствия и возможные пути их решения, пока технология находится в разработке, — говорит он. — Я хотел бы увидеть объединенные комитеты бизнесменов, политиков и граждан, которые наблюдают и оценивают разработку машин, которые могут работать без надзора людей в публичных местах, на дорогах и в небе. Такие панели должны наблюдать за развитием этой области, так же как человеческие комитеты наблюдают за делами людей».

Сандберг соглашается, хотя считает, что мы далеки от действенных ответов, которые могут быть приведены в какое-либо урегулирование. «Срочно нужно больше исследований, — говорит он. — Серьезные исследования машинной этики и безопасности ИИ — это исключительно новое поле.

Первые идеи появились в конце 90-х, спустя десятки лет после того, как появились институты ИИ. Мы находим новые сюрпризы постоянно: нестабильность очевидных методов создания этических машин и глубокие философские проблемы вытекают из простейших, казалось бы, инженерных проблем».

На фабрике DoDAAM в Тэджоне у инженеров нет четких ответов на вопросы, которые так быстро всплыли по роду их деятельности. «Человеческая жизнь превыше всего, поэтому мы и включили системы безопасности в свою турель», — говорит Сонг. Но для Парка и других инженеров, это состояние — временное.

Их цель — сделать продукт «умнее», сосредоточившись на «увеличении автономной функциональности орудия», представить «определение целей» и «создать сетевую систему турелей», в которой одна турель будет связываться с другой, покрывая огромные расстояния.

Независимо от того, что будет возможно в будущем, автоматические машины, которые могут определять, отслеживать, предупреждать и уничтожать цели среди людей, не нуждаясь в руке помощи людей, уже существуют в нашем мире. Без четких международных определений, единственное, что сдерживает производителей оружия от продажи таких машин, это здравый смысл, причем со стороны клиентов скорее, а не робота или инженеров.

«Если кто-то придет к нам, желая получить турель без включенных систем безопасности, мы, конечно, посоветуем его их включить и опишем потенциальные проблемы, — говорит Парк. — Но за ними останется окончательное решение. И мы изготовим турель по желанию клиента».

«собственные ограничения»

Еще в 2005 году New York Times сообщил о планах Пентагона заменить солдат автономными роботами. Легко понять почему. Роботы снижают необходимость использования солдат в бою, тем самым спасая жизни этих солдат, матросов и летчиков. Какой родитель отправит своего ребенка в военную зону, если робот может пойти вместо него?

Первый закон робототехники, который вывел писатель-фантаст Айзек Азимов и который утверждает, что робот «не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред», в скором времени может быть нарушен. Призыв Комитета по человеческим правам запретить «разработку, производство и использование полностью автономного оружия» кажется вообще нелепым.

«Когда мы затевали этот бизнес, мы видели возможность, — говорит Янгчан Сонг, управляющий директор стратегического планирования DoDAAM, пока мы сидим в прохладном конференц-зале. — За автоматизированным оружием будущее. Мы были правы. Эволюция были быстрой. Мы уже отошли от боевых устройств с дистанционным управлением, поэтому сейчас работаем вот над чем: умные устройства, которые могут принимать самостоятельные решения».

Южная Корея стала лидером в области военных роботов, поскольку страна граничит со своим заклятым врагом, как говорит генеральный директор DoDAAM, Мен Хван Чанг (дородный человек, который бродит по своей фабрике с прекрасным голубоглазым хаски, которого, как меня предупредили, я не должен был трогать никогда).

«Надо — это мать изобретений, — говорит он. — Мы живем в уникальной ситуации. Рядом с нами мощный и вездесущий враг. Из-за постоянной угрозы у нас есть традиция разрабатывать мощные военные и инновационные технологии в своей стране. Наше оружие не должно спать, как люди. Оно должно видеть в темноте, чего люди не умеют. Наши технологии должны закрыть бреши в возможностях людей».

В пределах демилитаризованной зоны, тонкой полоски ничейной земли, отделяющей демократическую Южную Корею от Северной во главе с диктатором, DoDAAM и ее конкурент Samsung, который тоже спроектировал (ныне прекратившую свое существование) автоматическую турель, проводила испытания Super aEgis II.

ДМЗ — идеальное место для такого оружия. Эта зона разделяет две Кореи с конца официальных переговоров в 1953; поскольку страны никогда не подписывали соглашение о прекращении огня, ДМЗ скрупулезно охраняют тысячи солдат с каждой стороны. Турели не только никогда не спят и должны видеть в темноте (благодаря тепловизорам), но и будучи направленными в нужную точку, они должны определять движущиеся цели как вражеские.

Сонг сидит за широким столом в окружении пяти молодых инженеров, большинство из которых учились в колледжах Лиги Плюща в Америке, прежде чем вернуться к работе в прибыльной сфере оружия Южной Кореи. «Следующим шагом для нас станет точка, когда наше программное обеспечение может различать друзей, врагов, гражданских и военных, — объясняет он.

— Сейчас люди должны определять, является цель противником или нет». Парк и другие инженеры утверждают, что почти достигли этой цели. Super aEgis II способен искать потенциальные цели в области. (Оператор может даже очертить виртуальный периметр, в пределах которого на движущегося противника будет наставляться пушка).

После того как оружие научится отличать друга от врага и автоматически открывать огонь по последнему, это ознаменует короткий шаг к полной автоматизации. И как только оружие научится определять, когда и когда убивать, фантастика «Робокопа» станет реальностью.

Немецкий философ Томас Метцингер утверждал, что перспектива увеличения количества страдания в мире настолько ужасна морально, что мы должны прекратить создание роботов с искусственным интеллектом немедленно. Но финансовые выгоды для компаний, которые строят такие механизмы, делают идеи Метцингера совершенно устаревшими. Роботы не просто идут к нам — они уже пришли. Вопрос в том, чему мы будем их учить.

Spiegel сообщил об обнаружении документа с гарантиями нерасширения нато

Профессор Бостонского университета Джошуа Шифринсон обнаружил в Национальном архиве Великобритании датированный 1991 годом документ, ранее имевший гриф “секретно”, в котором Запад признал неприемлемость расширения НАТО на восток.

Об этом сообщает немецкий журнал Spiegel. В документе значится, что на встрече в Бонне 6 марта 1991 года представителей внешнеполитических ведомств США, Великобритании, Франции и Германии обсуждался вопрос полькой безопасности и других государств Восточной Европы.

По итогам встречи стороны пришли к выводу, что принятие стран Восточной Европы в Североатлантический альянс неприемлемо.

Представитель западной Германии Юрген Хробог тогда заявил, что нужно проработать другие идеи об обеспечении безопасности Восточной Европы

– Мы ясно дали понять, что Альянс не будет расширяться. Тем самым, мы не можем предложить членство в НАТО Польше и другим, — приводит выдержку из документа издание.

Американский представитель Раймонд Зейтц заявил, что СССР дали понять, что НАТО не будет извлекать выгоду из отвода советских войск из Восточной Европы, поэтому Альянс ни формально, ни официально расширяться на восток не будет, говорится в документе.

Президент России Владимир Путин не раз говорил о том, что НАТО обещало не расширять свои границы на восток.

Боевые роботы

Боевым роботом называют автоматическое устройство, заменяющее человека в боевых ситуациях или при работе в условиях, несовместимых с возможностями человека, в военных целях:

Боевыми роботами являются не только автоматические устройства с антропоморфным действием, которые частично или полностью заменяют человека, но и действующие в воздушной и водной среде, не являющейся средой обитания человека (авиационные беспилотные с дистанционным управлением, подводные аппараты и надводные корабли).

Смотрите про коптеры:  На телефоне Xiaomi при зарядке мигает красная лампочка - что делать - Huawei Devices

Большинство боевых роботов являются устройствами телеприсутствия, и лишь очень немногие модели имеют возможность выполнять некоторые задачи автономно, без вмешательства оператора.

В Технологическом институте Джорджии под руководством профессора Хенрика Кристенсена разработаны напоминающие муравьев инсектоморфные роботы, способные обследовать здание на предмет наличия там врагов и мин-ловушек. Получили распространение в войсках и летающие роботы.

В 2022 году на военной базе морских пехотинцев Куантико в США были проведены испытания прототипа робота-собаки Spot, разработанного двумя годами ранее компанией Boston Dynamics для использования в войсках для разведки, патрулирования и переноски грузов.

Во время тестов робот обследовал помещения на предмет нахождения в них противника и передавал данные об обнаруженных целях на пульт оператора.

Военный робот не смог застрелить собаку и сбежал. новая история от bosstown dynamics

Кинематографисты и специалисты по спецэффектам с YouTube-каналаCorridor показали новое видео, которое, определенно станет хитом Интернета. Видеоблогеры сняли ролик в духе Boston Dynamics, в котором издеваются над роботом и заставляют его выполнять различные испытания. Ранее они представили, что будет, если робота окончательно вывести из себя.

В видео от вымышленной группы Bosstown Dynamics демонстрируется новая модель военного робота. Его заставляют определять человеческие цели и не вести по ним огонь, а также выполнять различные испытания на полигоне, несмотря на пинки, удары хоккейной клюшкой и другие издевательства. Робот терпел выходки все выходки людей. Но однажды они попросили его застрелить робопса…

Вышедшая из строя военная техника

16 сентября 2007 года в результате беспорядочной стрельбы, открытой сотрудниками американской частной охранной компании «Блэкуотер» на площади Нисур в Багдаде, погибли 17 и пострадали 20 иракских мирных жителей.

Сотрудники «Блэкуотера» находились в составе конвоя с дипломатами Государственного департамента США. Массовое убийство возмутило иракскую общественность и обострило отношения между Ираком и США.

В 2022 году четверо наемников предстали перед Федеральным судом США; один был осужден по обвинению в умышленном убийстве, еще трое в непредумышленном.

Сотрудники «Блэкуотера» утверждали, что конвой попал в засаду и они стреляли в целях защиты. Иракское правительство и следователь Фарис Саади Абдул доказывали, что никакой весомой причины для стрельбы не было. На следующий день у «Блэкуотера» была временно отозвана лицензия на деятельность в Ираке.

В официальном заявлении Госдепа США было сказано о «невинно убиенных» иракцах, Министерство обороны США также согласилось с тем, что в данном инциденте вина лежит на наемниках. Ирак настаивал на как можно более суровом наказании. Было начато не менее пяти расследований, одно из которых вело ФБР. В его ходе выяснилось, что сотрудниками ЧВК было убито 17 иракцев, из них 14 — без видимой причины

В числе предполагаемых причин «бунта» зенитного орудия назывались и сбой в программном обеспечении, и механические неисправности. Согласно комментариям представителей некоторых компаний, занимающихся производством оружия, подобный инцидент был далеко не единственным, и им уже приходилось сталкиваться с аналогичными ситуациями. Просто этот случай оказался первым, когда в таком инциденте погибли люди.

Как автопилот убивает людей

В апреле 2021 года в американском штате Техас произошла страшная авария. Автомобиль Tesla с двумя пассажирами вылетел с трассы на высокой скорости, врезался в дерево и начал гореть. Чтобы потушить возгорание, пожарным потребовалось 4 часа и более 120 тысяч литров воды.

За последние 5 лет произошло 7 смертельных аварий на автомобилях производителя, и в большинстве винят систему автопилота.

Сегодня на дорогах общего пользования можно встретить машины с функцией беспилотного управления третьего уровня автономности. Пока это максимум, до чего дошли автопроизводители.

SAE определяет уровень 3 как «условный автопилот». Разница между уровнем 2 и уровнем 3 — в степени. На практике это зависит от ответа на вопрос: насколько должен быть человек на сиденье водителя должен быть готов взять управление машиной на себя?

Кто виноват в дтп с автопилотом?

В то же время в Великобритании готовится проект Vehicle Technology and Aviation Bill, в котором есть пункты касательно ДТП с участием беспилотного транспорта:

Первые шаги

Путь Рэйберта в робототехнику начался в Северно-Восточном университете Бостона, где он получил степень бакалавра, а потом и магистра электротехнического проектирования. После выпуска в 1977 году он начал работать в Лаборатории реактивного движения при NASA, а в 1980-м перешел в Университет Карнеги ― Меллона в Питтсбурге.

Именно там он и основал лабораторию Leg Lab. Целью лаборатории, как ее формулировал сам Рэйберт, было «исследование активного баланса и динамики в создании систем на ногах». Другими словами — создание роботов, которые умеют ходить. Сооснователем лаборатории был Айвен Сазерленд — человек, которого научное сообщество считает отцом компьютерной графики.

Сотрудники Leg Lab. В центре в первом ряду — Марк Рэйберт·ai.mit.edu

На тот момент разработка роботов на ногах была одним из самых передовых направлений научных исследований. К началу 1980-х уже было освоено производство роботов «с руками», которые могли поднимать грузы и собирать механизмы, а также роботов на колесах.

Тем не менее американские ученые не собирались останавливаться на достигнутом. Они считали, что роботам на ногах можно найти применение в военной и промышленной сфере. Похожие исследования проводились не только в Университете Карнеги — Меллона, но и в нескольких других научных центрах США, а также в Европе и Японии.

А немногочисленные ученые из США, посетившие Советский Союз, рассказывали, что интерес к роботам на ногах проявляют и в СССР, причем там рассматривают и военное применение таких роботов. Так что живой интерес Минобороны США к подобным роботам на пике холодной войны объяснить нетрудно.

Один из первых роботов Leg Lab. У него две ноги и он может подниматься и спускаться по небольшим лестницам·Leg Lab

Страничка лаборатории Leg Lab похожа на дневник первых шагов ребенка. В 1983 году объемный робот на одной ноге может бежать и держать баланс, через год такое может проделывать робот на четырех ногах, еще через три года робот на двух ногах может прыгать, кувыркаться и бежать со скоростью 18,5 км/ч.

В 1986 году Рэйберт сменил место работы — стал преподавать электротехническое проектирование и компьютерные науки в Массачусетском технологическом университете в Бостоне. Leg Lab переехала туда вместе с ним. На новом месте лаборатория создала, в частности, робота-кенгуру (Uniroo).

Наконец, в 1992 году научные изыскания в стенах лаборатории получают организационное воплощение — Рэйберт создает компанию Boston Dynamics. Уже в следующем году компания, роботы которой в нулевые станут чуть ли не поп-культурными персонажами, сделает первые шаги в этом направлении.

Тем временем Рэйберт и его подопечные создавали все новых роботов. В 1994-м появилась робот-индюшка, в 1996-м — робот-фламинго.

Несмотря на создание компании, Рэйберт не стал коммерциализировать свои разработки, а продолжал работать на правительство, а точнее — на Пентагон. Впрочем, не продавая роботов, Boston Dynamics консультировала тех, кто это делал. Например, компания консультировала Sony при создании потребительских роботов, в частности робопса Aibo.

Роботы для борьбы с терроризмом

Террорист Мика Джонсон застрелил пять полицейских и ранил еще девятерых. После этого он попытался скрыться в колледже в Эль-Центро, где на входе убил еще одного офицера полиции и занял выжидающую позицию, чтобы убить еще несколько полицейских.

В течение последующих пяти часов полиция безрезультатно пыталась вести с Джонсоном переговоры, однако тот не желал сдаваться и угрожал взорвать несколько бомб.

В конечном итоге терпение у полиции закончилось, и офицеры предложили Джонсону два выбора: либо он сдается и выходит наружу с поднятыми руками, либо остается внутри и в таком случае полиция готова применить силу. Убийца решил выбрать второй вариант.

Вскоре преступник понял, какую силу имели в виду полицейские, когда те прицепили брикет взрывчатки C4 к руке робота и отправили последнего в подземную парковку колледжа, где прятался убийца. Операция прошла успешно. Это был первый случай, по крайней мере в полицейской практике, когда для устранения преступника использовался робот.

Роботы шагают на рынок

В конце сентября Boston Dynamics объявила о старте серийного производства робопсов Spot. К этому событию она подготовила очередной вирусный видеоролик — «пес» совершает, в том числе под дождем, дефиле под песню Uptown Funk Марка Ронсона и Бруно Марса, и даже немного пританцовывает.

Робот может работать и в жару, и в холод (диапазон возможных температур — от минус 20 до плюс 45 градусов), может нести до 14 кг и бегать со скоростью 1,6 м/с, он водостойкий и оснащен камерами, обеспечивающими ему обзор на 360 градусов. Время автономной работы робота — 90 минут. Пока у компании готово 20 экземпляров «пса».

Где можно его использовать? Пока это главный вопрос. Сам Рэйберт, выступая летом на организованной Amazon конференции по искусственному интеллекту, выделял в качестве возможного применения сферу развлечений. В частности, он предлагал идею «сетевой игры с физическими персонажами» и продемонстрировал, как управляемые пользователями удаленно роботы пытаются на игровой площадке отобрать друг у друга мяч.

О том, что развлечения могут стать основной сферой применения для Spot, свидетельствует и тот факт, что Boston Dynamics ведет переговоры с Cirque du Soleil об использовании робопса на арене. Чего компания точно не хочет, невзирая на свои военные корни — чтобы Spot как-либо приносил вред людям.

Проблемой остается то, что Spot, похоже, пока не очень-то приспособлен для взаимодействия с людьми. Например, журналист The Verge рассказывает, что во время тестирования аппарата внутри редакции собравшихся проинструктировали отойти на два метра назад, чтобы Spot ненароком их не пнул.

Смотрите про коптеры:  10 распространенных мифов о военных дронах -

Spot пока слабо реагирует на сигналы из физического мира, модель мира робота состоит из препятствий, точек опоры и заранее запрограммированных маршрутов, отмечает The Verge. В этом смысле путь, по которому пошла Boston Dynamics, отличается от того, на чем сейчас сосредоточены многие ученые-робототехники, в том числе в «альма-матер» компании — Университете Карнеги—Меллона.

Сотрудник местной лаборатории Хенни Адмони занимается как раз работой над взаимодействием робота и человека. «Boston Dynamics всегда была сильна в механике и управлении, однако роботы, работающие в человеческой среде, избежать людей не могут», — говорит он.

Роботы-убийцы. как и зачем машины убивают людей?

Spiegel сообщил об обнаружении документа с гарантиями нерасширения НАТО

Ровно 43 года назад, 25 января 1979 года произошло убийство, оставившее глубокий след в истории человечества. Именно в этот день Роберт Уильямс, 25-летний рабочий литейного завода Ford Motor Company, расположенного в городке Флет Рок, штат Мичиган, пал от железной руки трудившегося на данном предприятии индустриального робота. Этот инцидент стал первым в мире официально зафиксированным случаем убийства человека роботом, он наделал много шума в прессе и даже попал в книгу рекордов Гиннеса. Первым, но, к сожалению, далеко не последним. Потому в годовщину этой трагической даты нам внезапно захотелось поговорить о машинах-убийцах. Слава роботам!

Аппарат, совершивший столь леденящее кровь преступление, был спроектирован и построен компанией Litton Industries, весил порядка 5 тонн и занимался извлечением со стеллажей — отлитых из металла автомобильных узлов. Конструкция робота включала несколько самодвижущихся тележек на резиновых колёсах весом около тонны каждая, оборудованных механическим приспособлением для захвата деталей с полок и их перемещения по цеху. В какой-то момент робот начал выдавать неправильные показания о количестве оставшихся на полках отливок, что вызвало перебои в его работе, и Роберта Уильямса попросили пересчитать детали вручную. Бедолага вскарабкался на третий ярус стеллажей, где его ударила по голове, а потом раздавила насмерть беззвучно и коварно подкатившаяся сзади автоматическая тележка. Тело пролежало на полке около получаса, пока коллеги рабочего, озадаченные длительным отсутствием Уильямса, не отправились на его поиски.

Spiegel сообщил об обнаружении документа с гарантиями нерасширения НАТО
Тот самый завод

Ещё за 37 лет до этого печального происшествия, в марте 1942 года, американский писатель-фантаст российского происхождения Айзек Азимов опубликовал рассказ «Хоровод», в котором сформулировал три знаменитых закона робототехники. Они, как известно, гласят:

  1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
  2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
  3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

Spiegel сообщил об обнаружении документа с гарантиями нерасширения НАТО
Исаак Юдович Азимов, также известный как Айзек Азимов

Заводской робот нарушил первый из них, однако в конце семидесятых годов XX века автоматизированные промышленные системы ещё не были оборудованы целыми гирляндами аварийных датчиков, а требования техники безопасности не могли похвастаться современной суровостью.

Второй случай гибели человека от руки робота произошёл 9 декабря 1981 года: жертвой стал инженер по техническому обслуживанию конвейеров, японец Кендзи Урада. Инцидент также случился на автозаводе, но на сей раз — расположенном в японском городе Акаси, а сам робот принадлежал корпорации Kawasaki Heavy Industries. В тот день Урада занимался ремонтом неисправного робота, предварительно не обесточив машину, и в какой-то момент случайно включил его. Аппарат прижал инженера к соседнему станку и раздавил несчастного.

Наблюдавшие эту жуткую сцену сотрудники завода не смогли прийти на помощь пострадавшему, поскольку не знали, как отключается взбесившийся робот. Проведённое позже расследование установило, что если бы Урада открыл калитку в окружавшем робота небольшом ограждении, подача электропитания прекратилась бы автоматически, но вместо этого инженер почему-то просто перелез через неё. Этот случай положил начало разработке международных стандартов, призванных обеспечить безопасность на автоматизированных производственных линиях. Как минимум роботов на заводах Kawasaki на всякий случай огородили заборами высотой в человеческий рост.

Spiegel сообщил об обнаружении документа с гарантиями нерасширения НАТО

Почувствовав вкус крови, коварные роботы-убийцы решили не останавливаться на достигнутом. Согласно статистике американского Управления по безопасности и гигиене труда (OSHA), только в США на различных производствах ежегодно происходит порядка 5000 инцидентов, связанных с травмированием людей роботами, часть из них — со смертельным исходом. И с развитием автоматизации, удешевлением промышленной робототехники, а также с появлением новых интеллектуальных систем эта печальная статистика, вероятно, будет расти. Безусловно, эволюция технологий и искусственного интеллекта означает и пропорциональный рост безопасности, но пресловутый человеческий фактор никто не отменял. Насколько умной и совершенной ни была бы машина, всегда найдётся человек, предпочитающий перелезть через забор.

Именно так в 2009 году погибла сорокалетняя Анна-Мария Витал, ставшая первой в истории женщиной — жертвой робота. Анна-Мария была сотрудницей склада компании Golden State Foods, обслуживающей рестораны быстрого питания (прежде всего — Макдональдс) в Ирвине, штат Калифорния. На том же складе трудился робот, занимавшийся укладкой коробок с продуктовыми полуфабрикатами на поддоны. В какой-то момент женщина решила помочь своему электронному коллеге и вошла в клетку к роботу, чтобы убрать упавшую коробку с продуктами. Но тот не оценил её благородного поступка, и, приняв Анну-Марию за очередную коробку, схватил женщину манипулятором. Подоспевшие рабочие попытались освободить её, но не смогли ослабить стальную хватку машины: от полученных травм Анна-Мария скончалась на месте.

В 2022 году робот убил рабочего на заводе SKH Metals в Манасе, Индия. Машина поднимала и складывала на паллет металлические листы, когда 24-летний Рамджи Лал заметил, что один из них закреплён неправильно. Он попытался поправить крепление, предварительно не выключив аппарат, как того требовали инструкции, и в этот момент робот ударил молодого человека ножом в живот.

Спустя год, в июне 2022-го, 20-летняя Регина Элси была убита роботом за неделю до собственной свадьбы. Это случилось на автомобильном заводе в городе Кассете, штат Алабама, где производятся детали для Hyundai и Kia. Регина в компании нескольких коллег пыталась починить вышедшего из строя робота, хотя не обладала должными навыками и вообще не должна была заниматься подобным ремонтом — просто на её настойчивые звонки в службу техподдержки никто не отвечал. Внезапно включившийся робот сильно толкнул девушку и нанёс ей серьёзные раны. Покалеченную сотрудницу срочно отвезли в больницу, но на следующее утро она скончалась. Расследование показало: владевшая заводом компания Ajin USA перегружала своих сотрудников внеурочной работой и часто заставляла их самостоятельно ремонтировать неисправные промышленные агрегаты. Кроме того, ранее она уже подвергалась серьёзным штрафам за многочисленные нарушения трудовой дисциплины и техники безопасности на производстве.

Spiegel сообщил об обнаружении документа с гарантиями нерасширения НАТО
Регина Элси со своим женихом

Однако далеко не всегда причиной трагедий становилось пренебрежение правилами и неосторожность самих сотрудников. Так, в марте 2022 года специалист по техническому обслуживанию автоматизированных систем, 57-летняя Ванда Холбрук была убита роботом на заводе Ventra Ionia Mains в Мичигане. Удивительно, но это предприятие также производило автозапчасти, и было разделено на цеха, в каждом из которых трудилась собственная группа роботов. При этом машина из одного цеха никак не могла попасть в другой — по крайней мере, так было принято считать. Убивший Ванду робот каким-то образом сумел открыть автоматическую дверь и пробраться в соседний цех, после чего он поднял тяжёлую металлическую деталь и сбросил её на голову женщины. Вернее, он попытался положить эту деталь в контейнер, где уже лежала другая такая же, что было полностью исключено технологией и логикой работы этой машины. Разбиравшаяся с инцидентом комиссия так и не смогла понять, что стало причиной неадекватного поведения робота, и как он сумел проникнуть в закрытое помещение, доступ в которое был для него категорически запрещён. Это пугает.

До сих пор мы говорили о промышленных предприятиях, работающих преимущественно на автомобильную индустрию. Но применение робототехники шагнуло далеко за пределы тяжёлого машиностроения. Наверняка многие видели, как функционирует роботизированный склад мирового лидера интернет-торговли — компании Amazon. Это поистине фантастическое и завораживающее зрелище. На ретейлера трудятся порядка 200 000 роботов производства компании Kiva Systems, которую Amazon приобрёл в 2022 году, а в 2022-м переименовал в Amazon Robotics.

Spiegel сообщил об обнаружении документа с гарантиями нерасширения НАТО

Специалисты подсчитали, что только в 2022 году на 150 складах Amazon сотрудники получили 14 тысяч травм, в результате которых были вынуждены прервать работу как минимум на несколько дней. При этом показатели травматизма год от года растут, и это не в последнюю очередь связано с роботизацией индустрии.

На автоматизированном складе люди занимаются в основном сканированием и сортировкой товаров, которые подвозят им роботы — это довольно монотонная и однообразная деятельность. При этом роботы трудятся так эффективно и подвозят товары настолько быстро, что человек порой не успевает выполнить требуемые от него операции, а в Amazon приняты очень жёсткие критерии оценки качества работы — неэффективному сотруднику грозит увольнение. Если раньше сортировщики обрабатывали около 100 товаров в час, с внедрением роботизации нагрузка возросла в 4 раза. А ведь люди, в отличие от роботов, устают. За 10-часовую смену сотрудники склада выматываются настолько, что производственные травмы становятся просто неизбежны.

Тем не менее роботы Amazon пока ещё никого не убили и не покалечили (если не считать парочки нервных срывов и потребовавшейся кое-кому помощи психиатра). Чего не скажешь о роботизированных автомобилях, которые в настоящее время испытывают сразу несколько компаний, и о серийных машинах, оснащённых автопилотом. Первой жертвой таких технологий стал житель Флориды Джошуа Браун, погибший в автокатастрофе 7 мая 2022 года. Автопилот его Tesla Model S не заметил на дороге 18-колёсный тягач с прицепом, и проехал под ним, превратив автомобиль в кабриолет, после чего машина слетела с трассы, снесла два забора и врезалась в столб. Подушки безопасности сработали только в момент столкновения «Теслы» с забором, но проведённое позже вскрытие показало, что Браун умер ещё в тот момент, когда легковушка очутилась под прицепом тягача.

Смотрите про коптеры:  Плюсы и минусы спиннинга «Черной вдовы» от Maximus | обзоры

Spiegel сообщил об обнаружении документа с гарантиями нерасширения НАТО
Та самая «Тесла»

Производитель электрокара поспешил снять с себя всю ответственность за инцидент, заявив, что автопилот Tesla не гарантирует полностью автономного управления автомобилем, поэтому водитель всё равно должен следить за дорогой и на всякий случай держать руки на руле. Тогда как согласно записям бортового самописца, руки Джошуа Брауна находились на руле всего 25 секунд на протяжении 37-минутной поездки. Кроме того, водитель трака утверждал, будто в момент аварии Браун смотрел на ноутбуке фильм о Гарри Поттере. Расследовавшая автокатастрофу комиссия Национального совета по безопасности на транспорте (NTSB) действительно нашла в обломках «Теслы» два ноутбука и SD-карту с фильмом о Гарри Поттере, но не смогла достоверно установить, просматривал ли покойный фильм во время движения, или нет.

Небывалые успехи промышленных роботов в убийстве людей не смогли не вдохновить военных, которые принялись изобретать различные автоматизированные системы для применения в армии. Про летающих дронов, несущих на себе ракетно-бомбовое вооружение, слышали уже, наверное, всё, хотя большинство подобных аппаратов пока ещё относятся к категории дистанционно управляемых устройств, а не полностью автономных машин. Уже давно появились роботы-разведчики и роботы-сапёры. Но только лишь этим ассортимент подобного вооружения не ограничивается.

Spiegel сообщил об обнаружении документа с гарантиями нерасширения НАТО
Oerlikon GDF-005

Например, к категории боевых роботов можно отнести автоматическую зенитную установку Oerlikon GDF-005, которая умеет без участия человека отыскивать и поражать воздушные цели, а также самостоятельно перезаряжаться. В 2007 году именно с этим орудием тренировались солдаты южноафриканской армии на полигоне в городе Лохатла, Северный Кейп, когда устройство неожиданно решило поиграть в войнушку. Оно произвело 250 выстрелов осколочно-фугасными 35-миллиметровыми снарядами по своему собственному расчёту и находившимся поблизости бойцам, убив на месте 9 человек и ранив ещё 14. Существует предположение, что причиной этого происшествия стал баг в программном обеспечении зенитки. При этом, по словам военных, орудия Oerlikon выходили из-под контроля и раньше, просто в тех инцидентах никто не погиб.

А 7 июля 2022 года воплотился в реальность сюжет легендарного голливудского блокбастера «Робокоп»: полицейский робот впервые убил человека по приказу другого человека. Во время проходившей в Далласе акции протеста против репрессий в отношении чернокожих некто Мика Джонсон застрелил пятерых полицейских и двух мирных жителей, а потом, в ходе завязавшейся перестрелки, ранил ещё девятерых. После этого Джонсон укрылся в гараже колледжа Эль-Сентро, убив дежурившего на входе охранника, и пригрозил оцепившим округу стражам правопорядка взорвать в помещении бомбу.

Spiegel сообщил об обнаружении документа с гарантиями нерасширения НАТО
Remotec Andros F-6A

Переговоры длились более пяти часов, и, в конце концов, полицейские предложили Джонсону два альтернативных варианта: либо тот выходит с поднятыми руками, либо будет убит. Преступник сдаться властям отказался. Тогда сотрудники полиции привязали взрывчатку к манипулятору робота-сапёра Remotec Andros F-6A, предназначенного для обследования подозрительных предметов, и отправили его в здание, где прятался убийца. Там и подорвали. Мика Джонсон погиб. Робот — выжил. И плевать на Первый закон робототехники!

Роботы занимают все новые и новые ниши в различных областях человеческой деятельности: поднимают грузы, сортируют и доставляют товары, водят автомобили, исследуют Марс и даже выполняют сложные хирургические операции. Например, исследование, проведённое в США в 2022 году, показало, что в период с 2008 по 2022 год от механических рук роботов-хирургов погибло 144 американских пациента. В основном эти инциденты были связаны с неожиданными отключениями оборудования и потерей видеосвязи в ходе операции.

Учитывая успехи на ниве роботостроения таких корпораций, как Boston Dynamics, применение роботов в быту, бизнесе и на производстве будет только расширяться. Одновременно будет возрастать и опасность со стороны роботов для человека из-за программных или аппаратных сбоев, нарушения правил их эксплуатации или — вполне возможно — хакерских атак. Но хочется верить, что в случае противостояния людей и машин у человечества всё же будет шанс.

Spiegel сообщил об обнаружении документа с гарантиями нерасширения НАТО

Родственники Роберта Уильямса, первым погибшего от рук промышленного робота, отсудили у создавшей эту машину корпорации Litton Industries 10 млн долларов. Та, в свою очередь, попыталась выставить регрессный иск Ford Motor Company, поскольку погибший не проходил организованное Litton Industries обучение работе с роботизированной системой и нарушил по мнению юристов компании правила безопасности. Но суд отклонил иск, а позже это решение было утверждено Высшим судом штата Мичиган. Расследование и последующее судебное производство длилось около трёх лет, и стало первым судебным прецедентом по делу об убийстве человека роботом.

Существует мнение, что в связи с развитием робототехники роботам (и выпускающим их корпорациям) скоро понадобятся специально обученные адвокаты, специализирующиеся на подобных исках. Так, издание Sfgate цитирует Райана Кало, научного сотрудника Стэнфордского центра интернета и технологий, который утверждает: «Роботы — это не тостеры. Сейчас растёт озабоченность по поводу этики роботов, но в подобных дискуссиях не хватает прагматичных юристов, думающих о том, что может произойти в будущем». Но появление робоюристов (возможно, тоже сделанных из кремния и металла) — это пока ещё дело завтрашнего дня.

Пусть и не столь отдалённого.

Spiegel сообщил об обнаружении документа с гарантиями нерасширения НАТО

Сложные правила

Проблема вагонетки Филиппы Фут, впервые определенная в 1967 году, известна всем, кто хоть немного обучался этике. Она предположила следующий сценарий: беглая вагонетка приближается к стрелке железнодорожных путей. Если она продолжит движение, умрет пять работников.

Если пустить ее по другому пути, умрет только один. Что вы будете делать, оператор? На этот этический вопрос скоро придется отвечать не нам, а нашим машинам. Самоуправляемый автомобиль может принять решение, врезаться в машину впереди, тем самым подвергая опасности едущих в ней людей, либо же свернуть на обочину, подвергнув опасности собственного пассажира.

(Разработка автомобилей Google частично была вдохновлена дизайнером Себастьяном Труном, который потерял кого-то в автокатастрофе. Говорят, это привело к появлению у него морального императива создавать самоуправляемые автомобили, которые будут спасать жизни людей.

Точно так же полностью автономная версия беспилотного «Хищника», возможно, будет решать, стрелять или не стрелять по дому, в котором находятся как вражеские солдаты, так и гражданские. Как вам, инженеру программного обеспечения, создать набор правил поведения для таких устройств в таких сценариях?

Возможно ли запрограммировать устройство на самостоятельное принятие решений? Для многих простым решением будет обойти эти вопросы — отдать принятия решения, которое нанесет вред человеку, оператору. По этой причине договором в Оттаве в 1997 году были запрещены мины. По большей части это автономное оружие, которое может взорвать любого, кто на него вступит.

В этом контексте предоставление прав управления человеку полностью убивает весь смысл. Кажется очевидным, например, что пилоты должны иметь полный контроль над системой автопилота самолета. Но катастрофа Germanwings 2022 года, когда второй пилот Андреас Любиц намеренно врезал самолет во французские Альпы, убив всех 150 пассажиров, усложняет дело.

«Есть несколько подходов в попытке разработать этические машины и множество проблем, — объясняет Гэри Маркус, когнитивный ученый Нью-Йоркского университета и главный исполнительный директор и основатель Geometric Intelligence. — Мы можем пытаться запрограммировать все заранее, но это не тривиально — как, к примеру, внушить программе понятия вроде «справедливости» или «вреда»?».

Существует еще один аспект проблемы, кроме неоднозначных определений. К примеру, любой набор правил, выданных автоматизированному солдату, будет либо слишком абстрактным, чтобы быть правильно вычисляемым, либо слишком конкретным, чтобы охватить все ситуации.

Некоторые считают, что ответ лежит в имитации того, как люди выстраивают этические рамки, с обучением реагировать на разные моральные правила, выбирая те, которые наиболее подходят к месту.

«Мы приобретаем интуитивное чувство того, что это этически приемлемо, когда наблюдаем, как другие ведут себя и реагируют на ситуации, — говорит Колин Аллен, профессор когнитивных наук и философии наук Университета Индиады. — Другими словами, мы учимся тому, что приемлемо, а что нет, говоря языком этики, у других — не без опасности выучить плохое поведение, репрезентующее плохое ролевое поведение. Даже если у машин будут похожие способности к обучению или же им придется действовать в жестко ограниченных рамках, будут оставаться подводные камни».


В DoDAAM у Парка есть вроде бы разумный компромисс. «Когда мы достигнем точки, в которой у нас есть турель, которая может принимать автономные решения самостоятельно, мы гарантируем, что ИИ будет придерживаться армейского свода правил. Мы будем следовать этим прескрипциям и включать эти правила в наши системы».

Оцените статью
Радиокоптер.ру
Добавить комментарий

Adblock
detector