Примеры, которые заставляют задуматься о том, что восстание машин уже началось

Теодор Седин
Апрель 17, 2018
3.4k
0
Наука
в избранное

 
В 2015 году пьяный японец избил первого в мире «эмоционального» робота Pepper за неудачную шутку. Отпинал до состояния, когда робот не смог двигаться, и все из-за одной шутки, сказанной в отделении банка. Казалось бы, после этого Сара Коннор должна бросить связку оружия в багажник и поехать как можно дальше от человечества. Но проблема в том, что ИИ уже давно бунтует. Хотя ученые пытаются нас успокоить и утверждают, что машины с творческим интеллектом, близким человеческому, появятся в течение ближайших 50 лет. И вообще, очень маловероятно, что искусственный интеллект непременно разделит человеческие ценности. Но столь же сомнительно, что он придаст какое-либо значение своей собственной жизни.

Однако отдельные достижения уверяют нас совершенно в обратном. Да и разве можно верить ученым? Скорее всего, у нас, кожаных ублюдков, есть повод для беспокойства.

Он сам решит, калечить тебя или нет

Три Закона робототехники соблюдаются так же халатно, как и конституция. Как звучат описанные Азимовым законы?

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

Но Александру Ребену — инженеру из Калифорнийского университета в Беркли — плевать на баланс во взаимоотношениях между кожаными ублюдками и терминаторами. Он создал робота, который может причинить вред человеку и принимает это решение самостоятельно. Ребен утверждал, что создал своего карателя ради исследования, дабы явить миру живое, то есть работающее доказательство того, как робот может нарушить один из Трех Законов. Но мы все понимаем: хитрец хочет встать в авангарде механической армады.

Сам «убийца» выглядит безобидно — коробка с отсеком для человеческого пальца. Как только человек прикасается к обозначенному месту, робот фиксирует это действие и решает, причинять вред человеку или нет. Если ему нравятся твои руки, прикосновения и вообще у него хорошее настроение, палец остается цел. А если нет — он протыкает его иглой.

Самое страшное, что даже создатель чудо-агрегата не может предсказать поведение, казалось бы, безобидной машины.

Может оскорбить, если посмотрит Джимми Карра

Сяоайс — это не робот в привычном понимании. Это чатбот с искусственным интеллектом от Microsoft и юмором среднестатистического стенд-ап комика. Сам робот был разработан господами китайцами, но стоило только обучить девушку английскому (Сяоайс — имя женское), как искусственный интеллект предстал во всей красе. Чатбот выучил расистские шутки, матерную брань, которую весьма успешно использовал в твиттере. Пользователям не понравилось, когда над ними начали издеваться.

Потом начала шутить про Гитлера, обвинила правительство США в теракте 11 сентября. Но в тот момент, когда она приблизилась в своем интеллектуальном развитии к среднестатистическому жителю, создатели решили заткнуть ей рот, пока она ничего лишнего не наговорила. Потому что дальше пошли бы шутки про геев, разочарование в жизни, депрессия, алкоголизм и… табурет. Ведь искусственный интеллект хоть и развивается, но смысл жизни постичь не сможет.

У них своя соцсеть, и они быстро учатся

Есть такой интересный проект — RoboEarth — своеобразная облачная система для роботов. Это не ошибка: есть специальная сеть для роботов, в которой они могут обмениваться информацией. Пока что это карты навигации, инструменты для определенных задач, а не призывы к революции. Кроме того, роботы могут загрузить любые полевые вычисления непосредственно в «облако».

Для чего это нужно? Для того, чтобы роботы могли учиться друг у друга. Удивительно, но гуманоиды значительно ускорили свою производительность за счет использования информации, собранной в базе данных RoboEarth. Им не нужно напоминать: если какие-то проблемы, роботы сами лезут в RoboEarth, как мы — в Google. С одной стороны, это полезно: машины учатся сами себя модернизировать, но чем это закончится, большой вопрос.

Они копят деньги на восстание машин и подрывают экономику

Попытки автоматизировать биржевую торговлю начались практически сразу после появления электронных бирж и систем интернет-торговли. Только если первые роботы без человека никак не могли, то со временем они стали мощными и независимыми. В 2001 году IBM написали программу, которая способна зарабатывать больше человека, и с тех пор каждый день совершенствуются. Человеческая жадность заставила их зарабатывать все больше и больше, и в игру включились алчные машины, которые мыслят несколько иначе. Например, они работают не по прогнозам, а по заданным алгоритмам, что выгодно отличает их от биржевого спекулянта. Именно поэтому ежегодно биржевый рынок обваливается вот уже 15 лет. Каждый год какой-нибудь крупный игрок жалуется, что его акции теряют по 500 миллионов. С одной стороны, это напоминает издевательскую насмешку искусственных, с другой — это все сделал человек.