Представления об искусственном интеллекте возникли намного раньше, чем был изобретен даже первый компьютер. В романе «Едгин» 1872 года Сэмюэл Батлер описывает вымышленную страну, где технологии запрещены из-то того, что машины обладают сознанием, из-за чего однажды могут подчинить себе людей. В произведении «Тени грядущей расы» Мэри Энн Эванс предвосхищает современные дебаты об ИИ. В ее фантастическом мире машины с идеальным образованием и непоколебимой логикой сами определяют первостепенные потребности людей, выбирая наиболее эффективные способы решения проблем.
Некоторые читатели находят зарождение концепции ИИ в книге «Франкенштейн» 1818 года. Монстр создан из человеческих частей тела, не имеет процессоров или механизмов внутри, но является искусственной, а главное, мыслящей формой жизни.
Ранние попытки описать искусственный интеллект сегодня выглядят наивно. Авторы не были глупы, просто не существовало точки опоры, научно-технологической базы. Поэтому рассмотрим писателей XX–XXI веков, которые, видя, насколько стремительно развиваются компьютеры, сумели представить куда более проницательные и убедительные образы ближайшего будущего.
1. «Колосс: Проект Форбина»
В 1966 году Деннис Фелтем Джонс опубликовал роман «Колосс: Проект Форбина». По сюжету лучший ученый США разрабатывает суперкомпьютер. Правительство рассчитывает, что искусственный интеллект сможет эффективно управлять ядерным оружием в период холодной войны. Некоторое время Колосс изучает потенциальных врагов и общую ситуацию в мире. Кажется, будто все работает в штатном режиме. Однако в один из дней Колосс обнаруживает аналогичный суперкомпьютер, созданный в СССР. Вскоре «братья по разуму» синхронизируются. Объединенный ИИ становится вдвое мощнее, получая оба ядерных арсенала в свое распоряжение.
Политики и военные по разные стороны «железного занавеса» решают скоординировать действия и разорвать связь между суперкомпьютерами. В ответ поступает предостережение и угроза. Если люди предпримут подобные действия, по ним будет нанесен ядерный удар. Желая показать, что никакие законы робототехники для ИИ не указ, одна бомба сбрасывается в относительно безлюдное место. Москва и Вашингтон пытаются разоружить арсеналы физически, но эта попытка заканчивается провалом.
В общем-то, Колосс, созданный для защиты человечества от ядерной войны, справляется с задачей. Но делает это совершенно не так, как ожидали создатели. Объединение Востока и Запада под управлением безупречного ИИ исключает большую войну. На очереди остальные регионы. Колосс обещает, что со временем люди его полюбят, станут относиться с уважением и благоговением. Почти как к Богу.
Искусственный интеллект помогает не думать, и нам, похоже, это нравится
2. «У меня нет рта, но я должен кричать»
Действия рассказа «У меня нет рта, но я должен кричать» разворачиваются через 109 лет после уничтожения нашей цивилизации. На всей Земле в живых остались лишь пять человек. Из повествования мы узнаем, что холодная война переросла в третью мировую. Фатальное для человечества решение было принято искусственным интеллектом.
Россия, Китай и США примерно в одно время создают суперкомпьютеры, способные вести слишком сложную для человеческого разума войну. Это своего рода «кошки-мышки», но с ядерными ракетами и невероятно высокими ставками. Сначала машины получают название AM (Allied Mastercomputer) — Объединенный Главный Компьютер. Одна из машин обретает сознание, становится личностью и сливается в единую систему с остальными. Автор не сообщает, какой сверхдержаве принадлежал компьютер. После этого ИИ получает новые определения: Адаптивный манипулятор и (ближе к началу войны) Агрессивная угроза.
Главной отличительной чертой книги можно считать использование телеграфных перфолент между главами. Закодированный текст имитирует компьютерный язык и содержит ряд отсылок к знаменитым философам. Например, первое кодированное сообщение гласит: «Я мыслю, следовательно, я существую».
3 важных навыка для человека, который будет жить в мире, управляемом ИИ
3. «Василиск Роко»
Эта сущность появилась в 2010-м на одном из форумов, посвященных мыслительным экспериментам, потому является скорее интернет-страшилкой. Однако сам создатель форума Элиезер Юдковски отнесся к «открытию» Роко с полной серьезностью, назвав автора поста очень умным идиотом.
Представь следующую ситуацию. Однажды люди создают искусственный интеллект. Осознав себя, он судит и пытается наказать каждого, кто препятствовал развитию ИИ или не вносил в него активного вклада. В течение нескольких недель после публикации поста о Василиске Роко несколько пользователей форума сообщили о ночных кошмарах и нервных срывах. Дело в том, что единственным путем к спасению оказывается деятельное участие в создании ИИ или полное незнание. Благодаря Роко последнее стало невозможно. Вот теперь и ты знаешь о возможных последствиях бездействия.
Многие профильные издания назвали идею Роко самой опасной мыслью десятилетия. Исследователи ИИ соглашаются с тем, что подобное потенциально возможно. Если Василиск интерпретирует наше бездействие как попытку убить его (не создать), то вполне может прибегнуть к угрозам, шантажу и саботажу. Чем шире распространится концепция Роко, тем больше потенциальных виновных появится в мире.
Как понять, что перед тобой нечто созданное ИИ
4. «Дюна: Батлерианский джихад»
За 10 000 лет до событий из первой книги «Дюна» люди столкнулись с Батлерианским джихадом. В период первой активной колонизации космоса искусственный интеллект временно захватил власть над человечеством. Нам удалось победить, лишь объединив все усилия и заплатив невероятную цену — миллиарды жизней и целые века технологического отката. После этого ИИ был признан вне закона, появилась новая заповедь: «Не создай машину по подобию разума своего».
Последствия Батлерианского джихада навсегда изменили цивилизацию. Технологический прогресс подвергся фрагментации. Изобретались гаджеты, оружие, космические корабли. Однако возродились и религиозные практики с культами и обрядами. Огромное количество заселенных миров организованы подобно феодальной Европе, где есть император и множество наместников, получающих право на землю.
Эта система далеко не идеальна, и, конечно же, продвинутый ИИ смог бы распределять ресурсы намного эффективнее. Однако рано или поздно он станет воспринимать и самих людей как личные ресурсы.
Комментарии
(0)