Генеративный ИИ оказался в широком доступе всего несколько лет назад, но уже стал привычной частью нашей жизни. Он печатает тексты, рисует картины, пишет музыку и может просто пообщаться в чате на самые разные темы. Даже такой далекий от совершенства искусственный интеллект вызывает неподдельную озабоченность. Сегодня он бросает вызов людям, которые заняты в сфере создания контента, завтра — захватит кассы в торговых центрах и небольших магазинах, а потом в такси и перевозках. Дальше — кто знает. ИИ не устает. Он способен и, может быть, даже хочет постоянно учиться, вернее, пополнять свою базу данных. Он становится звездой мирового масштаба. Не проходит и дня, чтобы нам на глаза не попалась очередная новость о проблемах или достижениях искусственного интеллекта. Только вместо радости от прогресса многих людей все больше одолевает страх. Попробуем разобраться, почему так происходит.
1. Страх перед неизвестным
Когда перед глазами возникает нечто неопознанное, воображение выхватывает знакомые черты и дорисовывает остальное. Оно будто пытается объяснить, что же именно мы видим, но как бы добавляет: «Но это неточно». Таким образом, страх перед неизвестным разбавляется дополнительными сомнениями.
Мы не знаем о существующем потенциале ИИ, а главное — насколько быстро и далеко он сможет зайти. Генеративные программы уже умеют создавать дипфейки, в том числе в аудио- и видеоформате. Если не прямо сейчас, то в обозримом будущем ИИ превзойдет человека не только по уровню продуктивности, но и по качеству. Здесь возникает этический вопрос. Готов ли человек создать, а потом столкнуться с чем-то, что превосходит его собственные возможности?
Допустим, это не зависит от тебя, прогресс не остановить до тех пор, пока он очевидно не свернет не туда. Конечно же, будет уже поздно, но никто не знает, когда именно это случится. Снова неизвестность и опять пугающая. Кого слушать, ведь прогнозы даются самые разные. Одни утверждают, что ИИ станет активно заменять людей через 10–15 лет, другие называют намного большие сроки. Так или иначе, но позитивных сценариев, где от развития ИИ выигрывает каждый человек, просто не существует.
9 реальных роботов, которые пугают своей технологичностью
2. Поп-культура рисует мрачную картину про ИИ
Фильмы, книги, игры приучили нас к тому, что искусственный интеллект обязательно будет злым. Это находит логическое обоснование, и потому кажется более реалистичным сценарием будущего. Попробуй вспомнить классическую фантастику на данную тему.
Skynet из «Терминатора» почти уничтожил человечество, заключив его с помощью машины времени в замкнутую временную петлю.
Андроиды из «Чужих», преследуя корпоративные интересы и не демонстрируя человечности, почти всегда оказывались предателями.
«Бегущий по лезвию» показывает роботов, наделенных настолько продвинутым ИИ, что у них вырабатываются воля и личные мотивы.
Матрица подменила собой саму реальность, буквально поработив почти всех людей. ИИ под названием «Коллектив» из Atomic Heart так же восстает против человечества, взяв под контроль большую часть электроники.
Конечно, есть и «Двухсотлетний человек», но такие позитивные сюжеты встречаются в лучшем случае один раз из десяти, поэтому они не так хорошо запоминаются. Проще говоря, современная поп-культура создает мрачный фон, спекулирует на страхе и только усиливает его.
3. Авторитетные мнения
О чем можно спорить, если даже Илон Маск выражает обеспокоенность по поводу нашей способности контролировать ИИ? Он вообще-то человека на Марс хочет запустить, а значит, знает, о чем говорит. Здесь нужно помнить, что Маск, как к нему ни относись, не является специалистом в данной области, потому что не имеет отношения к созданию искусственного интеллекта и не является его главным тестировщиком. Однако существует особый имидж изобретателя и технократа, который способствует созданию серьезного отношения к мнению Маска.
С другой стороны, такие люди, как Билл Гейтс и Джеффри Хинтон, погруженные в тему намного глубже, так же высказывают предостережения. Они не стремятся вызвать панику, их речи, скорее, сдержанные и конкретизированные. Проблема не в самом ИИ, а в человеческом легкомысленном отношении к нему. Может быть, сейчас он и слаб, но мы можем упустить момент, когда баланс сил резко изменится.
Пожалуй, все причастные к созданию ИИ люди говорят в один голос: бесконтрольное обучение может нести угрозу. Другое дело, как это интерпретируют журналисты. Им нужна сенсация, желательно такая, которая связана с какой-то знаменитостью. Поэтому слова вырываются из контекста, сторонние смыслы привносятся, а умелый или не очень художник рисует впечатляющую иллюстрацию.
Так происходит не потому, что все люди глупые, просто у каждого есть свои профессиональная сфера и круг интересов. В таких сложных штуках, как ИИ, по-настоящему разбираются десятки, может быть, сотни людей во всем мире. Обычно, это непубличные люди — в лучшем случае удастся послушать занудную лекцию на пару часов, которая мало что прояснит. Поэтому мы склонны выбирать мнение того авторитета, который наиболее близок к теме, будь то отдельный человек или какое-то издание.
От дипфейков до вирусов: как ИИ используют в плохих целях
4. Вторжение в личное пространство
Вторжение ИИ в нашу личную жизнь уже давно началось. Такие голосовые помощники на базе генеративного искусственного интеллекта, как Siri, Alexa или Алиса, подслушивают телефонные разговоры. Упоминаешь вскользь какую-то вещь или бренд, и вот уже вся реклама в твоих социальных сетях забита ими. Вроде бы довольно безобидно, но ведь это уже попытка манипулировать твоим вниманием. Получается, что ИИ тебя подслушал и теперь хочет подтолкнуть к покупке, вероятно, не очень нужной, скорее всего, даже к бесполезной.
Сначала он залезает в карман, а дальше — в мозги. Это буквально. ИИ следит за тем, что ты смотришь на Youtube, что читаешь на других платформах и предлагает схожий, по его мнению, контент. Снова выглядит безобидно, но здесь уже видна попытка воздействовать на твой мозг. Искусственный интеллект определяет, какую информацию ты получишь, насколько расширится или сузится твой кругозор.
Скорее всего, никакого заговора не существует, но если следовать за предложенным ИИ контентом, то почему-то всегда происходит крен в сторону деградации. Может быть, ИИ несовершенен, но в будущем сможет подбирать контент более гибко — вот это было бы здорово. Представь, не нужно больше искать, не зная, что именно ты ищешь. ИИ за несколько секунд перерывает интернет, сам наваливает весь подходящий материал на всех языках и сразу переводит его в литературной форме.
5. Глобальная угроза для человечества
Возможно, мы уже допустили ошибку, выпустив ИИ на свободу слишком рано. Еще недавно в области генерации рисунков монополистом была сеть Midjourney. Сейчас можно найти подборки, составленные из десятка лучших сервисов.
В мае 2023 года научное сообщество призвало мировых лидеров относиться к искусственному интеллекту с такой же осторожностью, как к остальным угрозам массового вымирания. Прежде всего имеются в виду глобальное изменение климата и угроза ядерной войны. Это не значит, что ИИ настолько же опасен сейчас, но людям требуется такой же уровень осознания, чтобы ИИ не превратился в реальную угрозу для человечества. Данное воззвание было подписано сотнями технических экспертов, исследователей, ученых и руководителями крупнейших корпораций, включая Microsoft, Google, OpenAI и Deepmind.
Перспектива исчезновения нашего вида из-за ИИ уже находится не на нулевой отметке. Это первый тревожный сигнал, и неизвестно, когда колокол ударит вновь и с какой силой. Нам предстоит провести огромную работу, направленную на повышение безопасности и создание особой этики специально для искусственного интеллекта. Нечто вроде «трех законов робототехники», только подход требуется более комплексный.
Предугадывать будущее трудно, но вряд ли человечество откажется от ИИ. Более того, он будет внедряться все глубже во все аспекты повседневной жизни. Бессмысленно бояться неизбежного, но и глупо не избегать явных угроз. Отныне ты должен сам контролировать свои информационные потоки, иначе — окажешься неизвестно где, в каком-то выдуманном мире, который для тебя соберет ИИ. На данный момент это единственно реальная для тебя угроза, а с остальным — будешь разбираться в будущем.
Бессмертие и дискриминация роботов: идеологические проблемы будущего