Если вы обращали внимание на средства массовой информации в течение последнего года или около того, у вас может сложиться впечатление, что это всего лишь вопрос времени, когда угроза искусственного интеллекта уничтожит нас всех.
Примечание редактора: это отступление от нашего обычного пояснительного и практического формата, где мы позволяем нашим авторам исследовать и представлять заставляющий задуматься взгляд на технологии.
От больших летних блокбастеров, таких как «Мстители»: «Age of Ultron» и «Превосходство вонючей вечеринки» Джонни Деппа, до более мелких инди-фильмов, таких как «Ex-Machina» или «Драма на канале 4», «Люди», сценаристы, по-видимому, не могут насытиться тропой, какой бы ни была форма AI в конечном счете, в следующие несколько десятилетий вы можете быть уверены, что он будет одержим идеей преподать человечеству урок о том, чтобы стать жертвой своей собственной гордости.
Но оправдан ли этот страх перед машинами? В этой статье мы рассмотрим мир искусственного интеллекта с точки зрения ученых, инженеров, программистов и предпринимателей, работающих сегодня в этой области, и расскажем о том, что, по их мнению, может стать следующей великой революцией в области человеческого и компьютерного интеллекта.
Итак, стоит ли начинать складывать патроны для предстоящей войны со Скайнетом или поднимать ноги, пока армия подчиненных дронов заботится о каждом твоем прихоти? Читай дальше что бы узнать.
Знай своего врага
Для начала, это помогает узнать, о чем именно мы говорим, когда используем общий термин «ИИ». Слово было перевернуто и переопределено сто раз с тех пор, как концепция самосознающих компьютеров была впервые предложена неофициальным отцом ИИ Джоном Маккарти в 1955 году … но что это на самом деле означает?
Ну, во-первых, читатели должны знать, что искусственный интеллект в нашем понимании сегодня фактически делится на две отдельные категории: «АНИ» и «АГИ».
Первый, сокращенно от «Искусственного узкого интеллекта», охватывает то, что обычно называют «слабым» ИИ, или ИИ, который может работать только в одной ограниченной области специализации. Подумайте о Deep Blue, суперкомпьютере, который был разработан IBM для того, чтобы побеспокоить мировых шахматистов в 1997 году. Deep Blue может по-настоящему хорошо справляться с одной задачей: побеждать людей в шахматах … но это все.
Вы можете не осознавать этого, но мы уже окружены АНИ в нашей повседневной жизни. Машины, которые отслеживают ваши покупательские привычки в Amazon и вырабатывают рекомендации, основанные на тысячах различных переменных, построены на элементарных ANI, которые со временем «изучают» то, что вам нравится, и соответственно выбирают аналогичные продукты. Другим примером могут быть персональные фильтры нежелательной почты, системы, которые сортируют миллионы сообщений одновременно, чтобы решить, какие из них реальны, и какой дополнительный шум можно отбросить в сторону.
ANI – это полезная, относительно безобидная реализация искусственного интеллекта, от которой может выиграть все человечество, поскольку, хотя она способна обрабатывать миллиарды чисел и запросов одновременно, она все еще работает в ограниченной среде, ограниченной количеством транзисторов, которые мы разрешаем это иметь в любой момент времени. С другой стороны, ИИ, к которому мы все более настороженно относимся, называется «Искусственный общий интеллект», или АГИ.
В настоящее время создание чего-либо, что можно даже отдаленно назвать AGI, остается Святым Граалем информатики и – если оно будет достигнуто – может в корне изменить все в мире, каким мы его знаем. Существует много различных препятствий для преодоления проблемы создания настоящего AGI наравне с человеческим разумом, не в последнюю очередь из-за того, что существует много общего между тем, как работает наш мозг, и тем, как компьютеры обрабатывают информацию, когда она выходит из строя. на самом деле интерпретировать вещи, как мы делаем; машины имеют плохую привычку зацикливаться на деталях и скучать по лесу за деревьями.
«Я боюсь, что не позволю тебе сделать это, * Дэйв»
Когда компьютер IBM Уотсона, как известно, научился ругаться после прочтения «Городского словаря», мы поняли, насколько мы далеки от ИИ, который действительно способен разобраться в мелочах человеческого опыта и создать точную картину того, что «Мысль» должна быть сделана из.
Видите ли, во время разработки Watson у инженеров возникли проблемы, пытаясь научить его естественному шаблону речи, который более близко подражал нашему собственному, чем тот, что у необработанной машины, говорящей идеальными предложениями. Чтобы исправить это, они решили, что было бы неплохо запустить весь Urban Dictionary через его банки памяти, после чего Уотсон отреагировал на один из тестов команды, назвав его «фигня * t».
Загадка здесь в том, что, хотя Уотсон знал, что он ругается, и что то, что он говорил, было оскорбительным, он не до конца понимал, почему он не должен был использовать это слово, которое является критическим компонентом, который отделяет стандартный ANI сегодняшнего дня. от превращения в AGI завтрашнего дня. Конечно, эти машины могут читать факты, писать предложения и даже моделировать нейронную сеть крысы, но когда дело доходит до критического мышления и навыков суждения, ИИ сегодня все еще сильно отстает от кривой.
Этот разрыв между знанием и пониманием не к чему чихать, и именно на него пессимисты указывают, утверждая, что мы еще далеки от создания AGI, способного знать себя так, как мы. Это огромная пропасть, которую ни компьютерные инженеры, ни человеческие психологи не могли бы утверждать, что они владеют современным определением того, что делает сознательное существо хорошо сознательным.
Что, если Скайнет станет самосознающим?
Но даже если нам как-то удастся создать AGI в следующем десятилетии (что довольно оптимистично, учитывая текущие прогнозы), оттуда все должно быть просто, верно? Люди, живущие с ИИ, ИИ тусуются с людьми по выходным после долгого дня на заводе по производству чисел. Собирайся и мы закончили?
Надеюсь, мы не просто биологический загрузчик для цифровой суперинтеллекта. К сожалению, это все более вероятно
– Элон Маск (@elonmusk) 3 августа 2014 г.
Ну, не совсем. Осталась еще одна категория ИИ, о которой все фильмы и телепередачи пытались предупредить нас в течение многих лет: ASI, также известная как «искусственный супер-интеллект». Теоретически, ASI должен был родиться из AGI, которое стало беспокоиться о своей судьбе и приняло заранее обдуманное решение сделать что-то самостоятельно без нашего разрешения. Многие исследователи в этой области высказывают озабоченность по поводу того, что, как только AGI достигает чувствительности, он не будет доволен тем, что у него есть, и будет делать все возможное, чтобы расширить свои собственные возможности любыми необходимыми средствами.
Возможная временная шкала выглядит следующим образом: люди создают машину, машина становится такой же умной, как люди. Машина, которая теперь так же умна, как и люди, создавшие такую же умную машину, как и они (придерживайтесь меня здесь), учится искусству самовоспроизводства, саморазвития и самосовершенствования. Он не устает, не болеет и может расти бесконечно, пока остальные заряжают батареи в постели.
Опасение состоит в том, что пройдет всего несколько наносекунд, прежде чем AGI легко превзойдет интеллект всех людей, живущих сегодня, и, если он подключен к сети, потребуется всего один умный нейрон, умнее, чем самый умный хакер в мире. контроль над всеми подключенными к Интернету системами на планете.
Как только он получит контроль, он сможет использовать свою мощь, чтобы постепенно начать накапливать армию машин, которые столь же умны, как и его создатель, и способны развиваться с экспоненциальной скоростью, так как все больше и больше узлов добавляются в сеть. Отсюда все модели, нарисованные по кривой искусственного интеллекта, стремительно взлетают через крышу.
Тем не менее, они в основном все еще основаны на предположениях, а не на чем-то материальном. Это оставляет много места для предположений со стороны десятков различных экспертов по обе стороны проблемы, и даже после многих лет жарких споров, до сих пор нет единого мнения о том, будет ли ASI милосердным богом или видеть людей как сжигающие углерод, пищевые виды, которые мы есть и стираем нас из учебников истории, как мы стираем след муравьев с кухонной стойки.
Он сказал, она сказала: мы должны бояться?
Итак, теперь, когда мы понимаем, что такое ИИ, различные формы, которые он может принимать со временем, и как эти системы могут стать частью нашей жизни в ближайшем будущем, остается вопрос: следует ли нам бояться?
Горячие следы растущего интереса общественности к искусственному интеллекту за последний год, многие из ведущих ученых, инженеров и предпринимателей в мире воспользовались возможностью дать свои два цента о том, как искусственный интеллект может фактически выглядеть за пределами звуковых сцен Голливуда в ближайшие несколько десятилетий.
С одной стороны, у вас есть мрачные и мрачные люди, такие как Элон Маск, Стивен Хокинг и Билл Гейтс, которые разделяют озабоченность тем, что без надлежащих мер предосторожности, перед ASI будет только вопрос времени. мечтает о способе уничтожить человеческую расу.
«Можно представить себе, что такие технологии превосходят финансовые рынки, обдумывают человеческих исследователей, обгоняют человеческих лидеров и разрабатывают оружие, которое мы даже не можем понять», – написал Хокинг в открытом письме сообществу ИИ в этом году.
«В то время как краткосрочное влияние ИИ зависит от того, кто его контролирует, долгосрочное влияние зависит от того, можно ли вообще его контролировать».
С другой стороны, мы находим более яркий портрет, написанный такими футуристами, как Рэй Курцвейл, главный исследователь Microsoft Эрик Хоровиц и другой любимый основатель Apple; Стив Возняк. И Хокинг, и Маск считаются двумя величайшими умами нашего поколения, поэтому поставить под сомнение их прогнозы относительно ущерба, который технология может нанести в долгосрочной перспективе, нелегко. Но оставьте это светилам, таким как Возняк, войти туда, где другие только посмеют.
Когда его спросили, как он считает, что АСИ может относиться к людям, Воз был туп в своем затененном оптимизме: «Будем ли мы богами? Будем ли мы домашними животными? Или мы будем муравьями, на которых наступят? Я не знаю об этом », – спросил он в интервью Австралийскому финансовому обозрению. «Но когда мне в голову пришла эта мысль о том, буду ли я в будущем относиться к этим умным машинам как к домашним животным… ну, я буду очень хорошо относиться к своей собственной собаке».
И именно здесь мы находим философскую дилемму, с которой никто не может полностью прийти к консенсусу: рассмотрит ли АСИ нас как безобидного домохозяина, с которым можно потренироваться и заботиться, или нежелательного вредителя, заслуживающего быстрого и безболезненного истребления?
Hasta la Vista, Детка
Хотя было бы глупым поручением утверждать, что точно знает, что происходит в голове у Тони Старка в реальной жизни, я думаю, что когда Маск и его друзья предупреждают нас об опасности ИИ, они не имеют в виду что-либо похожее на Терминатор. , Ультрон или ава.
Даже с огромным количеством инноваций в наших руках, роботы, которые мы имеем сегодня, едва могут пройти милю за час, прежде чем они достигнут непроходимого барьера, растеряются и едят тротуар веселым способом. И хотя можно попытаться указать на закон Мура в качестве примера того, насколько быстро робототехнические технологии могут развиваться в будущем, другому нужно только взглянуть на Asimo, который впервые дебютировал почти 15 лет назад и не сделал никаких Значительные улучшения с тех пор.
Как бы нам этого ни хотелось, робототехника даже близко не приблизилась к той же модели экспоненциального прогресса, которую мы видели в разработках компьютерных процессоров. Они ограничены физическими ограничениями того, сколько энергии мы можем разместить в батарейном блоке, неисправной природой гидравлических механизмов и бесконечной борьбой за контроль над своим собственным центром тяжести.
Так что пока; нет, даже если истинный AGI или ASI потенциально может быть создан в статическом суперкомпьютере на какой-нибудь серверной ферме в Аризоне, все еще остается крайне маловероятным, что мы окажемся на улицах Манхэттена, пока орда металлических скелетов косит нас сзади.
Вместо этого ИИ, с которым Элон и Хокинг так стремятся предостеречь мир, – это «сменяющий карьеру» вариант, который может думать быстрее нас, организовывать данные с меньшим количеством ошибок и даже учиться, как лучше выполнять свою работу чем мы когда-либо могли надеяться – и все это без запроса медицинской страховки или нескольких выходных, чтобы отвезти детей в Диснейленд на весенние каникулы.
Бариста-боты и идеальный капучино
Несколько месяцев назад NPR выпустила удобный инструмент на своем веб-сайте, на котором слушатели подкастов могли выбирать из списка различных профессий, чтобы узнать процент риска, который их конкретный вид деятельности перенес за автоматизацию в какой-то момент в течение следующих 30 лет.
Для широкого круга работ, включая, но не ограничиваясь: должности канцелярских работников, сестринское дело, IT, диагностика и даже кафе-бариста, роботы и их коллеги из ANI почти наверняка уволят миллионы из нас с работы и попадут в линию хлеба раньше, чем многие о нас думают. Но это машины, которые будут запрограммированы для выполнения только одной задачи и одной задачи, и у них будет мало (если вообще) возможности выйти за пределы специализированной серии заранее запрограммированных инструкций, которые мы тщательно устанавливаем заранее.
Это означает, что, по крайней мере, в обозримом будущем (думаю, через 10-25 лет), АНИ будут реальной, ощутимой угрозой нашему образу жизни гораздо больше, чем любая теоретическая АГИ или АСИ. Мы уже знаем, что автоматизация является растущей проблемой, которая кардинально изменит способ распределения доходов и привилегий в первом и третьем мире. Однако вопрос о том, попытаются ли эти роботы в конечном итоге обменять свои швейные машины на пулеметы, все еще является предметом горячих (и, как вы узнаете), в конечном счете, несерьезных дебатов.
С великой силой приходит великая сингулярность
«Вы знаете, я знаю, что этого стейка не существует. Я знаю, что когда я кладу это в рот, Матрица говорит моему мозгу, что она сочная и вкусная. Через девять лет вы знаете, что я понимаю?
«Невежество – это блаженство.”- Сайфер
Хотя это все еще является предметом яростного аргументированного мнения, на данный момент консенсус многих ведущих ученых и инженеров в области исследований ИИ, похоже, заключается в том, что мы подвергаемся гораздо большему риску стать жертвой комфорта, которым является мир искусственного интеллекта. мог бы предоставить, а не быть сбитым реальной версией Skynet. Таким образом, существует серьезная вероятность того, что наша возможная кончина не может быть результатом медленного, методического прогресса в великом неизвестном. Вместо этого, гораздо более вероятно, что он всплывет как непреднамеренное следствие спешащего, чрезмерно восторженного пересечения нашего собственного высокомерия и изобретательности, сливающегося воедино, чтобы создать следующую великую технологическую особенность.
Подумайте меньше Терминатор, и больше Wall-E. Подобно флоту роботов, которые откармливали людей в фильме Пиксара, у нас, людей, нет проблем держать шимпанзе в зоопарке, и различие заключается в том, будет ли ИИ достаточно любезен, чтобы поступать так же с нами.
С этой точки зрения, имеет больше смысла бояться реальности, в которой люди подключены к постоянному виртуальному моделированию виртуальной реальности в виде Матрицы , откармливаемой жабрами из-за их любимой пищи, и с учетом все, что они могли когда-либо хотеть, в то время как машины заботятся об остальном. Место, где развитый АСИ не видит в нас жучка, чтобы соскрести свою обувь, но вместо этого мы, как очаровательные мясные мешки обезьяны, легко угодить и заслуживаем хотя бы небольшого уважения за создание всезнающего, всевидящий квазибог, который в конечном итоге захватил планету.
В этом отношении все сводится к вашему определению того, что значит «жить» через революцию ИИ. Идея о том, что с чем-то «бесполезным» должно быть покончено, является исключительно человеческой концепцией, мышлением, от которого мы не должны сразу ожидать, что наши повелители машин примут наши ограниченные моральные возможности. Возможно, в конечном итоге эволюция нашего цифрового интеллекта будет не чистым злом, а бесконечным, беспристрастным состраданием ко всем живым существам; какими бы эгоистичными, самодовольными или саморазрушительными они могут быть.
Итак … Должны ли мы беспокоиться об этом?
Это зависит от того, кого вы спрашиваете.
Если вы опросите двух самых умных инженеров-технологов и математиков в современном мире, вы получите четыре разных ответа, и цифры не будут колебаться, даже если вы добавите в табло больше людей. В любом случае, основная проблема, которую мы должны решить, – это не «ИИ идет?», Потому что это так, и никто из нас не сможет остановить это. Рассматривая так много разных точек зрения, реальный вопрос, на который никто не может ответить со слишком большим сомнением: «это будет милосердно?»
Даже после того, как некоторые из величайших умов мира взвесили этот вопрос, картина того, как может выглядеть машинный интеллект через 20, 30 или 50 лет в будущем, все еще остается довольно туманной. Поскольку область ИИ постоянно трансформируется во что-то другое, каждый раз, когда изготавливается новый компьютерный чип или материал для транзистора, требовать абсолютного авторитета в отношении того, что может или не может произойти, все равно, что сказать, что вы «знаете», что бросок костей является определенным поднять змеиные глаза на следующий бросок.
Одна вещь, которую мы можем с уверенностью сообщить, – это то, что если вы обеспокоены тем, что на следующей неделе вы получите бланк квитанции из своего компьютеризированного кассового аппарата, постарайтесь не слишком увлекаться этим. Taco Bell будет по-прежнему открыт для вторников Taco, и человек наверняка примет ваш заказ у окна (и снова забудет зеленый соус). Согласно исследованию, проведенному Джеймсом Барратом на прошлогоднем саммите AGI в Квебеке, жюри в тяжелые сроки для ИИ все еще отсутствует. Менее половины всех присутствующих сказали, что, по их мнению, мы достигнем истинного AGI до 2025 года, в то время как более 60 процентов заявили, что это займет как минимум до 2050 года, если не в следующем столетии и не только.
Неверное указание нашей даты с цифровой судьбой – это все равно, что сказать, что вы знаете, что на сегодняшний день пойдет дождь через 34 года. Разрыв между настоящим AGI и продвинутым искусственным супер-интеллектом настолько мал, что все или пойдет действительно правильно, или ужасно неправильно очень, очень быстро. И хотя квантовые компьютеры находятся за горизонтом, и у всех нас в карманах есть сетевые смартфоны, которые могут передавать сигналы в космос, мы все еще едва царапаем поверхность понимания «почему» того, почему мы думаем о вещах так, как мы делать, или откуда вообще приходит сознание.
Вообразить, что мы можем случайно создать искусственный ум, изобилующий всеми нашими собственными недостатками и эволюционными пропусками зажигания – прежде чем мы даже узнаем, что же делает нас теми, кто мы есть, – это сущность человеческого эгоистического пробуждения.
В конце концов, несмотря на наше неослабное желание решить, кто выйдет на первое место в грядущей войне и/или мирном договоре между человечеством и машинами, это соревнование ограниченных ожиданий против безграничных возможностей, и все, что мы делаем, это спорим о семантике между. Конечно, если вы только что закончили среднюю школу и хотите получить свидетельство о вождении на такси, у генерального директора Uber есть полмиллиона причин, по которым вам стоит подумать о поиске карьеры где-нибудь еще.
Но если вы запасаетесь оружием и консервированными бобами для апокалипсиса ИИ, вам лучше потратить время на изучение того, как рисовать, писать код или писать следующий великий американский роман. Даже по самым скромным подсчетам пройдет несколько десятилетий, прежде чем любая машина научится быть Моне или научится C # и Java, потому что люди полны своего рода творчества, изобретательности и способности выражать свои самые сокровенные чувства, как нет. Автоматическая кофеварка когда-либо могла.
Да, иногда мы можем быть немного эмоциональными, простужаться на работе, или нам нужно немного вздремнуть в середине дня, но, возможно, именно потому, что мы люди, угроза создания чего-то большего, чем нам внутри машины еще очень далеко.
Авторы изображений: Disney Pixar, Paramount Pictures, Bosch, Youtube/TopGear, Flickr/LWP Communications Flickr/BagoGames, Фонд Викимедиа, Twitter, WaitButWhy 1, 2
