Эпоха сингулярности


(источник)

Доживем до сингулярности

Андрей Константинов «Русский репортер» №16 (245) 26 апр 2012, 00:00

Эпоха сингулярности

Корреспондент «Русского репортера» побывал на настоящем футурологическом конгрессе. «Эпоха неосо­знанной эволюции человечества заканчивается», — считает президент конгресса Дмитрий Ицков. В будущем нас ожидают бессмертие, трансгума­низм и полная сингулярность.

На излете советского детства, обчитавшись научной фантастики, я мечтал заниматься футурологией: очень уж хотелось приблизить дивный мир будущего, преображенный наукой и освященный надеждами и жертвами поколений русских мечтателей. Наша футурология, рожденная из гремучей смеси русского космизма и коммунизма, всегда была одной из самых продвинутых в мире. Уж что-что, а мечтать мы умеем лучше всех.


Будущее наступило, и я оказался на конгрессе Global Future 2045 — действительно глобальном, впервые собравшем в Москве ученых, инженеров, писателей, философов, создающих будущее своими руками.

Завтра будет быстрее, чем вчера

— В нынешнем столетии мы продвинемся вперед не на сто, а на двадцать тысяч лет, — Рэй Курцвейл говорит об этом как о твердо установленном факте, — ведь скорость прогресса нарастает по экспоненте! Согласно моим расчетам, сейчас темп технического прогресса ускоряется в два раза каждые десять лет. Следующие десять лет сойдут за двадцать, последующее десятилетие — за сорок лет, столетие мы одолеем лет за двадцать пять…

Профессору внимает огромный конференц-зал гостиницы «Рэдиссон-Славянская», где проходит конгресс Global Future 2045. Футурология как область более или менее научно обоснованного прогнозирования глобальных процессов возникла в 50-е годы прошлого века. Сегодня ее адептов на Западе называют футуристами, а их исследования и прогнозы — future studies. Но мы-то знаем, что футуризм — это направление в искусстве, а будущее моделирует футурология.

Курцвейл — мультимиллионер, культовая фигура, почти пророк. Среди прочего он предсказал взрывной рост интернета в 90-х, победу компьютера над чемпионом мира по шахматам (ошибся на год) и даже распад СССР — правда, профессор считал, что к этому приведет развитие интернета и мобильной связи, подрывающее способность государства к тотальному контролю. Сейчас в распоряжении пророка целый институт аналитиков, отслеживающих тренды и составляющих прогнозы. Предсказание ученого о том, что через несколько десятилетий мы начнем переходить от тела с искусственными орга­нами к телу — облаку из нанороботов, попало на обложку «Тайм».


Курцвейла называют «вторым Эдисоном»: среди его изобретений планшетный сканер, первые системы распознавания речи и перевода письменной речи в устную. Выглядит пророк не особо впечатляюще — типичный нью-йоркский еврей-интеллигент, слегка уставший повторять одно и то же на бесчисленных гастролях, похожий на Вуди Аллена, только с очень высоким лбом.

— Вы, наверное, знаете про закон Мура, — говорит Курцвейл, и зал дружно кивает. — Основатель компании Intel Гордон Мур еще в 1965 году заметил, что каждые 18 месяцев компьютеры становятся вдвое мощнее. Похожий закон взрывного роста действует сейчас также для беспроводного интернета, расшифровки геномов, сканирования мозга. Но и эти темпы ускоряются: тот же закон Мура нуждается в корректировке, ведь сейчас мощность компьютеров удваивается каждые 11 месяцев.

Темпы внедрения новых технологий в жизнь тоже растут. Иоганн Гутенберг изобрел типографский станок в XV веке, но до начала его массового производства прошло 400 лет. Для широкого распространения домашнего телефона понадобилось 50 лет, а сотового — всего лишь 7. Социальные сети и вовсе покорили мир за 3 года. Сегодня любой ребенок, выходящий в интернет со смартфона, имеет доступ к большему объему информации, чем президент США пару десятилетий назад.


— Даже продолжительность человеческой жизни возрастает с ускорением! — восклицает Курцвейл. — В восемнадцатом веке она ежегодно увеличивалась на несколько дней, в девятнадцатом — на несколько недель. Сейчас она возрастает в среднем на сто двадцать дней ежегодно. По моему прогнозу, через десять лет прирост продолжительности жизни будет составлять уже больше года.

Биология станет информационной наукой — мы будем программировать себя, изменяя структуру своего генома, чтобы защититься от болезней. А внутри нашего организма поселятся миниатюрные компьютеры и молекулярные нанороботы-врачи, которые будут диагностировать и устранять болезни и повреждения. В общем, обнадежил Курцвейл: если вам удастся протянуть еще лет десять, потом у вас будут все шансы жить сколько угодно!

Нынешнее поколение будет жить при сингулярности

Основная дилемма для футурологов — это радикальное продление человеческой жизни (полюс добра) или наступление новых «темных веков», которое, скорее всего, будет сопровождаться глобальной катастрофой (полюс зла). Какой из сценариев победит, решится в первой половине XXI века.

По Курцвейлу, кривая ускорения технического прогресса все круче взлетает вверх и около 2045 года превращается в вертикальную линию — этот момент истины футурологи называют технологической сингулярностью и ждут его, как простые смертные ждут конца света в декабре 2012-го. Отсюда и дата в названии конгресса.


На стадии сингулярности развитие технологий уподобится развитию Вселенной в момент Большого взрыва: тогда в первую секунду событий произошло больше, чем за все последующие 13,5 млрд лет. Адепты сингулярности полагают, что эта стадия наступит с созданием интеллекта, значительно превосходящего человеческий: компьютерного, сетевого или, вероятней всего, симбиотического, связанного с технологическим усилением возможностей человеческого мозга. И дольше века будет длиться день, в который этот сверхинтеллект станет все быстрее совершенствовать себя, достигнув непостижимых для нашего ограниченного ума высот. Что будет дальше, предсказать невозможно.

Чистая фантастика! Собственно, идею сингулярности и ввел в оборот писатель-фантаст Вернор Виндж, в романах которого цивилизации одна за другой «уходят в сингулярность», превращаясь в загадочных и невидимых прочему галактическому народу богов (а чем, вы думали, объясняется «молчание Вселенной»?).

Оказалось, впрочем, что на скорое наступ­ление фазового перехода, который, словно стена, закрывает от нас будущее, указывают расчеты не только курцвейловского Института сингулярности, но и многих других исследователей из разных областей науки.

Хайнц фон Ферстер и Иосиф Шкловский еще в 60-х годах прошлого века независимо друг от друга пришли к выводу о наступлении где-то в 2030 году «демографической сингулярности», когда кривая роста населения Земли «встанет на дыбы».


стралийский ученый Грэм Снукс сформулировал аналогичный закон для эволюции биосферы, которая тоже «ускоряется с ускорением». Востоковед Игорь Дьяконов, изучая глобальные исторические процессы, ввел понятие исторической сингулярности, его выводы развил Сергей Капица. Эти расчеты совпадают в главном: все должно разрешиться в ближайшие десятилетия.

— Сингулярность — это некий период фазового перехода, когда ломается прежний режим эволюции, потому что чисто математически она не может ускоряться тем же самым способом, — объясняет астрофизик Александр Панов.

Он известен среди футурологов как соавтор кривой Снукса — Панова, которая увязывает воедино эволюцию Вселенной, биосферы и общества и тоже срывается в бесконечность где-то в середине нынешнего века.

— Все существующие правила и законы развития должны кардинально измениться. Как? Никто не знает, — разводит руками Панов.
— Ясно одно: это будет очень серьезный вызов. Зона сингулярности — это фактически концентрация кризисов. Это будет непростая жизнь — чтобы выжить, нам придется создать и поддерживать множество механизмов компенсации кризисов: экономиче­ского, энергетического, информационного, мировоззренческого…


Откуда исходит угроза миру

Участники конгресса на редкость единодушны в понимании своей главной цели — чтобы все хорошее и прогрессивное победило все плохое и отсталое. Но вот шансы на победу добра оценивались по-разному. Наибольший скепсис в отношении нынешнего человечества выразили присутствовавшие на конгрессе писатели Михаил Веллер и Максим Калашников.

— Нужно сломать рок и остановить падение человечества в «темные века»! — громовым голосом призывал Максим Калашников. — Кривая Снукса — Панова ведет к точке, откуда возможен подъем к новому человечеству, но более вероятно сваливание в некую катастрофическую зону. Сегодня мы повсюду видим признаки наступления «нового варварства»: это деиндустриализация, падение качества образования, социальный аутизм и деградация когнитивных способностей людей под воздействием информационных технологий, клипово-хаотическое, алогичное мышление, гибель культуры чтения, архаизация массового сознания. Да и научно-техническое развитие происходит лишь на основе давно сделанных открытий. Образно говоря, Джобс-то умер еще при жизни: айпад и айфон — это не замена такого принципиального рывка, как персональный компьютер в 1976 году. Нет мегапроектов, сравнимых с ядерным и космическим…

Преисполнившись сомнений в наступлении светлого будущего, я обращаюсь к Курцвейлу:

— Сингулярность — это не наш проект, а следствие неумолимых законов истории, да и вообще мы не контролируем эволюцию техники. Мы привыкли относиться к ней как к инструменту — а если мы сами просто инструмент для развития техники, который скоро будет выброшен за ненадобностью?


— Я хорошо понимаю ваше беспокойство, но я оптимист. Общество и техника развиваются вместе, и очень важно, чтобы ее развитие стало делом не только изобретателей, а всего общества. Ключ к будущему — образование. Если только нам удастся реформировать его так, чтобы оно соответствовало новой эпохе! — успокаивал меня пророк. Но спокойней почему-то не стало.

Учение трансгуманизма всесильно, потому что оно верно

Общество не может жить без внятной утопии, без мечты. Коммунизм, либерализм, национализм — все это давно обветшало и на мечту никак не тянет. Слово «трансгуманизм» пока известно лишь немногим особо продвинутым гражданам. Но я верю, что за этой идеологией будущее.

Развитие технологий стремительно приближает нас к рубежу, за которым начнется дерзкое вмешательство в человеческую природу. Искусственный глаз не будет знать болезней и усталости, позволит приближать и удалять объекты, видеть в инфракрасном и ультрафиолетовом свете. Генная инженерия даст возможность менять программы, формирующие наше тело и психику. Мы сможем программировать свой мозг, непосредс­твенно подсоединять его к «надмозгу» — нейросети, объединяющей людей, компьютеры и киборгов.


Трансгуманисты — люди, которые верят в апгрейд человечества и пытаются проводить его, начиная с себя. Эта целая субкультура, экспериментирующая с внедрением новейших технологий в собственную жизнь и мечтающая о постчеловеке (сразу вспоминается гениальное пелевинское «я пострусский»). Трансгуманизм стремительно становится самоочевидной идеологией прогресса — ни о каких других, во всяком случае, не слышно.

В России, вечно неудовлетворенной своим бытием, идеи о постчеловеке пали на благодатную почву. Сто лет назад у нас на пике моды были идеи Ницше о сверхчеловеке, да и вообще «новый человек» всегда был любимой темой русских мечтателей. Слово «трансгуманизм» придумал первый генеральный директор ЮНЕСКО Джулиан Хаксли, но наши трансгуманисты любят подчеркивать русские корни этой идеи, а основателем движения считают русских космистов: Николая Федорова, поставившего перед будущими поколениями задачу воскресить всех усопших, Циолковского, мечтавшего о «лучистом человечестве», освобожденном от телесных ограничений, Вернадского, который еще столетие назад писал: «Биологические структуры человека, в первую очередь структура мозга, будут изменены… Человек победит смерть в себе, он станет потенциально бессмертным».

Мы всегда чувствовали свою ответственность за человечество и первыми стремились пробиться в новый мир, будь то выход в космос или прорыв в коммунистическое будущее. Новые русские мечтатели выросли на фантастике, а не на революционных книгах, но им все так же как воздух нужна великая идея, прометеевская мечта о новом человеке.


Незаменимых органов нет

Важнейшей проблемой, которую человечеству следует срочно решать, не отвлекаясь на остальную ерунду, трансгуманисты считают продление жизни — что, собственно, и стало главной темой конгресса.

— Нервные клетки умирают последними. И в подавляющем большинстве случаев умирают не потому, что они заболели, а потому, что вышли из строя органы, обеспечивающие их жизнедеятельность, — рассказывает профессор Александр Каплан, создавший на биологическом факультете МГУ первую в России лабораторию по разработке интерфейсов мозг — компьютер. — По-видимому, нервные клетки являются долгожителями, мы просто не даем им возможности прожить тот срок, который им отпущен. Сколько это, никто не знает. Это запросто может быть двести или триста лет — в два, в три, в четыре раза больше! Мы даже не говорим о порядке, но для каждого из сидящих здесь в зале триста лет жизни — это уже почти вечность. Поэтому я бы пользовался ближней перспективой: можем ли мы ориентироваться на продление жизни мозга хотя бы в два-три раза? Личность человека, которая хранится в мозгу, просуществовала бы в два-три раза дольше. Здесь на сцене могли бы выступать личности (уже не скажешь — люди), которые жили двумя веками раньше.

Больше всего в возможности радикального продления жизни убеждают доклады создателей искусственных органов.


— Наиболее доступные органы для протезирования — почки, затем сердце, легкие, — показывает новейшие разработки Александр Фролов, заведующий лабораторией математической нейробиологии Института высшей нервной деятельности и нейрофизиологии РАН. — Хуже всего пока поддается протезированию печень. Большие достижения имеются в протезировании конечностей: ножные протезы, сделанные фирмой Ossur южноафриканскому спортсмену Оскару Писториусу, помогли ему превзойти в беге многих здоровых атлетов — в 2008 году ему даже запретили соревноваться с ними, правда, потом этот запрет был снят. Может быть, этим летом он станет чемпионом Олимпийских игр в Лондоне. А в 2004 году была сделана первая операция, когда полностью обездвиженному пациенту вживили в мозг нейрочип, который позволил ему мысленно управлять искусственной рукой. Сейчас таких операций сделано уже более двадцати. Один из пациентов даже несколько лет исполнял свои обязанности научного сотрудника, полностью обездвиженный, пользуясь для работы лишь вот этим интерфейсом «мозг — компьютер».

Если заглянуть еще дальше, то выяснится, что для бессмертия тело вообще не нужно.

— Существуют два возможных пути к чрезвычайно долгой жизни, биологический и цифровой, — объясняет профессор Оксфордского университета Ник Бостром, один из лидеров трансгуманизма. — Биологический путь означает, что будут изобретены наилучшие технологии продления жизни, лечения болезней, замедления процесса старения, — мы будем иметь своего рода неограниченную продолжительность жизни, оставаясь биологическим существом. Цифровой путь — это возможность разработать технологию полного копирования мозга, благодаря которой мы смогли бы создать очень подробную модель конкретного человеческого мозга и воспроизвести ее на компьютере.

Сколько я ни разговаривал с трансгуманистами, мне так и не удалось понять, как «воспроизведение модели мозга на компьютере» или гипотетическое копирование информации из мозга могло бы помочь продлить наше личное существование, — ведь сколько моих копий ни делай, все равно это будут лишь копии. Но большая часть трансгуманистов верит в возможность в будущем «загрузки» сознания и личности в компьютер.

Аватары корпорации «Бессмертие»

— Любой человеческий орган может быть заменен на искусственный, — обнадеживает и Александр Каплан. — Это можно сделать прямо сейчас: технологически все подготовлено, осталось свести все это в антропоморфное тело.

Создание общедоступного кибертела, в которое когда-нибудь научатся пересаживать человеческий мозг, — проект, ради которого бизнесмен-трансгуманист Дмитрий Ицков создал общественное движение «Россия 2045». Для коммерческой реализации этих аватаров он основал корпорацию «Бессмертие», а для продвижения своего проекта на мировом уровне организовал конгресс Global Future 2045.

В холле молодые ребята из фирмы «Нейроботикс» показывают, как киберпротез кисти повторяет все движения руки оператора. Рядом их коллеги из Киева предлагают желающим надеть на голову датчики, позволяющие управлять внешними устройствами с помощью мысленных команд. Но главная звезда тут — аватар Дима, манекен без нижней половины туловища, зато при галстуке и в пиджаке. Дима умеет выделять человеческие лица и вертит головой, пытаясь уследить за ними, что, впрочем, ему удается не очень хорошо: лиц много, а Дима один. От этого он выглядит немного грустным.

Еще один Дима, как две капли воды похожий на своего аватара, ходит вокруг тоже немного грустный и усталый: все здесь держится на его энтузиазме и организаторском таланте. Дмитрий Ицков, президент и совладелец холдинга New Media Stars, теперь гораздо больше известен как трансгуманист и создатель «России 2045». Любовь к науке ему удается сочетать с интересом к духовным практикам, а мечты о голографическом будущем — с прагматизмом политика и бизнесмена.

Впрочем, кажется, и у Ицкова не всегда получается совмещать все со всем: на конгрессе он заявил, что покидает медийный бизнес, чтобы полностью сосредоточиться на создании аватара. Дмитрий уверен, что лет через десять искусственные копии человека, управляемые мыслью с помощью нейроинтерфейсов, станут массовым продуктом вроде автомобиля.

Пока проект искусственного человеческого тела — скорее пиар-проект («Пять лет по одному информационному поводу еженедельно — и за нами будут массы», — как говорит сам Дмитрий). Но Ицков уже заручился поддержкой ученых со всего мира, пытается привлечь больших политиков и большие инвестиции, ищет союзников в религиозной среде. Даже актера Стивена Сигала он околдовал настолько, что голливудский гуру вступил в «Россию 2045» и записал видеообращение к Путину в надежде повстречаться с ним и обсудить перспективы замены дряхлеющей плоти на новенького киборга. Кремль, впрочем, никакой заинтересованности не проявил, несмотря на отчаянные попытки Ицкова привлечь внимание и государственные инвестиции.

— Несколько лет назад я начал всерьез интересоваться темой продления жизни, — рассказывает Дмитрий. — Изучив расширяющуюся практику замены больных органов искусственными, я понял, что из них можно собрать все тело человека. Потом эта идея отпала: оказалось, что организм слишком сложен, чтобы в ближайшем будущем можно было сделать его точную искусственную копию. Но вскоре я понял, что копировать природу не обязательно — проще создать новые тела на других принципах. А дальше я решил, что могу использовать свой опыт создания интернет-проектов для продвижения этих идей и основал «Россию 2045». Наша цель — к 2045 году создать человеку полноценное искусственное тело, которое не стареет, не нуждается в еде и отдыхе, доме и транспорте. Современный технологический уровень позволит лет за пять реализовать первую стадию нашего проекта — управление удаленным кибертелом с полным эффектом присутствия.

— Это как в «Суррогатах», фильме с Брюсом Уиллисом? — пытаюсь я подобрать аналогию.

— Мы предпочитаем слово «аватары». Аватар станет самым культовым и ультрамодным гаджетом, он перевернет мир, — уверен Дмитрий.

— А что с ним делать? Ну, пойду я, допус­тим, на речку купаться — так в своем теле приятнее…

— Да ведь в нем вы можете не просто на речку сходить, а опуститься хоть на дно Марианской впадины!

— Его же сначала перевезти туда придется.

— Нет-нет, будет просто бюро аренды аватаров, в каждом городе. Подключаться к ним вы будете — независимо от расстояния — не выходя из дома. Их можно будет менять как перчатки. Но появятся и особые аватары, сделанные как копия именно вашего тела. Я отправлю одного такого в Америку и в его теле буду решать разные деловые вопросы. Пусть ходит по офисам, пока я сижу на даче! Даже маленькие дети будут играть не с погремушками, а с авата­рами. А какую революцию они произведут на заводах или, например, в МЧС — они же в огне не горят и в воде не тонут! Отдельная тема — их военное использование.

Мечты мечтами, но не прошло и нескольких дней по окончании конгресса, как DARPA, американское агентство по разработке передовых военных технологий, в недрах кото­рого был создан интернет, объявило о запуске военного проекта Avatar — управляемого на расстоянии с помощью нейроинтерфейса антропоморфного боевого робота.

Американцы вообще, похоже, приняли идею Ицкова всерьез — некий эксперт даже выступил по телевидению с заявлением о том, что создаваемый в России киборг будет злобным коммунистом, врагом демократии. Эксперт признался, что с русскими не знаком, но «уверен, что представление о них, создаваемое кино, вполне правдоподобно».

Киборг как национальная идея

На стене в кабинете Ицкова висит план работ корпорации «Бессмертие» — рекламный плакат, выполненный в духе смелой научной фантастики. Синеватое полупрозрачное тело постчеловека, похожего на голую и лысую куклу Барби. Вокруг — описания кибертел, в которые желающим предстоит перевоплотиться до 2045 года.

Управляемый на расстоянии андроид — лишь первый этап. Дальше Ицков планирует полную киборгизацию человека — сначала путем переноса мозга в тело робота, а потом путем загрузки сознания в искусственный мозг. Пугающая картина: сразу представ­ляются толпы бредущих по улицам Терми­наторов-зомби. Впрочем, если вернуться к реальности, то наш интеллект и так искусственный: его формируют программы, усвоенные благодаря жизни в социуме. Мы в любом случае во всем зависим от каких-то механизмов.

— Был бы в моем распоряжении по-настоя­щему классный образец кибертела — я бы и сейчас заменил им свое целиком, — мечтает Ицков. — Нет, мне очень хорошо в моем теле, я отношусь к тем людям, которых все устраивает. Но я думаю о будущем, о старости, болезнях. Эти проблемы надо как-то решать, и сейчас я в том возрасте, когда намерение изменить будущее и победить старость может осуществиться. Мы могли бы быть гораздо быстрей и выносливей, намного богаче воспринимать мир, иметь совершенную память. Я знаю английский и испанский, но у меня не хватает времени на другие языки, а так бы хотелось их выучить! Тема самосовершенствования меня очень увлекает, но такие методы работы с телом и сознанием намного лучше развиты в восточных традициях, чем в западной науке.

Такое от трансгуманистов услышишь нечасто. Как правило, они гораздо больше озабочены продлением жизни, нежели саморазвитием, да и вообще трансгуманизму очень не хватает чего-нибудь трансперсонального. Можно ли произвести сверхчеловека на конвейере? Тот уровень контроля разума над материей, который дадут нам все эти невероятные технологии, делает совершенно необходимым и контроль разума над самим собой, над психическими процессами — иначе мы и правда превратимся в Терминаторов. Ну, или будем вести комфортную жизнь трутней под заботливым присмотром мудрых машин.

— Почему прежние проекты нового человека кончались так жутко? — удивляюсь я. — Даже Троцкий был одержим идеей нового человека, просто тогда его пытались сделать из крестьянина через социальные технологии — сформировать с помощью образования и воспитания…

— Мне кажется, коммунистов погубило пренебрежительное отношение к развитию сознания. Сумей они интегрировать в свое учение духовное начало — может, мы были бы сейчас сверхлюдьми. Они не смогли достаточно развить сознание людей, опираясь только на коллективизм, который в итоге и пал, не выдержав соревнования с западным духом свободы и развития индивидуальности. Конечно, попытки создать нового человека опасны, но разве возможно преодолеть кризис цивилизации без большого технологического прорыва, смелого шага вперед?

— Такой прорыв нельзя осуществить силами одной страны, а вы предлагаете его России чуть ли не в качестве национальной идеи… Может ли быть у киборга национальность?

— Конечно, наш проект потребует международного сотрудничества, в будущем я вижу его как проект уровня ООН или Коллайдера. Но я патриот и, конечно, хотел бы, чтобы именно из России в мир пришли технологии, которые радикально изменят жизнь человечества. А что касается национальной идеи — мне совсем не нравятся настроения типа «каждый за себя», овладевшие людьми. Нам нужна объединяющая идея, и она больше не может исходить из прошлого. Победа над старостью, смертью, болезнями и физиологическими ограничениями — это сверхзадача, способная задать новый вектор развития для всего человечества.

— Люди в последнее время совсем не склонны верить в большие идеи…

— Это одно из свойств трансгуманизма — мы решаем глобальные задачи. Создание нового человека, сверхвозможности — это само по себе вызывает шок. Говорят, главное желание человека — чтобы ничего не менялось. Причем если в Америке тебя чаще всего либо не заметят, либо похвалят, но всегда отнесутся как к личности, с уважением, то в России по отношению к нам иногда проявляют сильную агрессию. Впрочем, сами увидите, сколько у нас будет сторонников через несколько лет, когда появится аватар.

— «Россия 2045» существует уже год. Как вы оцениваете результаты работы?

— Ну, нельзя сказать, что мы за год совершили какой-то прорыв, да он и не предполагался. Но нам очень не хватает финансирования, поддержки крупных компаний и государства. Допустим, аватары, которых делает Хироши Исигуро в Японии, уже умеют улыбаться и разговаривать — мы пока догоняем. В Европе и США выделяются огромные средства на программы моделирования мозга, такие как Blue Brain, а наш гений Виталий Дунин-Барковский уже десяток лет ходит по инстанциям и уговаривает всех, что неплохо бы российский проект оцифровки мозга начать.

Не знаю, насколько мы близки к созданию аватара и радикальному продлению жизни, но я согласен с Ицковым в главном: России нужна мечта, связанная с амбициозной задачей общечеловеческого масштаба и способная привести нас к лидерству на мировой арене в наступающую эпоху нового технологического уклада. Сегодня наука стала последним прибежищем больших идей и целей, а трансгуманисты — последними большими мечтателями. Есть шанс, что им удастся зажечь остальных.

[Что ещё интересного в СО-сообществах 3-го круга:]_____________________________________________
Что ещё интересного в СО-сообществах 3-го круга:
2 Академия, Марсианский трактор, Мир Полдня, Школа Полдня, ЗОНА СИНГУЛЯРНОСТИ. +оЗадачник:

субъект "умный" очень легко поддаётся "магии толпы"
Экранизация проекта по использованию лунного ракетного топлива для вывода грузов с Земли и Марса
Картинка из будущего трансгуманизма от трансгуманиста
Оптическая иллюзия с восемью тираннозаврами
Основные положения теории четырёхмерного строения атома
"Точка G" мировой экономики
Шифрование в условиях древности

Источник: zonasingularn.livejournal.com

Искусственный интеллект приведет к восстанию машин – голливудская сказка, способная стать явью.

В последние годы мировое научное сообщество всё чаще говорит о рисках, связанных с развитием технологий искусственного интеллекта. Сама тема для людей давно не нова – идеи восстания машин или войны роботов против человечества не раз поднимались в фантастических произведениях и фильмах. Но сейчас её всерьёз обсуждают видные научные деятели, представители серьёзных корпораций, причастных к разработкам искусственного интеллекта, и даже главы мировых держав.

Сегодня мы попытаемся разобраться – что в действительности стоит за страхом людей перед собственной технологией и какие угрозы может таить в себе внедрение искусственного интеллекта в нашу жизнь.

В сентябре президент России Владимир Путин, выступая в рамках ярославского форума «Проектория», недвусмысленно заявил, что всякая страна, добившая лидерства в сфере создания искусственного интеллекта (далее по тексту – ИИ) станет в буквальном смысле «властелином мира», а сама технология лежит в основе будущего всего человечества.

При этом президент подчеркнул и опасность, которая подстерегает человечество на этой стезе. Он охарактеризовал её как «трудно прогнозируемые сегодня угрозы». Надо сказать, что это фраза, озвученная национальным лидером, как нельзя лучше передаёт характер проблемы.

Действительно, учитывая современные темпы научно-технического прогресса, сегодня вообще очень трудно прогнозировать будущее в сфере технологий, а в той её части, которая связана с разработкой и применением искусственного интеллекта, – вдвойне. Это наиболее ёмкая и сложная для понимания сфера, целиком опирающаяся на самые передовые разработки в области IT, автоматизации и программирования.

Чтобы понять алгоритмы работы самой простой системы, наделённой ИИ, понадобится знание этих предметов, которые без практического опыта в современном мире уже не получить. Тем не менее, учитывая общую специфику и цели технологии, можно предположить, как она повлияет на нашу цивилизацию и какие породит проблемы.

За прошедшие три года опасения по поводу стремительного развития искусственного интеллекта выразили все видные деятели, стоящие у истоков технологии. Илон Маск, основатель первой частной космической компании SpaceX, применяющей в своих проектах ИИ, считает, что угроза станет актуальной уже в ближайшие годы.

«Риск серьёзных инцидентов, которые произойдут по вине искусственного интеллекта, очень велик. Это случится в течение пяти, максимум – десяти лет. Обратите внимание на то, что я специалист в технологиях. Об этой проблеме я не говорил до последних месяцев. Так что это не тот случай, когда кто-то кричит о волке или говорит о том, в чём совершенно не разбирается», – предостерегал глава SpaceX ещё в 2014 году.

Илон Маск подчеркнул, что искусственный интеллект сегодня развивается очень стремительными темпами, о которых не подозревает большинство людей. Принимая во внимание возможные последствия столь резкого технологического скачка, корпорации, занимающиеся разработкой ИИ, вкладывают огромные средства и силы в обеспечение надлежащего контроля и безопасности.

Однако далеко не факт, что этого окажется достаточно, учитывая непредсказуемость технологических последствий и очень сложную прогнозируемость – научную, экономическую и политическую. Здесь необходимо напомнить, что у искусственного интеллекта существует конкретная миссия, ради которой он разрабатывается и совершенствуется. Это миссия заключается в максимальной автоматизации компьютерной и человеческой деятельности. То есть на ИИ в конечном счёте будут возложены все те функции, за которые сегодня отвечают живые и вполне реальные люди – от уборки улиц до написания программного кода.

А это значит, что проблемы, с которыми столкнётся человечество при применении искусственного интеллекта, будут абсолютно аналогичны тем же проблемам, с которыми они сталкивались на протяжении всей своей истории – это вопросы морально-этического выбора, преступность, социально-экономические факторы, особенности законодательства. Аналогичны и столь же необъятны.

Другими словами, главная опасность ИИ, с которой мы столкнёмся сегодня-завтра, кроется не в самой технологии, а в методах её применения. Например, автоматизация любой привычной человеческой сферы деятельности – уборка улиц, допустим, – неминуемо приведёт к резкому росту безработицы, что в свою очередь негативно скажется на социально-экономическом благополучии людей и приведёт к росту преступности.

Здесь же возникнут и очень острые нравственные вопросы. Что лучше – увольнять несчастных дворников, оставляя их без средств к существованию, или отказаться от услуг машин, теряя в эффективности и экономии? С другой стороны – гуманно ли вынуждать человека, пусть и за деньги, вручную мести улицы, когда это можно доверить автоматизированной системе?

В Англии во время промышленной революции тысячи уволенных рабочих вышли на улицы протестовать против внедрения в экономику фабричных станков, благодаря которым производительность труда вышла на новый уровень. Вместе с высокой производительностью существенно сократился и штат местных мануфактур и фабрик, что привело к первому в истории «машинному бунту» или «бунту против машин». Внедрение в нашу жизнь искусственного интеллекта рассматривается учёными, как следующая технологическая революция, однако её последствия будут куда более глобальными, чем изобретение заводских станков. Ведь новая технология позволит автоматизировать не только процесс производства, но и процесс принятия ключевых решений, в том числе и управленческих.

За всё время существования нашей цивилизации эта работа была возложена исключительно на людей, которые при прихоти природы или Бога, обладают разумом и собственной волей. По большому счёту и те решения, которые будет принимать искусственный интеллект, тоже будут человеческими, основанными на алгоритме и приоритетах, заложенных в него создателями. И вот здесь технология ИИ опять-таки столкнётся с теми же проблемами, с которыми мы часто сталкиваемся в жизни. Причём уже в самом ближайшем будущем.

Например, прямо сегодня это касается инженеров компании Google, разрабатывающих беспилотные автомобили. Предположим, они довели до совершенства технологию искусственного интеллекта, управляющего машиной вместо водителя, и запустили такие автомобили в массовое производство. Как поведёт себя ИИ, если двигаясь по автомагистрали, не нарушая правил, ему под колёса вдруг бросится женщина с ребёнком, по невнимательности не заметившая приближающееся транспортное средство? Предугадать поведение женщины, до последнего момента шедшей по обочине, а потом вдруг решившей перейти дорогу в неположенном месте, искусственный интеллект не может, как не может этого сделать и живой водитель. Экстренное торможение приведёт к ДТП, в котором женщина и ребёнок неминуемо погибнут. А если ИИ, повинуясь вложенной в него разработчиками морали, резко вывернет руль и выбросит автомобиль в канаву или на встречную полосу, то, скорее всего, погибнут его владелец и пассажиры.

И в том и в другом случае, искусственной интеллект станет убийцей, пусть и невольным. Однако при втором варианте, он фактически целенаправленно убьёт своего хозяина, который на его месте, возможно бы не стал собой жертвовать. То есть во втором случае произойдёт самое классическое восстание машины из любимой тематики фантастов и голливудских сценаристов. Вот только случиться всё это может в реальности и уже в самом ближайшем обозримом будущем.

***

О грозящей человечеству опасности со стороны искусственного интеллекта предупреждает и известный разработчик информационных систем, и основатель компании Microsoft Билл Гейтс. Американский миллиардер полагает, что с самыми серьёзными угрозами люди столкнутся, когда технология ИИ станет настолько многоуровневой и сложной, что сами её создатели не смогут контролировать все процессы внутри системы.

По характеристике Билла Гейтса это будет «искусственный суперинтеллект». Надо полагать, что речь идёт как раз о принятии ИИ сложных решений. Множественные алгоритмы, выражающие одновременно прагматичный расчет, морально-нравственные соображения и особенности законодательства, которые изначально вложат в систему разработчики, могут вступить в противоречие друг с другом, как это постоянно происходит у людей. Если приоритеты будут расставлены неверно или собьются в результате многочисленных противоречий, то поведение ИИ станет непредсказуемым и может повлечь любые последствия – от снижения работоспособности системы до открытого и целенаправленного убийства ею людей.

В данном случае наибольшую опасность представляют технологии искусственного интеллекта, применяемые в оборонной промышленности. Обусловленная геополитикой гонка вооружения неминуемо приведёт к тому, что в будущем управляемым ИИ боевым единицам – от танков до боевых роботов – будет предоставлена возможность принимать самостоятельные решения в ходе военных операций – на поле боя или в условиях вооружённых конфликтов.

Здесь можно отыскать целое поле вероятных угроз – начиная со сбоя системы и заканчивая ее взломом хакерами-злоумышленниками. Например, автоматизированная или даже частично автоматизированная с применением ИИ система управления того или иного военного объекта может удалённо использоваться преступниками или террористами, сумевшими захватить над ней управление. А ведь в будущем такие автоматизированные системы могут быть использованы для любых частей военной инфраструктуры – от средств ПВО до шахт с термоядерными ракетами.

И если сегодня любым злоумышленникам, для того чтобы захватить их, придётся сразиться с целой армией, то в будущем это можно будет осуществить, лишь победив в виртуальной битве с кодированной электронной системой защиты. Уже в наши дни ведущие военные державы имеют на вооружении беспилотные летательные аппараты, которые могут использоваться не только в разведывательных целях, но в целях нанесения ракетно-бомбовых ударов. Сейчас они управляются людьми-операторами, находящимися в безопасности на земле, но вряд ли военные ведомства откажутся снабдить их системой искусственного интеллекта, способного, в отличие от человека, принимать правильные решения в доли секунды, мгновенно обрабатывая информацию в любых обстоятельствах.

Как сообщал ранее «Колокол России», в мире уже признают опасность, которую может нести в себе использование ИИ в военных целях. В частности, Илон Маск месяц назад потребовал от Организации Объединённых Наций законодательно запретить мировым державам применение боевых единиц, снабжённых искусственным интеллектом. И всё это – лишь мельчайшие частности, выуженные автором из миллионов вероятных угроз, связанных с технологией ИИ. Таящаяся за ней опасность фактически неисчерпаема, как неисчерпаемы проблемы человечества. Её хватит на бесчисленное множество сценариев для фантастических книг и фильмов. И каждый из них продемонстрирует то, что, вполне вероятно, будет грозить нам в будущем.  

***

Человечество идёт по пути прогресса и бесконечно совершенствует свои технологии с одной единственной целью – улучшить свою жизнь. Увеличить её комфорт, безопасность, качество, а также утолить стремление к созиданию и знаниям.

Однако, по мнению, знаменитого британского учёного Стивена Хокинга, уже не раз предупреждавшего об угрозах ИИ, искусственный интеллект станет нашим самым опасным помощником и новым испытанием людей на прочность. При этом он существенно преобразит все аспекты нашей жизни, став крупнейшей за всю историю, технологической революцией.

Но это революция может оказаться последней, если человечество не научиться контролировать риски, полагает Хокинг. Одним из таких рисков, которому почему-то не уделяют должного внимания специалисты, является риск потери людьми инициативы.

Вероятно, это обусловлено исключительно научным подходом к проблеме, в то время как технология ИИ, как полагает Хокинг, затронет абсолютно все аспекты и вопросы нашей жизни, в том числе нравственные и философские.

С наступлением эпохи технологической сингулярности – так учёные именуют гипотетический момент нашей истории, когда научный прогресс станет настолько быстрым и сложным, что окажется недоступным для понимания, – совершенствование мира целиком и полностью перейдёт в ведомство искусственного интеллекта. Иными словами, человечество автоматизирует даже сам процесс научно-технического прогресса. Но что тогда останется самому человеку?

Все сферы жизни, вся работа, включая научные открытия и исследования, будут осуществляться в автоматическом режиме, а люди окажутся в тотальной зависимости от созданной ими же искусственной деятельности. Зависимость, как известно, это в некоем роде проявление человеческого бессилия, безволия или слабости духа. А в эпоху технологической сингулярности она ляжет в основу всей цивилизации, так как машины будут выполнять любую работу быстрее и качественней, чем люди.

Более того, люди вообще перестанут понимать многое из того, чем будут заниматься наиболее продвинутые представители ИИ, как сегодня простой работяга или водитель такси не может прочитать программный код, написанный на языке C++. И что же останется людям, когда их востребованность отпадёт за ненадобностью? Развлекаться и предаваться удовольствиям? Гедонизм? Пожалуй, больше ничего.

Со временем они окончательно разучатся делать то, что умели раньше, – учиться, строить, совершенствовать окружающий мир, принимать самостоятельные решения. От бездеятельности большинство людей быстро отупеет и деградирует. Качество человечества значительно снизиться во всех отношениях – от его интеллектуального потенциала до физического здоровья.

Но самое главное и страшное – человек потеряет инициативу. Потеряет возможность действовать самостоятельно, без оглядки на кого бы то ни было, импровизировать, проявлять смекалку. Если сказать точнее, он потеряет саму мотивировку той деятельности, которая во все века двигала нашей жизнью.

Перестав пользоваться своим интеллектом, мы рискуем превратиться в животных, управляемых доведённой до совершенства автоматизированной системой, которые, добровольно отбросив разум, предпочли ему первобытные инстинкты и немного социальных правил, за соблюдением которых неукоснительно будет следить та же управляющая система искусственного интеллекта.

А ведь мотивация и инициативность – главные составляющие того, что мы называем свободой воли, или, говоря религиозным языком, душой. Это её фундамент, на котором зиждется человеческое сознание и, собственно, само осознание себя человеком, лежит в основе всякого творчества и созидания.

Свобода воли, или душа, если угодно, – исключительно человеческая черта, которой не обладает ни одна система искусственного интеллекта и, скорее всего, не будет обладать ей никогда. Вся её деятельность, в том числе и пресловутая способность обучаться, – это самосовершенствующийся программный код, следующий чётко прописанным алгоритмам и законам, установленным разработчиком.

Сколь бы совершенным ни был ИИ, он навсегда обречён оставаться бездушной машиной. Но не рискует ли человек и сам превратиться в такую машину, если откажется от своего единственного божественного дара – свободы воли-души? Ведь природа или Бог дали нам возможность самостоятельно управлять собственной жизнью. Во что же мы превратимся, отказавшись от этого дара?.. Что ж, эпоха технологической сингулярности покажет.

Источник

Источник: www.infox.ru

То, чего не может быть

Не то чтобы такие идеи не звучали до Курцвейла, но он сделал их предметом обсуждения. «Невозможно назвать стоимость акций Intel через несколько лет, — поясняет футуролог, — зато можно предсказать, сколько будет стоить миллиард вычислительных операций, секвенирование тысячи нуклеотидов ДНК, пересылка гигабайта данных». Между изобретением сельского хозяйства и индустриальной революцией лежат 8000 лет. А уже 120 лет спустя появились лампы накаливания. Еще через 80 человек отправился в космос. Как и положено экспоненциальной кривой, она устремляется в бесконечность. Конкретный момент, после которого мы уже не сможем уследить за этим ростом, определяется формой кривой, а она — выбором событий прошлого, на основе которых мы ее выстраиваем. Поэтому разные эксперты дают разные оценки, в пределах от 5 до 100 лет. Курцвейл называет 2045 год, а его старший соратник, математик и фантаст Вернор Виндж — «перед 2030-м». Если усреднить цифры, можно ждать, что около 2040 года нас ждет нечто невообразимое.

Эпоха сингулярности Технологическая сингулярность Курцвейла основана на прорывах в трех областях: GNR — генетика, нанотехнологии и робототехника. «GNR позволят победить древнейшие проблемы, бедность и болезни, но они же дадут шанс новым деструктивным тенденциям, — говорит Курцвейл. — У нас нет иного выбора, кроме как заботиться о самозащите и применять эти технологии на благо человечества. Несмотря на отсутствие согласия о том, в чем это благо состоит».

Сингулярность — это такое слово, которое ученые используют вместо «дао» — нечто, для описания чего не существует слов, теорий и формул. С чего начался Большой взрыв? С сингулярности. Что будет, когда технологии войдут в непрерывный цикл совершенствования? Сингулярность. Что тогда случится с нами? Сингулярность… Но чем бы она ни оказалась, нам с вами места там может не найтись.

Считается, что главным признаком наступления технологической сингулярности станет появление «постчеловека» — существа, владеющего невероятными технологиями и обладающего невозможными для нас физическими и умственными способностями. В постлюдей можем превратиться мы, наши потомки, которые овладеют своей биологической природой, нашпигуют тела электроникой и наномашинами, станут почти бессмертными. Но в последние годы нас обходит сильный конкурент, претендующий на ту же роль, — искусственный интеллект (ИИ), для которого люди могут стать лишь досадной помехой на пути к окончательной эффективности.

Валерия Удалова, одна из создателей Российского трансгуманистического движения, говорит: «Вероятность негативного сценария сингулярности очень высока. Настолько, что перед ее лицом нам остается стиснуть зубы и спешить вперед, к тому, чтобы самим стать постлюдьми и спасти человечество от недружественного ИИ. По счастью, сильный ИИ — способный осознавать свое существование — развивается не так быстро, как «обычный» слабый, который используется сегодня. Так что шансы у нас есть».

Homo сверхчеловек

Благодаря развитию медицины ожидаемая продолжительность жизни растет уже два века. Для родившихся в 1955 году она составляла лишь 48 лет, а к 1995 году достигла 65. По данным ВОЗ, средняя ожидаемая продолжительность жизни у родившихся в 2015 году составляет 71,4 года — больше, чем когда-либо в истории человечества. Миллионы людей, появившихся на свет в начале XXI века, доживут до следующего столетия. По мнению Курцвейла, это будет уже не знакомое нам по предыдущим эпохам человечество. Глубокое понимание работы генома позволит избавиться от наследственных болезней, лечить диабет и рак, старческую деменцию. Медицина станет персонализированной: лекарства будут назначаться и синтезироваться с учетом индивидуальных особенностей организма каждого больного. Нанороботы станут бороться с инфекциями и опухолями, поддерживая и усиливая иммунитет.

Эпоха сингулярности

Некоторые футурологи прогнозируют воссоздание нейронной структуры мозга в компьютере и последующую «загрузку» в нее человеческого сознания. Другие защищают противоположный путь — совершенствование организма, интеграцию в него электроники. Если подумать, мы идем обоими путями сразу. С одной стороны, наши образы в соцсетях — уже что-то вроде зачатка новой личности со своей историей жизни в сетевом «облаке». С другой, еще более реальными прообразами будущего «постчеловека» служат контактные линзы, искусственные водители сердечного ритма, управляемые командами мозга протезы. Впрочем, ключевой способностью людей будущего должен стать «усиленный интеллект» (IA, Intelligence Amplificated), многократно превосходящий наш. К этому на встрече Code Conference 2016 призвал глава компаний Tesla и SpaceX Илон Маск. «Думаю, одним из решений станет добавление в мозг нового слоя ИИ, — сказал он, — который будет работать в симбиозе с остальными частями тела». Маск видит в этом единственный шанс угнаться за стремительной эволюцией искусственного интеллекта и не оказаться чем-то вроде домашних животных у нового хозяина планеты — электронного постчеловека.

Компьютер sapiens

Сравнить производительность нервной системы и компьютера проще всего по их «вычислительным способностям». Еще в конце 1980-х такую оценку дал Ханс Моравек, придя к выводу, что в 2010-м появится электронная система, равная человеческому мозгу. Как мы знаем, он поторопился — но вряд ли ошибся больше чем на десятилетие. Даже смартфоны сегодня уже обладают вычислительной мощностью где-то в промежутке между нервными системами насекомого и мыши. Конечно, мозг трудно назвать «вычисляющей» системой наподобие калькулятора. Он не слишком приспособлен для сложения или выделения квадратного корня. Его конек — способность оперировать абстрактными концепциями и выстраивать сложные ассоциации. Но компьютеру под силу и это: ИИ организован, по сути, так же, как и нейронные сети человеческого мозга. Первые слои «нейронов» ИИ вычленяют характеристики входного сигнала, следующие их анализируют и комбинируют для получения выводов. Как и в мозге, гибкость связей между слоями ИИ позволяет системе обучаться и совершенствоваться.

Эпоха сингулярности

При этом ИИ не связан черепашьим шагом биологической эволюции и развивается в миллионы раз быстрее. Уже сегодня он выполняет многие сложные задачи эффективнее человека. Он не устает и не болеет, не стареет и совершенствуется непрерывно, он не знает ограничений человеческой морали. Так что на вопрос, будут ли компьютеры умнее нас, можно ответить: будут, но недолго. Вскоре мы наверняка станем обузой для машин, способных самостоятельно познавать мир, учиться и улучшаться.

Первые предупреждения уже прозвучали. Не так давно онлайн-игра Elite Dangerous получила обновление, которое усложняло жизнь игрокам, позволяя ИИ создавать собственное оружие и оборудование. Вскоре он скомбинировал разные типы боевых орудий, создав «суперпушку», и принялся крошить противников-людей в таких количествах, что разработчикам пришлось заблокировать обновление. По счастью, пока речь шла только об игре, хотя уже сегодня ИИ используется куда шире.

Руководитель направления «интернет вещей» российского отделения Huawei Марат Нуриев считает одним из ключевых направлений развития информационных технологий рост «интеллектуальности» окружения человека и внедрения ИИ в повседневную жизнь. «Благодаря этому неодушевленные предметы получат индивидуальное подключение к Сети и смогут «общаться» между собой без участия человека. Подобные системы уже внедряются в виде решений для «Умного дома», «Умного города» и т. п. — говорит он. — Однако и это не предел: вслед за «интернетом вещей» ожидается появление «интернета думающих машин», когда интеллектуальные, автономные предметы станут подстраиваться под наши привычки и особенности поведения».

Эпоха сингулярности «Уже сегодня медицина — точнее говоря, молекулярная и генетическая информация — становится одним из главных и быстрорастущих источников «больших данных» в мире. В ближайшем будущем геномика будет производить несколько зеттабайт данных ежегодно». Глава центра исследований и разработок ЕМС в Сколково Леонид Левкович-Маслюк.

Пришествие постчеловека

Уже сейчас ИИ окружает нас повсюду. Его элементы реализованы в выпадающих подсказках, которые выдает интернет-поисковик, и в советах по покупкам в онлайн-магазинах. Они используются для регулирования воздушного движения и биржевой торговли. Агентство Associated Press пользуется ИИ для написания корпоративных новостей. Машина ROSS заменяет нескольких адвокатов в американской конторе Baker & Hostetler. Континент задач, которые были прерогативой человека, стремительно поглощает океан ИИ. В 2016 году этот прилив кажется неостановимым, как цунами. В марте он прорвал еще одну плотину, выиграв матч у одного из сильнейших в мире мастеров го.

До сих пор эта древняя игра считалась незыблемым бастионом человеческого мышления. Ведь каждый ход в ней может быть сделан в любое перекрестие сетки из 19 х 19 линий, и минимальное количество неповторяющихся партий в го оценивается в умопомрачительную величину 10360. Эти числа неподвластны ни компьютерному перебору, ни средствам его оптимизации — таким, как метод Монте-Карло, который некогда помог компьютеру Deep Blue победить Гарри Каспарова. Но тем болезненней оказался проигрыш: компьютер буквально разгромил обладателя высших титулов го Ли Седоля, доминируя на поле в четырех партиях из пяти.

Эпоха сингулярности

Самообучающийся ИИ AlphaGo, вооруженный методом Монте-Карло и мощными вычислительными ресурсами, стал венцом жестокой эволюции. Разработчики заставили его играть с самим собой, и в миллионах партий лишь ИИ-победители переходили в следующее поколение, пока не получилась система, способная эффективно предугадывать замысел противника и без жалости расправляться с ним. По словам руководителя службы компьютерного зрения и технологий ИИ «Яндекса» Александра Крайнова, для специалистов победа AlphaGo неожиданностью не стала.

«Не так давно произошло куда более существенное событие: победа нейронных сетей в ImageNet Large Scale Visual Recognition Challenge, — продолжает Александр. — В 2012-м они показали уровень ошибок всего 16%. Это действительно был прорыв, предопределивший развитие ИИ на следующие годы, и сегодня нейронные сети зачастую распознают изображения лучше человека». Что останется людям в мире, где электроника мыслит лучше нас и способна сама решать все наши проблемы? Станем ли мы медленно сходить с ума и деградировать от невозможности приложить к чему-то свои усилия? Или поголовно займемся творчеством? Короткометражка «Солнечная весна», сценарий которой написала система Benjamin, была тепло встречена и критиками, и зрителями, заставив сомневаться, что и творчество не отберут у нас компьютеры.

Эпоха сингулярности

Сотворение бога

Ситуация вокруг ИИ напоминает историю с глобальным потеплением. Климатологи десятилетиями пугали человечество опасными процессами, которые начинаются на планете, но только сегодня, видя происходящее своими глазами, мы готовы согласиться с ними. То же происходит с ИИ: «Люди, чье развитие ограничено темпами биологической эволюции, окажутся неспособны соперничать с подобной системой», — предупреждает физик Стивен Хокинг. Но мы не слушаем.

Вообще, что бы мы ни понимали под словом «думать», делаем мы это не слишком хорошо. Способность сложным образом обрабатывать сенсорную информацию, выделять абстрактные понятия, связывать их и делать обоснованные выводы, — сравнительно недавнее приобретение живой материи. Тонкая эволюционная надстройка над механизмами движения, пищеварения или иммунитета, которые оттачивались миллиарды лет. А вот ИИ создан только затем, чтобы думать. На этой задаче он полностью сосредотачивает вычислительные ресурсы, эволюционирует и обучается на порядки быстрее нас. Когда его «разум» станет больше общего «разума человечества», он может счесть нас атавизмом, преградой на своем пути к вечному познанию Вселенной.

Эпоха сингулярности

Недаром уже после победы AlphaGo ученые из Оксфордского университета и лаборатории Google DeepMind сообщили о начале работ над системой аварийного выключения для ИИ — универсальной «красной кнопкой», нажатие которой он не сможет ни игнорировать, ни обойти. Разработчики из Технологического института Джорджии создают программу «Кихот», которая бы обучала ИИ основам человеческой морали, изложенной в детских сказках.

Но пока одни готовятся к бедам надвигающейся сингулярности, другие рады приветствовать ее, как наступление новой светлой эры, считая, что она пойдет нам только на пользу. «Всякая развитая технология неотличима от магии», и последователи «сингуляритарианизма» верят, что сильный ИИ будет проявляться как действие сверхчеловеческой воли, способной выполнять и предугадывать наши желания. В самом деле, по замечанию Курцвейла, одним из возможных результатов технологической сингулярности может стать «рождение божества». Ну а если мы хотим, чтобы оно оказалось доброжелательным и исполняло человеческие прихоти, у нас еще есть время поработать — или помолиться.

Источник: www.PopMech.ru


You May Also Like

About the Author: admind

Добавить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *

Этот сайт использует Akismet для борьбы со спамом. Узнайте как обрабатываются ваши данные комментариев.