?

Log in

Previous Entry | Next Entry

Что такое Технологическая Сингулярность?

перевод статьи "What is the Technological Singularity?" журнала The Next Web

Закон Мура существует уже 46 лет. Он описывает тенденцию в сфере компьютерного оборудования, свидетелями которой мы были уже несколько десятилетий. Количество транзисторов, помещающихся на интегральную схему, увеличивается в два раза каждые два года, и пока не было и намека на замедление темпов.

Закон назван в честь Гордона Мура, который описал эту модель в 1965 году. А уж Мур то на интегральных схемах собаку съел, ведь он был одним из основателей Intel в 1968 году.

Несколько лет назад Мур сказал, что нам осталось двигаться такими же темпами лет 10-20, потому что "мы приближаемся к размеру атомов, а это серьезный барьер". А потом он сказал, что мы просто начнем делать платы большего размера.

Рэй Курцвейл известен своими идеями на тему Технологической Сингулярности. Сингулярность наступит после того, как наши технологии превысят вычислительные возможности человеческого мозга, и Курцвейл предсказывает, что на основании закона Мура и общей тенденции экспоненциального роста технологий, этот момент наступит в середине 21-го века. Примерно в то же время мы станем свидетелями появления искусственного интеллекта, превышающего способности человеческого мозга. Но дело не только в создании умных машин. Последствия будут очень серьезные, и скоро мы о них поговорим.

Технологическая Сингулярность это термин, придуманный писателем фантастом Вернором Винджем в 1983 году. "Скоро мы создадим разум, могущественнее нашего собственного, - писал он - когда это произойдет, история человечества достигнет своеобразной сингулярности, интеллектуального перехода такого же непостижимого, как пространство и время внутри черной дыры, и мир выйдет за границы нашего с вами понимания.

Он обобщил идеи многих своих предшественников, включая Алана Тьюринга и Ирвинга Джона Гуда. Идея заключается в том, что, когда мы будем в состоянии создавать машины с интеллектом, превышающим наш собственный, логично предположить, что эти машины (или их ближайшие потомки) будут способны создать еще более превосходный интеллект. Такой экспоненциальный рост интеллекта будет работать как по закону Мура (можно назвать это законом Курцвейла), но будет гораздо более значительным. Когда разумные существа станут способны создавать еще более разумных существ в быстрой последовательности, человечество вступит в новую эру, где технологии будут развиваться темпами, которые нам и не снились.

О чем это говорит? О том, что благодаря природе экспоненциального роста технологический прогресс уже набирает обороты рекордными темпами.

Сингулярность относится не столько к искусственному интеллекту (хоть это и одна из ее фундаментальных концепций), сколько к тому моменту, когда мы совершенно не в состоянии предсказать технологических достижений будущего.

Что будет представлять из себя Сингулярность?

Сингуляритане говорят, что нам просто не дано представить, каким будет будущее после сингулярности. С такой логикой не поспоришь. Представьте себе мир, где человеческий интеллект находится на самой нижней ступени лестницы. Как выглядел бы этот мир буквально через пару десятилетий? Ответ прост - представить себе такое невозможно. Дело в том, что, будучи более умными существами, они будут способы не просто представлять, но и создавать такое, о чем мы сейчас и мечтать не можем.

Мы можем бесконечно спекулировать о том, к каким изменениям приведет сингулярность, обеспечивающим продолжение экспоненциального роста. Как только мы построим компьютеры, вычислительная мощность которых будет выше человеческой, а так же программное обеспечение, которое подарит этим компьютерам самосознание, которое будет умнее человека, мы увидим, насколько они будут быстрее. Учтите, что с более высокой скоростью вычислений эти машины смогли бы думать так же, как человек, только намного быстрее. Год человеческой работы превратится в 8 месяцев и, рано или поздно, в недели, дни, минуты и когда-нибудь даже секунды.

О том, существует ли верхний предел для скорости вычислений, спорят уже давно, но ученые соглашаются с тем, что до этого предела еще далеко. Как и с любыми спекуляциями, никто не может сказать наверняка, где будет находиться этот предел. В любом случае, сама идея существования такого разума, который за минуту способен осмыслить то, на что у человека уйдет целый год, просто поразительна.

С таким сверхчеловеческим интеллектом и невероятной вычислительной мощностью и скоростью не сложно представить, как такая программа станет переписывать свой собственный код, приходя к новым выводам и пытаясь постоянно себя улучшать.

Век Сверхчеловека

Интересно добавить, что существует вероятность того, что увеличение скорости и вычислительной мощности, может затронуть и людей. Футурологи предполагают, что такие прогрессивные технологии позволят нам совершенствовать наши собственные мозги: их вычислительную мощность, интеллект и память, - изменяя структуру мозга или "портируя" человеческий разум на то же оборудование, на котором будет работать искусственный интеллект.

Отсюда вопрос: может ли случиться так, что сингулярность принесет с собой век сверхчеловека? Если мы сможем создать интеллект, превышающий человеческий, а затем использовать его для усовершенствования своего собственного интеллекта, изменяя саму структуру нашего разума, станем ли мы сверхлюдьми?

Но превращение человеческой крови в васкулоид и возможность выключения эмоций, когда мы не хотим сделать покупку сгоряча, это не более, чем улучшение. Другое дело - усиление интеллекта и вычислительной скорости. Это уже серьезный апгрейд.

Конечно, у нас нет особых оснований полагать, что наши создания вообще проявят интерес к нам или к способам улучшения нашего аппаратного обеспечения. Многие писатели фантасты предполагали, что разумные машины наоборот постарались бы избавиться от человеческой расы просто потому, что наш вид бесполезен.

Близка ли Сингулярность?

Главный вопрос, разумеется, в том, наступит ли технологическая сингулярность вообще. То, что ее кто-то напророчил, еще не значит, что это произойдет, и у идеи этой столько же сторонников, сколько и противников. Будучи технологическим оптимистом, я предпочитаю оставить этот вопрос в покое, хотя это вовсе не значит, что я считаю его неважным. Вы можете взглянуть на фантастическую статью Дэвида Брина "Сингулярности и Кошмары: крайности оптимизма и пессимизма в вопросе будущего человечества", чтобы узнать больше информации по этой теме. Мне лично нравится вот эта цитата из статьи Брина:
"Как могут модели, созданные в более ранней, несовершенной системе, в полной мере симулировать и предсказывать поведение более поздней и намного более сложной системы?".

Конечно, если принять эту цитату как основу для любого аргумента, спланировать переход к сингулярности так же трудно, как утверждать, что ее не произойдет вообще.

Если верить предсказаниям Курцвейла, компьютерные системы, равные по мощности человеческому мозгу, появятся в 2020 году. Но искусственный интеллект будет создан не раньше 2029 года, в котором по предсказанию Курцвейла, мы сможем искусственно воссоздать человеческий мозг. Именно этот прорыв позволит нам создать искусственный интеллект и начать исследовать другие идеи, такие как загрузка сознания.

Сегодняшние тенденции явно не противоречат плану Курцевейла. В 2009 году доктор Энтони Берглас написал статью под заглавием "Искусственный Интеллект убьет наших внуков":
"Компьютер, который в 10 тысяч раз быстрее, чем обычный персональный компьютер, был бы по своим вычислительным возможностям таким же мощным, как человеческий мозг. Со специальным оборудованием было бы нетрудно построить такую машину в ближайшем будущем."

Важно отметить, что, если предсказания Курцвейла сбудутся, и в 2029 году мы воссоздадим человеческий мозг, к тому времени мы уже будем иметь компьютерные системы, сходные по своим возможностям с мозгом. В такой временной шкале, как только мы создадим искусственный интеллект, он уже будет способен мыслить быстрее, чем человек и быстрее получать доступ к разным данным благодаря более совершенному оборудованию.

К 2045 году, говорит Курцвейл, мы расширим интеллектуальные способности нашей цивилизации (включая как программное обеспечение, так и самих людей) - в миллиард раз.

Достаточно просто взглянуть на историю человечества, чтобы понять, как быстро мы способны развиваться. Мне особенно нравится статистика роста продолжительности жизни. В 1800 году средняя продолжительность жизни была 30 лет (прежде всего, конечно, из-за высокой детской смертности), а возраст, который мы сейчас считаем старостью, тогда был большой редкостью. В 2000 году средняя продолжительность жизни в развитых странах была 75 лет. Если мы смогли увеличить продолжительность жизни в нашем обществе в более, чем два раза в такой короткий промежуток времени, мы можем добиться намного большего в будущем.

Джоел Фалконер, австралийский редактор TNW
ссылка на оригинальный источник
Перевод Марии Зеленской

Comments

( 4 comments — Leave a comment )
hitthelimit
Oct. 11th, 2011 11:54 pm (UTC)
“Сингуляритане говорят, что нам просто не дано представить, каким будет будущее после сингулярности. С такой логикой не поспоришь.”

Линейная логика, приложенная к нелинейному процессу — это уже не логика. Спорить тут есть с чем, и это не бог весть какой бином Ньютона.
Раньше логики, утверждающей, что «постсингулярное» будущее вообще есть, есть логика, требующая определения предмета предсказания. Ведь речь идет о нелинейном процессе развития некоторой конкретной функции, которая в общем виде называется просто «интеллект». Хотелось бы посмотреть на строгие выкладки, доказывающие, что эта функция определена на неограниченном диапазоне, по крайней мере — за пределами расчетной точки сингулярности. Ни у Винджа, ни у Курцвейла, ни у одно из армии восторженных встречающих сингулярность нет даже упоминания об этом очевидном аспекте. К сожалению, нет упоминания о существовании этой проблемы и у популяризаторов ИИ. Это по большому счету. А по мелочи - все забывают, что сингулярность, по определению — это не точка перехода для предшествующей функции, это точка ее терминации. И есть еще более незначительный аспект: а с чего вообще возникла идея сингулярности, а не более очевидного предела? И почему все так зациклены на скорости и объемах вычислений? Какое это вообще имеет отношение к интеллекту?

«С таким сверхчеловеческим интеллектом и невероятной вычислительной мощностью и скоростью не сложно представить, как такая программа станет переписывать свой собственный код, приходя к новым выводам и пытаясь постоянно себя улучшать.»

Хоть кто нибудь задался детским вопросом: на основании каких кодов ИИ будет переписывать свой собственный код? :)

«Многие писатели фантасты предполагали, что разумные машины наоборот постарались бы избавиться от человеческой расы просто потому, что наш вид бесполезен.»

Скорее всего, до этого дело не дойдет: наш собственный терминирующий функцию интеллекта апгрейд наступит раньше, чем мы создадим условия для саморавивающейся системы ИИ.

«Мне лично нравится вот эта цитата из статьи Брина:
"Как могут модели, созданные в более ранней, несовершенной системе, в полной мере симулировать и предсказывать поведение более поздней и намного более сложной системы?"»

Вот пример все того же линейного мышления. Для того, чтобы ставить этот вопрос, сначала надо исследовать, не прерывается ли функция на пути к «более поздней и намного более сложной системы». Иначе получается как у тех футурологов эпохи гужевого транспорта: через столько-то лет Нью-Йор утонет в навозе. Оказалось, что функция гужевого транспорта не работает за точкой двигателя внутреннего сгорания. А цивилизация майя не переживет критическую точку уничтожения собственного ариала обитания. Оказывается, экстраполировать рост мощности конвенционального оружия бессмысленно: войны могут стать виртуальными, а потом, кто знает, и вовсе невозможными. И так далее. Если функция четко определена, то это значит также, что она определена на каком-то пределе.

«...в 2029 году мы воссоздадим человеческий мозг, к тому времени мы уже будем иметь компьютерные системы, сходные по своим возможностям с мозгом.»

Удивительно устойчивая наивность Ну кому и зачем нужно подобие заторможенного на всю голову человеческого интеллекта? Кто-нибудь подумал о том, что человек, быть может, только потому еще и существует, что он - заторможенный продукт генетически детерминированных биохимических процессов в его мозгах? Или у ИИ тоже будет эмоциональная нестабильность и усталость в связи с накоплением продуктов жизнедеятельности в его электронных мозгах и мотивационная обусловленность в связи со статусом его Эго? Это все на полном серьезе?...
Anita Bormane
Jan. 20th, 2013 01:01 am (UTC)
Анархон
"""“Сингуляритане говорят, что нам просто не дано представить, каким будет будущее после сингулярности. С такой логикой не поспоришь.”
Линейная логика, приложенная к нелинейному процессу — это уже не логика. Спорить тут есть с чем, и это не бог весть какой бином Ньютона.
Раньше логики, утв... И почему все так зациклены на скорости и объемах вычислений? Какое это вообще имеет отношение к интеллекту?""" мде... ну в общет то, насколько я понимаю, учёные мужи пришли к мнению, что технический прогресс есть, естественное продолжения эволюции...

"""«С таким сверхчеловеческим интеллектом и невероятной вычислительной мощностью и скоростью не сложно представить, как такая программа станет переписывать свой собственный код, приходя к новым выводам и пытаясь постоянно себя улучшать.»
Хоть кто нибудь задался детским вопросом: на основании каких кодов ИИ будет переписывать свой собственный код? :)"""

На основании начальных кодов естественно, собственно человек созидая орудия труда тоже переписывает алгоритм своего поведения....

"""«Многие писатели фантасты предполагали, что разумные машины наоборот постарались бы избавиться от человеческой расы просто потому, что наш вид бесполезен.»
Скорее всего, до этого дело не дойдет: наш собственный терминирующий функцию интеллекта апгрейд наступит раньше, чем мы создадим условия для саморавивающейся системы ИИ."""

Апгрейд своего мозга мы сможем сделать только досконально изучив его, а досконально изучить его мы сможем только при помощи мозга который заведомо мощнее наших мозгов... Т.е. вначале надо создать что-то что мощнее наших мозгов и способно уловить все снейронные связа внутри него и рассчитать как их улучшить... Хотя я думаю проще будет всё это создать на неорганической основе.

«Мне лично нравится вот эта цитата из статьи Брина:
"Как могут модели, созданные в более ранней, несовершенной системе, в полной мере симулировать и предсказывать поведение более поздней и намного более сложной системы?"»

"""Вот пример все того же линейного мышления. Для того, чтобы ставить этот вопрос, сначала надо исследовать, не прерывается ли функция на пути к «более поздней и намного более сложной системы»."""

Конкретная функция может и преравается, как, например, бессмыслено выращивать всё более быстрых почтовых голубей или улучшать оснастку парусников. Просто на замену одной функции паралельно возникает другая, например парусники бессмыслено улучшать, так как на место них приходят пароходы, величину экрана айпода бессмысленно увеличивать так как на место придёт виртуальный монитор в наших мозгаэх. Бороться с эволюцией/прогрессом называйте как хотите, так же бессмысленно как с ветряной мельницей, собственно говоря экономика и лезвие Окхама её главный движитель.

"""«...в 2029 году мы воссоздадим человеческий мозг, к тому времени мы уже будем иметь компьютерные системы, сходные по своим возможностям с мозгом.»
Удивительно устойчивая наивность Ну кому и зачем нужно подобие заторможенного на всю голову человеческого интеллекта? Кто-нибудь подумал о том, что человек, быть может, только потому еще и существует, что он - заторможенный продукт генетически детерминированных биохимических процессов в его мозгах? Или у ИИ тоже будет эмоциональная нестабильность и усталость в связи с накоплением продуктов жизнедеятельности в его электронных мозгах и мотивационная обусловленность в связи со статусом его Эго? Это все на полном серьезе?..."""

Надо сказать при всех своих недостатках человеческий мозг уникален. Все эмоции, псих.неуст. и пр., и пр. выработались путём естественного отбора и эволюции. Особи котории эмоционировали меньше или неадекватно попросту вымирали (к примеру как неандертальцы возможно). Одна из наболевших ИИ проблем это распознавание зрительного образа, например если у изображения котёнка хоть один пиксель не так ИИ считает его уже другим обьектом. Сейчас правда есть уже более продвинутые системы. Но до человека или хотя-бы простейшего живого существа ещё далеко. Разрешения видится в так называемых нейронных сетях, которые уже кое где применяются.
homyak_i_belka
Mar. 20th, 2013 03:42 pm (UTC)
ИИ может быть создан только тогда, когда разработчики дадут себе труд задуматься - почему мозг слона больше человеческого, но интеллектом не является.
А те, кто об этом задумаются, поймут, что создание ИИ экономически нецелесообразно - китайцы с задачей создания интелектов справляются неплохо и естественными методами.
Судя по всему, на земле и с натуральным интеллектом проблемы, куда уж искусственному самозародиться из кучи транзисторов.
homo_ludenus
Aug. 19th, 2013 02:32 pm (UTC)
Прикольно! Хожу по ЖЖ, и нахожу тут тебя :))
( 4 comments — Leave a comment )

Profile

singularity
singularity_ru
Технологическая сингулярность

Latest Month

October 2011
S M T W T F S
      1
2345678
9101112131415
16171819202122
23242526272829
3031     
Powered by LiveJournal.com
Designed by Tiffany Chow