Вы - новичок

и хотите больше узнать о движении или вступить в него

Вы - активист

и вас интересует жизнь движения

Вы - инвестор

и вы заинтересовались проектами движения и возможностью финансирования

Вы - журналист

и ищете информацию или хотите взять интервью

Элиезер Юдковский. Вглядываясь в Сингулярность.

Дата опубликования статьи: 29.06.2008

Если каждые два года скорость компьютеров удваивается, что произойдёт, когда усовершенствованием технологий займётся компьютерный разум?

Скорость компьютеров удваивается каждые два года.
Скорость компьютеров удваивается каждые два года исследований.
Скорость компьютеров удваивается каждые два субъективных года исследований.

Через два года после того, как искусственный интеллект достигнет человеческого уровня, его скорость удвоится. Через один год, его скорость удвоится опять.

[В настоящий момент Э.Юдковский рассматривает этот текст как несколько устаревший, так как его взгляды претерпели существенное развитие.]

Вглядываясь в сингулярность

        From The Low Beyond.
        ©1996-©2001 by Eliezer S. Yudkowsky. All rights reserved.
        http://sysopmind.com/singularity.html.
        Created: 11/18/1996
        Updated: 05/27/2001
      

Перевод: Д.Медведев, А.Турчин.


Если каждые два года скорость компьютеров удваивается, что произойдёт, когда усовершенствованием технологий займётся компьютерный разум?
Скорость компьютеров удваивается каждые два года.
Скорость компьютеров удваивается каждые два года исследований.
Скорость компьютеров удваивается каждые два субъективных года исследований.

Через два года после того, как искусственный интеллект достигнет человеческого уровня, его скорость удвоится. Через один год, его скорость удвоится опять.

Шесть месяцев - три месяца - полтора месяца ... Сингулярность.

Подставьте в этот ряд нынешнюю скорость компьютеров, текущее время удвоения скорости, и оценку вычислительной мощности человеческого мозга, и получите результат: 2021.

Но лично я хотел бы, чтобы это случилось скорее.

Краткое содержание:

2. Запредельность Сингулярности

1. Конец истории

Всё началось три с половиной миллиарда лет назад в луже первобытной грязи, когда первая молекула случайно скопировала себя и таким образом стала прародителем всей жизни на земле.

Всё началось четыре миллиона лет назад, когда объём мозга гоминид внезапно стал быстро увеличиваться.


Пятьдесят тысяч лет назад с появлением Человека разумного.
Десять тысяч лет назад с возникновением цивилизации.
Пятьсот лет назад с изобретением печатного станка.
Пятьдесят лет назад с созданием компьютеров.

Менее чем через тридцать лет всё закончится.

Уже очень скоро в нашей истории наступит момент, когда кто-то придумает способ увеличения совокупной силы разума на нашей планете - либо запрограммировав искусственный интеллект, либо усилив интеллект человека. Улучшенный человек гораздо лучше сможет изобретать новые способы улучшения человека; он будет обладать "повышенной способностью к изобретательству". На что же он направит свои новые способности? На разработку следующего поколения улучшенных людей.

И что же сделают эти вдвойне улучшенные умы? Найдут способы для тройного улучшения, или построят искусственный разум, работающий с компьютерной скоростью. А искусственный разум сможет перепрограммировать самого себя, напрямую, чтобы работать быстрее - и стать умнее. Что будет дальше? Наш хрустальный шар взрывается от перегрузки, привычная нам жизнь прекращается и все наши представления переворачиваются.

Я попытался сделать прямой и логичный прогноз дальнейшего развития технологий и был низвергнут в пучину неизвестности. Мы сталкиваемся с этой неразрешимой проблемой каждый раз, когда пытаемся представить себе создание разума, более мощного, чем наш собственный. И вот когда это произойдёт, история человека достигнет сингулярности - точки, где все тенденции теряют силу и нужны новые модели развития - где мир выйдет за пределы нашего понимания. -- Вернор Виндж, True Names and Other Dangers, p. 47.

К Сингулярности ведёт несколько путей. Нанотехнология даст возможность строить компьютеры атом за атомом и перестраивать мозг нейрон за нейроном. Искусственный интеллект даст нам само-понимающий и самоулучшающий зародышевый ИИ. Для запуска Сингулярности нам хватит и относительно слабого улучшения людей с помощью нейрооптимизации. Прямые нейронно-компьютерные интерфейсы могут достаточно поднять интеллект человека, или машинный интеллект или их оба. А может быть, неожиданный прорыв произойдёт в совершенно другой области.

Цивилизация, обладающая высокими технологиями крайне нестабильна; она прекращает своё существование, либо уничтожая себя, либо улучшая себя. Если текущие тенденции сохранят свою силу - то есть, если мы не натолкнёмся на какой-то барьер на пути развития разума, не превратим Землю в радиоактивную пустыню и не затопим планету волнами прожорливых само-воспроизводящихся наномашин - Сингулярность неизбежна. Наиболее распространены прогнозы, помещающие Сингулярность в районе 2035 года - ещё при вашей жизни! - хотя многие, в том числе, и я, считают, что Сингулярность может случиться значительно раньше.

Определимся с некоторыми терминами, взятыми из романа Вернора Винджа "Пламя над бездной" (получившего премию Хьюго).

Сила - сущность из времени после Сингулярности

Трансцендентное, Переходный (Трансцендентный), Переход (Трансцендентность) - перепрограммирование самого себя, чтобы стать умнее, перепрограммирование (с использованием своих новых умственных способностей), чтобы стать ещё умнее, и так далее ad Singularitum. "Трансцендентное" - это (метафорически) то пространство и время, где обитают Силы.

Запредельное - промежуточная зона между человеческим состоянием и Силой; область, заселённая существами, более умными, чем человек, но ещё не обладающих технологиями, позволявшими напрямую перепрограммировать себя и Перейти.

2. Запредельность Сингулярности

Мне кажется, жуки и девочки должны подозревать, что Природа сыграла с ними злую шутку, но им не хватает ума, чтобы по-настоящему прочувствовать весь ужас своего положения. -- Calvin and Hobbes

Но почему Силы должны быть настолько умнее и выше, чем мы с вами сейчас? Почему не допустить, что мы станем чуточку умнее, и всё?

Задумайтесь над последовательностью 1, 2, 4, 8, 16, 32. Задумайтесь над следующим шагом F(x) = (x + x). Каждые несколько лет скорость компьютеров удваивается. Это темп улучшения, наблюдаемый неизменными, неулучшенными умами - прогресс с точки зрения простых смертных.

В настоящий момент совокупная вычислительная мощность всех электронных устройств на планете лишь немножко превышает мощность одного человеческого мозга. Мощность человеческого мозга составляет около 10^17 оп./сек, или сто миллионов миллиардов операций в секунду, против примерно миллиарда компьютеров, подключённых к Интернет, каждый со скоростью между 100 млн оп./сек и 1 млрд оп./сек. Полная вычислительная мощность на планете равна мощности одного мозга, 10^17 оп./сек, умноженной на число людей, сегодня примерно 6 млрд или 6*10^9. Искусственная вычислительная мощность пренебрежимо мала, но не потому, что людей так много, а из-за умопомрачительной мощности даже одного человеческого мозга.

При соблюдении старых темпов прогресса, наблюдаемых в 1988 году, когда были выполнены первые оценки момента наступления Сингулярности, ожидалось, что компьютеры достигнут человеческого уровня - 10^17 операций с плавающей точкой в секунду, или сто петафлоп - около 2035. Но при тех темпах машины с мощностью один терафлоп должны были появиться в 2000 году; на самом же деле, они появились уже в 1996, когда появилась на свет первая версия этой статьи. В 1998 году максимальная достигнутая мощность составила 3.2 терафлоп, а в 1999 IBM представила Blue Gene, проект по созданию петафлопного компьютера к 2005 году (прим. перев. - первый компьютер в серии - Blue Gene/L заработал в сентябре 2004, показав скорость 36 терафлоп. В октябре 2005 Blue Gene/L достиг скорости 280 терафлоп. В 2006 году IBM планирует ввести в действие Blue Gene/P, первый в мире суперкомпьютер с мощностью более 1 петафлоп). Так что старые оценки могут оказаться немножко консервативными.

Когда мы создадим компьютеры, равные по мощности человеку, общий объём вычислительной мощности на планете будет равен сумме вычислительной мощности людей и компьютеров. Совокупная мощность интеллекта резко подскочит. Десять лет спустя уже люди станут пренебрежимо малой величиной в расчётах.

Эта последовательность удвоения на самом деле является пессимистическим прогнозом, потому что она предполагает, что мощность компьютеров продолжит удваиваться теми же темпами. Но почему? Скорость компьютеров удваивается не под действием какого-то неумолимого физического закона, а потому, что учёные и инженеры находят пути для создания более быстрых микросхем. А если бы некоторые из учёных и исследователей сами были компьютерами...

Команда компьютерных исследователей человеческого уровня тратит два года, чтобы удвоить скорость компьютеров. Затем они тратят два субъективных года, или один год по человеческим меркам, чтобы удвоить её ещё раз. Потом они тратят ещё два субъективных года, или шесть месяцев, чтобы удвоить её снова. По прошествии четырёх лет, компьютерная мощность достигает бесконечности.

Это Трансцендная версия последовательности удвоения. Давайте назовём "Трансцендом" последовательности {a0, a1, a2...} функцию, у которой интервал между an and an+1 обратно пропорционален an. Таким образом, Трансцендная функция удвоения начинается с 1, и ей требуется 1 единица времени, чтобы увеличиться до 2. Затем ей требуется 1/2 единицы времени, чтобы увеличиться до 4. 1/4 единицы времени, чтобы увеличиться до 8. Если бы эта функция была непрерывной, это была бы гиперболическая функция y = 2/ (2 - x). Когда x = 2, то (2 - x) = 0, а y = бесконечность. Поведение функции в этой точки в математике называется сингулярностью.

Но и Трансцендная последовательность удвоения тоже является пессимистическим прогнозом, а вовсе не настоящей Сингулярностью, потому что она предполагает, что увеличивается только скорость. А что, если и качество мышления тоже улучшалось бы? Прямо сейчас два года работы - сегодня, вообще-то, на это требуется уже 18 месяцев работы. 18 субъективных месяцев работы достаточно, чтобы удвоить скорость компьютеров. Не улучшится ли этот показатель немного с появлением возможности обмена мыслями и эйдетической памяти? Не должен ли он улучшиться, если, к примеру, все научные знания человечества хранились бы в удобной, обработанной, мыслительной, готовой к использованию форме? Не улучшится ли он, когда в краткосрочной памяти можно будет удерживать все знания человечества? Искусственный интеллект, равный по мощности человеку, не равен человеку - если бы у Каспарова была бы хотя бы самая простенькая, посредственная автоматическая шахматная программка, напрямую связанная с его интуицией, он бы разбил Deep Blue просто в кашу. В этом состоит преимущество ИИ: простые операции выполняются с невероятной скоростью и без ошибок, мыслительные операции выполняются с идеальной памятью и полным осознанием.

И я даже не начал говорить о том, как ИИ смогут перестраивать свою мыслительную архитектуру, а ведь им это будет намного проще, чем нам, особенно, если они смогут делать резервные копии. Трансцендное удвоение может натолкнуться на физические пределы до того, как достигнет бесконечности... но даже современное понимание физических законов позволит (плюс-минус) запустить на компьютере весом в 1 грамм всё человечество со скоростью миллион субъективных лет в реальную секунду.

Давайте вдохнём поглубже и немного подумаем об этом. Один грамм. Всё человечество. Один миллион лет в секунду. Это значит, что использование только лишь вещества Земли для вычислений, позволит поддерживать жизнь большего числа людей, чем вся Вселенная могла бы поддерживать, если бы люди заселили все планеты до единой. Это значит, что за один день цивилизация могла бы прожить более 80 миллиардов лет, в несколько раз больше, чем нынешний возраст Вселенной.

Забавно, что большинству людей, которые утверждают, что "законы природы" жёстко ограничат потенциал развития Сил, не приходит в голову накладывать аналогичные ограничения на (всего лишь) галактическую цивилизацию (обычных) людей в течение (столь короткого) миллиарда лет. Частично это можно объяснить принятыми в научной фантастике соглашениями; межзвёздные цивилизации могут нарушать любые физические законы, потому что читатели к этому привыкли. Но частично причина здесь в том, что учёным и авторам научной фантастики прочно вдолбили в голову, что Универсальные Непреложные Ограничения обычно удаётся обойти, благодаря человеческой изобретательности и работе пары поколений. Никто не способен сказать, что может быть возможно через миллиард лет, потому что это просто невообразимый срок.

Мы знаем, что ещё лишь тысячу лет назад прогресс полз с черепашьей скоростью, даже сто лет назад было невозможно правильно указать пределы технологического развития. Мы знаем, что в прошлом нельзя было установить пределы развития, поэтому мы не пытаемся ограничивать будущее развитие. Но по сравнению с возможностями трансчеловека правильная аналогия - это не Лорд Кельвин, не Аристотель, не охотник-собиратель - все из которых обладали разумом человека - но неандерталец. В сравнении с Силой, правильная аналогия - рыба. И тем не менее, поскольку сила более высокого разума не осознаётся так же как сила нескольких миллионов лет - поскольку у нас нет опыта предсказателей-скептиков, посрамлённых транслюдьми, а не временем - некоторые из нас всё ещё сидят вокруг костра и ворчанием устанавливают пределы заострения копий; некоторые плавают, не мигая, не способные даже к абстрактному мышлению, но уверенные, что вся Вселенная мокрая, просто должна быть мокрой.

Чтобы передать скорость прогресса, ведомого более умными исследователями, мне понадобилась функция, более сложная, чем функция удвоения, использованная выше. Мы назовём её T(n). Вы можете представить себе значение T(n) как максимальное число, доступное пониманию существа с мозгом, состоящим из n нейронов. Более строго мы определим T(n) как длину наибольшего последовательного блока единиц, генерируемого останавливающейся машиной Тьюринга с n возможными состояниями. Если вы разбираетесь в теории информации, можете рассматривать T(n) как обратную функцию сложности; её значение - это самое большое число со сложностью n или менее.

Элементы последовательности, генерируемой итерациями T(n), S{n} = T(S{n - 1}), почти постоянны при небольших значений n. S{0} по определению равно 0; программа нулевой длины не выводит никакого результата. Это соответствует Вселенной, лишённой разума. T(1) = 1. Это соответствует разуму, не способному к самоулучшению; это состояние, в котором мы пока находимся. T(2) = 3. Отсюда начинается прыжок в Неведомое. Как только эта функция начинает увеличиваться, она немедленно вылетает за все возможные пределы. T(3) = 6. T(6) = 64. T(64) = намного, намного больше, чем 10^80, число атомов во Вселенной. T(10^80) сможет когда-либо сосчитать только Трансцедентная сущность, и то, только если Трансцедентные сущности смогут создавать новые Вселенные, может быть, даже новые законы физики, чтобы обеспечить необходимую вычислительную мощность. И даже значение T(64) вряд ли когда либо станет известно обычным человеческим существам.

Теперь возьмём Трансцендную последовательность S{n}, начиная с 2. Через половину единицы времени мы получим 3. Ещё через треть единицы времени мы получим 6. Через одну шестую после этого - через единицу времени от начала, мы получим 64. Одну шестьдесят четвёртую единицы времени спустя - 10^80. Ещё через невообразимо малую долю секунды... Сингулярность.

Можно ли сказать, что S{n} - точная модель Сингулярности? Конечно, нет. "Точная модель Сингулярности" - это оксюморон; в этом и смысл; Сингулярность превосходит любые модели, которые человек мог сформировать сто лет назад, и Сингулярность превзойдёт все модели, которые мы формулируем сегодня.

Но главным возражением может быть то, что S{n} - это необоснованно выбранная метафора. Трансцендная удваивающаяся последовательность описывает работу ускоряющихся исследователей. Можно сказать, что S{n} описывает работу умнеющих исследователей, но что в данном контексте означает стать умнее?

2.1. Определение ума

Степень ума показывает, чтО для вас очевидно, чтО для вас очевидно в ретроспективе (когда объяснят), чтО вы можете придумать и чтО вы можете понять. Если быть более точным, то ум - это показатель доступных вам семантических примитивов (что кажется простым в ретроспективе), способности к манипуляции семантическими примитивами (что вам очевидно), структур, формируемых вашими семантическими примитивами (что вы можете понять) и способности к манипуляции этими структурами (что вы можете придумать). Говоря языком теории сложности, разница между очевидным и очевидным в ретроспективе, изобретаемым и доступным пониманию аналогична разнице между NP и P.

Все люди, не имеющие повреждений нервной системы, обладают одинаковым набором семантических примитивов. То, что очевидно в ретроспективе для одного, очевидно в ретроспективе для всех. (Четыре замечания: Во-первых, говоря "повреждения нервной системы", я не имею в виду ничего обидного - просто человек без зрительной коры не имеет зрительных семантических примитивов. При повреждении некоторых нервных связей люди не только теряют способность видеть цвета, но даже помнить или представлять цвета. Во-вторых, математические теоремы очевидны в ретроспективе только математикам - но в принципе, любой человек может приобрести такую способность, если получит необходимые знания и навыки. В-третьих, до некоторой степени, когда мы говорим об очевидном, мы имеем в виду не только символические примитивы, но и очень простые связи между ними. Я включаю эти связи в понятие "семантические примитивы". Когда мы анализируем последовательность мыслей и говорим, что в ретроспективе нам это очевидно, не обязательно она представляет собой один семантический примитив, но может состоять из короткой цепочки примитивов и связей. В-четвёртых, я прошу прощения за свою страсть объяснять свои собственные метафоры; ничего не могу с этим поделать.)

Похожим образом, мыслительная архитектура универсальна для всех людей. Мы все наделены одинаковыми базовыми системами мышления. Хотя природу этих систем мы не понимаем пока до конца, наша способность общаться и понимать друг друга говорит о том, что, что бы мы не передавали друг другу, содержание и структура наших мыслей похожи. Если два человека обладают набором общих понятий, то любая структура, составленная из этих понятий, которую может понять один, будет доступна пониманию второго.

У разных людей могут быть разные способности по манипулированию и структурированию концепций; разные люди могут видеть вещи по разному и придумывать разные вещи. Крупные прорывы в физике и технике произошли не потому, что группа людей корпела над проблемой много поколений, пока наконец не нашла объяснение столь сложное, последовательность идей столь длинную, что только время могло породить её. Теория относительности и квантовая физика, фуллерены и объектно-ориентированное программирование - все они были созданы потому, что кто-то сформировал короткую, простую и элегантную семантическую структуру способом, который до этого не приходил никому в голову. Революции порождают те, кто чуточку умнее. Не те, кто много трудятся. Хотя время и упорный труд обычно необходимы, другие работали и дольше, и упорнее без всяких результатов. Природа революции просто в уме.

Теперь задумайтесь о Сингулярности. Представьте себе шимпанзе, пытающегося понять интегральное исчисление. Представьте себе людей с повреждённой зрительной корой, которые не помнят, как это было - видеть, которые не могут представить себе красный цвет или вообразить двумерную фигуру. Представьте себе визуальную кору, содержащую в триллионы раз больше нейронов. Представьте себе радугу из двадцати тысяч различных цветов, абсолютно непохожих друг на друга. Представьте себе способность мысленно вращать пятидесятимерные объекты. Представьте себе способность присваивать пикселам семантические примитивы, так что радугу идей можно увидеть так же как радугу цветов.

Наши семантические примитивы определяют, что мы можем знать. Почему вообще что-то существует? Никто не знает. И тем не менее, ответ очевиден. Первопричина должна быть очевидна. Должна быть очевидна Без всего, ответ, сформулированный из пустоты, вывод, полученный без данных или допущений. Что вызывает осознанные ощущения, из какой первоосновы состоит разум? Мы состоим из осознанных ощущений. Нет ничего иного, что мы переживали бы так прямо и непосредственно. Как это происходит? Мы не имеем ни малейшего понятия. Два с половиной тысячелетия непрестанных поисков ответа, и лучшее, на что мы способны - это "Я мыслю, следовательно, я существую". Решение обязано быть простым, но, тем не менее, оно, очевидно, непредставимо. Возможно, что решение находится за пределами представлений, которые могут быть сформированы в человеческом мозгу.

Но если так, то наши потомки, последователи, будущие мы определят необходимые семантические примитивы и изменят себя, чтобы научиться их воспринимать. Силы разберут по кирпичику Вселенную и саму Реальность, пока они не поймут, почему вообще что-то существует, изучат нейроны, пока не поймут природу качества (qualia). И это будет только начало. Не конец. Почему должно быть только две трудных проблемы? В конце концов, если бы не люди, то во Вселенной была бы только одна трудная проблема, потому что как мыслитель без самосознания может сформулировать проблему самосознания? Могут ли существовать экзистенциальные состояния выходящие за рамки обычного самосознания - транссознание? Может ли понимание природы реальности дать способности создавать новые Вселенные, управлять законами природы, и даже определять, что является и что не является реальным - "онтотехнология"? Вот в чём суть и смысл Сингулярности.

Так что прежде, чем предаваться фантазиям о своей жизни в роли Силы или о предстоящей Утопии (любимое занятие трансгуманистов и экстропианцев - обсуждать проблемы загрузки, жизнь после загрузки и так далее), просто учтите, что у вас, наверное, больше шансов решить обе трудные проблемы, описанные выше, чем угадать хоть что-нибудь правильно о будущем. Это относится и ко мне. Я уверен во всём, что я сказал о людях, включая нашу неспособность понимать некоторые вещи, но всё, что я сказал о Силах, почти наверняка неправильно. "определят необходимые семантические примитивы и изменят себя, чтобы научиться их воспринимать". Неправильно. "Определят". "Семантические примитивы". "Изменят". "Воспринимать". Я готов поспорить, что все эти термины устареют после Сингулярности. Есть способы получше, и я уверен, что Они - или Оно, или звук лопающегося мозга "найдут их".

2.2. Трансценды Восприятия

Я хочу предложить единицу измерения прогресса после Сингулярности, Трансценд Восприятия или ТВ (Perceptual Transcend, PT).

[Короткая пауза, пока аудитория падает на пол от истерического смеха.]

Мы говорим, что происходит Трансценд Восприятия, когда всё, что было доступным пониманию, становится очевидным в ретроспективе, а все вещи, которые были изобретаемыми, становятся очевидными. Трансценд Восприятия происходит, когда семантические структуры одного поколения становятся семантическими примитивами следующего. Другими словами, через один ТВ вся сумма человеческих знаний станет представимой в единой вспышке ощущения, так же как мы сегодня представляем себе картину всю целиком.

Компьютеры находятся на один ТВ над человеком в том, что касается арифметики - вроде того. Тогда как нам приходится оперировать ненадёжной пирамидой знаков, строчек и столбцов, чтобы перемножить 62305 и 10358, компьютер может выдать ответ - 645355190 - в один очевидный шаг. На самом деле, компьютеры совсем не опережают нас на один ТВ, по двум причинам. Прежде всего, они всего лишь работают напрямую с числами до двух миллионов вместо 9; после этого им тоже приходится оперировать пирамидами. Но, что более важно, они ничего не замечают в числах, с которыми оперируют, как это делают люди. Умножая столбиком 23704 на 14223, вы не станете умножить 23704 на 2 дважды; вы просто перепишете результаты от первого раза. Если один из промежуточных результатов окажется 12345, или 99999, или 314159, вы это заметите. Способ, которым компьютеры манипулируют с числами, на самом деле, слабее, чем тот, который используем мы.

Согласятся ли Силы на меньшее? Один ТВ над нами умножение выполняется автоматически, но с абсолютным вниманием к промежуточным результатом, числам, которые оказываются простыми и т. д. Если бы я разрабатывал одну из первых Сил - а это именно то, что мы делаем в Институте Сингулярности, - я бы создал отдельную подсистему для операций с числами, такую, которая обращала бы внимания на простые числа, составные, и числа со всеми остальными свойствами, известными людям. Сила будет понимать, почему 62305, умноженное на 10358, равняется 645355190, с такой же степенью понимания, которой может достичь лучший математик человек, потратив часы на изучение всех чисел, вовлечённых в это умножение. В то же самое время, Сила будет перемножать любые два числа автоматически.

Для подобной Силы, для которой числа являются семантическими примитивами, великая теорема Ферма или проблема Гольдбаха, или гипотеза Римана могут быть очевидными. Где-то в глубине сознания Сила проверит каждое утверждение в миллионах тестов, подсознательно оперируя всеми числами, чтобы определить, почему они не равны сумме двух кубов, или почему они равны сумме двух простых чисел, или почему их вещественная компонента равняется половине. Оттуда Сила сможет интуитивно прийти к самому простому и очевидному решению просто путём обобщения. Возможно, что математики-люди, если бы они могли выполнить арифметические расчёты для тысяч проверок гипотезы Римана, проверяя каждый промежуточный этап, ища общие свойства и интересные упрощения, могли бы придумать формальное решение. Но они не могут, и уж совершенно точно не могут сделать этого подсознательно, поэтому гипотеза Римана и остаётся неочевидной и недоказанной - концептуальная структура вместо концептуального примитива.

Возможно, ещё более показательным является пример визуальной коры нашего мозга. Внешне визуальная кора напоминает блок обработки изображений. В современных компьютерных графических движках изображение представляется двумерным массивом пикселей. Для поворота картинки (к примеру) прямоугольные координаты каждого пиксела {x,y} переводят в полярные координаты {тета,r}. Ко всем тетам, обозначающим углы, добавляется константа. Затем полярные координаты преобразовываются обратно в прямоугольные. Есть способы оптимизировать этот процесс, нужно учесть пересекающиеся и пустые пикселы в новом массиве, но суть понятна: чтобы выполнить трансформацию всего изображения, нужно выполнить операцию трансформации с каждым пикселом этого изображения.

Здесь можно сказать, что Трансценд Восприятия зависит от того, с какого уровня вы смотрите на операцию. Если вы представите себя выполняющим операцию пиксель за пикселем, то это невероятно скучная когнитивная структура, но если вы видите всю ситуацию одним куском, то она является когнитивным примитивом это отметил Хофстадтер в своей «Муравьиной фуге», когда обсуждал муравьёв и колонии. Ничего особенного, за исключением того, что это объясняет сам Хофстантер, но здесь это относится в большей мере к визуальной коре.

С одной стороны, мы сознательно переживаем красность (Если вы не знаете, что означает осознанное переживание, известное также как квалиа, то краткая версия состоит в том, что вы являетесь не тем, кто говорит ваши мысли, а тем, кто слышит их.) Квалиа это та штука, которая создаёт неописуемую разницу между красным и зелёным.

Термин «семантические примитивы» описывает нечто большее, чем уровень, на котором термины являются дискретными, компактными объектами. Он описывает уровень осознанного восприятия. В отличие от компьютера, манипулирующего цифрами, состоящими из битов, а как воображаемая Сила, манипулирующая теоремами, сформированными из чисел, мы не теряем разрешения при переходе от уровня пикселей к уровню картинки. Мы не воспринимаем внезапно картинку «передо мной медведь»; мы видим картинку медведя, состоящую из миллионов пикселей, каждый из которых осознанно переживается одновременно. Трансценд Восприятия не есть «просто» введение нового когнитивного уровня; он превращает когнитивные структуры в осознано переживаемые примитивы.

«Говоря это другими словами, на расстоянии одного ТВ от настоящего момента всё человеческое знание становится воспринимаемо в одной вспышке переживания, таким же образом, как мы сейчас можем за раз переживать целую картинку».

Разумеется, ТВ не будет использован как единица прогресса в постсингулярном мире. Даже если он был в начале, он не протянет долго, так как ТВ само вскоре будет трансцендировано, и Силы снова выскочат из системы. В конце концов, Сингулярность настолько далека от меня, автора, насколько она далека от любого другого человека, и поэтому моя ТВ будет настолько же малоценна в качестве описания, как повторяющаяся последовательность, отброшенная так давно. Даже если мы примем ТВ как базисную единицу измерения, она просто вводит вторую Сингулярность. Может быть, Трансценды Восприятия будут возникать каждые два осознанно переживаемых года в начале, а затем будут возникать каждый осознаваемый год, а затем каждые осознаваемые шесть месяцев улавливаете картинку?

Это как «День рождения кантатата&» из книги Хофстадтера «Гёдель, Эшер, Бах». Вы можете начать с последовательности {1, 2, 3, 4 ...} и затем перескочить к w (омега), символу бесконечности. Но когда дана последовательность {w, w + 1, w + 2 ... }, мы перескакиваем к 2w. Затем 3w, и 4w и w*2 и w*3 и w*w и w^(ww) и ко всё более высоким степенным башням w до тех пор, пока мы не достигаем ординала e0, который включает все экспоненциальные башни степени ws.

ТВ может вызвать вторую Сингулярность, и третью Сингулярность, и четвёртую, до тех пор, пока Сингулярити не начнут происходить всё быстрее и быстрее и первая w-Сингулярность станет неизбежной.

Или Силы могут просто выпрыгнуть за пределы этой системы. «День рождения кантатата&» была написана человеком предположительно Дугласом Хофстадтером, но всё ещё человеком и концепция, которую она в себя включает, может быть просто трансцендирована самыми первыми транслюдьми.

Силы находятся за пределами нашей способности к пониманию.

Улавливаете картинку?

2.3. Очень большие числа

Трудно представить Сингулярность правильно, не представив в начале действительно большие числа. Я говорю не о крохотных числах, мало отличающихся от нуля, таких, как число атомов во Вселенной или число лет, которые потребуются обезьянке, чтобы полностью скопировать творения Шекспира. Я предлагаю вам рассмотреть, каково было, в районе 1977 года, самое большое число, когда-либо использованное в серьёзном математическом доказательстве. Это доказательство, выполненное Рональдом Грахамом, даёт верхнюю границу ответов на определённый вопрос теории Рамзея. Для того, чтобы понять доказательство, нужно ввести новое понятие из работы Дональда Кнута «исследование конечных чисел». Это понятие обычно обозначается маленькой стрелочкой, указывающей вверх, которую мы здесь обозначим как ^. В виде математической функции это выглядит так:

        int arrow (int num, int power, int arrownum) {
        
          int answer = num;
          
          if (arrownum == 0)
            return num * power;
            
          for (int i = 1; i power; i++)
            answer = arrow(num, answer, arrownum - 1);

          return answer;
        } // end arrow
      

2^4 = 2 **4 = 16.

3^^4 = 3^(3^(3^3)) = 3^(3^27) = 3**7,625,597,484,987

7^^^^3 = 7^^^(7^^^7).

3^3 = 3 * 3 * 3 = 27. Это число достаточно мало, чтобы его себе представить.

3^^3 = 3^(3^3) = 3^27 = 7,625,597,484,987. Больше, чем 27, но достаточно мало, чтобы я мог его напечатать. Никто не может представить себе семь триллионов, но мы легко можем понять это число, которое по порядку примерно соответствует объёму ВВП.

3^^^3 = 3^^(3^^3) = 3^(3^(3^(3^...^(3^3)...))). Промежуток "..." состоит из 7,625,597,484,987 троек. Другими словами, 3^^^3 или стрелка (3, 3, 3) представляет собой экспоненциальную башню троек высотой в 7,625,597,484,987 уровней. Это число находится за пределами человеческих представлений, но процедура его создания может быть визуализирована. Возьмём x=1. Присвойте х значение 3^x. Повторите это семь триллионов раз. Хотя самые ранние стадии этого числа слишком велики, чтобы содержаться в целой вселенной, сама экспоненциальная башня, записанная в виде "3^3^3^3...^3" достаточно мала, чтобы содержаться в современном суперкомпьютере.

3^^^^3 = 3^^^(3^^^3) = 3^^(3^^(3^^...^^(3^^3)...)). Теперь и число, и процедура по его созданию находятся за пределами человеческой способности к представлению, хотя процедура может быть понята. Возьмите x=1. Присвойте х значение экспоненциальной башни длиной в x. Повторите это 3^^^3раз, что равно экспоненциальной башне в семь триллионов троек.

И в результате, говоря словами Мартина Гарднера, «3^^^^3 непредставимо больше, чем 3^^^3, но оно всё ещё мало, так как большинство конечных чисел больше».

И затем число Грэхема. Пусть х равно 3^^^^3, тому непредставимо большому числу, которое описано выше. Затем присвойте x значение 3^^^^^^^(x arrows)^^^^^^^3. Повторите это 63 раза или 64 раза с учётом начальной последовательности 3^^^^3.

Число Грэхема находится далеко за пределами моей способности к пониманию. Я могу его описать, но я не могу его правильно воспринять. (Возможно, Грэхем может его воспринять, поскольку он написал математическое доказательство, использующее его). Это число гораздо больше, чем концепция большинства людей о бесконечности. Я знаю, что оно было больше, чем моё представление. Моё чувство ужаса, когда я впервые столкнулся с этим числом, находится за пределами слов. Это было ощущение восприятия чего-то настолько большего, чем мир в моей голове, что моя концепция Вселенной рухнула и перестроилась, чтобы соответствовать этому. Все теологи должны столкнуться с числом вроде этого, чтобы они могли правильно воспринять, что они имеют в виду, когда говорят о «бесконечном» интеллекте Бога.

Моё счастья было абсолютным, когда я узнал, что реальным ответом на проблему Рамзея, которая породила это число в качестве верхней границы было, вероятно, число 6.

Какой во всём этом был смысл, кроме математической красоты? Потому что, пока вы не поймёте всю мизерность слов «бесконечность», «большой» и «трансчеловеческий», вы не можете воспринять Сингулярность.

Восприятие Сингулярности настолько же далеко от нас, насколько визуализация числа Грэхема для шимпанзе. Гораздо дальше от нас, чем это. Никакая человеческая аналогия не сможет описать Сингулярность, потому что мы только люди.

Приведённое выше число было выковано человеческим умом. Это ничего более, чем конечно положительное целое число, хотя и большое. Оно составное и нечётное, а не простое или чётное; оно точно делится на 3. Будучи записанным десятичными цифрами, в любой системе кодировки, оно превысит всё, написанное человеком, и всё, что может быть написано, со скоростью сотни тысяч слов в минуту за время, превосходящее время существования вселенной в тысячи раз. И всё же, если мы сложим все цифры, результат будет делиться на 9. Это число всё ещё конечное положительное целое число. Оно может содержать Вселенные, неизмеримо превосходящие нашу, но это всё ещё число. Это число столь мало, что алгоритм его создания может понять человеческий ум.

Сингулярность находится за пределами этого. Мы не можем классифицировать её, заявив, что это будет положительное целое число. Мы не можем сказать о ней ничего, кроме того, что она за пределами нашего понимания.

Если вы полагаете, что стрелка Кнута создаёт действительно большие числа, как насчёт T(n)? Сколько действий должна совершить машина Тюринга, чтобы выполнить вычисления, предложенные выше? Какова сложность числа Грэхема, С(Грэхем)? Вероятно, порядка 100. И более того, T(C(Graham)) вероятно, должна быть гораздо, гораздо больше самого числа Грэхема. Почему нужно проводить вычисление 3^(x ^s)^3 только 64 раза? Почему не 3^^^^3 раз? Это должно было бы быть проще, поскольку мы уже сгенерировали 3^^^^3, а не 64. И при наличие дополнительного места мы могли бы предложить гораздо более сложный вычислительный алгоритм. Фактически, стрелка Кнута может не быть самым сильным алгоритмом, который соответствует пространству C(Knuth).

T(n) является метафорой скорости роста самосовершенствующейся системы, поскольку оно иллюстрирует концепцию увеличения интеллекта, с помощью которого он усиливает сам себя. Я не знаю, когда T(n) перешагнёт уровень того, что люди-математики могут, в теории, посчитать. Вероятно, при n большем 10 и меньшем 100. Само главное состоит в том, что после нескольких итераций мы получим в итоге T(4294967296). Я не знаю, чему T(4294967296) будет эквивалентно, но победившая машина Тьюринга вероятно создаст Силу, основной задачей которой будет думать о действительно больших числах. Это именно то, что означает термин «большой».

2.4. Умнее, чем мы

Разумеется, интересно болтать о когнитивных примитивах и очевидности, но опять что означает слово «умнее»? Значение понятия «умности» не может быть основано на Сингулярности - я там ещё не был. Так что, каково моё практическое определение?

Труднейшей задачей для писателя является персонаж, более умный, чем он сам. Это не невозможно. Задачки, на которые автор потратит месяцы, персонаж решит за мгновения. Но только Бог может помочь автору, если его невероятно умный герой ошибётся. -- Ларри Нивен.
Конечно, я никогда не напишу «важную» историю, сиквел о первом транс-человеке. Однажды я попробовал сделать нечто подобное. Джон Камбелл написал отрицательную рецензию, начинавшуюся словами: «Извините, - вы не можете написать этот рассказ. Никто не может». -- Вернор Виндж.

Ум это то качество, которое делает невозможным написание истории о персонаже умнее, чем вы. Вы можете писать о сверхбыстрых мыслителях, эйдетической памяти, молниеносных вычислителях; о персонаже, который выучит дюжину языков за неделю, который может прочесть книгу за час, или который может изобрести все возможные чудеса до тех пор, пока вы не должны сделать реальное изобретение. Вы не можете описать героя с более высоким уровнем эмоциональной зрелости, героя, который заметит очевидное решение, которое вы пропустили, героя, который знает (и может рассказать читателю) Смысл жизни, героя со сверхчеловеческим осознанием. Пока не сможете сделать всё это сами.

Возьмём конкретный пример, историю «Цветы для Алжернона» (по которой снят фильм «Чарли») Дэниела Кейса. (Я боюсь, что я должен буду рассказать вам, чем заканчивается рассказ, но поскольку это рассказ о людях, а не о идеях, это не должно его испортить.) «Цветы для Алжернона» рассказывают о нейрохирургической операции по интеллектуальному совершенствованию. Процедура была впервые испробована на мыши, Алжерноне, и затем на умственно отсталом человеке, Чарли Гордоне. Усиленный Чарли имел стандартный набор научно-фантастических характеристик; он быстро думал, выучил объём человеческих знаний за несколько недель и обсуждал сложнейшие математические проблемы (не показано). Затем мышь, Алжернон, заболела и умерла. Чарли проанализировал процедуру улучшения (не показано) и пришёл к выводу, что в процессе есть коренная ошибка. Позднее Чарли умирает.

Таково поведение научно-фантастического усовершенствованного человека. Реальный усовершенствованный человек не был бы застигнут врасплох. Он бы понял, что любое простое улучшение интеллекта было бы эволюционно невыгодно если бы улучшение интеллекта было бы вопросом только одной хирургической процедуры оно бы давно случилось, как естественная мутация. Это вдвойне верно относительно процедуры, которая работает для крыс! (Насколько я знаю, этого никогда не случилось с Кейсом. Я выбрал «Цветы» среди всех знаменитых историй об усилении интеллекта, потому что ради драматического единства это история показывает, что оказалось правильным исходом.)

Обратите внимания, что я не ослепляю вас сложным технологическим описанием смерти Чарли; моё объяснение занимает два предложения и может быть понято человеком, не являющимся экспертом в этой области. Эта простота сообразительности так трудно передаваема в фантастике и так шокирует, когда мы сталкиваемся с ней в реальном человеке. Всё, что может показать научная фантастика это то, что интеллект это жаргон и технические новинки. Подлинно сверхумный Чарли Гордон не был бы застигнут врасплох; он бы вывел свою будущую судьбу, используя приведенные выше очень простые рассуждения. Он должен был бы допустить такую возможность, реорганизовать свои приоритеты и действовать соответствующим образом до тех пор, пока его время не закончится или, скорее всего, изобрёл бы настолько же простое и очевидное задним числом средство, чтобы избежать своей судьбы. Если бы Чарли Гордон действительно был бы ультраумён, рассказ бы не получился.

Существуют настолько большие скачки в понимании, что они дают абсолютно новый взгляд на проблему. Представьте любую область знаний, в которой вы являетесь экспертом нейронауку, программирование, водопровод, всё, что угодно и представьте себе разрыв между новичком, впервые обратившемся к проблеме, и экспертом. Даже если тысячи новичков попытаются разрешить проблему и потерпят поражение. Из этого не следует, что единственный эксперт не сможет решить эту проблему играючи. Если сто хорошо образованных физиков попытаются решить проблему и потерпят поражение, Эйнштейн всё равно может оказаться способен её решить. Если тысяча двенадцатилетних будет пытаться решить некую проблему в течение года, это ничего не говорит о том, способен ли взрослый решить проблему. Если миллион охотников-собирателей будут пытаться решить проблему в течение столетия, ответ по-прежнему может быть очевиден для любого образованного человека 21 столетия. И никакое число шимпанзе, как бы долго они ни пытались, никогда не сможет сказать ничего о проблеме, которую деревенский дурачок решит не задумываясь. Существуют настолько большие скачки в понимании, что они дают абсолютно новый взгляд на проблему; и некоторые из них, такие как разрыв между экспертом и новичком, или между охотником-собирателем и образованным горожанином не являются даже разрывами между уровнями хардвера они относятся не к магии интеллекта, а к магии знания, или к отсутствию глупости.

Я вспоминаю времена до того, как я начал изучать эволюционную психологию и когнитивную науку. Я вижу, что в тот момент я не мог предсказать путь к Сингулярности. «Но если я не мог понять это тогда, что заставляет меня думать, что я могу понять это сейчас?» Я человек, я образованный горожанин, я эксперт, я гений& но если есть ещё один скачок такого же масштаба между мной и Сингулярностью, то тогда мои рассуждения будут не лучше, чем у учёного 18 века.

Мы все знакомы с индивидуальными вариациями человеческого интеллекта, распределёнными вдоль великой Гауссовой кривой; это единственная доступное нам определение понятия «умнее». Но в точности потому что эти вариации попадают в пределы вариантов конструкции человеческого ума, в них нет ничего неординарного. Одна из самых глубоких истин о человеческом уме состоит в том, что он эволюционно создан тупым ослепляемым идеологией, неспособным признать свою неправоту, считающим врага бесчеловечным, уязвимым к давлению со стороны наблюдателей. Вариации в интеллекте, которые попадают в обычный разброс конструкций ума, не влияют непосредственно на эту его тупизну.

Так мы подтверждаем народную мудрость о том, что ум не есть мудрость, и в отношении человеческого разнообразия это в целом верно (8). Наблюдаемые нами вариации не настолько велики, чтобы заставить людей понять, что значит быть «умным» на самом деле.

Я являюсь Сингуляританцем, потому что у меня есть небольшое понимание того, как крайне, окончательно, абсолютно невозможно думать так, как думает некто, кто хоть немного умнее меня. Я знаю, что все мы не замечаем очевидного, каждый день. Нет трудных проблем, есть трудные проблемы только для определённого уровня интеллекта. Сдвиньтесь немного вверх, и определённые проблемы превратятся из невозможных в очевидные. Сдвиньтесь значительно вверх, и все они станут очевидными. Сдвиньтесь на значительную величину вверх&

И я знаю, что моя картина Сингулярности будет всё ещё далека от правды. Возможно, я неумерен, но у меня есть определённая скромность если я могу заметить антропоморфизмы и логические ошибки у любого, называющегося трансчеловеком, в любом произведении научной фантастики, из этого следует, что немного более талантливый человек (но не трансчеловек!) может прочесть эту страницу и смеяться над моим отсутствием воображения. Называйте это опытом, называйте это скромностью, называйте это самосознанием, называйте это принципом заурядности; я сделал достаточно скачков, чтобы понять, что есть ещё. Я знаю, некоторым образом, только в какой степени я немой.

Я пытался показать Запредельность Сингулярности грубой силой, но не достаточно бесконечной скорости, Трансцендов восприятия и ws, чтобы поместить нечто действительно за пределы нас. Всё, что это дало это только самый маленький кусочек края, станьте немного умнее и запредельность снова вглядывается нам в лицо. Я никогда не проходил сквозь Сингулярность. Я никогда не был в трансцендентном. Я только обозначил область ближней запредельности (Low Beyond). Это страница предназначена, чтобы передать чувство ужаса, которое пришло из личного опыта, и поэтому является всего лишь человеческой.

От моего кортекса до вашего; каждая концепция здесь была рождена плоскими старыми Homo sapiens и любое впечатление, которое она на вас произвела точно также рождено плоскими старыми Homo sapiens. Кто-то это лучше обдумал, кто-то был более экстремален это не имеет значения. Какое бы впечатление вы не получили от этой страницы это не будет точной картиной далёкого будущего это будет только впечатление обо мне. А я - не далёкое будущее. Только версия «Вглядываясь в сингулярность», написанная реальной Силой, может передать переживание действительной Сингулярности.

Каждый футурошок, вызванный этой страницей, попробуйте ассоциировать не с Сингулярностью, а со мной мягким, тихоговорящим человеком, бесконечно мало отличающимся от остального человечества. Не пытайтесь экстраполировать за пределы этого. Вы не можете. Никто не может ни вы, ни я.

2035. Может быть, раньше.

3. Раньше, чем вы думаете

С того момента, как Интернет раскинулся по планете, имеется достаточно компьютерной силы для сверхинтеллекта. Если бы Интернет был правильным образом перепрограммирован, его было бы достаточно, чтобы запустить человеческий мозг или Семя ИИ. С точки зрения Нанотехнологий, мы обладаем машинами, способными создавать произвольные ДНК последовательности, и мы знаем, как превратить последовательность ДНК в произвольный протеин (9). У нас есть машины атомные силовые микроскопы, которые могут поместить отдельные атомы, куда мы захотим и которые недавно продемонстрировали [1999] способность создавать атомные связи. Позиционирование с точностью в сотые доли нанометра, пинцеты атомного масштаба& новости продолжают накапливаться.

Если бы у нас была машина времени, 100К информации из будущего могли бы указать на белок, который бы построил устройство, которое бы дало бы нам нанотехнологию за одну ночь. 100К может содержать код Семени ИИ. Уже с конца 90-х Сингулярность является проблемой только софтвера. А софтвер является информацией магической штукой, которая меняется на произвольно больших скоростях. В той мере, в какой технология имеет значение, Сингулярность может случиться уже завтра. Один прорыв только одно большое прозрение в области конструирования протеинов, атомной манипуляции или Искусственного Интеллекта, или один действительно неплохой день для Webmind или Zyvex и дорога в Сингулярность открыта.

Дрекслер написал детальную, техничную, описывающая, как что сделать, книгу о нанотехнологиях. После 30 лет вялой игры, ИИ возвращается. Сила компьютеров растёт даже быстрее, чем их обычная, пешеходная скорость удвоения в 2 года. Quate сконструировала 16-ти головый туннельный микроскоп. [написано в '96.] Я начинаю работать над методами написания кода трансчеловеческого ИИ. [написано в '98.] Первая химическая связь создана с помощью атомного силового микроскопа. Американское правительство обнародовало своё намерение потратить сотни миллионов долларов на нанотехнологические исследования. IBM обнародовало проект Blue Gene (10) с целью достичь петафлопной вычислительной мощности к 2005 году, чтобы решить проблему сворачивания белков. Создан Сингулярити Институт по исследованию Искусственного Интеллекта в качестве некоммерческой организации с заявленной целью создание Семя ИИ. [написано в '00.]

Точное время Сингулярности обычно предсказывается путём экстраполяции тренда, подобно тому, как «Популяционная Бомба» предсказывала, что мы окажемся без еды в 1977г. Например, рост популяции является гиперболическим (Возможно, на уроках математики вас учили, что он является экспоненциальным, но гипербола описывает его гораздо точнее.) Если эта тенденция продолжится, мировая популяция достигнет бесконечности 17 августа 2027 года плюс-минус 1.8 лет. Разумеется, невозможно достичь бесконечности для человеческой популяции. Некоторые говорят, что если мы создадим ИИ, то тогда график будет говорить о разумной популяции, а не о человеческой. Эти люди искажают метафору. Никто не проектировал популяционную кривую, принимая во внимание возникновение ИИ. Это только кривая, набор цифр. Она не может отклонить будущий путь развития технологий, только чтобы оставаться верной.

Если вы отложите на графике минимальный размер материалов, которыми мы можем манипулировать, он достигнет атомарного уровня нанотехнологий я забыл в течение скольких лет (страница устарела), но я думаю к 2035 году. Это, конечно, было до сканирующего туннельного микроскопа и слова IBM, написанного атомами ксенона. Коли на то пошло, у нас есть теперь искусственный атом («Вы можете сделать искусственные атомы любого вида длинные, тонкие атомы и большие, круглые атомы».), что сделает устаревшей саму молекулярную нанотехнологию. В 1995 году Дрекслер выдвигал приблизительную оценку 2015 год (11). Я подозреваю, что расписание несколько ускорилось с тех пор. Моё предположение не позднее 2010 года.

Подобным образом, вычислительная мощность удваивается каждые 18-24 месяца. Если мы экстраполируем на 40-30-15 дет вперёд, мы обнаружим компьютеры с такой же грубой силой (10^17 ops/sec), какой, по мнению некоторых людей, обладает сам человеческий мозг появятся в 2035-2025-2015 годах. [Предыдущее предложение было написано в 1996, пересмотрено в том же году и затем пересмотрено ещё раз в 2000 году отсюда разброс в цифрах.] Означает ли это, что у нас есть программы для раскручивания сознания? Нет. Означает ли это, что мы можем программировать более умных людей? Нет. Принимает ли это в расчет какие-либо возможные прорывы между тем моментом и нынешним? Нет. Принимает ли это в расчет законы физики? Нет. Является ли это детальной моделью всех учёных на планете? Нет.

Это только график. «Удивительное постоянство» закона Мура даёт ему право рассматриваться в качестве стимулирующей работу мысли метафоры будущего, но ничего более. Последовательность удвоения Трансцендирования не говорит ничего о том, как более быстрее компьютеризованные исследователи могут получить физическую технологию производства для следующего поколения, измеряемую в пикосекундах, или о том, как они смогут победить законы физики. Я не имею в виду, что такие вещи невозможны это нисколько меня не задевает, в той же мере, как то, что современные физики действительно достигли самого нижнего уровня. Может быть, здесь нет физических границ. Основная идея сказанного в том, что закон Мура не объясняет того, как законы физики могут быть преодолены.

Математика не может предсказать, когда Сингулярность наступит (то есть, она может, но не будет права.) Даже достаточно точные числа, например, описывающие скорость удвоения компьютерной мощности, (а) описывают человеческий мозг, не имеющий внешней помощи и (б) имеют тенденцию к ускорению, возможно, благодаря помощи компьютерных программ. Статистика может быть использована, чтобы предсказывать будущее, но она не моделирует его. То, что я хочу сказать это то, что «2035» - это произвольная догадка, и это может быть с таким уже успехом следующий вторник.

На самом деле, я не думаю в таких терминах. Я не планирую, когда случится Сингулярность. У меня есть «целевая дата». Я бы хотел, чтобы Сингулярность случилась в 2005 году, и я полагаю, что у меня есть реальные шансы достичь этого с помощью ИИ, если кто-нибудь подбросит мне миллион долларов в год. Сингулярити-институт должен завершить свою работу в 2008 году или около того.

И превыше всего прочего, я бы очень, очень хотел, чтобы Сингулярность возникла до нанотехнологии, с учётом почти неизбежного её злонамеренного применения злонамеренного применения полностью материальной (и в силу этого аморальной) ультратехнологией, которой одной достаточно, чтобы уничтожить планету. Мы не можем просто сидеть и ждать. Цитируя Майкла Батлера: «Сидеть и ждать автобус плохая идея, если окажется, что вы и есть водитель автобуса».

Единственное, что мы можем сказать про 2035 год это то, что это разумная верхняя граница. Нижняя граница? 30 секунд. Мы можем не знать обо всех производящихся сейчас исследованиях, в конце концов.

4. Загрузка сознания в компьютер

Может быть, вы не хотите увидеть человечество заменённым тучей «машин» или «мутантов», возможно даже, сверхинтллектуальных? Вы любите человечество, и вы не хотите видеть его вымершим? Вы боитесь повредить естественному пути существованию?

Эх, невезуха. Сингулярность является ествественным путём существования. Любой вид во всяком случае, любой вид, который не уничтожил себя, - рано или поздно сталкивается лицом к лицу с полностью созревшим сверхинтеллектом (12). Это случается с любым. И это случится с нами. Это случится и с транслюдьми первого уровня или с начальным ИИ человеческого уровня.

Но из того, что люди устареют, не следует, что вы устареете. Вы не человек. Вы интеллект, который, в настоящий момент, имеет ум, к сожалению, ограниченный человеческим хардвером (13). Это может измениться. С некоторой степенью удачи все люди, которые доживут до 2035 ил 2005 или когда угодно и может быть некоторые, которые не доживут раскрутятся в качестве Сил.

Перенос человеческого ума в компьютерную систему известнен как «загрузка» (upload); превращение смертного в Силу известно как «апгрейд».

Архетипом загрузки является Трансфер Моравека, предложенный доктором Хансом Моравеком в своей книжке «Дети ума» ("Mind Children»). (14).

Примечание: Ключевым предположением Трансфера Моравека является то, что мы можем совершенным образом симулировать отдельный нейрон, что Пенроуз и Хамерофф отрицают. (К 1999 году нейрон лобстера был успешно заменён оборудованием за $7.50 из радиомагазина; это незначительное подтверждающее свидетельство, но оно даже близко не лежало к решению проблемы переноса.) Последующая наша дискуссия предполагает следующее: либо (А) законы физики вычислимы или (Б) мы можем построить супернейрон, транс-Тьюринг компьютер, который делает то же, что делает реальный нейрон. (Пенроуз и Хамероф не имеют возражения против последнего предложения. Если нейрон использует преимущества глубокой физики для выполнения «невычислимых» операций, мы можем сделать тоже самое технологически.)

Приведённый сценарий требует также совершенной наномедицины, то есть наномашин, способных выполнять сложные инструкции в биологическом окружении.

Трансфер Моравека постепенно переводит (а не копирует) человеческое сознание в компьютер. Вам не нужно терять сознание ни в один момент. (Последующие детали выделены и немного (но сохраняя достоверность) освежены из оригинальных «Детей ума».)

1. Робот размером с нейрон подплывает к нейрону и сканирует его в свою память.
2. Внешний компьютер, находясь в непрерывной коммуникации с роботом, начинает симулировать нейрон.
3. Робот ждёт, пока компьютерная симуляция не станет полностью эквивалентна нейрону.
4. Робот заменяет собой нейрон так гладко, как это только возможно, передавая входящие сигналы компьютеру и получая назад выходные сигналы, вычисленные симуляцией нейрона на компьютере.

Вся процедура не оказывает влияния на потоки информации в мозгу, за исключением того, что процессорные характеристики одного нейрона смоделированы внутри компьютера, а не внутри нейрона.

5. Это повторяется нейрон за нейроном до тех пор, пока весь мозг не будет состоять из роботов- нейронов.

Несмотря на это, синаптические связи между роботами-нейронами по-прежнему остаются физическими. Роботы сообщают о регистрации нейротрасмиттеров на искусственных дендритах и высвобождают нейротрансмиттеры на концах искусственных аксонов. На следующей фазе мы заменяем физические синапсы софтверными связями.

6. Для каждой аксон-дендритной (передатчик-приёмник) пары входные данные больше не сообщаются роботом; вместо этого вычисленные выходные данные передающего нейрона передаются посредством симулированного дендрита к симуляции получающего нейрона.

В конце этой фазы роботы все вместе сжигают свои аксоны, но ни один не получает ничего, ни один из них не влияет на другой, и ни один из них не влияет на компьютерную симуляцию.

7. Роботы отсоединяются.

Теперь вы полностью помещены внутрь компьютера, бит за битом, без потери сознания. По словам Моравека, ваша метаморфоза завершилась.

Если любая из фаз кажется слишком простой, трансфер отдельного нейрона, или синапса может быть растянут настолько надолго, насколько это необходимо. Чтобы замедлить трансфер синапса на компьютер, мы можем использовать взвешенные факторы физического синапса и компьютерного синапса, чтобы получить выходные данные. Эти «веса» могут быть вначале полностью физическими и затем полностью компьютерными. Поскольку мы считаем нейрон совершенно точно симулированным, «веса» влияют только на поток причинности, а не на реальный процесс событий.

Медленно переводить нейрон будет немного труднее.

4a. Робот окружит нейрон, аксоны и дендриты роботизированной скорлупой, не повреждая при этом ядро нервной клетки. (Это потребует фантастически точного маневрирования, я знаю, но это только мысленный эксперимент. Силы буду делать загрузку на самом деле».)
4b. Дендриты робота продолжат получать сигналы с других нейронов и передавать их окружённым нейронным дендритам. Выходной сигнал биологического нейрона проходит по нейронному аксону к роботизированному аксону, который считывает выходной сигнал и передаёт его внешнему синапсу неизменным.
4с. Затем роботизированный аксон получает 99% от биологического импульса и плюс 1% вычисленного роботом импульса. Поскольку, согласно нашей гипотезе, нейрон является точно симулированным, это не меняет реальный выходной сигнал никаким образом, а только поток причинности.
4d. «Вес» компьютерного сигнала постепенно повышается до 100%.
4e. Биологический нейрон отключается.

Предполагая, что мы можем симулировать отдельный нейрон, и что мы можем замещать нейроны их роботизированными аналогами, я полагаю, что это вполне точно демонстрирует возможность загрузки сознания, при условии, что сознание это только функция нейронов. (А если мы имеем бессмертные души, то тогда загрузка становится вообще лёгкой задачкой. Отключите душу от мозга. Скопируйте всю информацию, которая не хранится в душе. Подключите душу к новому субстрату. Загрузка завершена.)

В этом месте принято рассуждать на тему, как человек будет есть, пить, гулять. Люди отмечают, что они не хотят бросить физическую реальность, беспокоятся о том, будет ли у них достаточно вычислительной мощности, чтобы симулировать гедонистический мир своих самых диких желаний, и так далее до упора. Даже сам Виндж, открывший Сингулярность, попадает в их число, поскольку интересуется, не растворится ли идентичность человека при трансценденции.

Я надеюсь, что к этому месту вы уже достаточно впечатлены силой и масштабом и непостижимостью и принципиальной трансцендентностью Сингулярности, чтобы эти рассуждения казались вам глупостью. Если вы захотите оставаться нерастворённым, вы будете способным организовать это. Вы сможете делать бэкапы. Вы сможете сохранять свою индивидуальность независимо от субстрата. Единственный народ, которому стоит беспокоиться о нежелательном растворении это первые люди, которые трансцендируют, и даже им не о чем беспокоиться, если имеется Дружественный, основанный на ИИ суперинтеллект, действующий в качестве гида по переходу.

Конечно, может быть так, что любое существо достаточной интеллектуальности захочет быть растворённым. Испытывать беспокойство насчёт этой возможности кажется очевидно бессмысленным, подобно беспокойству детей о том, что, когда они станут взрослыми, они больше не захотят быть бездумно жестокими по отношению к другим детям. Если вы хотите раствориться, это не та превратность, о которой мы должны беспокоиться.

Подобным образом, совершенно нет смысла тревожиться о том, что враждебные Силы истребят человечество. Если окажется, что все цели являются совершенно произвольными, то тогда можно представить, что плохо запрограммированная Сила может раскрутиться с целями, враждебными человечеству: это инженерный риск, и минимизировать его это инженерная задача. Но такие эмоции, как «эгоизм» и «обида» не появляются спонтанно у искусственных интеллектов, хотя избитые сюжеты научной фантастики утверждают противоположное. Обида является комплексной функциональной адаптацией, которая развилась у людей в течение миллионов лет; она не появилась просто из ничего. Даже тенденция считать свою группу более важной - является развившейся, в первую очередь, наравне с тенденцией думать «мы» и «они».

Почему должен универсальный рациональный искусственный интеллект считать человечество не имеющим значения? Единственное условие, при котором это возможно это если человеческая жизнь действительно бессмысленна, если отсутствие смысла это факт, который не зависит от наблюдателя. И даже этого недостаточно, чтобы обозначить гибель человечества. Акт уничтожения человечества тоже должен иметь значение, как факт, независящий от наблюдателя. Что означает, что любой достаточно разумный человек должен совершить самоубийство. И если это так, можно заподозрить, что мы ничего не можем с этим сделать.

В конечном счёте, никто не знает, что лежит по другую сторону Сингулярности, даже я. И конечно, требуется храбрость, чтобы шагнуть в эту дверь. Если бы ребёнок мог выбирать, покидать или нет материнскую утробу, не зная, что лежит в конце детородного канала не зная даже, есть ли там вообще что-нибудь сколько бы согласились? Но за детородным каналом лежит сама реальность. Это то, где вещи случаются. Было бы бессмысленно и бесплодно оставаться в утробе навсегда.

5. Банальный смысл жизни

Ты знаешь, я не понимаю, как люди эволюционировали в таких бездумных недальновидных существ.
Ну, вечно так продолжаться не может.
Ты думаешь, мы поумнеем?
Это одна из двух возможностей.
-- Калвин и Хоббс.

С тех пор, как этот текст был написан в 1996, «нанотехнологии» стали достоянием общественности. Я уверен, что теперь каждый слышал о концепции обретения полного контроля над молекулярной структурой материи. Это сделает возможным создавать пищу из нечистот, лечить разрывы спинного мозга, обращать вспять старость, сделать каждого здоровым и богатым, и намеренно истребить всю жизнь на Земле. В действительности, грубое военное применение, вероятно, будет гораздо проще, чем комплексное и творческое. Любой, кто хоть раз читал исторические книги, легко догадается, что случится дальше.

«Активные щиты» могут быть достаточны для защиты от случайных выбросов «серой слизи», но не против закалённых нанотехнологий военного уровня, прекрасно приспособленных для использования термоядерного оружия для прорыва через активные щиты. И всё же, несмотря на эту угрозу, мы не должны даже пытаться подавлять нанотехнологии; это просто увеличивает вероятность того, что злодеи получат её первыми. (15).

Майкл Поттер называет это «Гонка между сверхоружием и сверхинтеллектом». Человеческая цивилизация будет продолжать изменяться до тех пор, пока мы не создадим сверхинтеллект или не истребим сами себя. Неважно, сколько времени это займёт, или сколько циклов нановойны-и-восстановления до достижения Трансценденции или окончательного истребления. Если система продолжает изменяться, в течение тысяч лет или миллионов, или миллиардов, она, в конце концов, притянется к одному аттрактору или к другому. Но моё наилучшее предположение состоит в том, что это решится сейчас.

Но не только возможность разрушения является причиной, чтобы спешить к Сингулярности. Этой причиной является также и нарастающая сумма человеческих страданий, что есть не только практическая задача, не только этическая задача, но и подлинно моральная проблема. Множество ужасных вещей происходит на Земле сейчас. Если бы у меня был выбор уничтожить наркоманские предместья или уничтожить Холокост, я не знаю, что бы я выбрал. Я должен знать, какой из проектов имеет большие шансы достичь успеха.

Задавались ли вы когда-нибудь великими вопросами о Жизни, о Вселенной, и обо Всём? Было ли вам когда-нибудь интересно, имеет ли какое-либо значение, космически говоря, если вы решите не вставать с кровати утром? Случались ли вам пристально вглядываться в трудные вопросы этики, осознания, или реальности, и понимать, что не существует понятных человеку оправданий субъективного опыта, вставания с кровати или вообще существования? Как мы можем делать что-либо, устанавливать какие-либо цели, не зная Смысла жизни? Как мы можем оправдать наше непрерывное участие в этих тараканьих бегах, если мы не знаем, почему мы бежим? Ради чего это всё?

Мы не знаем. Мы вынуждены строить догадки - и действовать, исходя из своих лучших догадок. Независимо от абсолютных значений вероятности, сверхинтеллект имеет большие шансы открыть подлинные моральные основания, имеет достаточно сил, чтобы применить их и желания это сделать. Пространство, где обитает сверхинтеллект, является, с очень большой степенью вероятности и независимо от подлинного смысла жизни более предпочтительным, чем нынешнее пространство. Таков Банальный Смысл жизни, и он неплохо работает, но всё ещё это очень, очень, очень далеко от определенности, от реального знания о том, что происходит.

С меня хватит. С меня хватит наркоманских притонов, диктатур, камер пыток, болезней, старости, паралича спинного мозга и всемирного голода. С меня хватит смерти 150 000 сознающих существ в день. С меня хватит этой планеты. С меня хватит моральности. Всё это не нужно. Пришло время прекратить игнорирование грабителей из-за угла и попрошаек на улице. Больше не нужно нервно оглядываться назад, повторяя мантру: «Я не могу решить все проблемы в мире». Мы можем. Мы можем с этим покончить.

И таким образом я утратил но не мою веру, а мою приостановку безверия. Как ни странно, Сингулярность иногда может показаться гораздо более реальной и гораздо менее произвольной, чем жизнь человека. Есть лучший путь! Зачем рационализировать эту жизнь? Зачем претендовать на то, чтобы она имела смысл? Зачем пытаться сделать её яркой и счастливо? Есть альтернатива!

Я не говорю, что в жизни нет забавы. Она есть. Но любое количество страданий неприемлемо. Пришла пора прекратить гипнотизировать самих себя, создавая веру, что боль и несчастье являются желательными! Возможно, совершенство недостижимо, даже на другой стороне Сингулярности, но это не значит, что провалы и ошибки приветствуются. Пришло время перестать утверждать, что они не ранят!

Наши братья-люди мучаются от боли, наша планета может быть выжжена в пепел или превращена в слизь, мы не знаем, что за чертовня происходит, и Сингулярность решит все наши проблемы. Я декларирую достижение Сингулярности настолько быстро, насколько это возможно, - Самоочевидным Смыслом Жизни, временным определением Добра и обоснованием моей этической системы вплоть до последующего уведомления.

6. Достижение Сингулярности

Цитируя более раннюю версию «Вглядываясь в Сингулярность»:

Вероятно, множество исследователей на путях к Сингулярности тратят драгоценное время на написание предложений на гранты или делая вещи, которые могут быть сделаны лабораторными ассистентами. Было бы неплохо, если был бы Фонд Поддержки Сингулярности, который бы обеспечивал концентрацию человеческих усилий. Возможно, есть один человек среди имеющихся сейчас исследователей Хофстадтера, Дрекслера, Лената, Моравека, Гёрцеля, Чалмерса, Квэйта, кто-то, кто только что закончил колледж или даже я человек, который пробьётся к Сингулярности. Каждый час, который теряет этот человек это лишний час в ожидании Сингулярности. Каждый час 6 тысяч человек умирает. Вероятно, мы должны что-то сделать с тем, как этот человек тратит время и энергию в процессе написания запросов на гранты. (16).

Это суммирует основную идею достижения Сингулярности о том, что есть где-то один-единственный проект, который создаст интеллект, превосходящий человеческий. Этот проект, возможно, в области ИИ, будет поддержан успехами в трёх-четырёх других областях знаний, таких как когнитивная наука, высокоскоростное ультракомпьютерное оборудование, всеми предыдущими исследованиями в области ИИ и, возможно, такими источниками вдохновения, как интерфейс Мозг-Компьютер. Эти исследователи едят еду, носят одежду и смотрят телевизионные шоу, и всё это производится мировой экономикой. Поэтому любая производственная активность, на любом звене цепи, может рассматриваться как поддержка Сингулярности. Чтобы поддержать Сингулярность непрямым способом, вы можете продолжать забивать на своей основной работе, особенно, если вы фермер, а не адвокат по групповым искам. Нейрологи могут изучать когнитивные науки, компьютерные программисты могут изучать ИИ, и пытаться быть готовыми к тому моменту, когда Сингулярность затребует их услуги. Различные трансгуманистические организации, такие как Extropy Institute и Foresight Institute, достижимы для более непосредственных видов помощи.

Всё это неплохо, но некоторые из нас предпочли бы возможности по прямому ускорению Сингулярности по непосредственной помощи в создании интеллекта, превосходящий человеческий.

Через четыре года после публикации «Вглядываясь 1.0» - теперь существует официальный Институт «Сингулярность»! Написание кода для проекта по ИИ ещё не началось, но идёт работа над текстом «Кодирование трансугманистического ИИ 2», и когда документация на проект будет готова, мы начнём написание кода и мы напишем Семя ИИ. Недавно по крайне мере по отношению к последней ревизии этого текста мы получили статус, освобождающий от налогов, и теперь мы принимаем пожертвования!

И часы продолжают тикать, и ещё один кусочек жизни, которую мы знали, сгорает позади&

Я думаю, теперь уже можно с уверенностью сказать, что я могу сейчас представить полностью дорогу, ведущую к Сингулярности, у меня есть определённые идеи о том, как попасть туда и сколько это будет стоить, и я думаю, мы, вероятно, сможем сделать это к 2010 году. И значительно раньше, при условии значительного финансирования и обнаружения ответов на ряд исследовательских проблем.

Так что, к чёрту закон Мура! Сингулярность случится тогда, когда мы соберёмся и сделаем её.

Я так же хотел бы сказать несколько вещей о том, как не попасть к Сингулярности.

Как в более ранней версии этой работы сказано: «Этот документ не является призывом к оружию ни в какой степени». Я всегда весьма не доверял человеческой склонности формировать социальные организации. Организации стремятся скорее поддерживать сами себя, а не решать проблемы. Мем Сингулярности достаточно силён. Нельзя позволить впасть в обычные, лёгкие модели поведения. Сингулярность нельзя создать с помощью культа, с помощью общества совместного обожания или сборища чудаков. Дрекслер столкнулся с похожей ситуацией в связи с нанотехнологиями.

Принцип Независимости, в «Принципах Сингуляританцев», является защитным. Суммируя, можно сказать, что Принцип Независимости отвергает идею о том, что один Сингуляританец может иметь какую-либо власть над другим. По моим собственным причинам я выбрал Сингулярность как свою личную цель. Здорово, если я смогу быть более эффективным, работая вместе с другими сингуляританцами. Но то, что меня волнует это Сингулярность, а не Сингуляритантизм.

Другой защитой является Принцип Разумности, которые означает, что разумность или глупость некой идеи имеет логическое преимущество над тем, является ли она за- или анти- сингулярной. (Вы можете подумать, что это абсолютно очевидно до того момента, разумеется, когда вы почитаете книги по истории, или поговорите с другими людьми, или включите телевизор или ещё что-то.)

Есть ещё одна защита, которая не является принципом. Это идея, ради которой я когда-то написал «Вглядываясь в Сингулярность». Это последний совет: «Не будьте Утопистами!»

Не описывайте жизнь после Сингулярности в ярких красках. Не описывайте её вообще. Я думаю, что неудачное предсказание будущего за все времена можно обнаружить в нескольких небольших абзацах «Безграничности будущего» («Unbounding the Future»), которые я прочёл, где описывался пешеход, которого переехала машина, и его рука чудесным образом выздоровела. Это смешно. Пешеход? Переехала? Рука? Машины в нанотехнологическом мире? Почему не стадо обезьян, описывающих лёгкость получения бананов с помощью человеческого ума?

По словам Дрекслера:

Я хочу подчеркнуть, что меня приглашали выступить в таких местах, как коллоквиумы по физике в главном исследовательском центре IBM, в Xerox PARC и так далее, так что эти идеи принимаются всерьёз серьёзными людьми, но реакция была смешанная. Если вы хотите, чтобы реакция была настолько позитивной, насколько это возможно, я призываю каждого, пожалуйста, держите уровень экзальтации и прочей дряни как можно ниже (17) и будьте весьма сдержанными, говоря о невероятных последствиях, которые на самом деле реальны и технически реализуемы, - ибо они не выглядят таковыми. Мышление людей должно взрасти к долгосрочным последствиям постепенно; вам не надо с этого начинать.

Основная проблема с людьми, распространяющими свои Утопические взгляды на нанотехнологический мир, - в том, что их выводы не достаточно радикальны. Истории о самозалечивающихся ранах или о возможности немедленно получить любой материальный объект не дают вам чувства того, что вы смотрите в будущее. Они создают ощущение, что вы смотрите на детские фантазии о всемогуществе человека с богатым воображением, и это предрасполагает вас рассматривать нанотехнологии таким же образом. Что ещё хуже, это притягивает других людей с фантазиями о всемогуществе. Нет лучшего пути превратиться в стадо кабинетных либералов, потягивающих кофе и планирующих Революцию, на самом деле ничего не делая.

Я предполагаю, что я не должен быть таким грубым со сторонниками наноУтопии. Некоторые из них могут быть реальными исследователями или писателями научной фантастики или другими людьми, делающими полезные дела; некоторые из них могут быть заурядными людьми, искренне старающимися помочь, которые просто захвачены недостатком воображения; и конечно, никто из них не был в Запредельности. Но раз вы прочитали это страницу, то теперь вам нет извинений.

Этот текст о всматривании в Сингулярность. Это о ужасе, о Запредельности, о конце истории и о вещах за пределами человеческого понимания. Он предназначен, чтобы вызвать ощущение будущего, и я надеюсь, что мои читатели склонятся к восприятию нанотехнологии, ИИ, нейрологии и всех других сторон Сингулярности тем же образом как части будущего.

Я надеюсь, что это привлечёт людей правильного рода.

В момент безумия я подписался на мэйл-лист Экстропианцев. Эти люди знают, что такое Сингулярность. Теоретически, они знают, что приближается. И всё же, даже когда я им написал [в 96 а в 99 они немного исправились], народ, который действительно должен был бы быть в курсе, - продолжал диспутировать на тему будут ли транслюди иметь достаточно вычислительной силы, чтобы симулировать частные вселенные, ограничен ли доступный транслюдям объём вычислительной силы законами физики, является ли человек, загруженный в транскомпьютер тем же человеком, или только забавной соевой имитацией и самое невероятное из всего будут ли наши невероятно интеллектуальные будущие личности всё ещё заниматься сексом.

Почему это нас беспокоит? Почему мы должны знать об этом? Не может ли это быть так всего лишь возможность что эти проблемы могут подождать того момента, когда мы станем раз в пять умнее и некоторые наши белые пятна заполнятся? Прямо сейчас у каждого человеческого существа может быть только одна проблема: как мы можем достичь Сингулярности настолько быстро, насколько это возможно. То, что случится после неё не наша проблема, и я сожалею о тех, чёрт возьми, лишённых воображения, надоедливых до омерзения и просто скучных и лишённых воображениях картинах будущего с неограниченными ресурсами и полностью неизменившимися смертными людьми. Оставьте проблемы трансгуманизма транслюдям! Наши шансы понять что-нибудь правильно таковы же, как у рыбы построить летающий самолёт из водорослей и гальки.

Единственная наша ответственность это произвести нечто, более умное, чем мы сами, все проблемы после этого не наши.

Как мы обеспечим работу мировой экономики ещё хотя бы десять лет? Кто готов финансировать ИИ проект? Кого мы должны нанять для ИИ проекта? Как мы должны избежать стандартной технофобской отрицательной реакции? И что мы будем делать, если нанотех появится первым?

Это практические вопросы, с которыми мы столкнёмся в ближайшем будущем. Эти правильные вопросы, и ответы на них вот подходящая тема для мэйл-листов. [И сейчас, в 2000 году, для института «Сингулярность».] Я не возражаю против свободного течения воображения. В конце концов, с этого всё началось. Но не слишком вовлекайтесь в это эмоционально, не пытайтесь утверждать, что ваше видение Другой Стороны Рассвета имеет шанс быть верным, и потратьте своё время на создание Сингулярности вместе этого.

Вверх и наружу, Элиезер Юдковкий.

Пояснения к тексту:

1: Это реально пошло вверх в последнее время, со скоростью в 55% в год в 1998г.

2: Мощность человеческого мозга оценивается между 10^11 и 10^26 операций с плавающей запятой в секунду. Здесь мы пользуемся числом в 10^17 ops/sec, которое происходит из 10^11 нейронов в мозгу, 10^3 синапсов на нейрон и частоты срабатывания в 200 раз в секунду, и ещё умноженное на 5 на счастье. Более сложные и точные вычисления, дающие результат в 10^14 ops/sec, см. в статье Ханса Моравека «Когда компьютерное оборудование сравняется с человеческим мозгом?»

3: В книге Ханса Моравека «Дети ума».

4: Если имеется уже существующий математический термин для этого, пожалуйста, сообщите.

5: И это даже без использования квантовых компьютеров.

6: Также, если мы хотим иметь функцию, корректно описывающую ситуацию, T(10^17), или T(людей) должно быть в настоящий момент равно 10^12, или мощности компьютера, и S{n} должно быть S{n-1} + T(S{n -1}).

7: Пиксели: элементы картинки. Каждая маленькая точка, из которой состоит экран, отражающий этот документ.

8: Также исключительно не-глупые люди обычно оказываются исключительно интеллектуальными.

9: Вы открываете бактерию, вставляете в неё ДНК и позволяете автоматической биофабрике работать.

10: Один миллион миллиардов операций с плавающей запятой в секунду.

11: http://www.zyvex.com/nanotech/howlong.html

12: Я не знаю этого наверняка, но это кажется неплохой ставкой.

13: Так что мой email sentience@pobox.com. Это также выражает моральный принцип отказа отождествляться с какой-либо группой, меньшей, чем все чувствующие существа.

14: (Совместно с Amazon.com.)

15: См. CRNS расписание и «Если нанотех придёт первым» в «Плане по движению к Сингулярности»; а также «Принципы неподавления» в «Принципах Сингуляританца».

16: Вычищено немного в версиях «Вглядываясь& 1.0 и 1.1»

17: Выделено мной.

Приложение:

Обдумайте следующие слова Элиезера из его статьи написанные, когда ему было 16 лет:

Сингулярность наиболее убедительный сценарий в настоящий момент. Это очевидно: нанотех + ИИ = Сингулярность.

Рационально понятный сценарий, но эмоционально чужой: «Всемирно распределённая сеть ячеек, многие из которых имеют сверхчеловеческую силу. Некоторые из них будут иметь постижимую идентичность скажем, те, которые отделены сейчас в настоящий момент узкими каналами от остальных но эта отделённость постоянно меняется, как и сама их идентичность».

Семь признаков Сингулярности:

1. Вы рефинансируйте свою ипотеку, и новая закладная действует 30 секунд.

2. Nasdaq достиг астрономических значений, выражаемых специальной математической записью.

3. Реклама на телевидении более сверхъестественна, чем ваши галлюцинации.

4. Вы вынуждены покупать новый компьютер каждую неделю& и он прибывает вместе с продуктами питания.

5. Лудитты строят свою собственную сферу Дайсона.

6. Куклы для секса, наделённые искусственным интеллектом, просят вас пользоваться презервативами.

7. У вашего тостера есть свой собственный бизнес-проект в Интернете.


Staring into the Singularity Оригинал статьи на английском.

© Copyright: Алексей Турчин, 2007