Технологическая сингулярность
Технологическая сингулярность как ближайшее будущее человечества
Первой, и пожалуй, базовой идеей является следствие из закона Мура (приблизительное удвоение количества транзисторов на новых кристаллах микропроцессоров каждые 18 месяцев): где-то между 2025 и 2035 годами вычислительная мощность отдельных компьютеров сравняется с "сырой" вычислительной мощностью человеческого мозга (порядок последней оценивается в 1014–1017 операций в секунду), а затем и превзойдёт её. Конечно, закон Мура — это, на самом деле, никакой не закон, а всего лишь эмпирический вывод из наблюдаемой скорости развития технологий. Однако, если трактовать этот закон более широко (а именно, считать не количество транзисторов на кристалле, а доступные быстродействие процессоров и объёмы памяти), то окажется, что держится он значительно дольше существования интегральных схем, сменив по пути несколько технологий — электромеханические вычислители, ламповые, транзисторы... Кроме того, сам период 18 месяцев условен и с течением времени постепенно уменьшается. Таким образом, у нас есть хорошие шансы, что закон Мура продержится ещё не менее 15 лет.
Итак, давайте примем в качестве рабочей гипотезы, что возможности компьютеров в ближайшем будущем превзойдут человеческие. На этом уровне совершенно не важно, будут ли они "на самом деле" мыслить (вопрос об этом имеет не больше смысле, чем вопрос о том, могут ли подводные лодки "на самом деле" плавать), поскольку результаты их работы будут такими же, как если бы они мыслили, причём быстрее и глубже, чем люди.
Впервые за всю историю человечества мы окажемся в обществе существ, более разумных, чем мы сами. В романе "Пламя над бездной" Виндж называл их Силами (Powers). Дальше я буду для краткости буду периодически пользоваться этим термином.
Первое (и, фактически, единственное) следствие: мы не сможем полностью ни понять, ни предсказать дальнейшее развитие событий, когда "у руля" цивилизации встанут не только, не столько, а затем и исключительно не люди, а сверхинтеллекты. В этом и заключается смысл предложенного Винджем термина "Сингулярность" — условия, в которых привычные модели и представления теряют свою применимость, и начинается нечто принципиально иное.
Технологическая сингулярность - это гипотетический момент в будущем, когда технологическое развитие станет настолько стремительным, что график технического прогресса станет практически вертикальным.
Переход
- Искусственный интеллект
- Увеличение биологических возможностей человека — генная инженерия, киборгизация и другие подходы
- Человеко-компьютерные системы — объединение сильных сторон человека и компьютера, всё более интенсивное использование информационных и коммуникационных технологий для усиления наших интеллектуальных способностей
Апофеоз
Мы не можем предсказать конкретные формы, в которых реализуется Сингулярность. Но кое-какие детали можно предсказать почти наверняка. На что это будет похоже с точки зрения Силы (молодой, ещё не очень далеко ушедшей за пределы человеческого понимания)?- Практическое субъективное бессмертие.
- Возможность быть во всех местах, куда протянута сеть.
- Огромное количество задач и проблем для исследования и решения — всё захватывающе интересно, на всё хватает времени и способностей.
- При необходимости всегда можно достроить себя,как программно, так и аппаратно(не будем забывать о нанотехнологиях...).
- Материальное изобилие.
- Технологии, настолько близкие к идеальным, насколько это возможно.
- Чистая окружающая среда.
- Сверхчеловечески умное управление и планирование, учитывающее все побочные эффекты.
- Безопасность.
- Возможность делать только то, что хочется, и настолько, насколько хочется.
Как жить дальше
- Радуйтесь им, пока можете, - мягко ответил Рашаверак. - Они не надолго останутся вашими. Артур Кларк. Конец детства, 1953.
Ссылки
- Вернор Виндж, Технологическая Сингулярность
- Рассвет Сингулярности, книга Майкла Диринга (пер. с англ.) — подробный рассказ о том, как три технологии будущего — искусственный интеллект, молекулярная нанотехнология и молекулярная биотехнология — в пределе своего развития приведут к Сингулярности.
- О пути к сингулярности, Павел Васильев
- Николай Аблязов, Технологическая сингулярность. Исследование предпосылок возникновения и последствий для человечества (Реферат аспиранта МФТИ)
- Систематические ошибки в рассуждениях, потенциально влияющие на оценку глобальных рисков Статья директора института Сингулярности Элизера Юдковски
- Искусственный интеллект как позитивный и негативный фактор глобального рискав