Новоселов Андрей - Технологическая Сингулярность Как Ближайшее Будущее Человечества
Andrzej Novosiolov
Технологическая сингулярность как ближайшее будущее человечества
В течение ближайших тридцати лет
у нас появится техническая
возможность создать
сверхчеловеческий интеллект.
Вскоре после этого человеческая
эпоха будет завершена.
Вернор Виндж. The Coming
Technological Singularity: How
to Survive in the Post-Human
Era, 1993.
Этой фразой начинается статья, роль которой в
трансгуманистическом движении сравнима разве что с "Меморандумом
Бромберга" в истории Большого Откровения. Насколько мне известно,
за прошедшие с тех пор восемь лет никто так и не опроверг
основных положений - а пытались, несомненно, многие. Да,
некоторые детали не выдерживают придирчивой критики, но сущность
идеи от этих деталей не зависит.
Если вы свободно читаете по-английски, откройте ссылку на
источник эпиграфа в другом окне и прочтите статью Винджа прямо
сейчас, пока на ваше непредвзятое мнение не повлиял мой текст.
А потом возвращайтесь ко мне и читайте дальше :)
Содержание
· · Определения и обоснования
· · Переход
Искусственный интеллект
Увеличение биологических возможностей человека
Человеко-компьютерные системы
· · Апофеоз
· · Опасность перехода
· · Сценарии без Сингулярности
· · Как жить дальше
· · Как помочь
· · Как навредить
· · Как подготовиться к будущему
· · Принципы сторонников Сингулярности
· · Активность
· · Технологичность
· · Глобализм
· · Сотрудничество и независимость
· · Неподавление
· · Ссылки
Определения и обоснования
Все попытки как-то
детализировать облик грядущего
выглядят aposteriori
смехотворными, если не жалкими.
Борис Стругацкий (из статьи
Кирилла Еськова).
Первой, и пожалуй, базовой идеей является следствие из закона
Мура (приблизительное удвоение количества транзисторов на новых
кристаллах микропроцессоров каждые 18 месяцев): где-то между 2015
и 2035 годами вычислительная мощность отдельных компьютеров
сравняется с "сырой" вычислительной мощностью человеческого мозга
(порядок последней оценивается в 1016 операций в секунду), а
затем и превзойдёт её. Конечно, закон Мура - это, на самом деле,
никакой не закон, а всего лишь эмпирический вывод из наблюдаемой
скорости развития технологий. Однако, если трактовать этот закон
более широко (а именно, считать не количество транзисторов на
кристалле, а доступные быстродействие процессоров и объёмы
памяти), то окажется, что держится он значительно дольше
существования интегральных схем, сменив по пути несколько
технологий - электромеханические вычислители, ламповые,
транзисторы... Кроме того, сам период 18 месяцев условен и с
течением времени постепенно уменьшается. Таким образом, у нас
есть хорошие шансы, что ещё не менее 15 лет закон Мура
продержится.
Разумеется, одной только вычислительной мощности мало - нужно и
соответствующее программное обеспечение. Но, как мы видим, с этим
тоже всё в порядке: достигли уровня практической применимости
такие традиционно "интеллектуальные" операции как распознавание
речи, текста и других образов; дальние потомки "Элизы" - чат-
роботы - успешно выдерживают тест Тьюринга в непритязательных
беседах на уровне "девушек, не обременённых умственной
деятельностью"; ну и всем уже надоевший пример Deep Blue, лишь
немного не дотянувшей до ничьей с чемпионом мира по шахматам.
Итак, давайте примем в качестве рабочей гипотезы, что возможности
компьютеров в ближайшем будущем превзойдут человеческие. На этом
уровне совершенно не важно, будут ли они на самом деле мыслить
(кстати, а