Лекция Дэвида Чалмерса II

[Дилетант]

Итак, то, что было невозможно в прошлом, становится возможным сейчас.
А вот терминология, которой он пользуется.

ИИ — искусственный интеллект, интеллект, равный человеческому, или превосходящий его.
ИИ+ — интеллект заведомо выше человеческого.
ИИ++ — интеллект, намного превосходящий человеческий.
Небольшое отступление. Чалмерс в своей лекции выступил скорее как футуролог, нежели философ. Выводы, которые он сделал, быть может, базируются на ложных посылках. Но в качестве фантаста он, по-моему, весьма неплох.
Применял он логический вывод. Кто с этим знаком хоть чуть-чуть, может в этом убедиться )).


На этом фото лекции Чалмерса кончаются и начинается суть.

Сначала предпосылки сингулярности по Чалмерсу.
Сингулярность:
- ускоряющееся изменение в технологиях;
- непредсказуемые последствия;
- искусственный интеллект выше человеческого.

Он рассматривает два вида сингулярности.
1) Взрыв интеллекта
Тут мой конспект очень краток, но я постараюсь развернуть.
Представьте себе машины, которые делают другие машины. Как только эти машины становятся хоть чуть-чуть умнее людей, они начинают делать другие умные машины лучше, чем это делали люди. Каждое новое поколение машин неизбежно становится всё умнее, если ничто этому не препятствует. Умные машины => еще более умные машины => еще более умные машины... И так ad infinitum. Взрыв! (Наступление сингулярности)
2) Взрыв скорости
Есть такой закон Мура... Не знаю, знает ли о нем Чалмерс. Но говорит он вот что.
Вычислительная способность компьютеров удваивается за все более короткие сроки.
Пусть она удваивалась за год, затем она удвоится за полгода, затем, за три месяца, затем, за 1,5 месяца, затем.... 1 час, 1 минута, 1 секунда... Взрыв!
Вот такая вторая сингулярность.
Мы будем рассматривать, говорит Чалмерс, только интеллектуальную сингулярность, хотя взрыв скорости тоже важен.

Возникающие вопросы
"Сингулярность поднимает вопросы жизни и смерти".
1) Возникнет ли информационный взрыв?
2) Как мы должны его преодолеть?
3) Сможем ли мы встроиться в пост-сингулярный мир?

Вот.
Основные постулаты таковы. Если не будет никаких ограничений, то как только возникнет интеллект, равный человеческому, дальше человек перестает контролировать ситуацию. Более совершенные машины в отсутствие сдерживающих факторов создают еще более совершенные с точки зрения интеллекта машины... И т.д. и т.п. И так до бесконечности. Человек оказывается лишним звеном.
А создание интеллекта, равного человеческому, говорит Чалмерс, лишь вопрос времени.
Ну а как только он создан, дальше уже все по описанному пути катится в тартарары.
Правда, дальше пошли смешные вещи. Он сказал, что по прогнозам 2000-го года ИИ должен был быть создан в 2035 году. Сейчас считается, что ИИ будет создан приблизительно в 2045-м году. Т.е. ИИ всегда в 35 годах впереди нас.
Дальше он перешел к предпосылкам создания ИИ, на которых я долго останавливаться не хочу, ибо они достаточно тривиальны.
Типа, если человеческий мозг — машина, мы скоро будем иметь вычислительные мощности, чтобы эмулировать эту машину, а как только мы ее эмулируем, это и будет ИИ.
Тут он приводит конспективно доводы философов в пользу невозможности ИИ.

Но, тут же разбивает их в пух и прах. Причем, на мой взгляд, его "пух и прах" полностью совпадает с аргументами Тьюринга. Поведение, демонстрирующее интеллект = интеллекту. Ну-ну. Не стану спорить.

Далее он говорит о т.н. расширяемых методах. Т.е. вправду ли, если у нас есть более умная машина, она в свою очередь способна создать еще более умную машину, потому что имеет для этого лучшие методы, чем более глупая машина...
Не все методы, говорит Чалмерс, расширяемы.
Метод воспроизводства естественного интеллекта не расширяем. Иначе если вы имеете классный секс, у вас рождается гений (простите, дословное цитирование: наши философы идут на многое, чтобы их лекции имели резонанс... пусть даже сиюминутный).

Но вот с машинами примем, что методы расширяемы. Однако, всё это верно в отсутствии defeaters. Defeater = anything that prevents systems from manifesting their capacities. Цитирую дословно. Перевожу как некие "сдерживающие факторы". Так вот, оказывается, что их есть у него.
Вот некоторые препятствия.
Представим себе, что мы создали ИИ0, а он уже сам создал ИИ1, более совершенный, чем он сам.
И вот, этот самый ИИ1, если он на самом деле умен, еще сто раз подумает, нужно ли ему создавать ИИ2, умнее чем он сам. Или, может, не стоит... "Может, это плохая идея?" — думает ИИ1.
Второе обстоятельство, приводимое Чалмерсом, как раз касается категорического императива и Канта.
Он говорит, что суперинтеллект будет суперрациональным и (если Кант был прав) суперморальным.
(И они не смогут нас уничтожить. Хе-хе)
Но прав ли Кант?
===
Далее мои записи обрываются, а память отказывает. Рука бойцов колоть устала.
Это не вся лекция, но значительная ее часть.

@темы: Когнитивные науки

Comments

[Elena Ant.]

чертовски интересно !!!

[chebur12]

Дилетант, я как человек темный такое воспринимаю как чет блин, не откровение... и даже "как бы" на плагиат похоже... даосизм адаптированный....,

Чалмерс этот, видно хорошо др. китайскую философию изучал... а что у него за работа на phD была?

Небо и Земля не гуманны
и относятся к мириадам существ,
как к соломенным собачкам.
Мудрый человек не гуманен
и относится к людям,
как к соломенным собачкам
Не подобно ли пространство
между Небом и Землёй
[кузнечным] мехам?
Будучи пустотным, оно неисчерпаемо.
Чем больше оно движется,
тем больше ему прибавляется.
Произносящий бесчисленное множество речей
не сравним со сберегающим это в себе.
(с)
ЛАО ЦЗЫ - ДАО ДЭ ЦЗИН

зы
Дилетант, а вообще - спасибо за то, что впечатлениями поделилась... это здорово... ежели куда поедешь еще пиши пожалуйста...

[Гельвард Манн]

Ага! Так он про технологическую сингулярность, оказывается, говорил!
Есть ощущение, что Чалмерс очень хорошо начитался "Голема XIV" Станислава Лема, там как раз все это было - и шкала машинного интеллекта, и компьютеры, которые строят компьютеры. А вообще выводы у чувака действительно как-то слишком очевидны... Лем, излагая идею, обычно переворачивает все с ног на голову)))
Но все равно очень интересно! И здорово, что хоть кто-то об этом говорит.

[Zinder]

ну вот, все накинулись на бедняжку Чалмерса ))
а кто сказал, что среднестатистический философ должен непременно выдавать гениальные инновации?
его дело - обобщить мыслительный опыт предшественников, отсюда и знакомость

[Турмалин]

Спасибо за пересказ

Современная западная (в широком смысле) традиция философствования вообще каждый раз вызывает у меня шок.
Обо всем вышесказанном можно поговорить со студентами на семинаре по философии техники на примере азимовского "Я, робот". И обойтись без фоточег для объяснения того, что прогресс открывает новые возможности решения старых задач.

[Дилетант]

Женщина, которая..., ты того-с, не хвали меня, а то меня потом не остановить))

chebur12, не знаю, чем он занимался в диссере, но вообще о нем пишут, что он "философ сознания"... А Дао де цзин на все случаи жизни подходит))
Я на другой лекции просто не удержалась и стала вслух Конфуция цитировать, до того он в тему был.

ежели куда поедешь еще пиши пожалуйста...

буду стараться.

Гельвард Манн, ага! "Голем 14", а еще "Формула Лимфатера". Два чудеснейших рассказа.
Да, сингулярность была интеллектуально-технологическая ))

Zinder, да судя по его виду, кто на него накинется, тот дня не проживет )))
У него всё хорошо.

Zinder, Турмалин,
Просто я уверена, что если он философ, он должен был читать первоисточники. Если он их читал, и при этом он обладает рефлексией, то не может не сравнивать свои лекции с их текстами. Вывод один. Он нас держит за дураков. Это как-то обескураживает.
С другой стороны, боюсь, это издержки излишней междисциплинарности. Люди из совершенно разных областей науки действительно с трудом понимают друг друга. Приходится упрощать. Я сама обошлась без формул, зато с мильёном движущихся картинок.
Вопрос в том, где надо остановиться в этом упрощении.

Турмалин, я вот наберусь терпежу и напишу лекцию Деннета с фоточгами. У него там в основном женские задницы фигурируют. Это вот такая вот тенденция — для поддержания неизбывного интереса публики.

[Турмалин]

Дилетант, вот-вот, это и раздражает. Вместо того, чтобы изложить научному сообществу простыми словами то, что ты исследуешь, -- кругом задницы. Извини, эти негодующие вопли не имеют к треду никакого отношения, конечно)) Но ведь Чалмерсу вряд ли нужна "раскрутка", уж он-то мог бы говорить всерьез, а не как с даунами. Но нет

[Дилетант]

Турмалин,

уж он-то мог бы говорить всерьез, а не как с даунами. Но нет

Ну, да (((
Ну в общем он получил адекватный ответ общественности...

[Gato Grande]

Дилетант, ты что, серёзно допускаешь, что Чалмерс не знает о законе Мура??? просто нынче закон Мура уже не слишком актуален из-за cloud computing, и на подходе совершенно другие технологии - атомные процессоры, fuzzy logic, 3D. а лет через 10-15 можно будет об этом законе совсем забыть, имхо.

а вообще, очень интересно, спасибище огромное! щас ещё про мосты почитаю ))

[Дилетант]

Gato Grande,

ты что, серёзно допускаешь, что Чалмерс не знает о законе Мура???

Вот знаешь, отлично допускаю.
Ты с ним знаком, что ли? (С Чалмерсом, а не с законом Мура)))
Там вот например в другой день выступал другой ученый с мировым именем. Некто Том Гивон (кажется). Рассказывал про синтаксис, про Хомского и многое разное.
И вот, все до него с презенташками, а он уселся за стол и так уютно и неспешно два с лишним часа просто проговорил. Правда, всем раздали листочки с конспектами и он говорил: откройте страницу такую-то)))
А потом ему стали задавать вопросы и спросили что-то про комп. вирусы.
На что он ни капли не стушевавшись, сказал: я компьютерный имбецил. Мол, даже не знаю, как он включается. А ты "закон Мура, закон Мура..." ))))
Про облачные вычисления и всё такое понимаю))
И что Мур устарел, тоже объяснимо. Но тогда нас точно ждет сингулярность.

[Gato Grande]

Дилетант, так ведь как раз закон Мура - это ж теория, его стихия.

Ты с ним знаком, что ли?

ну, не лично конечно... мне кажется, я о нём сто лет назад ещё слыхал. то ли из универа, то ли ещё откуда. по крайней мере, я прекрасно знаю кто он такой.

Но тогда нас точно ждет сингулярность

- доктор, я умру?
- в своё время - непременно!

[chebur12]

Дилетант, Gato Grande, извините, что встреваю... но тут согласна с Дилетантом... народ на западе по слухам типа жутко продвинут... допускаю... ну вот к примеру какой нить ученый чел... с мировым именем и проч. всю жизнь изучает желудок дрозофил... а как моСк дрозофил действует ему глубоко фиолетово...
это у нас, отсталых и жнец и на дуде игрец...

[Gato Grande]

chebur12, потому что наука на Западе - это в первую очередь бизнес: гранты, патенты, всякие няшки от университета, а потом уже - прогресс и просвещение. поэтому важно быть в верхней части списка хоть в чем-то. а возглавлять списки во многих категориях - это ж надо Леонардо быть. или Ломоносовым, в крайнем случае.