Компьютерное сознание

[nedosionist]

В WSJ - статья  и видео о проекте Henry Markram (Швейцария/IBM) по имитации работы мозга. Вкратце: подпитываемый срез секции мозга крысы поместили под микроскоп, воспроизвели структуру нейронных соединений на компьютере и сравнивают динамику программы с наблюдаемой в тканях - утверждают, что похоже. Подчеркивают эффекты спонтанной синхронизации, так "появляется ваша личность", и вопрос, а может ли эта программа демонстрировать сознание!?

Похоже, несмотря на далеко идущие комментарии, реально имеют они меньше - лишь спонтанная синхронизация в сложных системах с биологическим прототипом, как в теории хаоса. Я ранее видел, в основном у Dennett, про подход к сознанию как спонтанному эффекту сложности мозга (emergent property). Но даже если это так, всякая ли синхронизация мозговой деятельности ведет к сознанию? Возникает по-крайней мере логическая возможность аналогичных сознанию явлений, при этом как таковым сознанием не являющимися! Другими словами - альтернативное состояние мозга (это проще, скажем, сродни мистическим) или даже вовсе "иное сознание".

Comments

Dan Dennet

[lkitross.livejournal.com]

Скажите, а этот Дан Деннет в научном мире уважаемая личность, по-Вашему? А то я читал его популярную книгу "Опасная идея Дарвина", и что-то он мне не показался (упомянул тут: http://lkitross.livejournal.com/30033.html).

Re: Dan Dennet

[nedosionist.livejournal.com]

Насколько я понимаю, авторитет Деннетта в научной среде от попыток последовательно строить мосты между наукой и философией, т.е. искать ответы на сложные философские проблемы в форме, удобной для научного анализа. В особенности, имхо, это относится к проблемам сознания, как в посте/статье.

Я как-то слышал его в дебатах - дураком он, ест. не является. ;) При этом он намеренно занимает радикальные позиции - если хотите, как адвокат дьявола, может отсюда и ощушение, что он не понимает оппонента? Да и популярные книги его очень разводнены.

[laplandian.livejournal.com]

Я ранее видел, в основном у Dennett, про подход к сознанию как спонтанному эффекту сложности мозга (emergent property).

Мне близка так называемая цифровая философия, постулирующая первичность информации по отношению к духовному и материальному. Я думаю, что этот подход даже может помочь разрешить противоречия между наукой и религией, теистическим и нетеистическим восприятием мира, субъектом и объектом. Известный математик Грегори Хайтин много писал на смежные темы, хотя некоторые его идеи весьма сомнительны.

Дональд Хофштадтер в известной книге Goedel, Escher, Bach высказывает предположение, что сознание представляет собой саморефлективную информационную систему, способную выходить за любые внешние и внутренние рамки. То-есть, рефлексия и рекурсия особой мощности, постоянно изменяющая собственную структуру.

В качестве еврейского варианта цифровой философии советую прочесть предисловие к каббалистическому комментарию "טעם עצו" на известную книгу "משנת חסידים". Пинхас-Эльоу Горович, литовский раввин 18 века, автор известного этического сочинения "ספר הברית", описывает в этом комментарии всю систему миров в терминах теории информации.

Парцуф Зеир-Анпин, который, с точки зрения автора, является актуальным Богом религии, "интерфейсом" между человеком и абстрактным недоступным Эйнсоф, представлен в этом сочинении примерно как живой компьютер - информационная структура, сотканная из букв и заданных над буквами операций, которые при этом полны жизни.

В этой книге Парцуфим и Сфирес описаны как неограниченные формальные системы, таинственным образом единые с Абсолютом.

Любопытно, что "ספר הברית" ругает Монадологию Лейбница, но сам предлагает нечто очень похожее. Потому и ругает, наверное. Из-за расхождений в целом близких взглядов.

Классический пример рефлекции в Каббале - имя "א-ה-י-ה אשר א-ה-י-ה". Вечная рекурсия, порождающая бытие...

[nedosionist.livejournal.com]

>>Классический пример рефлекции в Каббале - имя "א-ה-י-ה אשר א-ה-י-ה". Вечная рекурсия, порождающая бытие...
Это интересная мысль, но не уверен, что я Вас понимаю дальше уровня метафоры.

[laplandian.livejournal.com]

I am that I am

Это классический пример определения, замкнутого на себя. Однако, каббалисты объясняют, что второй субъект в этой фразе не вполне идентичен первому в силу своей вторичности. Ведь это имя не просто так в Торе повторяется. Сам факт повторения вчитывает новый смысл, вызывая рефлексию.

Это очень глубокая фраза, в которой Ибн Эзра находит даже математическую рекурсию. Буквы א-ה-י-ה сохраняются при возведении в квадрат по модулю 10, т.е. как бы замыкаются на себя. Но при этом (это уже мое продолжение) сам процесс отождествления числа с самим собой дает нам новую информацию о системе.

[nedosionist.livejournal.com]

Я грешным делом подумал, что Вы тут имеете в виду намек на построение рекурсивного дополнения в виде "ашер ехие ашер". А также - рефлексия несводима к рекурсии.

"I am that I am" - мне представляется не слишком удачным переводом, ближе к "ани ани ху", чем к "ехие ашер ехие", в некотором смысле гибридом. Возникает здесь такой вопрос: понятно, что на некоем уровне эти определения сливаются. Но аналитично ли выражение "ехие ашер ехие" это "ани ани ху"? является ли оно тавтологией или информативно?

Трактовка этой фразы как "пример определения, замкнутого на себя", те. self-evidence, возможна. "Замыкание на себя" - это варианты такого осмысления. Прочтение второго субъекта как неидентичного, мне кажется лучше и глубже.

[laplandian.livejournal.com]

Мне думается еще вот что.

В мозгу, как и во всей вселенной, идут одновренно цифровые и аналоговые процессы. При аналоговых процессах в принципе может происходить прямой обмен вещественными числами (величиной тока, силы, напряжения и т.д.), которые содержат бесконечный объем (счетное множество) информации. Точность передачи этих чисел ограничена квантовыми эффектами, но эта бесконечность может каким-то образом проявляться в вероятностных процессах.

Таким образом, любая аналоговая система может в принципе содержать столько же информации, сколько вся Вселенная, поскольку бесконечное множество разбивается на сколько угодно число множеств той же мощности. Древнее учение о микрокосме может получить вполне натуралистическое научное подтверждение, если мир представляет собой информационную голограмму.

Штука в том, что современные компьютеры не способны адекватно смоделировать аналоговые процессы. Машина Тьюринга не способна адекватно воспроизвести или предсказать поведение системы, обладающей большей вычислительной мощностью. Никакая логика, математика, вообще дискретное описание на это не способно.

Сигналы в моделях нейронных сетей - лишь приближения вещественных чисел с ограниченной точностью. Математика тоже не в состоянии описать эти системы. Если при анализе гравитационного взаимодействия десятка тел, возникают нерешаемые интегралы и крайне сложные дифференциальные уравнения, что говорить о мозге, в котором миллиарды нейронов вообще непонятно как работают и зависят от всевозможных физических и химических факторов. Все, что угодно, от примеси алкалоидов в пище до сексуального возбуждения, может изменить ход вычисления.

Если во Вселенной дискретные вычисления сочетаются с прямой обработкой вещественных чисел, феномены сознания/бессознательного в принципе не подлежат формальному описанию. Их можно передать только напрямую, от субъекта к субъекту.

[nedosionist.livejournal.com]

>>любая аналоговая система может в принципе содержать столько же информации, сколько вся Вселенная, поскольку бесконечное множество разбивается на сколько угодно число множеств той же мощности.
По-моему, здесь Вы предполагаете бесконечную делимость. Что проблемно, по-крайней мере в мозгу. Далее возникает парадокс Зенона.

>>Математика тоже не в состоянии описать эти системы.
Здесь важна разница между "описать" в принципе и "сосчитать"/смоделировать. Эта исследовательская программа нацелена не на воспроизводство данного мозга, но создание системы аналогичного класса.

>>прямой обработкой вещественных чисел
Что Вы имеете в виду?

Если я правильно понимаю, что Вы хотите получить, то по-прежнему остается проблема передачи информации.

[laplandian.livejournal.com]

По-моему, здесь Вы предполагаете бесконечную делимость. Что проблемно, по-крайней мере в мозгу. Далее возникает парадокс Зенона.

Нет, я предполагаю дискретную систему, элементы которой содержат бесконечные объемы информации.

Здесь важна разница между "описать" в принципе и "сосчитать"/смоделировать.

В данном случае нельзя ни описать, ни смоделировать. Нейросеть эмулирует некоторые присущие мозгу свойства, но не может служить адекватной моделью, а формальное описание с достаточно большим числом обратных связей невозможно в силу нарастающей сложности.

Что Вы имеете в виду?

Данные в аналоговом компьютере - вещественные, а не натуральные числа. Вещественное число в принципе содержит бесконечное (счетное) множество информации.

При передаче аналоговой информации присутствуют шумы, вносящие неточности. Для обычного компьютера это проблема, но при разбиении счетного множества его мощность сохраняется, поэтому ситуация может быть иной.

[laplandian.livejournal.com]

И еще, насчет Дарвина. Будучи монистом, я считаю теорию эволюции триумфом религии. Тем более, если принять вычислительный подход к мирозданию.

Эволюция - сложнейший, по-своему разумный вычислительный процесс, очень напоминающий каббалистические рассуждения о сотворении мира путем перестановок букв и алгоритмов типа "игры Жизнь". Даже если человек не видит за этим процессом нечто большее, дарвиновская теория подтверждает как минимум грубоватый пантеизм Спинозы.

Непонятно, как люди вообще могут совмещать эволюцию и атеизм. Для этого нужно особо извращенное представление о Боге, наверное.

[nedosionist.livejournal.com]

>>я считаю теорию эволюции триумфом религии.
Триумфом иудаизма?

>>Эволюция - сложнейший, .. процесс, очень напоминающий каббалистические рассуждения о сотворении мира
Оборотная сторона этой мысли - часть того, о чем писали каббалисты - естественные (нерелигиозные) процессы.

>>Эволюция - сложнейший, по-своему разумный вычислительный процесс,
Как и нелюбимая Вами невидимая рука Адама Смита. :) И в том, и в другом случае еще можно говорить о телеологии в смысле поиска неких идеальых состояний. Но "разумность" по-моему, это чересчур, в каком смысле?

>>совмещать эволюцию и атеизм. Для этого нужно особо извращенное представление о Боге, наверное.
Я бы скорее сказал, что эволюция является удачным механизмом разрушения извращенных представлений о Боге. Можно также сказать, что атеизм, как программа последовательного разрушения создаваемых неудачных представлений о Боге совместим с негативным определением божественности у Рамбама.

[laplandian.livejournal.com]

Триумфом иудаизма?

Смотря какого иудаизма. Об эволюции жизни, в том числе человека от обезьяны, писал один известный йеменский раввин 13 века, Нетанель Ибн Аль-Фаюми, на основе исламских сочинений, в которых эволюционная мысль присутствует уже в 10 веке. Этот раввин несомненно счел бы открытие эволюции триумфом иудейской космологии.

Оборотная сторона этой мысли - часть того, о чем писали каббалисты - естественные (нерелигиозные) процессы.

Да, так и есть. Однако, само различие между "религиозным" и "естественным" характерно лишь для современной цивилизации. Еще недавно оно было размыто. К примеру, средневековые алхимики и гуманисты эпохи Возрождения такого деления просто не знали. Чудо было естественным, а природа - чудесной. Я такой целостный подход приветствую.

И в том, и в другом случае еще можно говорить о телеологии в смысле поиска неких идеальых состояний. Но "разумность" по-моему, это чересчур, в каком смысле?

Очень просто: природа телеологична, потому ее частью являемся мы, насквозь телеологичные существа. Из присутствия человека в мире следует, что бытию присуща интенциональность и цель.

Разумность сложных систем - открытый вопрос, поскольку до сих пор никто не предложил внятное и убедительное определение разума. Некоторые фанаты искусственного интеллекта утверждают, что и современные программы телефонных автоответчиков обладают разумом. Но гораздо важнее здесь принцип подобия. Мозг и эволюционирующая экосистема во многом аналогичны по своим фунциям и устройству.

Можно сказать, что разум - кульминация, точка сингулярности "проторазума" эволюционного процесса. Или, наоборот, что человек - лишь небольшой блок сверхразума природных процессов. В общем, довольно таинственная и парадоксальная штука.

Я бы скорее сказал, что эволюция является удачным механизмом разрушения извращенных представлений о Боге. Можно также сказать, что атеизм, как программа последовательного разрушения создаваемых неудачных представлений о Боге совместим с негативным определением божественности у Рамбама.

Согласен. Причем Рамбам еще не самый яркий пример. В Каббале встречаются еще более апофатичные теологии.

[nedosionist.livejournal.com]

>>Причем Рамбам еще не самый яркий пример. В Каббале встречаются еще более апофатичные теологии.
Порекомендуете кого-либо?

>>открытие эволюции триумфом иудейской космологии
Я похожую мысль иногда формулирую как "Бог создал человека из обезьяны". :)

>>икто не предложил внятное и убедительное определение разума..автоответчиков обладают разумом
Видимо, минимальная необходимая, но не достаточная планка по дороге к разумности - это уже упомянутая Вами рефлексия, как доступ "вычислительного процесса" к информации описывающей состояние этого процесс. Какие основания считать, что эволюционный процесс - рефлексивен?
В этом смысле простейший POST (power-on self-test) действительно более рефлексивен, хотя само это не делает комп разумным.

>>принцип подобия..во многом аналогичны
Но ведь проблема разумности скрывается именно там, где эта аналогия нарушается.

[laplandian.livejournal.com]

Порекомендуете кого-либо?

Смотрите второе предисловие Маарала к книге "Гвуройс аШем" (там хитрая система из трех предисловий на разные темы). Маарал критикует Рамбама за недостаточную апофатичность. Другой пример - некоторые работы хабадских ребе, в частности Шаарей а-Ихуд вэ-а-Эмуно ребе Арона из Староселья и майморим "Аин-Бейс" ребе Рашаба. Описание Эйнсоф в этих книгах почти дословно совпадает с Пустотой в буддийских сутрах.

Более современный пример - книги реб Арье Каплана по еврейской медитации. В экзотерических сочинениях для более широкой публики он пользуется обычной теистической терминологией, но эти сочинения расчитаны на публику, знакомую с восточными философиями (прежде всего, тем же буддизмом), поэтому он в них утверждает, что Абсолют - не существо и не абстрактный принцип, а не нечто совсем трансцендентное и несубстанциальное. Даже само слово "Бог", по мнению Арье Каплана, неадекватно.

Я похожую мысль иногда формулирую как "Бог создал человека из обезьяны".

Можно и так сказать. Если Бог мог создать человека из глины, то чем обезьяна хуже? Возможно, неприятие эволюции частично обусловлено психологическими причинами. Многим людям обезьяны противны.

Кстати, почему-то мало людей обращаются внимание на то, что описанные в Торе Адам, согласно мидрашам, был вообще сотворен в другом мире и в другом теле. Утверждается, что его тело состояло из света, заполняло весь космос и т.д. Уже потом человек был выброшен в этот мир, в зараженное животными инстинктами более примитивное тело.

Какие основания считать, что эволюционный процесс - рефлексивен?

Грубо говоря, код в ДНК живых существ оптимизирует и программирует сам себя путем эволюции. Эволюционные алгоритмы считаются сегодня одной из самых эффективных технологий искусственного интеллекта именно в силу этой способности к умной самоорганизации.

Я имел в виду, конечно, не любые автоответчики, но современные экспертные системы, способные понимать клиентов и внятно отвечать на вопросы.

Но ведь проблема разумности скрывается именно там, где эта аналогия нарушается.

Почему? Мне живая природа, чисто интуитивно, представляется наделенной своеобразным разумом. Разумность может проявляться не только в способности умножать 2*2, но и в способности находить нетривиальные решения проблем. Достаточно сложные экосистемы это IMHO успешно делают.

[nedosionist.livejournal.com]

>>книги реб Арье Каплана
Некогда мне было нечего читать, и я на Амазоне кликнул на Тору, и "Other books by the same author". :) На сегодняшний день р. Каплан - наиболее привлекательный мне комментатор из современных. Собственно, у меня на него ссылка буквально в пред. посте, где у нас уже тоже маленькое обсуждение.

Я бы даже сказал, что образование в физике или математике (как стиль мышления) должно быть пререквизитом для современных раввинов. :) Не знаете, кто-нибудь подхватил его подход после его смерти?
.

Однако при этом мне кажется, что р. Каплан местами вчитывает слишком много буддизма в иудаизм. В частности, именно с трактовкой Эйн Соф как Пустоты. бэлима как отсутствие существенности мне представляется скорее не материальной пустотой, но именно абстракцией.

>>Абсолют - .. не абстрактный принцип, а не нечто .. несубстанциальное.
Бы утверждаете субстанциональность абстрактного принципа? Или у Вас опечатка, или я запутался в двойных отрицаниях. Я не очень узнаю такую формулировку АК - это откуда?

[laplandian.livejournal.com]

Не знаете, кто-нибудь подхватил его подход после его смерти?

Я знаю отдельных людей, приветствующих его подход. Но вообще его книги по медитации и мировоззрению практически забанены во многих общинах, поэтому их переиздают сейчас только неортодоксальные издательства. Вовсе не за буддизм, а за все ту же эволюцию и возраст Вселенной.

Однако при этом мне кажется, что р. Каплан местами вчитывает слишком много буддизма в иудаизм. В частности, именно с трактовкой Эйн Соф как Пустоты. бэлима как отсутствие существенности мне представляется скорее не материальной пустотой, но именно абстракцией.

Не совсем понял. Шуньята (буквально - пустотность) в буддизме означает фактически то же, что Аин в Каббале. Это внутренная суть бытия, которую можно выразить только апофатически, а не пустота в физическом смысле. В Махаяне и тибетском буддизме Шуньята раскрывается в сознании человека как личное божество и цепочка виртуальных будд. Почти в том же порядке, как Парцуфим.

Ничего нового по сравнению с ребе Рашабом и средневековыми каббалистами тут Арье Каплан не вводит, за исключением несколько восточного стиля изложения, расчитанного на соответствующую публику.

Или у Вас опечатка, или я запутался в двойных отрицаниях.

Абсолют - не существо и не абстрактный принцип, но нечто совсем трансцендентное и несубстанциальное.

[laplandian.livejournal.com]

Я не очень узнаю такую формулировку АК - это откуда?

Jewish Meditation

Erratum

[laplandian.livejournal.com]

Очень просто: природа телеологична, потому что ее частью являемся мы, насквозь телеологичные существа.