?

Log in

No account? Create an account
Футуристическое: человек будущего - Олег Етеревский [entries|archive|friends|userinfo]
Oleg Eterevsky

[ userinfo | livejournal userinfo ]
[ archive | journal archive ]

Футуристическое: человек будущего [11 May 2011|12:56]
Oleg Eterevsky
[Tags|, , ]

В useless_faq интересный вопрос, который в разных аспектах меня занимает:

Мы все представляем, что головной мозг человека состоит, в основном, из сложного "клубка" нервных клеток. Функция их- проведение электрических импульсов от/к рецепторам, органам и т.п. Не за горами тот день, когда человеческий головной мозг можно будет полностью заменить микросхемой. Если всё сделано правильно, то мы получим абсолютную копию личности, только электронную (мозг, в общем-то, тоже несколько электронный). Вопрос: а как же относится к такой личности в этическом плане, например, будет ли считаться её уничтожение- убийством, если нет, то почему? И вообще, способна ли такая личность умереть самостоятельно или это не считается жизнью? Почему? Если я хочу жить вечно, то возможно ли перенесение моего сознания в такого рода электронный тип или это буду уже нея? Есть ли, вообще какое-то отличие такой сущности от обычного человека и в чём?

Вот несколько моих мыслей по этому поводу.

В мозгу около 100 миллиардов нейронов и в несколько тысяч раз больше синапсов. Информация о структуре одного мозга, таким образом, помещается в один небольшой современный кластер. Нужная скорость для моделирования процессов в мозгу тоже не за горами. Пожалуй, даже сейчас одного датацентра Гугла хватит на то чтобы такой мозг работал в реальном времени.

Более сложна задача создания такого мозга. Думаю, через 20-30 лет станет возможно "вырастить" такой мозг с нуля. А вот скопировать существующий "мокрый" мозг, вероятно, будет значительно труднее, ведь необходимо скопировать не только структуру (это можно было бы сделать, скажем, с замороженного мозга), но и потенциалы всех синапсов, из которых, по современным представлениям, складывается память. Сомневаюсь, что это станет возможно раньше чем лет через 100.

Что касается этической стороны вопроса, тут всё сложно. Логично считать, что обладающая собственным сознанием модель мозга будет иметь те же права, что и человек из плоти и крови. К тому времени, когда появятся такие технологии, себестоимость поддержки жизнедеятельности такого организма должна стать, вероятно, даже ниже, чем нынче — стоимость еды и места для жизни обычного человека. Грубо говоря, базовый потребности виртуальной личности сводятся к вычислительным мощностям. Не вижу никаких препятствий к тому, чтобы такой виртуальный мозг сам зарабатывал себе на жизнь.

Из того, что такой эмулятор мозга будет не менее разумным сущством, чем человек, как мне представляется, следует, что его нельзя отключать, так как это фактически будет убийством. В крайнем случае, его можно временно "усыпить": перевести в состояние эквивалентное hibernate на современных компьютерах.

Зато, у электронного мозга должно быть право на самоубийство, так как умереть благодаря естественным причинам ему будет достаточно затруднительно, а представить себе что-то худшее вечной жизни для личности которая не хочет жить, достаточно сложно. Кстати, по-моему, из существования такого права для виртуальной личности должно вытекать такое же право для обычного человека.

Безусловно, должно регулироваться создание работающих копий мозга и новых мозгов. Мне трудно даже представить, что будет если какой-нибудь тролль или спаммер решит создать 10000 копий себя. А как на счёт политической партии состоящей из твоих клонов? Как это переживёт демократия? С другой стороны, технически ограничить этот процесс примерно настолько же сложно насколько сейчас — запретить нелицензинное копирование фильмов. Как с этим бороться — мне не ясно.

Наконец, есть ещё один интересный момент. Многие аспекты того что мы чувствуем определяются не мозгом как микросхемой, а биохимией: гормонами и т.п. Понятно, что у электронного мозга никакой химии не будет, но вот эмулировать её эффекты будет достаточно просто. То есть фактически, можно будет повернуть рубильник и выставить ровно то ощущение личного счастья, какое хочешь. Это всё равно как нынешняя возможность жрать антидепрессанты или сапрессоры (или как там это называется). Но это ещё не всё. Ничто не мешает виртуальному человеку, "по нажатию на кнопку" испытавать, скажем, оргазм. И пребывать в нём сколь угодно долго. Всё это хорошо, но мы же помним старый эксперимент про крыс, которым стимулировали центр удовольствия. Встаёт вопрос: насколько мы позволяем виртуальным людям влиять на собственное состояние? Грубо говоря, такие ограничения будут соответствовать ограничениям на распространение наркотиков в наши дни. С той разницей, что виртуальные наркотики не занимают места и потому контроллировать их заметно сложнее.

Создание "мозга на микросхеме" — вполне реалистичная технология. Я не очень верю в то, что её, как и любую другую новую технологию, можно просто запретить. Да и не нужно — её выгоды очевидны. С другой стороны, есть тысячи вопросов и сложностей. Самая большая опасность, на мой взгляд, в том, чтобы человечество, состоящее из таких индивиуумов, не потеряло волю к жизни, к развитию. Я вполне готов представить себе сценарий, в котором человек, лишённый стимулов реального мира, лишится также и своих инстинктов: самосохранения, продолжения рода. Было бы весьма обидно, если бы наша цивилизация вымерла просто из-за нежелания дальше жить.

LinkReply

Comments:
[User Picture]From: lord_faramir
2011-05-11 09:25 am (UTC)
Ты не довел логические построения до конца - искусственные органы чувств и связи с внешним миром явно будут созданы раньше такого мозга и их придется только адаптировать. Отсюда уже недалеко до создания полностью искусственного тела. Конечно придется решать вопрос с автономным источником энергии. Возможно, окажется выгоднее помещать такой мозг в выращенное биологическое тело. Или управлять таким телом удаленно.

В общем, вряд-ли сознания будут длительное время существовать в отрыве от материального мира.
(Reply) (Thread)
[User Picture]From: eterevsky
2011-05-11 09:29 am (UTC)
Такие вещи в зачаточном состоянии _уже_ есть: http://technologizer.com/2010/08/17/anybots-qb/

Собственно, мне показалось это очевидным и потому я об этом не упомянул.
(Reply) (Parent) (Thread)
[User Picture]From: kondratenko
2011-05-11 10:04 am (UTC)
Нежно любимый мной Грег Иган эти темы развивает почти во всех своих книгах. Последствия тут довольно разные и местами довольно туманные.
Есть, например, тезис "No consciousness without an anatomy." Или говоря простым языком "Нельзя создавать сознание которое не будет контролировать то hardware на котором оно работает."
Современные демократические процедуры необходимы для управления общими ресурсами, с кардинальным изменением структуры необходимых человеку ресурсов должны измениться и структуры и процедуры власти. И тут это будет еще сильно зависеть от того, как будут распределяться эти вычислительные ресурсы, кто и как их будет контролировать. Моделей можно много разных придумать.
А еще это любопытным образом перекликается с христианством. Потому что если человек, для которого главное в жизни удовольствия или иные страсти, получит такую власть над собственным сознанием, то он уничтожит сам себя замкнувшись на бесконечных удовольствиях или выстроив себе виртуальный мир и уйдя в него, тешить свои страсти. Удержать в реальности человека при этом может только любовь к другим людям, желание общаться с ними не властвуя над ними. И это довольно хорошо соответствует Царствию Божиему, когда спасшиеся воскреснут для жизни вечной а иные погибнут, потому что не смогут жить там.
(Reply) (Thread)
[User Picture]From: eterevsky
2011-05-11 11:34 am (UTC)
> Нежно любимый мной Грег Иган эти темы развивает почти во всех своих книгах.

Давно собираюсь его почитать.

> Есть, например, тезис "No consciousness without an anatomy." Или говоря простым языком "Нельзя создавать сознание которое не будет контролировать то hardware на котором оно работает."

Гм. А на чём этот тезис основывается?

> И тут это будет еще сильно зависеть от того, как будут распределяться эти вычислительные ресурсы, кто и как их будет контролировать.

Я думаю, они будут в частной собственности. Почему нет?

> А еще это любопытным образом перекликается с христианством. Потому что если человек, для которого главное в жизни удовольствия или иные страсти, получит такую власть над собственным сознанием, то он уничтожит сам себя замкнувшись на бесконечных удовольствиях или выстроив себе виртуальный мир и уйдя в него, тешить свои страсти.

Это сложная тема и без христианства. Меня утешает, что по большому счёту, такая возможность есть уже сейчас. Способов ухода от мира достаточно.
(Reply) (Parent) (Thread) (Expand)
[User Picture]From: edwardahirsch
2011-05-11 11:20 am (UTC)
Это касается таких вопросов, которые современная наука не умеет не то, что исследовать - даже ставить как следует. Видимо, первые эксперименты по пониманию того, что такое сознание (не функционально, а на самом деле), будут состоять во вживлении электронных имплантов в обычный мозг - коммуникационных устройств, памяти и т.д. Потом коммуникация с другими мозгами (трудно себе представить, что наука сможет сделать электронный мозг разумных размеров, не успев разработать технологии по взаимодействию с органическим мозгом). Тогда и поглядим.

Что же до этики - этика должна быть на чём-то основана - религии, биологии, ... Нет аксиом - нет этики.
(Reply) (Thread)
[User Picture]From: eterevsky
2011-05-11 11:42 am (UTC)
Я не уверен, что на вопрос "как это на самом деле устроено" вообще можно дать точный макроскопический ответ. Ведь если мы, к примеру тренируем неронную сеть, мы же можем сказать, почему у нас получился тот или иной коэффициент. Там неизбежно должен случиться переход от элементарных детерминированных алгоритмов к более сложным неявным зависимостям.

На счёт вживления — если я не ошибаюсь, уже сейчас умеют передавать картинку на зрительный нерв (правда, в очень плохом разрешении). Что касается памяти, у меня есть ощущение, что её вряд ли возможно рассматривать в отрыве от структуры мозга.

Под выращиванием мозга с нуля я имел в виду симуляцию его развития в из зародыша. С новыми достижениями генетики я не вижу принципиальных проблем, которые могут помешать это сделать. Если у нас есть полный геном и мы очень хорошо понимаем, как работает клетка, то теоретически мы можем симулировать процесс деления яйцеклетки и превращения её в человека.

На счёт аксиом этики — это действительно некоторая проблема. Мне представляется, что наиболее разумный подход — отталкивать от гуманистических и/или утилитаристских ценностей. Но выбор этот, действительно, слишком произволен.
(Reply) (Parent) (Thread) (Expand)
From: terrakots
2011-05-11 11:44 am (UTC)
Наличие синапсов стало очевидным для наличия, например, этики?
Слабо верится. Даже совсем не верится.
Микросхема может быть только микросхемой (без долженствования) просто по своей экзистенции. У нас нет, собственно, критериев жизни и существования. Куча определений есть (как и споров, например, жив ли вирус), но по сути - опираемся на интуитивное понимание.
Есть история (и одна одна - линейна, как речевая цепь), эта история грубо говоря есть составляющая разума, т.е., того, что мы пытаемся "повторить" в случае эмуляции мышления (определения сами просятся). Каким образом можно продублировать эту составляющую? Возьмем хоть этику. Ведь это не "комплекс мер поведения в обществе", это опять упирается в какую-то сущность, выходящую за рамки простого наблюдения "снаружи".
Другими словами - что-то мы пытаемся создать и олицетворить, персонифицировать. Но даже воссоздав все нейроны и синапсы МЫ НЕ ВЛОЖИМ САМИХ СЕБЯ - СОЗДАТЕЛЕЙ ЭТОЙ СУЩНОСТИ, это за рамками возможного (за рамками Вселенной вообще), это сразу отбрасывается в прошлое. Грубо говоря, сотворение разума и есть НЕчеловеческий акт (чтобы избежать теологии), когда в один момент надо создать (обнулить грубо говоря) все ВНЕ его (т.е. оградить от себя - создателя и мира создателя) и запустить историю (время-пространство)существования разума (который по размышлению для нас - един, т.е., мы "измеряем" его как сущность ни по ТИПУ или ВИДУ, а по его НАЛИЧИЮ) "отдельно" от нас и от факта создания вообще, но вместе с тем, чтобы это были МЫ.
Другими словами, если мы хотим создать разум, мы должны его создать его не создавая и даже не думая об этой возможности, что как ты понимаешь, уже невозможно ("уже" как сказал бы Шпенглер, всего лишь культура "западного человека").
Не знаю, понятна ли моя логика и есть ли она тут вообще. Но ведь и определения разума не существует до сих пор.
(Reply) (Thread)
[User Picture]From: eterevsky
2011-05-11 01:33 pm (UTC)
Если честно, я не совсем понял.

Во-первых, микросхема — всего лишь микросхема в той же степени, что и мозг — всего лишь полкило белков и протеинов. Важно не "железо", а "софт".

Во-вторых, если честно, я не думаю, что лишь небольшая часть этики — врождённая. И я не вижу причин, по которым она не може точно так же работать в виртуальном мозге, как она работает в живом.

В-третьих, про разум я ничего, собственно, и не писал.

В-четвёртых, "вложение самих себя" и пр. — это, по-моему, литературный пафос. And we're talking science here. :-)
(Reply) (Parent) (Thread) (Expand)
[User Picture]From: valaar
2011-05-11 11:47 am (UTC)
На данный момент ВСЕ официальный религии мира (ну да. церковь джедаев и стартрека может и не запрещает, но я не беру в расчет подобные балаганы) запрещают клонирование и клонов не считают людьми. Этика в принципе является сдерживающим механизмом, стабилизирующим. В свою очередь наука всегда выходила за рамки этики и можно точно сказать, что создание виртуальной личности будет неэтичным. Что касается признания виртуальной личности как личности, получения прав и прочего на равне с реальным человеком... Тут всё будет зависеть от того, на сколько такой виртуальный человек будет автономен и на сколько его вхождение в социум будет полезно человечеству. Смысл делать личность с правами, когда можно сделать личность, запрограммированную на определенные действия и полное послушание? Представь, что ты делаешь фотошоп, который может отказаться работать, так как у него сегодня нет настроения. Только ты потратишь намного больше средств для создания личности. Люди весьма практичны, поэтому масштабного введения ботов в нашу повседневную жизнь мы можем не ждать еще лет 200-300 минимум.
(Reply) (Thread)
[User Picture]From: eterevsky
2011-05-11 01:37 pm (UTC)
Погоди. Во-первых, я не очень понимаю, чего такого принципиально неэтичного в создании обычных, живых клонов. Ну, разве что то, что у них не будет родителей и о них некому будет заботиться в детстве.

Во-вторых, мне кажется, что личность должна получать права не потому, что это полезно кому-то внешнему, а потому что любое разумное существо обладает некоторыми изначальными правами. Не хочешь чтобы твой фотошоп отказывался редактировать фотку — не делай его разумным.

В-третьих, про ботов я вообще не говорил. И вообще, это слишком расплывчатое понятие. Если мы хотим универсальных роботов-слуг, я бы тоже предложил делать их не по образу и подобию человека, а как-то по-другому, так чтобы они были заведомо лишены сознания.
(Reply) (Parent) (Thread) (Expand)
[User Picture]From: staerum
2011-05-11 12:55 pm (UTC)
"Думаю, через 20-30 лет станет возможно "вырастить" такой мозг с нуля."
Очень оптимистичная оценка. Напоминает оценки перспектив ИИ в 60-х, кажется вот-вот и уже. И тоже много философских выводов и перспектив.
Даже странно от вас такую оценку слышать, честно говоря. :)
(Reply) (Thread)
[User Picture]From: eterevsky
2011-05-11 01:41 pm (UTC)
Возможно, вы меня не поняли. Я не имею в виду ИИ в обычном смысле. Я имею в виду именно тупое моделирование существующего мозга. Вроде бы уже сейчас куски мозга в десятки тысяч нейронов удаётся качественно моделировать: http://en.wikipedia.org/wiki/Blue_Brain_Project
(Reply) (Parent) (Thread) (Expand)
[User Picture]From: vse_budet
2011-05-11 01:38 pm (UTC)

Все просто

Это одна из тех проблем, которые решатся по мере приближения наступления. На самом деле, нет никаких предпосылок полагать, что предсказываемый прогресс в биологии и технологиях произойдет, а в философии и общественном устройстве --- нет.

Думаю, жители позапрошлого века, например, могли сомневаться, что общество сможет пережить появление в более-менее открытом доступе наркотиков, дающих кратковременное ощущение счастья, а жители социалистических стран могли полагать, что государство, в котором каждому разрешено ругать правительство, нежизнеспособно.

И ничего, как-то все прижилось, хоть и не без скрипа в некоторых местах.
(Reply) (Thread)
[User Picture]From: eterevsky
2011-05-11 01:54 pm (UTC)
> Это одна из тех проблем, которые решатся по мере приближения наступления. На самом деле, нет никаких предпосылок полагать, что предсказываемый прогресс в биологии и технологиях произойдет, а в философии и общественном устройстве --- нет.

Да я не сомневаюсь. Просто мне любопытно, как её следует решать, и как она может быть решена.

> Думаю, жители позапрошлого века, например, могли сомневаться, что общество сможет пережить появление в более-менее открытом доступе наркотиков,

Ой да ладно. Наркотики всегда применялись, а какая бы то ни было истерия по их поводу началась только в 20-м веке.

Меня вот всегда интересовали рассуждения о том, каким будет будущее. Но не высосанные из пальца, а на чём-то основанные. Иногда очень интересно смотреть на то, что думали наши предки о нашем времени.
(Reply) (Parent) (Thread)
From: mpak_
2011-05-11 03:11 pm (UTC)
думаю что киборгизация наделает шумихи в ближайшие лет 20-30 и приведет к расколу общества

а виртуализация сознания - не думаю что будет много людей которые согласятся на это и выберут путь оргазмокнопки. думаю что ко времени создания данной технологии образ мышления людей которые будут ее создавать будет очень сильно отличаться от того что есть сейчас. зачем тащить за собой тех кому это не нужно? тех кто запрещает, боится, не хочет понимать
(Reply) (Thread)
[User Picture]From: eterevsky
2011-05-11 03:13 pm (UTC)
А в чём, по-твоему, будет заключаться киборгизация в ближайшие 20-30 лет?
(Reply) (Parent) (Thread) (Expand)
[User Picture]From: mkevac
2011-05-11 03:18 pm (UTC)
В лекции на тему устройства мозга, которую я недавно услышал, говорилось в том числе о том, что сам нейрон - сложнейшая клетка, устройство которой очень сложно и до конца не известно. Учитывал ли ты это в своих рассчетах?
(Reply) (Thread)
[User Picture]From: eterevsky
2011-05-11 03:20 pm (UTC)
Да, я читал про это.
(Reply) (Parent) (Thread)
[User Picture]From: antonche
2011-05-11 05:10 pm (UTC)
У Руди Рюкера есть нитересная серия книг про этические и моральные вопросы этого.
У многих конечно есть, но у него идейно близко к тому, о чем ты написал. http://en.wikipedia.org/wiki/Ware_Tetralogy
(Reply) (Thread)
[User Picture]From: eterevsky
2011-05-12 06:24 am (UTC)
Почитаю, спасибо.
(Reply) (Parent) (Thread)
(Deleted comment)
[User Picture]From: eterevsky
2011-05-11 07:37 pm (UTC)
Читать-то может и можно будет, а вот расшифровывать то что прочитал — едва ли.
(Reply) (Parent) (Thread)
(Deleted comment)
(Deleted comment)
(Deleted comment)
(Deleted comment)
(Deleted comment)
(Deleted comment)
(Deleted comment)
(Deleted comment)
(Deleted comment)