(без темы)

Прекрасная статья, она предлагает совершенно новую идею о том, как функционирует мозг, в частности речь идет о памяти и воспроизведении того, что мы уже видели. Было бы здорово, если бы кто-то перевел на русский.
Главная идея статьи - в мозге не существует некоторого места, которое мы называем "память", запоминание - это изменение структуры мозга, обсуловленное опытом. Эта идея имеет огромное значение: она подтверждает, что личность человека уникальна, что нас создает опыт, затем мы создаем опыт и опыт снова создает нас, что каждые отношения уникальны, что влияние одного человека на другого бесценно, и что каждый человек важен в жизни другого человека.


https://aeon.co/essays/your-brain-does-not-process-information-and-it-is-not-a-computer
Честно скажу - не дочитал :) Ну, не бегло я по-аглицки читаю, сорри, напрягаться надо... Но как аффтар излагает принципы функционирования компьютера - говорит о крайней узости его представлений в этой области. Т.е., там нет серьезных ошибок, просто это - как чиста конкретное описание автомобиля "Жигули" 5-й модели выдавать за всеобщие, универсальные и неизменные принципы автомобилестроения во веки веков.
А по поводу памяти - попадалась мне одна статья (где-то у меня ссылка сохранена, но щас найти не смог... потом поищу еще), кажется на "снобе", по поводу работы человеческой памяти. Главная (с моей личной т.з.) мысль той статьи: в результате экспериментов было установлено, что "чтение из памяти" - РАЗРУШАЮЩЕЕ. Это технический термин, означает, что извлечение информации из памяти уничтожает эту информацию, т.е. чтоб она там осталась - она должна быть после чтения сразу перезаписана. Отсюда масса интересных эффектов, связанных с искажением.
Но в нашем случае это косвенно свидетельствует о наличии неких "запоминающих элементов".
статья о метафорах, а не о точном сопоставлении технических критериев и аспектов, и вот на уровне метафор компьбтер не может рассматриваться как аналогия мозга.
насчет чтения из памяти - да, есть такая вещь, в гештальте называется "завершенный гештальт", то, что переработано, перестает нас эмоционально грузить, но вот это самое чтение происходит в контексте опыта извлечения, и вот этот опыт тоже является средством реструктуризации мозга. И надо еще помнить об условных рефлексах.


Edited at 2016-05-19 13:03 (UTC)
Эээ... мы немножко "на разных уровнях детализации" рассуждаем, поэтому друг друга не поймем :)
Скажем, рассматривая схему телевизора, можно мыслить на уровне отдельных элементов, выше - на уровне каскадов усиления, контуров, генераторов, выше - на уровне функциональных блоков. А в одной отдельно взятой голове можно одновременно удерживать не более 2-х соседних уровней А если голова сама является предметом рассмотрения, то этих уровней детализации будет сильно больше чем в телевизоре.
на решение, которое принимает компьютер, не влияет в той мере окружающая среда, ... - "в общем случае" это не так :) На сколько среда влияет на компьютер, определяется а) наличем датчиков (на аппаратном уровне) б) алгоритмами. На IBM PC-compatible компьютер под управлением MS Windows, окружающая среда действительно почти не влияет. Но ошибка - считать его "типичным" или "средним" представителем вида "компьютеры" :)
Именно, мы с вами на разных уровнях детализации, и вы предпочитаете игнорировать этот факт, как будто если я признаю факт того, что клмпьютер компьютеру рознь, от этого метафора компьютера станет достаточной аналогией работы мозга. Не станет. Нервная система эволюционирует, эмоциональный интеллект эволюционирует именно под произвольным воздействием факторов внешней среды даже без анализа этих факторов, анализ нам позволяет лишь понимать, что это происходит, и немного о том, как это происходит. В случае даже с самым крутым компьютером это просто невозможно. Вы мне может сказать: может ли компьютер без программиста сам написать программу, создать ее, создать новый язык программирования без участия человека? Возможно ли у компьютера развитие эмоционального интеллекта, как это произошло с человеком на протяжении веков?
Если совсем коротко - пуркуа бы и не па ? :)))
Не хочу втягивать Вас (и втягиваться самому:)) в бесконечную дискуссию, примите просто как иную т.з., имеющую право на существование.
Чтоб компьютер начал что-то делать "сам", есть 2 варианта.
а) С компьютерами иногда случаются мелкие сбои, не приводящие к "смерти". Иногда 2+2 получается равно не 4, а чему-то другому, иногда на диск записали слово "каша", а прочитали "мала". Т.е., компьютер начинает себя вести НЕПРЕДСКАЗУЕМО. Очень-очень редко. Но в масштабах когда компьютеров сотни миллионов, это происходит регулярно. Это можно считать аналогом случайной мутации. При большом времени ожидания, можно дождаться "удачной" мутации :) Ну это так, трепотня.
б) Компьютеру можно "помочь" - ускорить ход эволюции, заранее заложив возможность "самосовершенствования". После этого предоставить дело естественному отбору, но время ожидания сократится с миллиона лет до какой-нибудь смешной тысячи :) Или до 100. Или до 10. А не шучу. Не вижу ничего нереального.
"Крутизна" компьютера рояли почти не играет. 15-летний "старичок", с которого я это пишу, достаточно "крут" чтобы быть (как минимум, выглядеть) "разумным". "Крутизна" определяет лишь скорость эволюции. Но когда мы не можем ее оценить даже до порядка, фактор скорости разумнее не обсуждать, говорить лишь о принципиальной возможности.
Отдельная тема - что считать "разумностью" ? На сегодняшний день человечество не выдумало ничего лучше чем тест Тьюринга На мой личный взгляд, если ставить задачу прохождения этого теста - с этим вообще можно справиться года за 3 ...
Чтобы компьютер мог что-то делать сам, он должен в первую очередь обладать способностью адаптировать свои нужды к окружающей среде, что невозможно без активного ее восприятия и изучения. Нужда - это в свою очередь проявление инстинкта самосохранения. Когда у компьютера появятся экзистенциальные страхи, вот тогда и имеет смысл об этом говорить.
Абсолютно согласен. Чтобы компьютер стал эволюционировать - надо запрограммировать инстинкты самосохранения и размножения, после чего отпустить его на волю :) И с большой вероятностью мы что-то получим. Вот только я сильно не уверен, что это "что-то" будет соответствовать нашим ожиданиям :)))) Но - получим, это всего лишь вопрос времени и масштабов.
Не ставил себе такую задачу :)
Критерий истины - практика. Решить задачу на практике есть 2 сильно отличных пути:
1 - реальный робот в реальной среде, 2 - в виртуальной среде
Первое - большие затраты на входе, мне не потянуть. Второе - вполне достижимо. Одно только но: практический успех приведет не в Нобелевский комитет за премией, а в тюрягу :))) И чем более явным будет успех - тем больше срок :)))))
Народ этим развлекается давно, можете почитать про "полиморфные вирусы" - половину терминов не поймете, но того что поймете будет достаточно чтоб впечатлиться :)
А за успех в реальной среде - тут уже не тюряга светит, а виселица ...
Если я начну рисовать блок-схему алгоритма - Вам мгновенно станет скучно, или нет ? :) Просто поверьте на слово: для старта - это вообще делается за 1 день. (Потом, в процессе отладки усложняется, обрастает деталями, но все равно остается на 3 порядка проще чем кажется)
Ведь вирусописатели достигли неплохих "успехов", согласны ? А вирус - он проще в том только смысле, что в него не закладывается индивидуальное самосохранение, ценность экземпляра равна нулю, он сохраняет себя исключительно "как вид" - за счет безудержного размножения. Добавить туда индивидуальное самосохранение - это примерно такой же объем кода. Ну может вдвое, втрое больше.
Пинание воздуха ? А Вы подождите - есть сильно отличная от нуля вероятность, что еще при нашей жизни какой-то пионер это сделает :)
хорошо, я попробую с другого конца все же вам донести о разнице мозга и компьютера: как будет вести один и тот же вирус себя в разных компьютерах и как между собой буду вести себя два компьютера, зараженного вашим вирусом?
Опять на разных уровнях детализации... Вирус я рассматриваю всего лишь как основу, на которой теоретически можно создать виртуальный организм, который со временем имеет шанс стать разумным. (С вероятностью успеха, но без гарантии) Но для реализации этого шанса эксперимент должен (!) выйти из под контроля экспериментатора, а это - тюрьма :)
Ваш вопрос "как будет вести себя вирус" я не понимаю. Вирусов много разных, надо читать описания. Самые продвинутые - учитывают конфигурацию компьютера, используют видеопамять и даже свободные области bios, вырубают антивирусные средства, ставят признаки "этот компьютер уже заражен". Но при всей своей продвинутости, вирус пока остается всего лишь вирусом, до сравнения с человеческим мозгом еще расти и расти.
вот, последней фразой вы и выразили то, о чем я вам и говорила, и вырастет или нет- это очень большой вопрос, очень большой, вариативность эмоцинальных, интелллектуальных и поведенческих реакций человека несоизмерима с варитивностью реакций компьютера, учитывая тот эволюционный путь, который прошла наша с вами нервная система.
(Только чур, не обижайтесь - не имею намерения Вас обидеть, просто говорю что думаю)
Есть подозрение, что в Вас говорит толи страх, толи комплекс неполноценности - как это, несчастная железяка захочет сравниться со Мной, Венцом Творения ?!! Заверяю Вас: и сравнится, и превзойдет - если позволить, конечно. Но об этом ниже. И к этому надо относиться спокойно. Скорость обработки информации железкой превышает оную у человека (с этим тезисом далеко не все согласятся, но не буду сейчас отвлекаться на доказательства), поэтому весь эволюционный путь, на который у человека ушел, грубо, миллион лет, железяка сможет пройти намного быстрее - скажем, лет за 100. Если позволить.
вариативность эмоцинальных, интелллектуальных и поведенческих реакций человека несоизмерима с ... - а кто сказал, что человек ОПТИМАЛЕН по этим параметрам ?!! Быть может, слегка "усеченный" вариант этих реакций окажется намного эффективней в борьбе за существование, а ? Ведь даже в бою человека с человеком, Иванушка с крепкими мускулами и быстрой реакцией имеет преимущество и перед Эйнштейном, и перед Моцартом :)

А теперь - почему мы этого не позволим :)
Если позволить железяке развиваться путем выживания в агрессивной среде, мутаций, естественного отбора и т.д. - мы получим враждебный нам вид жизни. К тому же превосходящий нас по скорости реакций. Т.е., человечество будет истреблено творением собственных рук и мозгов :) Враждебный - потому что конкуренция за ресурсы, а без привязки к человеческому телу, человеческие чувства будут этому виду чужды. У него будут свои чувства, другие. Соответственно, будет чуждой и человеческая культура (кроме естественнонаучной ее части). Этика - ну а как наша этика относится к муравьям или дельфинам ? Никак не относится - понятия нашей этики не распространяются на другие биологические виды. Так же и этика разумных машин, если она у них будет - не будет распространяться на человека. Просто слабый конкурент - чего ради с ним церемониться ?..
Вот поэтому и не позволим компьютерам "расти" естественным путем :) А без этого настоящий разум не возникнет. "В пробирке" можно вырастить лишь нечто намного меньшее своего создателя.
Но я не исключаю, что прежде чем человечество придет к этим мыслям - вполне могут пройти какие-то успешные эксперименты по наделению компьютеров "свободой воли". Эксперименты, которые всех ужаснут и будут запрещены под страхом смертной казни.
Не, ваша гипотеза про величие человека в моем якобы представлении точно неверна, просто я уверена, что человек не способен создать что-то более вариативное, чем смогла создать природа.
И один момент в борьбе компьютеров и человека за ресурсы: мне интересно, как компьютер будет бороться за ресурсы, как он будет прогнозировать ответную реакцию человека, предсказывать его тактику и стратегию?
я уверена, что человек не способен создать что-то более вариативное, чем смогла создать природа
Безусловно так...
Пардон, я, штоле, не смог донести свою мысль о способе создания разумной машины ?... Человек может создать "зародыш", который, будучи обкатан борьбой за существование, в итоге породит разум. (И он может оказаться и "умней" человека, и с чуйствами у него может быть все тоньше и богаче. А может и нет) Т.е., если можно так выразиться - "в соавторстве с природой", где на долю последней выпадает самая "трудоемкая" часть.
как компьютер будет бороться за ресурсы, как он будет прогнозировать ответную реакцию человека, предсказывать его тактику и стратегию?
Ну Вы меня толкаете совсем уж в область научной фантастики :)
Если человек, со свойственным ему высокомерием, попытается относиться к разумным машинам как к "младшим братьям" - им не понадобится ничего прогнозировать - и так все будут знать, ибо ситуация неоднократно разобрана в книгах и фильмах. Т.е. с человечеством будет покончено одним внезапным ударом.
Если же машинная цивилизация вырастет где-то в пустыне или джунглях и встреча с ней произойдет неожиданно - тогда вообще ничего не могу предположить ни о начале, ни о ходе военных действий.
Конкретный способ истребления людей ? Во-первых, почти вся современная военная техника управляется компьютерами. Достаточно перехватить каналы связи, залить свои программы - и самолеты отбомбятся по своим городам. А можно военную технику и не трогать. Парализовать транспорт и энергоснабжение - цивилизация рухнет через 2 дня. Выживут отсталые народы, да в сельской местности - где не зависят от электричества, бензина и продуктов в супермаркете.Но их уже не подпустят ни к заводам, ни к местам добычи полезных ископаемых.
Или я неправильно понял вопрос ?