Tuesday, April 20, 2010

Нашият мозък

Здравейте, в тази статия ще попиша малко за неща около нашия мозък, които съм прочел и видял в Интернет. Може от време на време да включа и някое мое разсъждение.

Невронната мрежа

В нашия мозък има милиарди неврони. Всеки от тях може да се свързва с другите неврони при определени условия и да си предават сигнали. Идеята е проста. Идват импулси от тялото, тези импулси минават през мрежа от неврони, мрежата от неврони обикновено претърпява малка промяна като реакция на този стимул и може да изпрати обратно импулси на тялото. Способността на невронната мрежа да променя реакцията си спрямо импулсите идващи от тялото определя живота на организма и способността му да оцелява. Ако при ДНК, мутацията се извършва веднъж в живота на съществото, то в този случай има и придобити възможности.

Компютърът

Компютърът представлява една памет, един процесор и входно/изходни канали. Идеята е проста. Процесорът променя или чете паметта, когато получи съответен сигнал. Процесорът разполага с няколко прости инструкции, които може да извърши върху паметта. Обикновено списък от инструкции (програма) са записани на паметта и той ги изпълнява при команда като има възможност да докладва на изходния канал (екран).

Мозъкът срещу компютъра

Интересното при мозъка е, че той е памет и процесор в едно. Всяка връзка между невроните определя какво е "записано" в мозъка и всеки неврон обработва сигнали като един малък процесор. Може да се каже, че мозъка е една памет, на която всяка клетка е същевременно процесор и информация.

Еволюцията

След като разбираме толкова много за невронните мрежи, защо не можем да направим нещо, което е "умно" поне колкото муха? Според мен е грешно да се мисли, че ние сме нещо по-различно от еволюция и че нашите творения не се влияят от законите на еволюцията. Именно затова трябва да мине известно време, за да може нашите машинки, базирани на идеите, които намираме в живите същества, да полетят и да започнат да правят неща, които никога не бихме могли да си представим в момента.

Подход

Докато някои хора се опитват да направят действаща изкуствена невронна мрежа, други създават роботи написани със стандартни алгоритми за програмиране използвани в компютърните науки. Има и хора, които търсят същината на интелекта и нови алгоритми, с които той може да бъде описан.

Мозъчната кора

Гънките на мозъка или сивото вещество (защото явно е сиво на цвят), това е най-външната част на двете полукълба на мозъка. Там се съдържа почти всичко за вас. Тя играе роля за паметта, вниманието, усещането на възприятията, мисълта, езика и съзнанието. Бялото вещество е окабеляването на тази кора и седи под нея. Ето картинка, за да видите как изглежда.


Ако мозъчната кора бъде разгърната, тя би представлявала една кърпа (60х60см например). При еволюцията, явно кората е растяла по-бързо от черепа ни и за да може да се побере по голяма площ разум, тя малко по малко се е нагънала.

В мозъчната кора се наблюдават неврони организирани в шест слоя, според различни характеристики. Сантяго Рамон и Кахал (нобелов лауреат) е направил следните 3 картини (оригинал) като най-отгоре е края на кората, а от ляво надясно: зрителна зона на възрастен обработена по метода на Нисл, двигателна зона на възрастен обработена по метода на Нисл и зона на 1.5 месечно бебе обработена по метода на Голги.


Оказва се, че осъществяването на дадена функция е специфично и както е в случая на двигателната зона, някой слой може да не съществува. Ние ще разгледаме случая с шестте слоя.

Какво търсим в мозъчната кора

За да се справяме добре във света, който ни заобикаля, ние трябва да го разбираме. Ние постигаме това като си изградим въображаем модел. Не, не говоря за този модел, който вие си мислите и който можете да осъзнаете лесно. Става въпрос за едно много ниско ниво на описание, където информацията от сетивата ви пристига в мозъчната кора и тя трябва да разбере какви са причините. Нагледно става следното:
Първо обаче трябва да се запитаме как тази част от мозъка ни определя каква причина отговаря на даден импулс. Ами това е първата задача на мозъчната кора, да открива причините, да открива шарки в нови и нови входни данни. Веднъж определила причината, втората задача на мозъчната кора е да се съсредоточи върху предсказването на това какво следва от разбраната причина. Щом като сте чули звука на двигателя, вие можете да си представите веднага колата, която ще се появи: вие предсказвате бъдещето! Следва третата задача, при която мозъчната кора казва на тялото да се отдръпне от пътя и вие сте спасен от сигурна гибел.

Дървовидна Времева Памет

Моделът за Дървовидна Времева Памет (ДВП) е създадена от Джеф Хокинс и Дилийп Джордж в тяхната фирма Нумента. ДВП се основава на теорията за работата на мозъчната кора, която е развита в книгата "On Intellidence" (2004) от Хокинс и съавторката Сандра Блейкслий.

Джеф Хокинс е силно заинтересован от мозъка и иска да създаде обща теория, която да обедини десетките години изследвания в областта на неврологията. Заедно с Дилийп Джордж, той успява да създаде опростен модел на функционирането на мозъчната кора и прокарва идеята за ново поколение интелигентни машини. В Интернет могат да се намерят десетки презентации, в които двамата инженери описват ДВП и виждането си за бъдещето ѝ. Според Хокинс, откритията в областта на науките свързани с мозъка ще променят компютърната наука и той кани всеки, на когото му е любопитно да прочете повече, да се запознае с материята и да помогне за прогреса.

ДВП имитира мозъчната кора

Да се върнем на представянето на мозъчната кора (сивото вещество) като кърпа. Площта на кърпата е разделена на региони. Регионите са свързани помежду си благодарение на снопове нервни влакна от бялото вещество. Това, което са наблюдавали учените е, че при общуването помежду си, регионите са образували йерархии, дървета.


Всеки регион изглежда еднакъв, структурата им е еднаква, но те спазват определена йерархия. Хокинс представя следната карикатура на едно дърво:

Ако приемем, че това са региони отговорни за зрението, то тези най-отдолу (ред 1) получават първи данните от очите. Ред 1 проектира данните към Ред 2, Ред 2 към Ред 3 и т.н. Малките стрелки показват, че информацията може да тече нагоре и надолу по пирамидата. Когато клетки от долен ред намерят стабилна пространствена шарка, те подават данни нагоре. Когато клетките от горен ред намерят (времева) последователност (предсказуемост), те подават данни надолу.

От схемата става ясно, че всяка част от Ред 1 е отговорна за малка част от зрението. Малка като време и други характеристики. Клетките в частите на Ред 2 са същите като тези в частите на Ред 1, но те отговарят за по мащабни характеристики на наблюдаваното и по-дълги периоди от време. Така малко по малко, достигайки до най-горното ниво, се намират все по-важни и по-важни причини.

Всяко едно дърво представлява човек, дума, идея, каквото и да е. Понятия на високо ниво. Това е начинът, по който мозъка построява модел на причините и достига до заключения. Това не е компютър, това е памет. Дървовидна памет, която разбира какви са причините в света и ги вгражда в йерархия.

Следващите стъпки

Изложението ми върху ДВП е изцяло основано на лекцията "Jeff Hawkins - Hierarchical Temporal Memory" от 18 март 2010 г. пред Факултета по Компютърни Науки към Университета на Британска Колумбия, Канада. Интересното в тази лекция е, че Хокинс не говори само какво са правили през последните три-четири години в Нумента или какво ще е грандиозното бъдеще след десетилетия. Той прави изложение на това, над което са работили есента на 2009 и може да се види как тази теория се подобрява и развива, как се откриват нови и интересни детайли.

Пред есента на 2009, учените от Нумента са се съсредоточили върху кутийките от дървовидната структура, онези жълти квадратчета, които обсъждахме. Всеки такъв възел има 3 компонента:
  • пространствен смесител: учи пространствени шарки;
  • памет за последователност: учи поредици;
  • времеви смесител: образува стабилни представяния на поредици, дори шарките да не съвпадат.
Изходът от времевия смесител на един възел е вход за пространствен смесител на горно ниво.

Отново стана късно, а стигнах до темата Разпределени представяния с неизменна разпръснатост (Fixed-sparsity Distributed Representations, FDR), красота :) Затова ще спра до тук. Надявам се да сте разбрали повечето неща до тук. И аз поразбрах това онова вече :)

Sunday, April 18, 2010

Развитието на Света (Еволюция)

Еволюция идва от латинската дума evolutio („разгръщане“, „разкриване“). В английския език се превежда като "unrolling and reading of a scroll, reading of a book". Думата е развила значението си на английски до развитие, развой.

Подготвям една статия за човешкия мозък и при като направих сравнение с компютрите стигнах до следното заключение. Развитието на процесорите и архитектурите е успоредно на развитието на нервната система при организмите. Развитието на едно ново устройство от нас е като развитието на едно ново същество или нова функция на някой организъм в природата.

Чрез нас природата продължава хода си и колкото и да се мислим, че сме се самоосъзнали, имаме още какво да постигнем. Само с напредък в науката ще достигнем до пълно самосъзнание, защото науката е точно това: познанието, което ни прави нещо повече от същество с първични инстинкти. Ум и знание!

Природата е създала ДНК, а после и нашата мозъчна кора. Това е теорията за еволюцията в биологията. Ако говорим за самото "начало", така са се създали и атомите, молекулите и планетите. Това е теорията за големия взрив (еволюцията на Вселената). Всяко едно изобретение на природата е началото на една нова история. Една нова организация на материята.

Или поне ние го разбираме като структура, която еволюира... се развива като свитък, или се разгръща като книга.

19.04.2010: Искам да направя една забележка за културата и в частност изкуството. Това също би трябвало да се разбира като един вид знание, което хората са развили. Как да използваме напълно нашите възможности и да правим неща, които обикновено ни се струват невъзможни. Музика, рисуване, танци, всяко едно от тези изкуства ни показва света какъвто обикновено не го виждаме, но какъвто може да бъде, ако решим.

Tuesday, April 13, 2010

Трябва и акъл!

1. Не става само с ядене, трябва и акъл!

Познатата ни фраза от рекламата на една банка е много добро начало за тази статия. Турската дума "акъл" е навлязла в разговорната реч и означава няколко неща: ум, разум, разсъдък, съвет. Хората сме уникални с това колко добре (според нас) си служим с нашия ум. Докато бездомните кучета и котки, които се навъртат около нас, главно използват главата си, за да си набавят достатъчно храна да преживяват, човешкия ум неспирно работи за някаква по-висша цел, с известни изключения разбира се. Каква е разликата според науката?

Главната причина за разлика в интелекта между нас и другите бозайници е, че ние просто имаме по-голям мозък. И както добре знаете от Мечо Пух: Колкото повече, толкова повече!

Тук е необходимо да се поясни, че най-важна за интелекта на един бозайник е външната част от мозъка, която се нарича мозъчна кора (познатите ни мозъчните гънки или сиво вещество). Тя също така е и най-новата, от еволюционна гледна точка, част на нашия мозъка и оттук идва името използвано в чуждестранната литературата, neocortex. Интересен факт е, че мозъчната кора представлява един тънък пласт от неврони организирани в 6 слоя, която заради малкия ни череп и бързото си еволюционно разрастване на ширина и дължина се е нагънала. Ако я разгънем, тя ще е нещо като кърпа за ръце.

2. Къде ти е акъла?

Някой може да се запита какво остава за умните врабчета, които не са бозайници и според биолозите не са привилегировани да имат мозъчна кора като нашата. Оказва се, че те са развили техен вид структура или "кора", която е достатъчно гъвкава, за да предоставя известно ниво на интелигентност у нашите пернати приятели. Учените все още не са се разбрали как да я наричат.

3. Ти нямаш акъл!

Мисля, че е удобен момент да спра за малко статията и да обърна внимание на всички, които до сега са намерили нещо нередно в нея.

Тъй като не съм виден биолог, невролог и какъвто и да е учен, ако някой срещне неточност в цялото изложение, моля да си я отбележи и да остави коментар в края на статията.

Предполагам съществува и една група от хора, които са учудени от факта, че изглеждам прекалено уверен в обяснението за разума и съзнанието на човека, докато те имат друго виждане по въпроса. Тях ще ги помоля да изгледат едно кратко видео на Дан Денет (20 мин., с български субтитри) за съзнанието и магията. Колкото и да разбирам, че има още много да се направи в сферата на неврологията, тази наука е постигнала достатъчно, за да очертае повече факти, от което и да е друго вярване, познание и т.н. Целта на тази статия е да изложа разбраното от мен до сега за интелекта, такъв какъвто го наблюдаваме в нашата среда.

4. Дайте акъл!

Човешката култура и цивилизация е уникална в това колко много от наученото от едно поколение преминава в следващото и Интернет е поредна стъпка в нашата еволюция. Преди известно време попаднах на една теорията на Джеф Хокинс за мозъчната кора. След като изгледах няколко клипа (последният от 18 март 2010 във Ванкувър), в които той обясни надълго и нашироко интереса си към човешкия разум, реших, че е най-ефективно да се запозная обстойно с цялата информация, която той разпространява по толкова достъпен начин. Забелязах, че и други съграждани са черпили вода от същия кладенец, но особено впечатление ми направи Тодор Арнаудов и неговото участие във Феймлаб 2009. Впрочем аз го помня от едно време като езикотворец. Надявам се той да хвърли един поглед към тази статия, защото ще направя една забележка, която се отнася и за неговата работа.

5. Стига с този акъл, да говорим за ДВП!

Теорията на Джеф Хокинс за мозъчната кора (neocortex+) се нарича Hierarchical Temporal Memory (HTM). Тъй като хората са изписали достатъчно материал за нея на английски, а сигурно и на други езици, докато на български не съм срещал, за мен беше интересно да измисля превод. Тодор Арнаудов използва Йерархична темпорална памет, което има два проблема. Трибуквено съкращение с "Й" ще е малко странно и "темпорална" означава на български "слепоочна". Затова аз предлагам да говорим за Дървовидна Времева Памет (ДВП).

Основната цел зад ДВП е да се събере информацията от десетки години изследвания в областта на неврологията и да се създаде модел на действието на мозъчната кора. В сферата на информационните технологии досега сме запознати с невронните мрежи, които представляват опит за симулиране на действието на единичните неврони. Те, обаче не могат от само себе си да постигнат човешкото ниво на интелект. Според Джеф Хокинс, неговата теория пресъздава мисловната дейност на достатъчно високо ниво и разработения от него модел дава много добри резултати. Откритата от него фирма Нумента предлага инструменти за разработка и примерни програми, с които можете да видите ДВП в действие.

Ето какво представлява ДВП:


Какво виждаме?

Дървовидна

Дали е дървовидна или пирамидална структура , съгласен съм, че може да се поспори. Важното е, че връзката с тялото е отдолу. Когато постъпи информацията от нашите сетива или когато искаме да направим нещо, един много широк слой се грижи да осигури комуникацията. На по-горно ниво нашата мозъчна кора разполага с по-малко на брой клетки, но ненужните детайли са спестени. В резултат малко по малко стигаме до най-горния слой, който един вид представлява една единствена идея. Два примера:
  • Когато очите ни видят някого, информацията малко по малко минава нагоре по дървото. Първо се обръща внимание на линиите, определя се лице, определят се характеристики на лицето и накрая се стига до един краен резултат: Мечо Пух.
  • Ние искаме да кажем "Мечо Пух". Идеята минава надолу по друго дърво, този път насочено към говорния апарат. Малко по малко информацията се уточнява и ние успяваме да нагласим езика, устните и устата в нужните позиции, за да извършим действието.

Времева


Оказва се, че предаването на информацията във времето е също важен момент. Единствено чрез анализиране на поток от сетивна информация във времето, целия модел може да бъде впрегнат в работа.

Памет

Дървовидната структура, която е пресъздадена в нашата мозъчна кора всъщност представлява памет. Памет за събитията и нещата, които познаваме, и нашата реакция спрямо тях.

6. Вместо заключение

Тъй като е малко късно, а темата е сложна и дълга, ще спра до тук. Очаквайте втора статия, която да е съдържа повече детайли за самата ДВП и защо според мен модела ще работи.

Благодаря за вниманието и надявам се да ви е било интересно.

20.04.2010 г.: Продължението можете да намерите в статията Нашият мозък.