Чим відрізняється мозок людини від комп'ютера, що вміють нейронні мережі і майбутнє науки

1. Як влаштований наш мозок і як він вчиться?
2. Нейросети. початок
3. Мозок і комп'ютер: принципова відмінність
4. Що вміють нейронні мережі

Алена Лепилина

Провідний експерт штучного інтелекту Педро Домінгос написав цікаву книгу про те, як машинне навчання може змінити і вже змінює наш світ. Нейронні мережі обплутують нас все щільніше, алгоритми керують нашим життям: вони знаходять книги, фільми, роботу і партнерів для нас, керують інвестиціями і розробляють ліки, самостійно навчаючись. Алгоритми як маленькі допитливі діти: дивляться на нас, повторюють за нами і експериментують.

А найдивніше, що вчені вже працюють над Верховним алгоритмом, який буде здатний вирішувати будь-які завдання ще до того, як ми їх сформулюємо (чи не нагадує Дугласа Адамса?), І витягати знання про все на світі з даних. Цікаво, правда?

Як влаштований наш мозок і як він вчиться?

Канадський психолог Дональд Хебб в 1949 році сформулював правило навчання, яке зараз лежить в основі безлічі штучних нейронних мереж: «нейрони, які спрацьовують разом, зв'язуються один з одним». У правилі Хебба злилися ідеї психології, нейробіології і, що цікаво, чимала частка домислів. Приблизно в той же час іспанська нейробіолог Сантьяго Рамон-і-Кахаль провів перші докладні дослідження мозку, фарбуючи нейрони. Він каталогізував свої спостереження, як ботаніки класифікують нові види дерев.

На час Хебба нейробіологи в загальних рисах розуміли, як працюють нейрони, однак саме він першим запропонував механізм, згідно з яким нейрони можуть кодувати асоціації. Кожне поняття представлено безліччю нейронів. І ці нейрони, які збуджують один одного, утворюють, в термінології Хебба, «ансамблі клітин».

За допомогою таких зборів в головному мозку представлені поняття і спогади. У кожен ансамбль можуть входити нейрони з різних областей мозку, ансамблі можуть перетинатися. Так, клітинний ансамбль для поняття «нога» включає ансамбль для поняття «ступня», в який, в свою чергу, входять ансамблі для зображення ступні і звучання слова «ступня».

Проте для імітації роботи мозку одного правила Хебба мало: спочатку треба розібратися з пристроєм головного мозку. Кожен нейрон нагадує крихітне деревце з величезною кореневою системою здендрітов і тонким хвилястим стволом - аксонів. Мозок в цілому схожий на ліс з мільярдів таких дерев, проте ліс цей незвичайний: гілки дерев з'єднані в ньому з корінням тисяч інших дерев (такі сполуки називаються синапсами), утворюючи колосальний, небачене хитросплетіння.

Якщо розташувати аксони мозку один за одним, вони займуть відстань від Землі до Місяця.

Ці джунглі потріскують від електричних розрядів. Іскри біжать по стовбурах і породжують в сусідніх деревах ще більший сонм іскор. Час від часу ліс несамовито спалахує, потім знову заспокоюється. Робота мозку схожа на симфонію таких електричних розрядів. Якби можна було подивитися зсередини на те, що відбувається в той момент, коли ви читаєте цю сторінку, сцена затьмарила б найактивніші мегаполіси з фантастичних романів. Цей неймовірно складний візерунок нейронних іскор в результаті породжує людську свідомість. Наступний крок - перетворити роботу синапсів в алгоритм.

Нейросети. початок

Перша формальна модель нейрона була запропонована в 1943 році Уорреном Маккаллок і Уолтером Питтсом. Вона була багато в чому схожа на логічні вентилі, з яких складаються комп'ютери з І, АБО і НЕ. Нейронні мережі можуть здійснювати всі операції, які вміє робити комп'ютер. Спочатку комп'ютер часто називали електронним мозком, і це була не просто аналогія.

Однак нейрон Маккаллока-Питтса не вміє вчитися. Це стало кроком до винаходу перцептронів. Харизматичний оратор і дуже жива людина, психолог Френк Розенблат зробив для зародження машинного навчання більше, ніж хто б то не було. Своєю назвою перцептрони зобов'язані його інтересу до застосування своїх моделей в проблемах сприйняття (перцепції), наприклад розпізнавання мови і символів.

А ось це штука вже сучасніше: тактильний інтерфейс, який змінює форму, розроблений в Массачусетському технологічному інституті, - джерело .

Перцептрон схожий на крихітний парламент, в якому перемагає більшість (хоча, напевно, не такий вже і крихітний, з огляду на, що в ньому можуть бути тисячі членів). Але при цьому парламент не зовсім демократичний, оскільки в цілому не всі мають рівне право голосу. Нейронна мережа в цьому відношенні більше схожа на Facebook, тому що кілька близьких друзів стоять тисячі френдів, - саме їм ви найбільше довіряєте, і вони найбільше на вас впливають. Якщо один порекомендує вам фільм, ви подивіться його і вам сподобається, наступного разу ви, ймовірно, знову зробите за його порадою. З іншого боку, якщо подруга постійно захоплюється фільмами, які не доставляють вам ніякого задоволення, ви почнете ігнорувати її думку (і не виключено, що дружба прохолоне).

Перцептрон викликав захват у науковому співтоваристві. Він був простим, але при цьому умів дізнаватися друковані літери і звуки мови: для цього потрібно тільки навчання на прикладах.

Але потім перцептрон уперся в стіну. Інженерів знань дратували заяви Розенблатта: вони заздрили увазі і фінансуванню, яке залучали нейронні мережі в цілому і перцептрони зокрема. Одним з таких критиків був Марвін Мінський, який опублікував книгу з критикою перцептронів: він описав прості речі, яким алгоритм не в змозі навчитися. (Хоча треба сказати, що через 20 років це виявилося не так.)

Мозок і комп'ютер: принципова відмінність

У разі зворотного дедукції ми крок за кроком розбираємося, яке правило необхідно ввести, щоб від посилок прийти до бажаних висновків. Однак згідно з правилом Хебба, все нейрони вчаться одночасно. У цьому було використано відмінності між комп'ютерами і мозком.

• Комп'ютери навіть зовсім звичайні операції - наприклад, складання двох чисел або перемикання вимикача - роблять маленькими кроками, тому їм потрібно багато етапів. При цьому кроки можуть бути дуже швидкими, тому що транзистори здатні включатися і вимикатися мільярди раз в секунду.

• Мозок же вміє виконувати велику кількість обчислень паралельно завдяки одночасній роботі мільярдів нейронів. При цьому нейрони можуть стимулюватися в кращому випадку тисячу разів в секунду, і кожне з цих обчислень повільне.

Кількість транзисторів в комп'ютері наближається до кількості нейронів в головному мозку людини, однак мозок безумовно виграє в кількості з'єднань.

Типовий транзистор в процесорі безпосередньо пов'язаний лише з небагатьма іншими, і застосовувана технологія планарних напівпровідників жорстко обмежує потенціал вдосконалення роботи комп'ютера. А у нейрона - тисячі синапсів. Якщо ви йдете по вулиці і побачили знайому, вам знадобиться лише десята частка секунди, щоб її дізнатися.

Це не означає, що за допомогою комп'ютера можна симулювати роботу мозку: в кінці кінців, саме це роблять коннекціоністскіе алгоритми. Оскільки комп'ютер - універсальна машина Тьюринга, він може виконувати обчислення, що відбуваються в мозку, як і будь-які інші, за умови, що у нього є достатньо пам'яті і часу. Зокрема, недолік зв'язності можна компенсувати швидкістю: використовувати один і той же з'єднання тисячу разів, щоб імітувати тисячу з'єднань.

Насправді сьогодні головний недолік комп'ютерів полягає в тому, що на відміну від мозку вони споживають енергію: ваш мозок використовує приблизно стільки потужності, скільки маленька лампочка, а для деяких складних машин потрібно стільки електрики, що їм можна висвітлити цілий бізнес-центр.

Що вміють нейронні мережі

Вчені Террі Сейновскі і Чарльз Розенберг навчали багатошаровий перцептрон читати вголос. Їх система NETtalk сканувала текст, підбирала фонеми згідно контексту і передавала їх в синтезатор мови. NETtalk не тільки робив правильні узагальнення для нових слів, чого не вміли системи, засновані на знаннях, а й навчився говорити дуже схоже на людину. Сейновскі любив зачаровувати публіку на наукових заходах, пускаючи запис навчання NETtalk: спочатку лепет, потім щось більш виразне і нарешті цілком гладка мова з окремими помилками. (Пошукайте приклади на YouTube за запитом sejnowski nettalk.)

Першим великим успіхом нейронних мереж стало прогнозування на фондовій біржі. Оскільки мережі вміють виявляти маленькі нелінійності в дуже зашумлених даних, вони набули популярності. Типовий інвестиційний фонд тренує мережі для кожної з численних цінних паперів, потім дозволяє вибрати найбільш багатообіцяючі, після чого люди-аналітики вирішують, в яку з них інвестувати.

Безпілотні автомобілі - теж приклад того, як добре нейронні мережі навчаються. А зовсім недавно Google розповіли про те, що навчили нейромережі «писати» картини, спираючись на завантажені в них зображення.

Сьогодні ми навчаємо глибші мережі, ніж коли б то не було, і вони задають нові стандарти в зорі, розпізнаванні мови, розробці лікарських засобів і інших сферах. І звичайно, змінюють світ . У міру того як ми будемо краще розуміти мозок, ситуація може змінитися. Натхненна проектом «Геном людини», нова дисципліна - коннектоміка - прагне скласти карту всіх мозкових синапсів. Можливо, це те саме вікно в майбутнє.

PS: Сподобалося? Підписуйтесь на нашу нову розсилку . Раз на два тижні будемо надсилати 10 найбільш цікавих і корисних матеріалів з блогу міфу.

За матеріалами книги «Верховний алгоритм»

Обкладинка поста: desiringgod.org