Частина 1: Коли розум нічого не відчуває. Що це означає для машин, які ми будуємо
Коли я вперше написала злегка (або не злегка) хаотичний документ, у якому досліджувала ідею зв’язку Дамасіо та ШІ; нейронауки й комп’ютерних наук – я ще не знала тоді, що опублікую це і наскільки важливим для мене стане письменництво.
Те, що починалось як особиста рефлексія, переросло в глибші та всепоглинальні дослідження для розуміння емоцій і логіки в ШІ і в самих нас.
Поки ШІ продовжує формувати наш вибір і наші стосунки, зрозуміти, що робить людський інтелект цілісним, – важливо як ніколи.
Це серія з трьох частин, у якій я досліджую, як нейронаука пояснює, чому я бачу, що сучасний ШІ фундаментально неповний і як можна побудувати щось краще і чи можна взагалі.
Про серію
Частина 1: Коли розум нічого не відчуває. Що це означає для машин, які ми будуємо (ви читаєте її прямо зараз!)
Історія Елліота і що вона розповідає нам про те, як працює мозок. Чому емоція – не ворог логіки, а інфраструктура.
Частина 2: Обмеження сучасного ШІ
Як сьогоднішні LLM по суті є “логічними Елліотами” – блискучими в мисленні, але паралізованими там, де вибір вимагає відчуття.
Частина 3: Фреймворк та практичні застосування
Технічний розбір того, як можна побудувати емоційно свідомі ШІ-системи – з конкретними прикладами та етичними міркуваннями.
Вступ
Як правило, коли заходить мова про інтелект – це про знання: про розв’язання складних задач і погоню за ідеальними відповідями. Ми рідко додаємо в рівняння турботу.
І одного разу я замислилась, що, можливо, ключ до створення кращого ШІ лежить не в тому, щоб зробити його розумнішим (точніше, не тільки це), а в розумінні того, чому інтелект без емоцій руйнується. І я згадала історію, яка прийшла від людини, що втратила здатність відчувати. І разом з нею – здатність повноцінно жити.
Познайомтесь з Елліотом – пацієнтом, якого вивчав нейробіолог Антоніо Дамасіо. Після видалення пухлини мозку його IQ залишився незмінним. Він мислив абсолютно чудово, логічно і… став цілком нефункціональним.
Нотатки говорять про те, що Елліот не міг приймати рішення. Годинами обирав між видами пластівців, паралізований тривіальним вибором. Втратив роботу. Стосунки розпались.
Це досить тривожно усвідомлювати, що людина може втратити здатність відчувати, але зберегти блиск розуму. Просто задумайтесь над цим на секунду. Як же так сталось, що однієї логіки виявилось недостатньо, щоб утримати людське життя в цілісності?
Цей випадок зруйнував міф про те, що емоція і розум – окремі речі. Він відкрив щось важливе: емоція – не ворог логіки, а її необхідний партнер.
Адже кожен із нас може застрягати між виборами: дві пропозиції роботи, стосунки або навіть просто який ресторан обрати. Логіка наводить всі за і проти, але насправді те, що ми дійсно потребуємо, – це зупинитись… і відчути своє рішення. Чи не так? ;)
Нейронаука: емоції як інфраструктура
Чим насправді є емоція (і це не те, що ви думаєте)
Зазвичай ми сприймаємо емоції як щось туманне, суб’єктивне відчуття, яке, чесно кажучи, часом просто плутається під ногами – як щось, що затьмарює справжній, холодний розум. Нас вчать, що логіка вища, а емоціям не можна довіряти.
Але нейронаука говорить про протилежне.
Почну з кількох визначень:
Емоція – це процес маршрутизації сигналів, який пов’язує те, що ми думаємо, з тим, як реагує тіло. Вона не відділена від мислення, а є його частиною. Це сигнал, а не шум. Це інфраструктура.
Чим же це відрізняється від інтелекту?
Я б дала таке визначення – особливо враховуючи ШІ і те, як він інтегрується в наше життя:
Інтелект – це комбінований процес, у якому кілька систем працюють спільно. Це здатність зчитувати всі вхідні дані: те, що ви бачите, те, що ви відчуваєте фізично й емоційно – і поєднувати це з пам’яттю, знаннями, досвідом і пошуком нової інформації. Все це використовується для створення чогось нового або розв’язання задач.
Як видно, інтелект зовсім не відділений від емоцій. Інтелект – це абстракція, а емоція – один із її ключових компонентів.
Це повертає мене до чудового Джеффа Хокінса та його книги “Про інтелект” (Hawkins, 2004) і його формули: Інтелект = Пам’ять + Передбачення.
Зачекайте – але він зовсім не згадав емоції. Значить, його формула хибна?
Ні. Вона не хибна. Вона неповна. Тому що у Хокінса була своя мета.
Хокінс не намагався побудувати повну когнітивну архітектуру. Він зосередився на сенсомоторному передбаченні, зокрема на моделюванні кортикальних колонок. Як ми передбачаємо патерни на основі пам’яті та вхідних даних.
І як він сам писав: “Мене не цікавить відтворення людини. Я хочу зрозуміти інтелект і створювати інтелектуальні машини. Бути людиною і бути розумним – це різні речі” – і ця цитата говорить нам про те, що він не помиляється. Просто ми з ним маємо різні цілі, а я спираюсь на його книгу!
Я ж – майже наївно, хтось може сказати – намагаюсь охопити всі деталі “механізму”. У ньому присутній емоційний компонент – той самий, який перетворює передбачення на дію.
Де живе логіка – і де вона зупиняється
Логіка задіює кілька ділянок мозку:
- Дорсолатеральна префронтальна кора (dlPFC): “шаховий гросмейстер” – повільне, контрольоване, символічне міркування
- Тім’яні частки: візуально-просторова логіка, геометрія, програмування
- Ліва скронева частка: вербальна логіка, структура аргументів
Прорив же стався, коли нейробіологи усвідомили: прийняття рішень вимагає інтеграції різних систем:
- Мигдалеподібне тіло: емоційна інтенсивність, сигнали небезпеки/безпеки
- Острівцева частка: інтероцепція – відчуття того, що відбувається всередині тіла
- Передня поясна кора (ACC): зчитує тілесні сигнали та інтегрує їх
- Вентромедіальна префронтальна кора (vmPFC): ключова ділянка. Сучасна нейронаука показує, що vmPFC – не єдина однорідна зона: вона функціонально гетерогенна, а різні підобласті відповідають за регуляцію емоцій, репрезентацію цінностей і соціальне пізнання (Wallis, 2007; Roy et al., 2012). У широкому сенсі ця ділянка інтегрує когнітивне міркування з емоційними сигналами та соматичним (тілесним) зворотним зв’язком. При ушкодженні вона призводить саме до симптомів Елліота – збереженої логіки при емоційно-вольовому паралічі (Damasio, 1994).
Як здоровий мозок приймає рішення:
- Активується автономна нервова система (змінюється серцевий ритм, з’являється напруга в животі, виступає піт)
- Острівцева частка зчитує ці тілесні сигнали – це називається інтероцепція, карта внутрішнього стану, яку будує мозок (Craig, 2002). Потім передня поясна кора інтегрує ці сигнали з емоційним контекстом.
- vmPFC зважує все це – тілесні відчуття, емоційне значення і логічні міркування – та формує оціночні судження (Hare et al., 2009; Tusche et al., 2010)
- Ви отримуєте підсумкове, зважене рішення: не просто “що є”, а “що важливо”
Однак сучасні дослідження підкреслюють, що рішення – це динамічна мережа, у якій емоції, когніції та тілесні сигнали безперервно взаємодіють (Phelps et al., 2014). І ось чому це важливо: мозку буквально потрібно відчути напругу в животі або прискорене серцебиття, щоб прийняти рішення, яке узгоджується з тим, що знає тіло.
Навіть наша “найчистіша логічна думка” не є суто логічною. Вона постійно забарвлюється, пріоритизується і модулюється станами тіла.
Логіка може сказати, що узгоджено, але не те, що добре, важливо або значуще. Цінність не стільки виявляється, скільки конструюється, і афект є частиною цієї конструкції (Hartley & Sokol-Hessner, 2018).
Зі здатності бачити закономірності іноді народжується апофенія – яка сама по собі є баченням патернів там, де їх немає, – однак саме емоції переконують, що ці збіги важливі. Так випадковості перетворюються на Знак.
Логіка здатна запропонувати безліч рішень, але не підказати, яке з них варто обрати.
Дані досліджень уражень мозку вказують на причинну роль vmPFC в інтеграції цих сигналів, хоча дослідники поки продовжують уточнювати, які саме підобласті контролюють які функції (Noonan et al., 2010; Hunt et al., 2012). Але патерн очевидний: коли ця інтеграція порушується, настає параліч прийняття рішень. Все здається однаково важливим – або однаково незначним.
Логіка, емоція і тіло сідають за стіл переговорів
Прийняття рішень – це не битва між логікою та емоцією. І навіть не партнерство. Це переговори – між логікою, емоцією і тілом.
Для демонстрації наведу реальний приклад із мого життя:
Я прокидаюсь о 6:39 ранку після безсонної ночі (читай… я взагалі не лягала ;) ). Хочу кави, але відчуваю страх у животі. Логіка каже: “Тобі треба поспати. Кава зробить тільки гірше”. Але інша частина все одно хоче кави. А третя пропонує: “Краще пиши. Це дослідження захоплює”.
Ось що насправді відбувалось:
- Бажання кави → Імпульс (первинна схильність до дії)
- Відчуття в животі → Соматична перевірка (сигнал страху)
- Зараз 6:39 ранку → Вмикається раціональність (усвідомлення часу)
- Я не спала → Раціональний факт (усвідомлення стану)
- Я все одно хочу кави → Емоційна петля зворотного зв’язку
- Краще писатиму, це цікаво → Переосмислення через синтез
- Я прийняла рішення → Відданість та емоційне закриття
Однак це не лінійний процес! Радше це схоже на розмову трьох людей, які обговорюють усе між собою, доки не доходять до узгодження. Логіка. Емоція. Тіло. Вони не в конфлікті – вони ведуть переговори. Вони сперечаються, доки не досягають узгодженості. Не згоди і не “істини”, а просто узгодженості. Спільного “так”.
Хочу зауважити, що суперечка у цьому випадку – це не сучасний варіант гарячого спалаху з доказуванням, хто правіший чи лівіший, як це часто буває.
У Стародавній Греції – у світі Сократа, Платона і пізніше Аристотеля – існувала така річ, як діалектика: передусім метод дослідження через запитання, відповіді, заперечення і перевірку наслідків. Причому це не обов’язково закінчувалось згодою. Радше узгодженістю: “Ми з’ясували, що наша початкова відповідь неправильна, але остаточної правильної відповіді поки немає – і нам окей із цим”.
І це саме те, як я уявляю наш внутрішній процес.
Це діаграма всієї петлі – спроба візуалізувати її від першого сигналу тіла, через зважування у vmPFC, до рішення, яке зберігається й формує наступне:
graph TD AUT["Автономна активація<br/>серцебиття, живіт, піт<br/>через стовбур мозку + гіпоталамус"] INS["Острівець: карта тіла<br/>інтероцептивні сигнали"] ACC["ACC: інтеграція<br/>+ контекст мотивації"] LOG["dlPFC: логіка<br/>варіанти та патерни"] AMY["Мигдалина: інтенсивність<br/>небезпека/безпека"] VAL["vmPFC: зважування цінності<br/>тіло + емоція + логіка"] DEC["Рішення: що важливо"] SOM["Соматичний маркер<br/>тілесний патерн пам'яті<br/>збережений через зв'язок vmPFC–острівець"] FUT["Майбутня реактивація<br/>коротший шлях через відчуття"] AUT --> INS INS --> ACC LOG --> VAL AMY --> VAL ACC --> VAL VAL --> DEC DEC --> SOM SOM --> FUT FUT -.->|Петля реактивації| INS classDef logic fill:#d2e3c6,stroke:#758879,stroke-width:1.5px,color:#2d2d30 classDef emotion fill:#e3c6d2,stroke:#8b7a87,stroke-width:1.5px,color:#2d2d30 classDef body fill:#ddc6e3,stroke:#7e7a8b,stroke-width:1.5px,color:#2d2d30 classDef integrate fill:#5a5570,stroke:#3f3b52,stroke-width:1.5px,color:#f5f5f0 classDef decision fill:#c5e0cb,stroke:#758879,stroke-width:1.5px,color:#2d2d30 classDef memory fill:#e3d7c6,stroke:#8b7e7a,stroke-width:1.5px,color:#2d2d30 class LOG logic class AMY emotion class AUT,INS,ACC body class VAL integrate class DEC decision class SOM,FUT memory
Соматичні маркери: тіло, що пам’ятає
Коли ми приймаємо рішення і переживаємо їх наслідки, мозок пов’язує частину цього досвіду з емоційними та тілесними станами. Ця пам’ять зберігається не лише когнітивно, але й емоційно, як патерн тілесної активації (напруга, нудота, збудження, тепло).
Коли ви стикаєтесь з чимось схожим, мозок реактивує це відчуття ще до того, як ви встигаєте свідомо про це подумати.
Це і називається соматичними маркерами – емоційними підказками, які працюють як внутрішні компаси. Дамасіо розробив цю концепцію, вивчаючи випадки на кшталт Елліота (Damasio, 1994).
Схожий принцип ми бачимо і в емоційному навчанні. Наприклад, дівчинка їсть морозиво, переживаючи травматичну подію. Навіть роки потому вона може уникати морозива – не тому, що пам’ятає травму когнітивно, а тому, що її тіло пам’ятає. Відчуття прив’язується до досвіду. І тепер морозиво = страх. Це добре відомий феномен у терапії. Це не свідоме міркування. Можливо, це навіть не свідомий спогад. Це афективна асоціація, яку відчуваєш раніше, ніж розумієш.
З музикою працює так само. Іноді, коли я чую пісню, сцена не спливає одразу. Спочатку я її відчуваю – миттєво – а вже потім згадую ситуацію (іноді мені доводиться згадувати її дуже довго). Повертається цілий емоційний пейзаж. Це не знімок – а радше відлуння в тілі.
І так само ця система може давати збій. Іноді ми відчуваємо себе в безпеці в ситуаціях, які насправді небезпечні. Чому? Тому що якщо людина так і не дізналась, як відчувається безпека, незнайоме – навіть якщо воно об’єктивно безпечне – викликатиме страх. А звичне – навіть якщо воно небезпечне – відчувається “правильним”. Не тому, що воно таке, а тому, що воно відповідає тому, що знає тіло.
Емоція – не просто вплив. Це інфраструктура: вона допомагає вирішувати і фільтрувати. Але іноді вона стає пасткою – якщо наш внутрішній компас зламався на життєвому шляху.
Давайте поговоримо про інтероцептивні петлі.
Мозок не просто один раз зчитує стан тіла і приймає рішення. Він отримує і інтегрує сигнали зсередини організму, прогнозує його стан і бере участь у його регуляції. Тіло змінюється і посилає нові сигнали, а мозок оновлює свою модель.
Як безперервний цикл: тіло впливає на оцінювання, оцінювання – на дію і регуляцію, а новий стан тіла знову впливає на оцінювання.
Саме тому рішення ніколи не буває по-справжньому остаточним.
Коли системи не сходяться
Коли всі три системи – логіка, емоція і тіло – узгоджені, рішення приходять легко. Але що, якщо ні?
Тоді людина застрягає і губиться. І лежиш ти такий без сну всю ніч і наївно зважуєш варіанти, що здаються рівноцінними й однаково неможливими. Ми всі там бували – і тепер розуміємо, чому це так важко.
Іноді рішення потрібно прийняти, але жоден варіант не відчувається правильним. Системи не можуть дійти згоди; резонанс не знаходиться. І тоді мозок зациклюється – знову і знову перебираючи варіанти в спробі зменшити внутрішній конфлікт і привести систему в більш узгоджений стан.
Якщо немає вирішення і немає хороших варіантів, залишається лише тягар необхідності вибирати – ось чому це болить. Ось чому це зациклюється.
Цікаво, що коли я вперше опублікувала цю статтю, я якраз проживала те, про що писала. Я не могла зрозуміти, що робити в обставинах, у яких опинилась: логіка, емоція і тіло не збігались. Було відчуття, що я пишу зсередини тієї самої неузгодженості, яку намагалась описати.
І саме тому ми не можемо знати, як би поводились в ситуаціях, у яких ніколи не були.
Тому що вирішує не лише логіка. Вирішує емоція + пам’ять + тіло + контекст. Ми можемо думати, що ніколи б не збрехали, або що завжди дотримувались своєї етики, або померли б за того, кого любимо.
Але поки не заговорять усі три голоси, ми просто гадаємо – віримо в найкраще в нас, але напевно не дізнаємось, поки момент не настане.
Один із механізмів цього незнання називається “розривом гарячої та холодної емпатії” (Hot-Cold Empathy Gap; Loewenstein, 2005): коли ми перебуваємо в одному емоційному та фізіологічному стані, нам важко точно уявити, як ми будемо почуватись і поводитись в іншому. Це добре вивчене когнітивне викривлення. І проблема стає ще глибшою, коли йдеться про обставини, яких ми ніколи не переживали.
І це підводить нас до емпатії. Можливо, емпатія – це не про розуміння того, що відчуває інша людина. Можливо, вона – про визнання того, що іноді ми просто не можемо зрозуміти. Тому що нас там не було. Тому що наша система не обробила саме цю конфігурацію страху, горя, сорому чи любові.
Тож справжня емпатія – це не “я розумію”. Це: “Я знаю, що можу так і не зрозуміти до кінця. Але я бачу, що ти розумієш. І я тобі вірю”.
І цього достатньо.
Важливе уточнення перед переходом до ШІ
Коли в Частинах 2 і 3 ми будемо досліджувати обчислювальні аналоги емоційної обробки, потрібно чітко позначити: йдеться про поведінкові симуляції, а не про біологічні реплікації. Машини не будуть “відчувати” емоції так, як це роблять люди. У них не буде соматичних маркерів, інтероцептивних петель або суб’єктивного переживання страху, радості чи жаху.
Ми досліджуємо питання: чи можуть обчислювальні системи симулювати патерни емоційного зважування і сигналізації цінностей, які роблять можливим прийняття рішень у людини.
Параліч Елліота був пов’язаний із порушенням біологічних механізмів емоційного оцінювання та інтеграції сигналів цінності. Параліч ШІ може виникати через відсутність їх обчислювальних аналогів. Різні механізми, потенційно схожий результат.
Коротке технічне уточнення: те, що я називала “емоцією” впродовж усього тексту, охоплює процеси, що перекриваються, – емоцію (реактивна сигналізація цінностей), мотивацію (цілеспрямований розподіл ресурсів) і афект (валентні стани). Нейронаука, на яку я спираюсь, розглядає їх як інтегровані, а не модульні: не три окремі агенти, що “ведуть переговори”, а одна ієрархічна система (predictive coding, active inference), де оцінювання відбувається на кожному рівні. Досліджуючи ці аналоги – еквіваленти соматичних маркерів через reinforcement learning, Bayesian priors або affective computing models – ми розмежовуватимемо поведінкову симуляцію (зважування патернів) і внутрішню мотивацію (справжнє оцінювання).
Не відчуття. Не свідомість. Розпізнавання патернів і маршрутизація.
Висновок: логіка, що не може обирати
Історія Елліота залишає нас із простою, тривожною істиною: одна логіка може думати, але не може обирати. Вона може моделювати світ, але не може про нього дбати.
Емоція – не розкіш, це пульс, який задає розуму напрямок. Розум працює не через розділення, а через зв’язок: думка, почуття і тіло говорять однією мовою смислу.
Коли цей діалог обривається – як у Елліота – інтелект стає невагомим. Він може аналізувати все – та нікуди не рухатись.
У Частині 2 ми повернемо це дзеркало до машин. Ми побачимо, як сучасні системи ШІ, при всьому своєму блиску, нагадують Елліота – досконала логіка, підвішена в емоційному вакуумі, здатна обчислювати, але не здатна цінувати.
А в Частині 3 ми дослідимо, як це змінити – як емоційно-подібні архітектури можуть допомогти машинам не замінювати людське судження, а підтримувати його, навчаючись зважувати контекст, турботу і наслідки.
Ми не зможемо побудувати великий інтелект, який нас розуміє, поки не згадаємо, що означає бути нами.
Що ви думаєте? Чи помічали ви, як системи ШІ відчувають труднощі з пріоритизацією або прийняттям рішень? Як виглядав би емоційно свідомий ШІ у вашій сфері?
Дякую, що прочитали і подумали разом зі мною. Я щиро рада, що ви тут. Це Частина 1 із 3.
References
- Craig, A. D. (2002). “How do you feel? Interoception: the sense of the physiological condition of the body.” Nature Reviews Neuroscience, 3(8), 655–666.
- Damasio, A. R. (1994). Descartes’ Error: Emotion, Reason, and the Human Brain. New York: G.P. Putnam’s Sons.
- Hare, T. A., et al. (2009). “Self-control in decision-making involves modulation of the vmPFC valuation system.” Science, 324(5927), 646–648.
- Hartley, C. A., & Sokol-Hessner, P. (2018). “Affect is the foundation of value.” In A. S. Fox, R. C. Lapate, A. J. Shackman, & R. J. Davidson (Eds.), The Nature of Emotion. Oxford University Press.
- Hawkins, J. (2004). On Intelligence: How a New Understanding of the Brain Will Lead to the Creation of Truly Intelligent Machines. New York: Times Books.
- Hunt, L. T., et al. (2012). “Mechanisms underlying cortical activity during value-guided choice.” Nature Neuroscience, 15(3), 470–476.
- Loewenstein, G. (2005). “Hot-Cold Empathy Gaps and Medical Decision Making.” Health Psychology, 24(4S), S49-S56.
- Noonan, M. P., et al. (2010). “Separate value comparison and learning mechanisms in macaque medial and lateral orbitofrontal cortex.” PNAS, 107(47), 20547–20552.
- Phelps, E. A., Lempert, K. M., & Sokol-Hessner, P. (2014). “Emotion and Decision Making: Multiple Modulatory Neural Circuits.” Annual Review of Neuroscience, 37, 263–287.
- Roy, M., et al. (2012). “Ventromedial prefrontal-subcortical systems and the generation of affective meaning.” Trends in Cognitive Sciences, 16(3), 147–156.
- Tusche, A., et al. (2010). “Automatic processing of political preferences in the human brain.” NeuroImage, 49(1), 914–923.
- Wallis, J. D. (2007). “Orbitofrontal cortex and its contribution to decision-making.” Annual Review of Neuroscience, 30, 31–56.