맥스 베넷의 '지능의 기원'

[BASE CAMP] "기술에 대한 철학적 조망은 우리의 사업과 투자, 더 나아가 우리의 삶이 가야 할 길을 인도해 줄 것이다."

우주 공간에서 아름다운 지구를 바라본 우주비행사들은 완전히 다른 인간이 되어 이후의 삶을 살아가게 됩니다. 이를 조망 효과라 합니다.  오쏘는 추상적 학문들의 힘을 빌려 지상에서의 조망 효과를 추구합니다.

Layer1: 철학(기술철학, 과학철학, 심리철학, 현상학), 과학(사이버네틱스, 인지과학, 신경과학)
Layer2: 기술(IT, BT, AI)
Layer3: 국제정세, 지정학, 투자, 사업, ESG, 자기 계발

문의: ooyyjj11@naver.com으로 부탁드립니다.


오쏘의 조망 효과 - "지식을 담다"

맥스 베넷의 '지능의 기원'은 인공지능 기술을 통해 인간 지능의 진화 과정을 설명하며, 물질에서 생명, 기호로 나아가는 프레임을 제시한다.

이 책은 좌우 대칭 동물의 조종, 척추동물의 강화, 포유류의 시뮬레이션, 영장류의 정신화, 인류의 언어 사용 능력으로 이어지는 진화 단계를 분석한다.

저자는 뇌과학과 인공지능 분야에 관심 있는 독자에게 이 책을 추천하며, 특히 인간과 유사한 AI 개발에 있어 거대 언어 모델 외에 신체적, 인지적 요소의 중요성을 강조한다.

📚 지능의 기원: 맥스 베넷의 통찰

맥스 베넷의 "지능의 기원"은 인공지능과 신경과학을 융합하여 인간 지능의 발달 과정을 탐구하는 책입니다. **인공지능 기술을 인간 지능 이해의 유비추론 대상으로 삼아** 독특한 관점을 제시합니다. 이 책은 물질에서 생명, 그리고 기호로 나아가는 진화적 프레임을 기반으로 합니다.

저자는 인공지능 전문가로서, **인간 지능을 인공지능에 빗대어 이해하려는 시도를** 보여줍니다. 생물학 및 신경과학 지식도 활용하여, 인간 지능의 복잡성을 다각도로 분석합니다.

🧠 좌우 대칭 동물과 뇌의 진화

최초의 동물은 방사 대칭이었지만, 좌우 대칭 동물이 등장하면서 탐색 능력이 크게 향상되었습니다. **뇌를 가진 동물은 모두 좌우 대칭이라는 점**이 중요합니다. 좌우 대칭 구조와 뇌의 결합은 동물이 주변 환경을 탐색하고 진화하는 데 결정적인 역할을 했습니다.

좌우 대칭 동물은 냄새를 통해 좋고 나쁨을 판단하고 움직입니다.  **생존을 위해서는 좌우 대칭의 몸과 냄새를 판단하는 뇌만 있으면 됩니다.**  저자는 로드니 브룩스의 접근 방식을 소개하며, 기초적인 생명 활동 관점에서 로봇을 구현하려는 시도를 설명합니다.

로드니 브룩스는 언어와 논리 중심의 인공지능 접근 방식이 아닌, **생물학적 토대를 먼저 고려해야 한다고 주장합니다.** 룸바 로봇과 좌우 대칭 동물은 좌우 대칭 몸과 단순한 뇌를 공유하며, 감정가(좋고 나쁨의 판단)를 통해 환경에 반응합니다.

✨ 감정가와 신경 전달 물질의 역할

감정가는 좋고 나쁨을 판단하는 기준이며, 각성은 흥분과 가라앉음을 의미합니다. 선충과 같은 단순한 생물에게도 정동 상태가 존재하며, **이는 생존을 위한 메커니즘으로 이해할 수 있습니다.** 인간에게는 의식이 존재하지만, 선충에게는 정동에 대한 의식이 없기 때문에 행동 상태라는 용어를 사용합니다.

도파민과 세로토닌은 정동 상태를 만들어내는 신경 전달 물질입니다. 먹이를 감지하면 도파민이 분비되어 각성된 좋은 상태를 만들고, 충분히 먹으면 세로토닌이 분비되어 각성 상태를 가라앉힙니다. **아드레날린은 투쟁 도피 반응을 촉발하며, 스트레스 상황에 대응합니다.**

🔄 연합 학습과 강화 학습의 진화

정동 상태와 신경 전달 물질은 연합 학습이라는 새로운 역할을 수행하게 됩니다. 종소리와 먹이의 연합처럼, **단순한 관계 패턴을 인식하는 것이 학습의 본질입니다.** 좌우 대칭의 몸, 이동, 감정, 신경 전달 물질이라는 생물학적 토대가 있어야 연합 학습이 가능합니다.

연합은 기본적인 관계를 인식하는 것이고, **강화는 그러한 관계를 강화하거나 약화시키는 차원입니다.** 척추동물은 강화를 생존 메커니즘으로 활용하기 시작하며, 앞뇌 발달로 새로운 학습이 가능해집니다. 긍정적 감정은 행동을 강화하고, 부정적 감정은 강화를 약화시킵니다.

인공지능 연구에서, 실제 보상 대신 예측되는 보상에 따라 행동을 강화하는 방식이 더 성공적이었습니다. **도파민 분비는 미래에 받을 보상에 대한 확률을 높여줄 때 강화 메커니즘을 작동시킵니다.** 바닥(기저핵)은 도파민 분비를 극대화시키는 행동을 학습하고, 시상하부는 감정가에 따라 도파민 분비 상태를 결정합니다.

🧠 시뮬레이션 능력과 마음 이론

포유류는 새 겉질 발달로 행동 전에 시뮬레이션하는 능력이 생겼습니다.  **이는 행동하기 전에 상상으로 미리 학습하는 방식입니다.** 시뮬레이션 능력은 대리 시행 착오, 반사실적 학습, 일화 기억 등 다양한 기능을 가능하게 합니다. 기억은 과거를 재창조하는 시뮬레이션 과정입니다.

인간 뇌의 새 겉질은 감각 세겉질과 이마엽 세겉질로 나뉩니다. 감각 세겉질은 감각 데이터에 맞춰 시뮬레이션을 통해 지각을 하고, **이마엽 세겉질(APFC)은 자기 자신의 행동을 시뮬레이션합니다.** APFC는 동물이 특정 행동을 하는 이유를 학습하고, 미래 행동을 예측합니다.

마음 이론은 상대방의 의도와 지식을 추론하는 능력입니다. **GPFC는 반성적 사고, 메타적 사고를 담당하며, 자기 마음에 대한 모델화가 다른 사람에 대한 모델화로 이어집니다.** 나를 이해하는 능력과 남을 이해하는 능력은 동시에 발전합니다.

인간은 언어를 사용하여 소통하며, 이는 선언적 명칭(기호)과 문법을 포함합니다. **인간만이 언어를 할 수 있는 이유는 특정 뇌 영역 때문이 아니라, 그러한 영역들을 언어용으로 용도 변경하는 학습 프로그램 때문입니다.** 이 학습 프로그램을 위해서는 특정한 본능들이 전제되어야 합니다.

저자는 GPT와 같은 거대 언어 모델은 단어 예측 시스템에 기반하며, 내적 시뮬레이션이 부족하여 인간과는 차이가 있다고 봅니다. **사람과 비슷한 AI는 거대 언어 모델만으로는 불가능하다고 확신합니다.**

맥스 베넷의 책 '지능의 기원'에서 인간 지능의 발전 과정을 설명하기 위해 인공지능 기술을 유비추론의 대상으로 삼는 이유는 무엇인가요?

좌우 대칭 동물이 최초의 뇌를 가지게 된 배경과 이 뇌가 담당하는 '조종'의 개념에 대해 설명해 주세요.

척추동물의 '강화 학습'이 좌우 대칭 동물의 '연합 학습'과 어떻게 차별화되며, 도파민 분비가 이 과정에서 어떤 역할을 하는지 궁금합니다.

포유류에게 시뮬레이션 능력이 생기면서 가능해진 세 가지 능력(대리 시행 착오, 반사실적 학습, 일화 기억)에 대해 구체적으로 설명해 주세요.

인간의 언어가 다른 동물의 소통 방식과 구분되는 특징은 무엇이며, 뇌의 특정 영역(브로카, 베르니케)이 언어 능력에 기여하는 방식은 다른 동물과 어떻게 다른가요?

맥스 베넷의 '지능의 교환'이라는 책을 소개하며 인공지능과 신경과학 이론을 능숙하게 엮어낸 책이라고 설명.

인간 지능 발전 과정을 인공지능 기술에 빗대어 설명하며, 물질에서 생명, 기호로 나아가는 설명 프레임을 제시.

최초 생명체부터 인간까지의 진화사를 다루며, 동물을 좌우 대칭 동물, 척추동물 등으로 구분하여 각 단계별 특징 설명.

진화사에서 환경, 생명체의 신체와 능력 변화 과정을 설명하며, 좌우 대칭 동물의 조종, 척추 동물의 강화 등을 예시로 제시.

좌우 대칭 동물의 특징과 로드니 브룩스의 인공지능 접근 방식

최초의 동물과 좌우 대칭 동물의 특징을 비교하며, 뇌를 가진 동물은 모두 좌우 대칭 동물임을 강조.

로드니 브룩스의 기초적인 생명 활동 관점에서의 로봇 구현 방식을 소개하며, 언어 중심의 인공지능 접근 방식과 비교.

룸바 로봇과 좌우 대칭 동물의 공통점을 언급하며, 좋고 나쁨에 대한 판단 능력의 중요성을 강조.

감정가(밸런스)의 중요성을 설명하며, 최초의 좌우 대칭 동물에게는 주관적인 감정가 판단이 중요했다고 언급.

뇌의 필요성을 설명하며, 다양한 자극에 대한 종합적인 판단을 위해 뇌라는 통제소가 필요했다고 설명.

감정가와 각성을 감정의 원형으로 보고, 선충에게도 기본적인 정동 상태가 있음을 설명.

정동을 생존 메커니즘으로 이해하며, 인간과 선충의 용어 사용 차이(정동 vs 행동 상태)를 설명.

뇌의 작동 방식과 신경 전달 물질

도파민과 세로토닌이 정동 상태를 만들어내며, 먹이 감지 시 도파민, 포만 시 세로토닌 분비를 예시로 설명.

위험 상황에서의 정동 상태는 노르에프린, 아드레날린과 같은 신경 전달 물질로 촉발됨을 설명.

스트레스 상황이 길어질 경우 오피오이드가 분비되어 긍정적 감정과 반응을 되살리는 역할을 한다고 설명.

정동 상태를 촉발하는 신경 전달 물질의 용도가 연합으로 변화되었음을 설명하며, 종소리와 먹이의 연합을 예시로 제시.

연합 학습은 단순한 관계 패턴 인식이며, 좌우 대칭의 몸, 이동, 감정 등의 생물학적 토대가 필요하다고 설명.

연합과 강화의 개념적 차이를 설명하며, 연합은 기본적인 관계 인식, 강화는 관계 강화/약화 차원이라고 설명.

척추동물은 강화를 생존 메커니즘으로 활용하며, 뇌의 앞뇌, 중간뇌, 뒷뇌 구조를 가짐.

새로운 뇌 구조가 강화 학습을 가능하게 하며, 무작위 탐색 행동과 감정 결과를 통해 미래 행동을 조절하는 학습 방식 설명.

인공지능의 발전 단계를 둘러보며, 마빈 민스키의 실패 사례와 예측되는 보상에 따른 행동 강화 방식의 성공 사례를 소개.

인공지능에서의 성공 확률 계산처럼, 생명체도 미래 보상 확률이 높아질 때 강화 메커니즘이 발동하며 도파민이 분비된다고 설명.

바닥(기저핵)이 관문을 열었다 닫았다 하면서 동물의 행동을 조종하며, 도파민 분비를 극대화시키는 행동을 학습한다고 설명.

시상하부가 감정가에 따라 도파민 분비 상태를 결정하며, 바닥이 도파민이 높아지는 행동을 반복하려는 고리를 설명.

패턴 인식 능력과 강화 학습의 결합

대뇌피질의 패턴 인식 능력과 기저핵의 강화 능력이 결합되어 더 큰 성과를 거두게 되었음을 설명.

패턴 인식은 감각적 차원에서의 인식을 의미하며, 척추 동물에 이르러 신경 세포들의 다양한 패턴 구성을 통해 인식이 이루어진다고 설명.

겉질 발달로 패턴 인식 능력이 발전하고 감각 기관도 폭발적으로 진화했으며, 패턴 인식과 강화 학습이 동시에 진화하는 선순환 고리를 설명.

최초의 시행착오를 만들어내는 문제에 대해, 척추동물은 실질적인 보상 없이도 놀라움 자체만으로 도파민 분비가 촉발된다고 설명하며, 이것이 호기심의 원천임을 언급.

포유류는 새 겉질을 통해 행동 전에 시뮬레이션하는 능력이 생겼으며, 시뮬레이션 능력 진화에는 시력과 온혈성이 필요했다고 설명.

시뮬레이션 능력은 지각, 대리 시행착오, 반사실적 학습, 일화 기억 등 다양한 기능에 활용됨.

반사실적 학습은 과거 선택에 따른 결과 변화를 학습하는 것이며, 주디아 펄은 이를 인과적 사고의 3단계로 분류한다고 설명.

일화 기억은 시뮬레이션 과정이며, 모델 기반 강화 학습의 필요성을 언급하며 알파고를 예시로 제시.

포유류의 새 겉질은 감각 세겉질과 이마엽 세겉질로 나뉘며, 각 영역의 역할을 설명.

APFC는 자기 자신에 대한 행동을 시뮬레이션하는 부위이며, 시상하부 활성화에 따른 쥐의 행동을 예시로 설명.

APFC의 피질 기둥들이 다양한 행동 경로를 시뮬레이션하며, 감각 세겉질이 시뮬레이션을 만들어 APFC에게 보내준다는 내용 언급.

APFC는 자신의 행동을 능동적으로 변화시키는 능동 추론을 시행하며, 최종 선택은 바닥에 기인한다고 설명.

다른 사람의 의도와 지식을 추론하는 마음 이론을 설명하며, 뇌 크기와 집단 크기의 상관성을 언급.

영장류가 열매를 식량으로 활용하면서 정치 공작이 활성화되었고, 남의 마음을 이해하는 능력이 필요해졌다고 설명.

영장류 계통에서 GPFC와 1차 감각질이 추가되었으며, GPFC는 반성적 사고를 담당한다고 설명.

FMRI 실험을 통해 APFC와 GPFC의 활성화 영역을 비교하며, GPFC는 고차원적인 사고를 담당한다고 설명.

2차 모델을 통해 얻은 진화적 이점은 다른 사람의 의도를 이해하는 것이며, 자기 마음 모델화가 선행되어야 한다고 주장.

AI가 인간을 이해하기 위해서는 자기 자신에 대한 메타적인 사고 능력이 필요하며, 몸이 없다면 인간과 다른 방식으로 이루어질 수밖에 없다고 언급.

다른 사람의 의도를 이해하는 능력은 도구 사용법 학습에도 활용되며, 가르치는 사람 입장에서도 마음 이론이 필요하다고 설명.

인간만이 언어를 사용하며, 언어의 특징은 선언적 명칭과 문법을 사용한다는 것임.

언어를 통해 내면의 생각을 전달하고, 다른 사람의 생각을 전달받아 학습하는 단계에 도달했다고 설명.

언어는 브로카 영역이나 베르니케 영역 때문이 아니라, 이러한 영역들을 언어용으로 용도 변경하는 학습 프로그램 때문이라고 설명.

GPT는 단어 예측 자동 시스템에 기반하고 있기 때문에 내적 시뮬레이션이 부족하여 인간의 방식과는 차이가 있다고 언급.

사람과 비슷한 AI는 거대 언어 모델만으로 가능하지 않다는 점을 강조하며 책 내용 마무리.

맥스 베넷의 '지능의 기원'

스크립트