AI 특이점, 5년 안에 온다고? 프콘도 깜짝 놀란 과학자들의 진짜 AI 썰 (feat. 박태웅 의장) [취미는 과학/ 24화 확장판]

EBS 공식 사이언스 채널!!
EBS 디지털 아카이브 (E-DAS)에 축적된 31만 편의 TV 프로그램에서 선별한 핵심 클립들을 자연, 화학, 물리학, 생물학, 지구과학 등을 주제로 제공합니다.





EBS 컬렉션 - 사이언스

AI 특이점이 5년 안에 올 수 있다는 예측과 함께, AI가 인간 지능을 뛰어넘는 기준과 그로 인한 사회적 변화에 대한 논의가 이루어졌다.

AI 기술 발전으로 인해 발생할 수 있는 불평등 심화 및 일자리 감소에 대한 우려와 함께, 인간의 질문 능력이 중요해지는 시대가 도래할 것이라는 전망이 제시되었다.

AI가 제공하는 부가가치를 사회 구성원들이 공유할 수 있도록 제도적 보완이 필요하며, 기술 발전과 함께 윤리적 문제에 대한 고민이 중요해지고 있다.

🤖 AI 특이점 논의 시작: 5년 안에 올까? ⏳

최정모 교수와 박태웅 의장이 출연하여 AI 특이점에 대한 심도 있는 논의가 시작되었습니다. 많은 시청자들이 AI 이야기가 왜 자주 나오지 않는지에 대한 궁금증을 표현했는데, 그 이유는 **AI 기술 발전 속도가 너무 빨라서 방송 준비가 어렵기 때문**이라고 합니다.

🎯 AI 특이점이란 무엇인가? 🧐

AI 특이점은 인공지능이 인간의 지능을 넘어서서 **더 똑똑해지는 시기**를 의미합니다. 유력한 AI 과학자들은 이 시기가 2030년, 즉 5년 이내에 올 것이라고 예측합니다.

AI 특이점을 '혁명'이라고 부르지 않는 이유는 이미 '4차 산업 혁명'이라는 용어가 사용되었기 때문입니다. 특이점을 넘어선 인공지능은 **AGI(인공 일반 지능)**라고 불립니다.

🧠 자연 지능 vs 디지털 지능: 제프 힌턴 교수의 견해 💡

제프 힌턴 교수는 자연 지능과 디지털 지능, **두 종류의 지능이 존재**하며, 서로 다르지만 디지털 지능 역시 지능으로 인정해야 한다고 주장합니다. 디지털 지능은 전이 학습과 빠른 학습 속도 면에서 자연 지능을 압도합니다.

⚙️ AGI 단계: 5단계 모델과 미래 전망 🏢

오픈 AI는 AGI의 단계를 5단계로 정의했습니다. 챗 GPT(대화형 봇), 추론, 에이전트(수행 능력), 혁신가, 조직(회사 단위 일 수행) 순입니다. 현재는 추론과 에이전트 사이 단계에 있으며, 에이전트 기술은 빠르게 발전하고 있습니다.

조직 단계까지 도달하면 **일에 관해서는 인간이 필요 없어질 수 있다**고 합니다. 많은 전문가들이 에이전트 단계에서 AGI를 체감할 것이라고 예상합니다.

👓 스마트 안경과 맥락 공유 🌐

스마트 안경이 맥락을 공유하는 데 가장 좋은 도구로 떠오르고 있습니다. **AI 기술 덕분에** 시력에 맞춰 렌즈가 자동 조절되는 스마트 안경도 개발되고 있습니다.

⚠️ AI의 환각(Hallucination) 현상 주의 👻

AI는 '모른다'는 말을 하지 못하고 확률적으로 가장 그럴듯한 답변을 생성하려는 경향이 있습니다. GPT-4 기준으로 할루시네이션 비율이 약 7% 정도이므로, **AI가 제공하는 정보에 대해 주의**해야 합니다.

알파폴드는 자체적으로 예측 구조에 대한 확신도를 평가하여 신뢰할 만한 정보와 그렇지 않은 정보를 구분합니다. 검색 증강 생성(Retrieval Augmented Generation) 기술을 통해 할루시네이션을 줄이는 방법도 활용됩니다.

🎨 AI와 창의성: 새로운 가능성 🎭

AI는 방대한 데이터를 기반으로 인간이 생각하지 못했던 새로운 수를 둘 수 있습니다. 이를 창의성으로 볼 수 있는지에 대한 논의가 필요합니다. 창의성은 숨겨진 관계를 찾아내는 능력이며, AI는 **탐색과 추론**에 유리하므로 창의성을 구현하기 더 쉬울 수 있습니다.

🧪 몸을 가진 AI: Embodied AI의 중요성 🦾

얀 르쿤을 비롯한 일부 AI 과학자들은 AI가 직접 세상을 경험해야 세계에 대한 모델을 가질 수 있다고 주장합니다. 즉, **AI가 몸을 가져야 상식을 갖추고 AGI로 발전할 수 있다**는 것입니다. 이 때문에 휴머노이드에 대한 투자가 증가하고 있습니다.

💰 AI 시장 선점 경쟁: 빅테크 기업들의 투자 💸

인터넷, 스마트폰 초기 시장처럼 AI 시장을 선점하기 위한 경쟁이 치열합니다. 구글, 테슬라, 현대자동차 등 많은 빅테크 기업들이 AI 개발에 조 단위의 투자를 하고 있습니다.

💻 젠슨 황의 코스모스 플랫폼: AI 학습 시뮬레이션 🕹️

젠슨 황의 코스모스 플랫폼은 **물리 법칙이 적용된 가상 현실**입니다. 휴머노이드 학습을 위해 공장을 가상으로 만들어 AI가 시뮬레이션 환경에서 빠르게 학습할 수 있도록 돕습니다.

📱 애플의 AI 전략: 프라이버시 중시와 미래 가능성 🍏

애플은 프라이버시를 중시하여 기기 내에서 AI가 작동하도록 하는 전략을 추구하고 있습니다. 타이밍을 놓쳤다는 평가도 있지만, 고객 접점을 확보하고 있기 때문에 **향후 AI 시장에서 경쟁력을 확보할 가능성**이 있습니다.

🇨🇳 중국의 AI 기술 발전: 딥시크의 등장 🚀

중국은 GPT-4 수준까지 AI 기술을 빠르게 따라왔습니다. 딥시크처럼 갑자기 등장하는 기업도 있습니다. 미국이 GPU 수출을 규제하자, GPU 간 통신 속도를 늦추는 방식으로 제약을 우회하여 AI 기술을 발전시키고 있습니다.

🇰🇷 한국 AI 생태계의 위기? 벤처 투자 부진 📉

인터넷, 스마트폰 시대와 비교했을 때 한국 AI 생태계는 조용한 편입니다. 벤처 투자 소식이 적고 스타트업 활력이 부족하다는 우려가 제기되고 있습니다.

⚖️ AI 발전의 그림자: 불평등 심화와 제도 개선의 필요성 🌑

AI 발전은 소년 노동, 공해 문제와 같은 부작용을 초래할 수 있습니다. 제도 개선이 늦어지면 생활 수준이 하락하고 사회가 분열될 수 있습니다. 스마트 안경, 휴머노이드 등 기술 의존적인 사회가 되면서 **거대 기업의 영향력이 커지고 경제적 억압이 심화될 수 있다는 우려**도 있습니다.

AI는 능력 증폭기 역할을 하지만, 모든 사람에게 공평하게 적용되지 않습니다. 슈퍼 개발자에게는 훨씬 큰 효과를 가져다주어 **계급 사회를 심화시킬 수 있다는 지적**도 있습니다. AI가 창출하는 부가가치를 사회 구성원들이 함께 나눌 수 있도록 제도적 장치를 마련해야 합니다.

🤔 AI 시대, 무엇을 준비해야 할까? 📚

AI 시대에는 **훌륭한 질문을 할 수 있는 능력**이 중요해집니다. AI에게 고급진 질문을 던지기 위해서는 풍부한 교양 지식이 필요합니다. 따라서, AI 시대는 교양의 화려한 복권이라고 할 수 있습니다.

✨ 맺음말: 기술과 도덕의 조화 🤝

AI 기술 발전과 함께 제도 개선, 윤리적 고민도 병행해야 합니다. 기술과 도덕이 조화를 이루어야 AI가 가져올 긍정적인 미래를 기대할 수 있습니다.

인공지능(AI)의 특이점은 무엇이며, 전문가들은 언제쯤 AI 특이점이 도래할 것이라고 예측하고 있나요?

AI가 인간의 지능을 넘어서는 지능의 기준을 어떻게 정의하고 있으며, AI의 진화 단계를 5가지로 나눌 때 현재 AI는 어느 단계에 와 있습니까?

디지털 지능이 자연 지능과 비교했을 때 어떤 두 가지 점에서 압도적인 능력을 가지고 있다고 설명하나요?

AI의 '환각(할루시네이션)' 현상은 무엇이며, 이 문제를 해결하기 위한 현재의 노력들은 어떤 것들이 있습니까?

미래 사회에서 AI의 발전이 가져올 긍정적인 변화와 부정적인 변화는 각각 무엇이며, 이에 대한 출연진들의 견해는 어떠한가요?

최정모 교수와 함께 AI에 대한 이야기 시작

최정모 교수가 AI에 대한 이야기를 해보고 싶어 함.

AI 기술 발전 속도가 너무 빨라 방송 아이템 준비에 어려움이 있음.

AI 전문가 박태웅 의장 소개 및 AI 최신 이슈 논의 시작

박태웅 의장 소개와 IT 업계에서의 오랜 경험 소개.

AI 시장의 가장 핫한 이슈는 AI 특이점 돌파 경쟁임.

AI 특이점은 인공지능이 인간 지능을 넘어서 더 똑똑해지는 시기를 의미.

유력한 AI 과학자들은 2030년, 늦어도 6년 안에 AI 특이점이 올 것이라고 예측.

AI 관련 변화를 혁명 대신 특이점이라 부르는 이유에 대한 논의.

특이점을 넘어선 인공지능을 AGI(인공 일반 지능)라고 부르기 시작.

인공지능이 자연지능을 뛰어넘을 수 있는지에 대한 논쟁

제프 힌턴 교수는 자연 지능과 디지털 지능 두 종류의 지능이 있다고 주장.

지능에 대한 합의된 정의가 없어 AI가 인간 지능을 뛰어넘었는지 판단하기 어려움.

인공지능의 감성적인 부분은 인간을 뛰어넘을 수 없다는 의견 제시.

인공지능 과학자들이 지능을 어떻게 정의하고 연구를 시작하는지에 대한 논의.

마이크로소프트에서 AGI 불꽃이라는 논문에서 지능을 정의함.

AI 업계에서는 일에 관한 모든 부분에서 인간을 뛰어넘는 것을 AGI라고 부르기로 함.

디지털 지능은 자연 지능을 압도하는 두 가지 능력, 트랜스 러닝과 빠른 학습 속도를 가짐.

AI는 아인슈타인 수준의 지식을 표준으로 삼아 지속적으로 발전 가능.

알로라는 휴머노이드는 모방 학습을 통해 코딩 없이 동작을 배울 수 있음.

AI는 대규모 병렬 연산을 통해 인간보다 훨씬 빠른 속도로 학습 가능.

챗 GPT(대화 봇) -> 추론 -> 에이전트(업무 대행) -> 혁신가 -> 조직(회사 단위 업무 수행) 순서.

조직 단계까지 가면 일에 관해서는 인간이 필요 없어질 것이라는 예측.

AGI는 세 번째 단계인 에이전트 단계에서 일반인들이 체감할 수 있을 것이라는 의견.

AI 활용 경험 및 기술 발전 현황

다양한 AI 모델 사용 경험 공유 및 유료 AI 툴 활용 사례 소개.

알파 폴드 등장 이후 단백질 구조 예측에 대한 생물학계의 인식 변화.

현재 AI 기술 수준은 추론과 에이전트 사이 단계이며, 에이전트 기술이 빠르게 발전 중.

AI가 PC 프로그램을 사용하여 업무를 수행하는 수준까지 발전.

스마트 안경과 같은 웨어러블 기기가 AI와 결합하여 맥락을 공유하는 데 유용할 것이라는 전망.

AI의 환각(Hallucination) 문제와 해결 방안

AI가 제공하는 정보의 오남용 및 부정확성에 대한 우려 제기.

AI는 '모른다'는 말을 못하고 확률적으로 가장 그럴듯한 말을 생성하는 경향이 있음.

가비지 인 가비지 아웃(쓰레기 데이터 입력 시 쓰레기 결과 출력) 문제 지적.

깨끗한 학습 데이터 필터링을 통해 AI 정확도를 높일 수 있다는 의견 제시.

알파폴드는 자체적으로 예측 구조에 대한 신뢰도를 평가하여 할루시네이션 문제를 해결.

검색 증강 생성(RAG) 기술을 통해 AI 환각 현상을 줄일 수 있음.

AI의 창의성, 혁신적인 생각에 대한 논의

AI의 상상력을 제한하면 단순 검색 엔진으로 전락할 수 있다는 의견.

AI 환각은 창의적인 답변을 위한 불가피한 요소일 수 있음.

AI는 인간보다 더 많은 데이터를 기반으로 추론하므로 창의성을 더 쉽게 구현할 수 있다는 주장.

AI는 데이터 패턴을 학습하지만, 기존에 없던 새로운 것을 창조하는 데는 한계가 있을 수 있다는 지적.

미술사 흐름을 학습시키면 AI도 새로운 미술 사조를 창조할 수 있다는 반론.

AI와 자연지능의 경계, 그리고 AI의 '몸'의 필요성

AI가 대학원생을 대체할 수 있을지에 대한 질문 제기.

창의성보다는 '몸'을 활용하는 능력이 AI와 인간을 구분하는 핵심 기준이라는 의견.

얀 르쿤 교수는 현재 AI 학습 방식으로는 AGI에 도달할 수 없다고 주장하며, AI가 '몸'을 가져야 한다고 주장.

AI는 간접 학습이 아닌 직접 경험을 통해 세상에 대한 모델을 구축해야 한다는 주장.

상식 없이 AGI 구현은 불가능하며, 이를 위해 AI는 몸을 가져야 한다는 의견.

최근 휴머노이드에 대한 투자가 증가하는 추세.

빅테크 기업들의 몸을 가진 AI 개발 경쟁

구글, 테슬라, 현대자동차 등 많은 기업들이 몸을 가진 AI 개발에 참여.

AI가 AGI로 가기 위해서는 몸이 있어야 한다는 주장이 힘을 얻고 있음.

몸을 가진 AI 개발 이유는 과학적 호기심과 돈 때문이라는 분석.

AI 분야 초기 선점을 통해 경제적 이익을 얻으려는 경쟁 심화.

젠슨 황의 코스모스 플랫폼 소개

코스모스 플랫폼은 물리 법칙이 적용된 디지털 시뮬레이션 환경을 의미.

코스모스 플랫폼은 가상 공장을 만들어 휴머노이드 학습을 가속화할 수 있음.

엔비디아는 코스모스 플랫폼을 통해 실세계 AI 적용 시장을 선점하려 함.

애플의 AI 전략 및 중국 AI 기술 발전

애플은 프라이버시 중시 전략 때문에 AI 개발에 뒤쳐졌다는 분석.

애플은 자체 기술 개발 후 기존 서비스를 대체하는 전략을 사용할 가능성 있음.

중국 AI 기술이 빠르게 발전하여 GPT 4 수준까지 도달했다는 정보.

중국 기업 딥시크가 저렴한 가격으로 H100 GPU 성능을 내는 제품을 개발하여 엔비디아에 타격을 줌.

메타에서 AI 추론 모델 레시피를 오픈 소스로 공개하여 AI 기술 발전 가속화.

한국 AI 기술 경쟁력 및 IT 생태계 활성화 방안

한국도 AI 기술로 어퍼컷을 날릴 수 있을지에 대한 질문 제기.

한국 AI 스타트업 생태계가 인터넷, 스마트폰 시대에 비해 활력이 떨어진다는 우려.

AI를 통해 한국 IT 생태계와 스타트업 활력을 되찾는 것이 중요.

AI 발전이 가져올 미래 사회 변화에 대한 예측

AI 발전으로 인한 사회 변화에 대한 긍정적, 부정적 전망 제시.

산업 혁명 당시 소년 노동, 공해 문제처럼 AI 발전으로 인한 부작용에 대한 우려.

AI 변화에 대한 제도적 보완이 늦어지면 사회적 불평등이 심화될 수 있다는 경고.

기술 발전으로 인한 새로운 종류의 가난(근원적 독점) 발생 가능성 제기.

거대 기업의 영향력 확대로 인한 경제적 억압 심화에 대한 우려.

인간의 자율성과 회복력을 믿는다는 긍정적인 시각 제시.

스마트폰 등장 시기처럼 정보 격차가 발생할 수 있지만 빠르게 해소될 것이라는 전망.

AI는 능력 증폭기 역할을 하지만, 개인 역량에 따라 효과가 불공평하게 적용될 수 있다는 지적.

AI 불평등 심화로 귀족 계급, 황제와 같은 사회 계층이 생겨날 수 있다는 우려.

AI 발전으로 인간이 노동에서 해방되어 행복하게 살 수 있다는 긍정적인 상상.

소들이 노동에서 해방되었지만 스테이크가 된 것처럼, AI 발전이 디스토피아를 초래할 수 있다는 비판.

AI 발전으로 인한 부가가치를 사회 구성원들이 함께 나눌 수 있도록 제도적 장치 마련 필요.

기술 발전과 함께 도덕적, 제도적 발전이 병행되어야 한다는 결론.

AI 시대에 필요한 능력: 훌륭한 질문을 하는 능력

AI에게 훌륭한 질문을 할 수 있는 능력이 중요해짐.

훌륭한 질문을 하기 위해서는 AI 주변에 풍부한 지식이 필요.

AI 시대는 교양의 화려한 복권이라는 비유.

취미는 과학과 같은 프로그램을 통해 AI에게 고급진 질문을 던질 수 있도록 지식을 쌓아야 함.

마무리 및 양자 컴퓨터 관련 짧은 대화

AI가 아무리 발전해도 진행자의 입담은 따라올 수 없을 것이라는 유쾌한 마무리.

출연진들의 소감 및 앞으로의 AI 관련 방송 계획 논의.

양자 컴퓨터 관련 짧은 대화 및 작동 원리 간략 설명.

AI 특이점, 5년 안에 온다고? 프콘도 깜짝 놀란 과학자들의 진짜 AI 썰 (feat. 박태웅 의장) [취미는 과학/ 24화 확장판]

스크립트