Joscha Bach - Why Your Thoughts Aren't Yours.

MLST is the top AI podcast on Spotify. Subscribe now! Welcome! We bring you the latest in advanced AI research, from the best AI experts in the world. Our approach is unrivalled in terms of scope and rigour – we believe in intellectual diversity in AI often going deeper into the underlying philosophy, and we touch on all of the main ideas in the field.

Support us on Patreon for early access, exclusive content, private Discord, monthly calls and much more! 
https://www.patreon.com/mlst 

Donate here: https://www.paypal.com/donate/?hosted_button_id=K2TYRVPBGXVNA

WE ARE LOOKING FOR SPONSORS! 
mlstreettalk at gmail.com


Machine Learning Street Talk

인간은 스스로 저작자가 되어 세상과 자신과의 상호작용을 변화시킬 수 있는 능력을 가지고 있습니다.

스스로 재생산하고 코딩하는 소프트웨어 에이전트 간의 경쟁으로 진화하고 있습니다.

가상 속성으로서의 의식, 즉 '존재하는 것처럼' 행동하는 무언가.

세상과 상호작용하는 자신을 관찰하는 의식적 주체, 비존재의 물리적 관점.

행동을 생성하는 활성화 패턴으로서의 인간의 뇌, 마인크래프트가 컴퓨터에서 구현된 것과 비교.

AGI 타임라인과 인텔리전스의 정의

구현의 정도에 따라 현실성이 정의되며, 현실성의 정도는 다양합니다.

모델 제작을 통해 미래를 통제하고, 관찰과 모델의 한계를 발견합니다.

AGI는 큰 변화가 없다는 인식, 현재 기술을 둘러싼 낙관론과 과대 광고.

AGI 타임라인; AGI를 구성하는 요소에 대한 다양한 견해.

현재의 AI 기능과 스타트렉의 '컴퓨터' 개념을 비교합니다.

다양한 영역에서 초인적인 능력을 발휘하는 지능, 핵심 요소로서 기술 습득의 잠재력.

비인간 애플리케이션에 대한 인간 지능 테스트의 한계.

학습 전후의 성과를 비교하여 지능을 측정하고 기술 습득에 중점을 둡니다.

AGI는 사용 가능한 리소스와 데이터가 주어졌을 때 수학적으로 얻을 수 있는 모델을 만드는 능력으로 정의합니다.

현재 AI의 한계와 셀프 플레이의 역할

현재 시스템은 다음 토큰을 예측하는 데 초점을 맞추기 때문에 수학적 증명과 같은 복잡한 문제를 해결하는 데 한계가 있습니다.

인간의 성과를 능가하는 셀프 플레이와 피드백 메커니즘의 필요성, 게임과 수학의 사례.

모델 구축 효율성으로서의 인텔리전스, 에이전시와 셀프 플레이의 역할에 대해 논의합니다.

기관은 인텔리전스보다 더 유용한 개념으로, 특정 목표를 위한 인텔리전스 배포에 집중합니다.

기관은 온도조절기와 대비되는 개념으로, 미래를 조절하는 능력과 현재를 조절하는 능력을 의미합니다.

미래를 규제하는 시스템 구축, 예측 모델링 및 추론 통합.

에이전시의 핵심 구성 요소로서의 모델 구축, 미래를 통제할 수 있는 능력에서 에이전트와 같은 속성의 출현.

사이버 애니미즘과 현실의 본질

정보 처리 렌즈를 통해 애니미즘을 재해석하고, 스스로 조직화되는 소프트웨어 에이전트로서의 영혼의 개념.

인과적 힘을 가진 거친 인과적 패턴의 예로서 돈은 믿음과 무관하게 존재합니다.

불변성으로서의 정신 상태; 정신 상태가 구현되고 인과적 구조를 갖는 정도입니다.

인과 관계를 가진 실제와 같은 가상 패턴; '가상'이라는 용어의 명확한 정의.

다양한 수준의 현실성, 시뮬레이션, 시뮬라크라, 관찰 가능한 역학의 예시.

이머전시, 소프트웨어 및 하드웨어

출현에 대한 논의, 소프트웨어와 하드웨어의 관계.

소프트웨어의 출현에 대한 놀라움은 정신 상태를 둘러싼 놀라움에 비해 부족합니다.

출현에 대한 혼란, 약한 출현과 강한 출현의 구분.

블랙박스로서의 정신적 개념, 제1원칙에 대한 매핑의 필요성.

코머도어 64에 선을 그리는 예시; 단순해 보이는 수학적 개념의 기저에는 복잡성이 숨어 있습니다.

에이전트를 구현하는 다양한 방법, 니즈 및 진화 선행의 역할.

마음의 양분된 모델, 즉 GAN과 유사한 생성자이자 비평가입니다.

게임 엔진 내에서 문제를 해결하는 캐릭터로서의 자기 모델, 다차원적인 문제를 감정과 동기 부여에 투영하는 방식입니다.

명상이나 변화된 상태를 통해 개인 자아로부터 의식이 분리될 가능성이 있습니다.

자기 환경의 일부로서의 자아, 물리적 환경이 아닌 표상과의 상호작용.

Joscha Bach - Why Your Thoughts Aren't Yours.

Joscha Bach - Why Your Thoughts Aren't Yours.

스크립트