[모두팝] AI 가속화의 새로운 길: PyTorch와 NPU의 시너지

Share Value, Grow Together
누구나 함께 지식을 공유하고 성장하는 연구 문화를 전파합니다


모두의연구소

모두연 커뮤니티 팀 성태의 인사 및 세미나 참석자 소개

유익한 시간 및 인사이트 얻기를 바라는 세미나 목표 언급

리벨리온 김홍석 박사 초청 강연 소개

세미나 진행 순서 소개: 모두연 소개 후 강연, Q&A, 네트워킹 순서

세미나 시간표 상세 설명: 모두연 소개(7시 10분), 강연(1시간), Q&A(20분), 휴식 및 네트워킹(5분)

모두연(모두의 연구소) 소개 시작

AI 커뮤니티 및 교육 회사로서의 모두연 소개

경쟁 중심 교육 아닌 커뮤니티 기반 성장 및 지식 공유 강조

무료 프로그램 운영: 랩(연구 모임) 모집, 모두콘(연말 컨퍼런스)

랩 지원 내용: 강남 캠퍼스 공간, 페이퍼샵(논문 지원), 장학금, GPU 지원

모두콘(연말 컨퍼런스) 안내: 12월 15일, 양재 aT 센터, 무료

정기적인 무료 세미나 운영 안내: 강남 캠퍼스(네트워킹), 대전 캠퍼스(실습)

모두연의 비영리 단체 아닌 교육 사업 진행 중임을 강조

김홍석 박사의 자기소개 및 감사 인사

AI 반도체 및 엔비디아의 인지도 변화에 대한 언급

강연 요약: 파이토치 기반 AI 가속화의 중요성 강조

강연 주제 5가지 소개: 파이토치와 MPU 시너지, 헤테로지니어스 컴퓨팅 등

AI 가속기와 머신러닝 프레임워크의 관계

AI 가속기와 개발자 간의 머신러닝 프레임워크 매개체 역할 강조

파이토치의 연산 정의 및 하드웨어 동작과의 관계 설명

엔비디아 GPU의 서버 시장 지배력 및 CUDA의 중요성 언급

엔비디아 중심 생태계에 대한 비판적 시각 제시

CUDA 같은 폐쇄형 기술에서 오픈소스로의 전환 예측

다양한 가속기 업체의 시장 진입 및 영향력 증대 예상

강연자의 향후 계획 및 오픈소스 플랫폼의 중요성 재강조

오픈소스의 성공 사례 및 AI 생태계에의 적용 가능성

개인적 경험을 바탕으로 오픈소스의 성공 사례 소개: 리눅스, 모질라 등

리눅스 기반 슈퍼컴퓨터의 등장 및 인터넷 붐과의 연관성 언급

2000년대 주요 플랫폼의 오픈소스화 현황 소개: 도커, 쿠버네티스 등

AI 분야 오픈소스 프로젝트의 중요성 강조: 파이토치, 트랜스포머, 라마 등

파이토치의 시장 지배력 및 강력한 에코시스템 구축 단계 언급

파이토치의 AI 가속기와 개발 툴 간 매개체 역할 강조

파이토치의 역사와 텐서플로우와의 비교

파이토치 2.0의 이거 모드와 그래프 모드 비교

파이토치 2.0의 핵심 기술: 다이나모, 인덕터, 트리톤 소개

트리톤과 CUDA 비교 및 향후 전망

메타의 트리톤 개발 동기 및 CUDA 독점에 대한 우려 언급

트리톤과 CUDA 성능 비교 결과 및 향후 성능 개선 가능성 제시

트리톤의 인기 증가 및 다양한 업체의 참여 현황 소개

파이토치를 통한 CUDA 극복 전략 제시

GPU 아키텍처의 한계와 MPU 설계의 필요성 언급

하드웨어와 소프트웨어 간의 긴장 관계 및 역사적 배경 설명

리벨리온의 MPU 개발 현황 및 향후 계획 소개

파이토치 2.0과의 통합 작업 및 트리톤 활용 계획

파이토치와 MPU 연동에 관심 있는 개발자 대상 랩 운영 계획

랩 운영 방안: 파이토치 이해, MPU 연동 과제 수행, 결과 공유 및 오픈소스 업스트림

랩 운영 기간 및 주제 계획: 1기(기본 이해), 2기(분산 학습), 3기(트리톤 기반 커널 프로그래밍)

1기 랩 모집 기간 및 운영 방식 안내

사전 질문 및 현장 질문 답변 시작

사전 질문 답변: NPU 설계의 주요 동기

현장 질문 답변: 오픈소스 AI 모델의 성장 가능성

현장 질문 답변: NPU 구조적 확장에 대한 의견

현장 질문 답변: 트리톤과 MPU 지원 가능성

현장 질문 답변: 학계에서의 파이토치 및 MPU 접근성 향상 방안

현장 질문 답변: 엣지 디바이스 관련 제품군 출시 계획 및 MPU 성능 저하 가능성