AWS re:Invent 2024 - Monday Night Live with Peter DeSantis

The official YouTube channel for AWS Events and Webinars. Amazon Web Services (AWS) hosts events, both online and in-person, bringing the cloud computing community together to connect, collaborate, and learn from AWS experts.

AWS re:Invent is a learning conference for the global cloud computing community. The event features keynote announcements, training and certification opportunities, access to technical sessions, deep-dives with AWS leaders, engaging with sponsors, and so much more.

AWS re:Inforce is a two day conference focused on cloud security. Attendees can expect two days of learning, with sessions on security, identity, and compliance. 

AWS Summits is a series of events that bring the cloud computing community together to connect, collaborate, and learn about AWS. 

AWSome Day Online Conference is a free, online training event that will provide a step-by-step introduction to the core AWS services for compute, storage, databases, and networking.


AWS Events

AWS의 유틸리티 컴퓨팅 부문 수석 부사장 피터 데산티스(Peter DeSantis)가 재:인벤트 2024의 청중을 맞이합니다.

데산티스는 먼데이 나이트 라이브를 소개하며 IPA 맥주 부족에 대해 사과합니다.

신제품 발표를 포함한 기술 혁신에 초점을 맞출 예정입니다.

AWS의 클라우드 컴퓨팅 기능의 '방법'과 그 설계에 중점을 둡니다.

클라우드 컴퓨팅 기능을 제공하는 AWS의 고유한 접근 방식에 대해 논의합니다.

AWS의 독특한 접근 방식: 나무의 비유

DeSantis는 프레젠테이션의 구조를 개발하기 위해 AI 비서를 사용했다고 설명합니다.

빙산에 대한 초기 비유는 거부되고 우주 비행에 대한 비유가 고려되었지만 결국 폐기되었습니다.

나무의 비유를 소개합니다. 나무는 주요 기술 투자(맞춤형 실리콘, 하이퍼바이저, 데이터베이스 기술)를 나타냅니다.

AWS 성공의 '뿌리'로 초점을 옮겨 세부 사항에 대한 리더십의 관심에서 시작하여 '탭루트'를 살펴봅니다.

신속한 의사 결정과 문제 예방을 위해 세부 사항에 대한 리더십의 참여가 중요합니다.

스택 전반의 AWS 혁신: 버트리스 루트와 우드 와이드 웹

이 비유는 전체 스택에 걸친 AWS의 혁신을 대표하는 버팀목 뿌리로 옮겨갑니다.

다양한 구성 요소에 대한 AWS의 심층적인 투자를 통해 독보적인 기능을 구현할 수 있습니다.

AWS의 상호 연결된 문화를 나타내는 '우드 와이드 웹' 비유를 소개합니다.

나무와 곰팡이의 공생 관계는 AWS의 문화가 얼마나 중요한지 잘 보여줍니다.

리더십 원칙과 메커니즘을 통해 구축된 AWS의 고유한 문화는 핵심 차별화 요소로 강조됩니다.

AWS 컴퓨팅 네트워킹 혁신: 그라비톤 프로세서

Dave Brown이 자신의 AWS 여정과 EC2 개발에 대해 이야기합니다.

그라비톤 프로세서의 진화에 대해 자세히 설명하며 세대에 걸친 성능 향상을 강조합니다.

마이크로 벤치마크와 실제 워크로드 성능의 비교 Graviton 프로세서.

AWS의 Graviton으로의 내부 마이그레이션과 이것이 Aurora, DynamoDB, Redshift와 같은 서비스에 미치는 영향.

성능과 보안을 강화하기 위한 AWS Nitro 시스템으로의 전환과 그 역할에 대해 알아보세요.

AWS Nitro 시스템 및 하드웨어 보안

서버 아키텍처 및 보안에 대한 AWS Nitro 시스템의 영향에 대한 설명.

하드웨어 공급망 무결성을 보장하는 암호화 증명과 그 역할에 집중하세요.

부팅 프로세스에 대한 자세한 설명과 이를 보호하는 Nitro 칩의 역할에 대해 설명합니다.

Graviton4 프로세서로 증명을 확장하여 상호 연동되는 신뢰의 웹을 구축합니다.

논의는 스토리지 역학에 관련된 과제와 솔루션으로 옮겨갑니다.

하드 드라이브 용량과 테라바이트당 비용의 진화.

스토리지 시스템의 구성 요소(프론트엔드 플릿, 인덱스/매핑 서비스, 스토리지 미디어 계층)에 대한 설명입니다.

기존의 헤드 노드 아키텍처와 그 한계에 대해 논의합니다.

Barge 프로젝트에 대한 설명과 그 한계에서 얻은 교훈.

Nitro 카드를 사용한 분리형 스토리지 개념 소개.

분리된 스토리지 아키텍처와 그 이점에 대한 설명입니다.

AI 워크로드(모델 학습 및 추론)로 초점이 이동합니다.

AI의 맥락에서 스케일아웃과 스케일업 워크로드의 차이점.

AI 모델의 성장과 스케일링 법칙의 영향에 대해 논의합니다.

대규모 AI 모델을 학습하는 방법과 병렬화의 필요성에 대해 설명합니다.

AI 인프라의 스케일업 및 스케일아웃 과제가 강조되고 있습니다.

트레이니움 2와 가장 강력한 AI 서버

트레니움 2 칩을 중심으로 가장 강력한 AI 서버 구축에 대해 논의합니다.

칩 크기 및 패키징과 관련된 공학적 한계에 대한 설명.

Trainium 2 패키지 및 구성 요소에 대한 설명입니다.

트레이니움 2의 전력 공급 및 전압 강하 최적화에 대해 논의합니다.

Trainium 2 서버의 아키텍처 및 성능 기능에 대한 설명입니다.

NeuronLink, Ultra 서버 및 AI 추론 최적화

뉴런링크 상호 연결 기술 및 울트라 서버 소개.

울트라 서버의 기능 및 조 단위 매개변수 모델에 대한 적합성에 대한 설명입니다.

AI 추론 워크로드(입력 인코딩 및 토큰 생성)에 대해 논의합니다.

아마존 베드락의 지연 시간 최적화 옵션과 성능 개선 사항을 발표합니다.

지연 시간이 최적화된 Claude 3.5 모델 버전을 발표합니다.

앤트로픽과 AWS 및 프로젝트 레이니어의 협업

Anthropic의 공동 창립자인 Tom Brown이 AWS와의 협업에 대해 이야기합니다.

Claude 3.5와 지연 시간을 최적화한 Trainium 2 버전에 대해 논의합니다.

성능을 극대화하기 위해 Trainium 2의 작업 순서를 최적화하는 것의 중요성.

향상된 커널 개발을 위해 명령어 타이밍을 기록하는 Trainium의 기능이 강조됩니다.

수십만 개의 트레이니움 2 칩을 갖춘 새로운 아마존 클러스터인 프로젝트 레이니어 발표.

AI를 위한 AWS의 스케일아웃 클라우드 혁신

AI 인프라의 스케일아웃 측면으로 초점이 이동합니다.

탄력적인 AI 최적화 네트워크의 필요성에 대해 논의합니다.

10p10u 네트워크 패브릭과 그 기능에 대한 설명입니다.

네트워크 설치를 개선하고 오류를 줄이기 위한 혁신에 대해 논의합니다.

광 링크 및 라우팅 프로토콜의 혁신을 통해 네트워크 안정성을 개선하는 데 집중하세요.

논의된 주요 혁신 사항과 이를 통한 고객 혜택에 대한 요약입니다.

드산티스는 프레젠테이션을 마무리하며 청중에게 감사의 인사를 전합니다.