AWS에서 생성적 AI 애플리케이션 구축: 모델 선택 및 배포

사용 사례를 정의하는 것부터 시작하여 AWS에서 대규모 언어 모델을 선택, 최적화 및 배포하세요.

### AWS에서 생성적 AI 애플리케이션 구축하기: 대규모 언어 모델에 대한 가이드
* 🤖  이 동영상 시리즈는 모델 선택, 성능 개선, 평가 및 배포를 다루는 AWS에서 생성 AI 애플리케이션을 구축하는 데 필수적인 가이드를 제공합니다.
* 🔍  대규모 언어 모델은 입력 텍스트를 기반으로 시퀀스의 다음 단어를 예측하여 사람과 유사한 텍스트 응답을 생성하는 사전 학습된 딥 러닝 모델입니다.
* 📋  대규모 언어 모델을 사용하는 여정에는 사용 사례를 정의하고, 모델 성능을 평가 및 개선하고, 최적화된 모델을 프로덕션에 배포하는 과정이 포함됩니다.
* 💡  AWS에서 대규모 언어 모델 작업을 위한 빌딩 블록에는 임베딩 벡터, 벡터 데이터베이스 및 다양한 성능 개선 기술이 포함됩니다.
* 🎯  사용 사례에 적합한 모델을 선택하려면 사용 사례에서 거꾸로 작업하고, 모델 순위표를 고려하고, 인기 있는 모델 허브의 모델 카드를 평가하는 것이 좋습니다.
* ☁️  AWS는 대규모 언어 모델을 배포 및 관리할 수 있는 SageMaker 및 Amazon Bedrock과 같은 서비스를 제공하며, 간편한 액세스 및 통합을 위한 풍부한 도구 및 API 에코시스템을 제공합니다.
* 🔢  AWS에서 대규모 언어 모델을 실행할 때는 Amazon OpenSearch, Amazon Kendra 및 Amazon Bedrock과 통합되는 타사 도구와 같은 옵션이 있는 벡터 저장소를 선택하는 것이 중요합니다.
* 📹  이 비디오 시리즈에서는 모델 선택, 성능 개선, 대규모 언어 모델 운영 및 프로덕션 배포를 위한 모범 사례에 대한 데모를 계속 이어갈 예정입니다.

Best Practices for GenAI applications on AWS – Model Selection - Part 1 | Amazon Web Services

The official YouTube channel for Amazon Web Services (AWS). 

Amazon Web Services offers a complete set of infrastructure and application services that enable you to run virtually everything in the cloud: from enterprise applications and big data projects to social games and mobile apps. Explore how millions of customers — including the fastest-growing startups, largest enterprises, and leading government agencies — are using AWS to lower costs, become more agile, and innovate faster. 


Amazon Web Services

AWS에서 생성적 AI 애플리케이션 구축하기: 종합 가이드

분석 전문 솔루션 아키텍트인 Dan Stair가 Hara Tataparthy 및 Felix Huthmacher와 협력하여 AWS에서 생성 AI 애플리케이션 구축에 대한 포괄적인 4편의 동영상 시리즈를 제공합니다.

이 시리즈에서는 모델 선택, 데모, 성능 개선, 대규모 언어 모델의 운영 및 배포를 위한 모범 사례를 다룹니다.

대규모 언어 모델은 입력된 텍스트나 프롬프트를 기반으로 시퀀스에서 다음 단어나 토큰을 예측하여 사람과 유사한 텍스트 응답을 생성하는 사전 학습된 딥 러닝 모델입니다.

대규모 언어 모델로 여정 시작하기

사용 사례를 정의하는 것은 대규모 언어 모델 여정을 시작하는 첫 번째 단계입니다.

특정 기준에 따라 모델 집합의 범위를 좁힌 다음 프롬프트 엔지니어링 및 검색 증강 생성과 같은 기술을 사용하여 모델 성능을 개선하세요.

결과를 평가하고 성능 개선을 반복한 다음 최적화된 대규모 언어 모델을 배포하는 것이 중요합니다.

이 여정의 필수 구성 요소 중 하나는 임베딩 벡터를 사용하여 관련 정보를 저장하고 빠르게 검색하는 것과 함께 공통 패턴을 구현하여 성능을 향상시키는 것입니다.

대규모 언어 모델은 튜나 모델을 통해 사용자 지정하거나 특수한 사용 사례에 맞게 처음부터 학습할 수 있습니다.

모델 리더보드, 데이터, 사용 사례 적합성, 모델 크기 등의 요소를 고려하여 특정 사용 사례에 맞는 모델을 선택하는 것이 중요합니다.

또한 선택 과정에는 모델 카드를 평가하고 대규모 언어 모델 구축 및 배포를 위해 AWS SageMaker와 같은 사용 가능한 도구를 고려해야 합니다.

대규모 언어 모델 배포 및 실행을 위한 AWS 도구

세이지메이커 점프는 사전 테스트를 거친 인스턴스 유형에서 다양한 대규모 언어 모델을 원클릭으로 배포할 수 있으며, 그 중 일부는 미세 조정할 수 있습니다.

SageMaker Studio를 통해 액세스할 수 있으며 기능 스토어, GitHub 통합 및 SageMaker 파이프라인을 포함한 전체 에코시스템을 제공합니다.

Amazon Bedrock은 관리형 서버리스 추론, 간단한 API 및 플레이그라운드를 갖춘 기초 모델을 제공하며, API 및 AWS CLI를 통해 액세스할 수 있습니다.

벡터 스토어의 경우, 지연 시간이 짧은 액세스를 위한 Amazon OpenSearch, 최적화된 검색을 위한 Amazon Kendra, Bedrock 에이전트를 통해 Amazon Bedrock과 통합되는 Pinecone 및 Redis와 같은 타사 도구 등의 옵션이 있습니다.

대규모 언어 모델을 위한 AWS 도구

AWS는 모델 학습 및 배포를 위한 Amazon SageMaker를 비롯하여 대규모 언어 모델 개발을 위한 다양한 도구를 제공합니다.

자연어 처리 작업에는 Amazon Comprehend를 사용할 수 있으며, 문서에서 텍스트를 추출하는 데는 Amazon Textract를 사용할 수 있습니다.

Amazon 증강 AI(A2I)는 모델 예측을 위한 인간 검토 워크플로우를 구현하는 데 도움이 됩니다.