AI 어시스턴트 구축하기: 도전 과제와 통합 기술

기술 창업자들은 제품에 AI 지원을 구축하여 사용자 경험을 개선하고 더 나은 데이터 관리를 위한 고급 기능을 통합합니다.

### 지능형 어시스턴트 구축하기: 기술 여정
* 👨 기술 창립자로서 저는 **제품 내에서 어시스턴트와 에이전트를 만드는 도구**를 활용하여 실무 개발에 집중하고 있습니다.
* 🔧 단순한 UI에서 보다 통합된 사용자 경험으로 진화한 부조종사 도우미로 시작된 유니티의 여정은 **AI 도구에서 향상된 UX 디자인의 가능성**을 보여주었습니다.
* 🛠 현재 저희 어시스턴트는 **대시보드 생성, 데이터 디버깅, 이슈 검색**과 같은 기능을 지원하는 **30개 이상의 스킬**을 자랑하며 그 다재다능함을 입증하고 있습니다.
* 📊 이 아키텍처에는 일반적으로 **사용자 의도를 라우팅하기 위한 호출**과 관련 기술을 실행하기 위한 호출, 효율적인 상호작용과 사용자 피드백 루프가 가능한 **두 개의 LLM 호출**이 포함됩니다.
* 🔍 유니티는 시스템 성능을 평가하는 데 AI를 활용하여 **개발 및 생산 프로세스를 개선하는 플랫폼**을 평가에 적극적으로 활용하고 있습니다.
* 📈 라이브 데모에서는 **사용자 감정과 성과 지표를 분석하는 AI 검색 기능**을 포함한 어시스턴트의 기능을 시연하여 실제 적용 사례를 보여주었습니다.
* 📊 또한 이 어시스턴트는 **대시보드 생성을 지원**하여 사용자가 실시간 데이터 입력을 기반으로 그래프와 시각화를 생성할 수 있어 데이터 접근성을 향상시킵니다.
* 🔒 엔터프라이즈 통합을 위해 오픈소스 옵션을 제공하고 사용자 환경 내에 솔루션을 배포하여 **데이터 프라이버시 및 제어를 보장**함으로써 보안을 강조합니다.

Observability & Evaluation Platform for AI Engineers

Arize AI is the watcher, troubleshooter and the guardrail on deployed AI.



Arize AI

AI 어시스턴트 구축 및 제품에 통합하기

발표자의 배경은 AI 비서를 구축하는 기술 창업자입니다.

AI 어시스턴트의 과제, 구현 및 심층적인 작동 방식에 집중하세요.

회사의 부조종사 도우미와 초기 설계에 대해 논의합니다.

UX 디자인 및 통합을 개선할 수 있는 기회를 강조합니다.

대시보드 만들기, 데이터 디버깅, 검색 등 어시스턴트의 30가지 이상의 스킬을 활용할 수 있습니다.

AI 어시스턴트의 아키텍처 및 디자인

의도를 결정하는 라우터와 스킬을 실행하는 두 개의 LLM 호출이 있는 일반적인 아키텍처입니다.

두 번의 통화 프로세스와 사용자 인 더 루프 접근 방식에 대한 설명입니다.

시간이 지남에 따라 여러 라우터와 여러 UI 진입점에 걸친 LLM 호출로 인해 복잡성이 증가했습니다.

대시보드 그래프 생성 및 검색 기능으로 인한 복잡성 증가의 예입니다.

데이터 분석 및 디버깅을 위한 AI 검색 기능에 집중하세요.

어시스턴트 구축 및 테스트를 위해 회사 자체 소프트웨어 사용.

AI 시스템을 판단하기 위해 AI를 사용한 평가(평가)에 대한 설명입니다.

어시스턴트의 기능과 평가 과정을 보여주는 라이브 데모입니다.

어시스턴트의 채팅 인터페이스 시연 및 응답 평가.

상담원 추적 및 응답 품질을 평가하기 위한 평가 첨부 기능의 중요성.

불만스러운 사용자를 찾기 위한 AI 검색 기능.

의도와 데이터 검색을 위한 두 가지 LLM 호출을 포함하는 AI 검색의 과제.

자주 묻는 질문을 파악할 수 있는 분석 기능.

어시스턴트를 사용하여 환각의 원인을 파악하세요.

그래프 작성을 위한 대시보드 도우미입니다.

실시간 평가를 위한 Gemini와의 통합.

다양한 SaaS 제품에 AI를 제공하기 위한 플랫폼으로서의 어시스턴트입니다.

다양한 사무직에서 AI 비서가 광범위하게 도입될 것으로 예측됩니다.

플랫폼의 기능 및 작동 방식에 대한 요약입니다.

해결하려는 문제와 기존 ML 접근 방식과의 관련성에 대한 질문입니다.

기존 ML이 제시된 기능을 처리할 수 없다는 점을 강조하는 응답입니다.

반복적인 데이터 처리와 제어 흐름을 강조하는 에이전트의 정의입니다.

보안 및 기본 시스템과의 통합에 관한 질문입니다.

보안에 대한 답변, 계측 및 배포 옵션에 OpenTelemetry를 사용하세요.