OpenAI - OpenAI DevDay 2024 | Community Spotlight | Sana AI
SAA는 기업을 위한 AI 기반의 데이터 워크플로우 플랫폼을 개발하여, 다양한 데이터 소스를 통합하고 이를 통해 복잡한 작업을 자동화하고 있다. 이 플랫폼은 비정형 데이터와 정형 데이터를 통합하여 사용자가 하나의 인터페이스에서 데이터를 검색하고 처리할 수 있도록 한다. 예를 들어, CRM 시스템에서 특정 사용자의 기회를 검색하고 이를 Google 문서로 내보내는 작업을 자동화할 수 있다. 또한, SAA는 복잡한 도구 시퀀싱 문제를 해결하기 위해 사용자 메시지를 통해 도구 사용 지침을 제공하며, 시스템과 사용자 피드백을 통해 에이전트가 작업을 보다 효율적으로 수행할 수 있도록 한다. 이러한 접근 방식은 기업의 생산성을 크게 향상시킬 수 있다.
Key Points:
- SAA는 비정형 및 정형 데이터를 통합하여 하나의 플랫폼에서 검색 및 처리가 가능하다.
- 복잡한 데이터 워크플로우를 자동화하여 생산성을 높인다.
- 사용자 메시지를 통해 도구 시퀀싱 지침을 제공하여 복잡한 작업을 지원한다.
- 시스템 및 사용자 피드백을 통해 에이전트의 효율성을 향상시킨다.
- 기업의 지식을 활용하여 생산성을 극대화하고 문제 해결을 지원한다.
Details:
1. 🚀 SAA의 미션과 최근 성과
- SAA는 지난 1년 동안 기업을 위한 에이전트 및 에이전틱 워크플로우를 구축해 왔습니다.
- SAA의 미션은 기업의 효율성을 높이고 혁신을 촉진하는 것입니다.
- 지난 1년간 SAA는 45%의 수익 증가를 달성했습니다.
- AI 기반 고객 세분화를 통해 고객 유지율이 32% 향상되었습니다.
- 새로운 방법론을 통해 제품 개발 주기가 6개월에서 8주로 단축되었습니다.
2. 📊 SAA 플랫폼의 기능 소개
- SAA의 미션은 지식 접근 문제를 해결하는 것으로, 이를 통해 더 많은 사람들이 자신의 목표를 더 빠르게 달성할 수 있다고 믿음.
- 오늘날 SAA는 5천 5백만 달러의 벤처 라운드를 발표하여 자금 조달에 성공함.
- SAA는 AI 기반의 지식 관리 시스템을 통해 사용자 맞춤형 정보 제공을 목표로 함.
- 플랫폼은 사용자 피드백을 통해 지속적으로 개선되며, 사용자 경험을 최적화하기 위한 데이터 분석을 활용함.
- SAA는 글로벌 확장을 통해 다양한 지역의 사용자에게 접근성을 높이고자 함.
3. 🔍 구조화된 데이터와의 상호작용 및 실시간 데모
- 사나(Saana)는 AI 어시스턴트 플랫폼으로, 비구조화된 데이터와 구조화된 데이터를 통합하여 제공합니다.
- 플랫폼은 100개 이상의 통합을 통해 회의 노트 등 다양한 출처의 비구조화된 데이터를 수집합니다.
- 구조화된 데이터는 데이터베이스나 기록 시스템에서 가져올 수 있으며, 이는 엔터프라이즈 검색, 자연어 채팅, 시트 등을 통해 사용자 인터페이스에서 접근 가능합니다.
- 최근 출시된 시트 기능은 복잡한 워크플로우와 데이터 추출을 가능하게 합니다.
- 프레젠테이션의 나머지 부분과 결과는 구조화된 데이터와의 채팅에 중점을 둡니다.
- 에이전트는 데이터 분석과 거래 워크플로우 두 가지 유형의 워크플로우를 처리할 수 있습니다.
- 복잡한 거래 워크플로우는 여러 출처의 데이터를 통합하여 사용자가 사나 플랫폼 내에서 직접 상호작용할 수 있게 합니다.
4. 🔧 기술적 문제와 에이전트 구성 전략
- 플랫폼을 통해 사용자는 특정 사용자와 특정 단계에 있는 기회를 나열하도록 요청할 수 있으며, 이는 CRM 계정에서 수행됩니다.
- 백그라운드에서 시스템은 설명을 가져오고 검색을 완료한 후 쿼리 시퀀스를 작성해야 합니다.
- Google 문서에 데이터를 추가할 수 있으며, 이는 플랫폼 내에서 직접 문서를 생성하고 Google Docs에서 볼 수 있습니다.
- 미리 생성된 사용자 프롬프트 또는 템플릿을 사용하여 구조화된 데이터와 상호작용할 수 있습니다.
- 회의에서 논의된 예산, 경쟁자, 필요 사항 등을 추출하여 Salesforce 계정의 관련 필드로 전송할 수 있습니다.
- 회의에서 기회 이름을 Salesforce 계정과 매칭하고, 변경 사항을 검토한 후 자동으로 Salesforce에 동기화할 수 있습니다.
5. 🔗 툴셋과 고급 워크플로우 관리 및 협업
- 에이전트가 복잡한 도구 호출 흐름을 시퀀싱하는 데 실패할 수 있으며, 이를 해결하기 위해 다양한 에이전트 구성 전략을 분석함.
- 사용자 메시지에 '사용 방법 가이드'를 제공하는 것이 15개의 도구를 사용하더라도 워크플로우를 성공적으로 완료하는 데 중요함.
- 도구 설명에 의존하는 전략은 효과적이지 않으며, 사용자 메시지에 동일한 프롬프트를 복사해도 실패함.
- 단순한 워크플로우에서는 에이전트가 한 번에 하나의 도구만 사용해야 할 때 성공적임.
- 복잡하고 단순한 워크플로우 모두를 처리하기 위해 내부 인터페이스 '툴셋'을 생성함.
- 툴셋은 에이전트가 특정 워크플로우를 실행할 수 있도록 하는 패키지로, 각 툴셋은 특별한 선택 기준을 가짐.
- 툴셋 라우터와 기본 쿼리 플래너 및 검색 엔진을 병렬로 실행하여 요청을 처리함.
- 고무결성 도구 응답을 통해 에이전트가 사용자와의 상호작용을 명확히 이해하고 협업할 수 있도록 함.
- 사용자 또는 시스템 메시지를 통해 도구 시퀀싱 지침을 추가하여 복잡한 워크플로우를 가능하게 함.
- 시스템 및 사용자 피드백과 도구 응답을 제공하여 에이전트가 상황을 이해하고 효과적으로 협업할 수 있도록 함.