Digestly

OpenAI
OpenAI
Dec 17, 2024

OpenAI DevDay 2024 | Community Spotlight | Parloa

OpenAI - OpenAI DevDay 2024 | Community Spotlight | Parloa

마이크는 AI 기술을 활용하여 컨택 센터 자동화를 추진하는 팔로아라는 회사에서 일하고 있습니다. 현재의 컨택 센터는 고객에게 불편한 경험을 제공하는 경우가 많습니다. 팔로아는 고객과의 상호작용을 친구와 대화하는 것처럼 자연스럽고 신뢰할 수 있게 만들고자 합니다. 이를 위해 GPT-4와 같은 오픈 AI 기술을 활용하여 멀티 에이전트 크루와 인간의 개입을 통합하여 안전하게 사용할 수 있도록 하고 있습니다. 팔로아는 AI 에이전트를 통해 인간 에이전트를 보완하고, 고객의 문제를 해결하는 데 중점을 두고 있습니다. AI 에이전트는 고객과의 상호작용을 시뮬레이션하고 평가하여 신뢰성을 확보하며, 이를 통해 고객 서비스의 품질을 향상시키고자 합니다. 또한, AI 에이전트와 인간 에이전트가 협력하여 언어 장벽을 극복하고, 고객과의 상호작용을 보다 효율적으로 처리할 수 있도록 지원합니다. 팔로아는 AI 에이전트 관리 플랫폼을 통해 이러한 과정을 지원하며, 고객 서비스의 미래를 AI 중심으로 전환하고자 합니다.

Key Points:

  • 팔로아는 AI 기술을 활용하여 컨택 센터의 고객 경험을 개선하고자 함.
  • GPT-4와 멀티 에이전트 크루를 활용하여 자연스럽고 신뢰할 수 있는 고객 상호작용을 구현.
  • AI 에이전트는 인간 에이전트를 보완하며, 고객 문제 해결에 중점.
  • AI 에이전트와 인간 에이전트의 협업을 통해 언어 장벽 극복 및 효율적 상호작용 지원.
  • AI 에이전트 관리 플랫폼을 통해 AI 중심의 고객 서비스 전환 추진.

Details:

1. 📞 고객센터 자동화의 필요성

  • AI를 활용한 고객센터 자동화는 고객 경험을 개선할 수 있는 중요한 방법입니다.
  • 현재의 전화 핫라인 시스템은 고객에게 불편함을 줄 수 있으며, 이는 자동화로 개선될 수 있습니다.
  • 고객센터 자동화는 고객이 원하는 서비스를 더 빠르고 효율적으로 제공할 수 있도록 도와줍니다.
  • 예를 들어, AI 챗봇을 통해 고객 문의를 24/7 처리할 수 있으며, 이는 고객 만족도를 30% 이상 향상시킬 수 있습니다.
  • 자동화된 시스템은 평균 대기 시간을 50% 줄여 고객의 불만을 감소시킵니다.

2. 🤖 AI 기술로 고객 경험 개선

  • 고객 센터 산업이 오픈 AI 기술, 특히 GPT 40을 활용하여 단기적으로 어떻게 변화하고 있는지 설명합니다.
  • 멀티 에이전트 크루즈와 인간이 참여하는 통합을 통해 안전하게 AI를 사용할 수 있도록 합니다.
  • GPT 40은 이전 버전보다 더 향상된 자연어 처리 능력을 제공하여 고객 문의에 대한 응답 시간을 30% 단축시킵니다.
  • 멀티 에이전트 시스템은 고객의 복잡한 문제를 더 효과적으로 해결할 수 있도록 지원하며, 이는 고객 만족도를 25% 향상시킵니다.
  • AI와 인간 에이전트의 협업을 통해 고객 경험을 개인화하여 고객 유지율을 20% 증가시킵니다.

3. 🗣️ 인간과 AI의 협력

  • 고객과의 모든 상호작용은 친구와 대화하는 것처럼 쉬워야 한다.
  • 개인 AI 에이전트는 모든 대화를 고유하게 만들어 문제를 해결하는 데 중점을 둔다.
  • 글로벌 컨택 센터에는 다양한 수준에서 일하는 인간 에이전트와 고객 서비스 담당자가 있다.

4. 📱 AI 에이전트의 역할 확대

  • AI 에이전트는 콜센터의 인간 에이전트와 협력하여 업무를 지원할 예정입니다.
  • AI 에이전트 도입은 인간 에이전트를 대체하는 것이 아니라 보완하는 역할을 합니다.
  • AI 에이전트는 고객과의 상호작용을 자동화하여 인간 에이전트의 업무 부담을 줄일 수 있습니다.
  • AI 에이전트를 통해 고객 서비스의 효율성을 높이고, 인간 에이전트가 더 복잡한 문제에 집중할 수 있도록 지원합니다.

5. 🔄 AI 에이전트의 생애 주기 관리

  • AI 에이전트는 다수의 공급업체와 가격 협상을 동시에 진행할 수 있어, 전화 통화량을 관리하는 데 효과적입니다.
  • 인간 에이전트가 모든 시장을 커버할 수 없기 때문에 AI 에이전트가 대안이 될 수 있습니다.
  • AI 에이전트를 안전하고 책임감 있게 생산에 도입하기 위한 새로운 솔루션이 필요합니다.
  • AI 에이전트의 생애 주기 관리에는 초기 개발, 테스트, 배포, 유지보수 및 업그레이드 단계가 포함됩니다.
  • 각 단계에서의 성과 측정 및 피드백 루프가 중요하며, 이는 AI 에이전트의 지속적인 개선을 보장합니다.
  • 실제 사례로, AI 에이전트를 도입한 기업은 고객 응대 시간을 30% 단축하고, 운영 비용을 20% 절감했습니다.

6. 🛠️ AI 에이전트 관리 플랫폼 출시

  • AI 에이전트의 전체 수명 주기를 지원하는 관리 플랫폼을 1년 반 동안 개발하여 9월에 출시함.
  • 플랫폼은 설계 및 통합을 포함하여 생산에 적합한 모든 부분을 포괄하도록 설계됨.
  • 플랫폼의 주요 기능으로는 AI 에이전트의 설계, 배포, 모니터링 및 최적화가 포함됨.
  • 이 플랫폼은 기업이 AI 에이전트를 보다 효율적으로 관리하고 운영할 수 있도록 지원함.
  • 사용자 피드백을 통해 플랫폼의 사용 편의성과 기능성이 크게 향상됨.

7. 🧩 설계 및 통합의 중요성

  • AI 에이전트를 설계할 때 자연어 브리핑을 통해 프롬프트를 설정하고, 외부 세계와 상호작용하기 위해 서드파티 도구와 통합하는 것이 중요합니다.
  • 정보를 가져오고 데이터를 시스템에 다시 넣는 작업을 통해 통합을 강화해야 합니다.
  • 테스트의 중요성이 강조되며, 기존의 IVR 세계에서의 테스트 방식과 달리 비결정론적 환경에서의 새로운 접근 방식이 필요합니다.
  • 의도 분류 및 자연어 처리에서 단어를 의도로 변환하고 경로를 탐색하는 기존 방식에서 벗어나야 합니다.
  • 구체적인 서드파티 도구 통합 예시로는 CRM 시스템과의 연동이 있으며, 이를 통해 고객 데이터를 실시간으로 업데이트할 수 있습니다.
  • 비결정론적 환경에서의 테스트는 다양한 시나리오를 통해 AI의 반응을 평가하는 방식으로 진행됩니다.

8. 🔍 시뮬레이션과 평가

  • 고객 서비스 센터에서 대량의 통화량을 처리하기 위해 대규모 언어 모델을 활용해야 함
  • 통화량의 급증을 효과적으로 관리하기 위해 시뮬레이션과 평가가 필요함
  • 효과적인 KPI와 정량적 데이터를 도출하여 무엇이 작동하는지 평가
  • AI 에이전트의 자율성을 높이기 위해 지속적인 모니터링과 개선이 필요함

9. 🧑‍💼 다중 에이전트 프롬프트 엔지니어링

  • AI 에이전트를 구축할 때 자연어 브리핑을 사용하여 인간 에이전트가 첫날 업무를 시작할 때와 유사한 방식으로 설계 및 통합을 진행합니다.
  • 자연어를 사용하여 프로그래밍 없이 경험을 구축할 수 있어 주제 전문가들이 AI 에이전트 작업을 더 쉽게 수행할 수 있습니다.
  • 프롬프트 엔지니어링은 자체적으로 과학이며, 가까운 미래에 더 쉬워지지 않을 것입니다.
  • 다중 에이전트 시스템에서는 각 에이전트가 특정 역할을 수행하며, 이 역할은 자연어로 정의됩니다.
  • 효과적인 프롬프트 엔지니어링을 위해서는 명확한 목표 설정과 지속적인 피드백 루프가 필요합니다.
  • 자연어 브리핑은 에이전트 간의 원활한 협업을 촉진하며, 이를 통해 복잡한 문제 해결이 가능합니다.

10. 👥 협업을 통한 AI 에이전트 개발

  • 팔로아에서는 초기 단계에서 제로에서 일로 나아가는 것을 지원하기 위해 다중 에이전트 프롬프트 엔지니어링 팀을 구성하여 대화형 디자이너를 지원합니다.
  • 자율적인 GPT-4 기반 에이전트를 사용하여 팀의 역할을 복제하고 전체 프로세스를 수행합니다.
  • 고객 성공 부사장이 다양한 작업 스트림을 탐색하고 솔루션 엔지니어와 CX 디자이너가 협력하여 시스템 통합 및 대화 전략을 최적화합니다.
  • 매니저는 목표 달성을 위해 최선의 관행과 프롬프트 예제를 활용하여 팀의 협업을 조율합니다.

11. 🔄 반복적 개선과 시뮬레이션

  • 대화형 에이전트 설계자는 초기 설계에서 누락된 사항이나 고려하지 않은 사용 사례에 대해 개선을 지시해야 함.
  • 첫 번째 설계 초안이 만족스러울 경우 시뮬레이션과 평가를 통해 기술적 세부사항을 검토해야 함.
  • 전통적인 프롬프트와 다른 구성 구조를 사용하여 특정 사용 사례에 맞춘 지원 필요.
  • 텔레폰 전환과 같은 특정 사용 사례에서 인간 에이전트로의 전환을 지원하기 위한 도구 필요.

12. 📊 고객 페르소나 시뮬레이션

  • 고객 페르소나 시뮬레이션은 복잡한 매개변수 설명을 필요로 하며, 제3자 도구에 미터 정보를 전달하는 것이 포함됩니다.
  • 솔루션 엔지니어들이 쉽게 협업할 수 있도록 YL 방식의 설명을 채택했습니다.
  • Crew AI 프레임워크를 기반으로 하여 사용성과 개발자 경험을 향상시켰습니다.
  • CX 또는 솔루션 엔지니어링 팀의 참여를 통해 프로세스를 개선할 수 있습니다.
  • 생성된 브리핑의 신뢰성을 테스트하기 위해 시뮬레이션과 평가가 필요합니다.

13. 🖥️ UI를 통한 시뮬레이션 관리

  • AI 에이전트 구성과 실제 고객 대화를 기반으로 시뮬레이션을 수행하여 다양한 고객 페르소나를 도출합니다.
  • 콜센터와 협력하여 현장 실제 사용 사례의 샘플 데이터를 활용합니다.
  • 화난 고객, 어린이, 노인 등 다양한 페르소나를 시뮬레이션하여 AI 에이전트가 다양한 고객을 처리할 수 있도록 합니다.
  • 모든 대화는 콜센터 특정 평가 기준으로 평가되며, 이를 통해 대화 디자이너에게 개선 인사이트를 제공합니다.
  • UI를 통해 복잡성을 추상화하여 고객이 쉽게 사용할 수 있도록 합니다.
  • UI는 시뮬레이션 관리의 복잡성을 줄이고, 사용자 친화적인 인터페이스를 제공하여 시뮬레이션 설정 및 결과 분석을 용이하게 합니다.
  • 평가 결과는 대화 디자이너에게 피드백으로 제공되어 지속적인 개선을 지원합니다.

14. 🔍 평가 기준과 신뢰성 테스트

  • 시뮬레이션을 쉽게 실행하여 테스트할 페르소나를 구성하고, 몇 번의 반복을 수행할지, 몇 번의 시뮬레이션을 실행할지를 설정할 수 있습니다.
  • 수천 번의 대화를 실행하여 대형 언어 모델의 신뢰성을 적절히 정량화하고, 생산 사용 사례에 안전하게 사용할 수 있도록 보장합니다.
  • 평가 기준은 기술적 정확성의 혼합으로, 소프트웨어 엔지니어링에서의 엔드투엔드 통합 테스트와 유사합니다.
  • API 오류를 테스트할 수 있으며, 때로는 AI 에이전트가 아닌 고객의 API가 잘못된 응답을 보내거나 적절히 반응하지 않는 경우도 있습니다.
  • 언어 행동 자체를 평가하여 대화를 어떻게 처리하는지, 예를 들어 기업 용어를 적절히 사용하는지, 경쟁사를 추천하는지 등을 확인합니다.
  • 준수해야 할 모든 사항을 확인하여 해당 기준을 통과하거나 실패할 수 있도록 보장합니다.

15. 👥 인간과 AI의 협력적 대화

  • 팔로아(Paloa)는 AI 에이전트와 인간 에이전트를 통합한 솔루션을 개발하여, 완전 자동화가 불가능한 대화를 처리합니다.
  • 고객과 인간 에이전트는 서로의 목소리를 듣지 않으며, 인간 에이전트는 실시간으로 전사된 대화를 인터페이스를 통해 확인합니다.
  • AI 에이전트는 적절한 응답을 제안하며, 인간 에이전트는 제안된 응답을 선택하거나 직접 통화에 참여할 수 있습니다.
  • 인간 에이전트의 발언도 전사되어 AI 에이전트의 JML 컨텍스트에 반영됩니다.
  • 이 시스템은 언어 장벽을 극복할 수 있는 부가적인 효과를 제공합니다.

16. 🌐 언어 장벽을 넘는 AI

  • 스웨덴 고객이 독일 상담원과 소통할 수 있는 언어 비중립적 AI 시스템 도입
  • 대형 언어 모델을 활용하여 프로세스 가속화 및 지연 최소화
  • 생성 AI 사용에 대한 고객의 우려를 인간 상담원의 감독으로 해결
  • 과거 IVR 시스템에서 AI 전환 단계로의 변화
  • 자연어 처리 기반 규칙 기반 AI 에이전트의 등장
  • 자율 AI 에이전트가 점점 더 많은 작업을 수행하며 IVR 솔루션 대체

17. 🔮 AI 중심의 미래 고객센터

  • AI가 주도하는 고객센터 시대가 도래하고 있으며, 이는 Sam Altman이 Lex Freedman과의 팟캐스트에서 예측한 바와 같이 고객센터 산업이 AI에 의해 완전히 변화될 가능성이 높다는 점을 보여준다.
  • 현재 전 세계적으로 콜센터와 고객센터에 AI 솔루션이 도입되고 있으며, 향후 더 발전된 모델과 자율성, 그리고 타사 시스템과의 연결성이 강화될 것이다.
  • 고객의 문의를 완전히 자율적으로 처리하고, 시스템과의 통합을 통해 전체 프로세스를 자동화하는 자율 에이전트가 등장할 것이다.
  • 인간 에이전트는 AI 코치나 감독자로 승진하여 AI 에이전트가 효과적으로 업무를 수행할 수 있도록 지원하는 역할을 맡게 될 것이다.

18. 🌟 AI 에이전트의 사회적 가치

  • 미래에는 모든 고객에게 개인 AI 에이전트를 제공하는 것이 목표입니다.
  • 대규모 언어 모델이 사회와 인류에 긍정적인 영향을 미칠 수 있음을 증명해야 합니다.
  • 다가오는 조직 변화에 대비하고 모두가 적응할 수 있도록 돕는 것이 중요합니다.
  • AI 에이전트는 교육, 의료, 고객 서비스 등 다양한 분야에서 개인화된 지원을 제공하여 효율성을 높일 수 있습니다.
  • AI 기술의 발전은 새로운 직업 창출과 기존 직업의 변화를 가져올 수 있으며, 이에 대한 준비가 필요합니다.
  • 사회적 가치 실현을 위해 AI 에이전트의 윤리적 사용과 데이터 프라이버시 보호가 필수적입니다.
View Full Content
Upgrade to Plus to unlock complete episodes, key insights, and in-depth analysis
Starting at $5/month. Cancel anytime.