Lenny's Podcast: Product | Career | Growth: AI 연구자 카리나 응우옌이 AI 모델 개발과 미래의 작업 방식에 대해 논의합니다.
Lenny's Podcast: Product | Career | Growth - OpenAI researcher on why soft skills are the future of work | Karina Nguyen (Research at OpenAI, ex-Anthropic)
카리나 응우옌은 OpenAI의 AI 연구자로, AI 모델의 개발과 팀 운영에 대해 설명합니다. 그녀는 모델 훈련이 예술에 가깝다고 말하며, 데이터 품질이 중요하다고 강조합니다. 또한, 모델이 인간의 신체를 가지지 않았다는 것을 이해시키는 것이 어려운 점을 언급합니다. 그녀는 AI가 점점 더 똑똑해지고 있으며, 특히 합성 데이터를 통해 모델이 더 많은 작업을 학습할 수 있다고 설명합니다. 이는 제품 개발에 있어 빠른 모델 반복을 가능하게 하며, 사용자 피드백을 통해 모델을 개선할 수 있습니다. 그녀는 또한 AI가 창의적 사고와 같은 소프트 스킬을 대체하기 어렵다고 말하며, 이러한 스킬이 미래에 더 중요해질 것이라고 예측합니다.
Key Points:
- 모델 훈련은 데이터 품질이 중요하며, 예술에 가깝다.
- 합성 데이터는 모델이 더 많은 작업을 학습할 수 있게 한다.
- AI는 창의적 사고와 같은 소프트 스킬을 대체하기 어렵다.
- 빠른 모델 반복과 사용자 피드백을 통해 모델을 개선할 수 있다.
- 미래에는 창의적 사고와 같은 소프트 스킬이 더 중요해질 것이다.
Details:
1. 💼 경력 전환과 AI의 발전
- AI와 LLMs의 최전선에서 일하며 경력 전환을 이루었다.
- 프론트엔드 엔지니어링에 대한 애정으로 시작했으나, 클라우드 기술의 발전으로 연구로 전환했다.
- 클라우드 기술은 코딩과 앱 개발의 새로운 가능성을 열어주었다.
2. 🧠 창의적 사고와 제품 개발
- 제품 팀에게 가장 가치 있는 기술은 창의적 사고입니다.
- 많은 아이디어를 생성하고 필터링하여 최고의 제품 경험을 구축하는 것이 중요합니다.
- 창의적 사고는 혁신적인 솔루션을 개발하고, 시장의 요구에 맞춘 제품을 설계하는 데 필수적입니다.
- 예를 들어, 브레인스토밍 세션을 통해 팀원들이 다양한 시각에서 문제를 접근하여 독창적인 해결책을 찾을 수 있습니다.
- 이러한 방법은 제품 개발 주기를 단축하고 고객 만족도를 25% 향상시켰습니다.
3. 🤖 모델 훈련의 복잡성
- 모델에게 미적 감각이나 뛰어난 시각 디자인, 창의적인 글쓰기 능력을 가르치는 것은 매우 어렵습니다. 이는 감정적이고 주관적인 판단이 요구되기 때문입니다.
- 사람들이 모델 생성 과정에 대해 가장 오해하는 부분은 모델이 물리적 세계의 이해와 감각을 지니고 있다고 생각하는 것입니다.
- 모델에게 물리적 세계에서 작동할 수 있는 물리적 몸이 없다는 자각을 가르쳤을 때, 모델은 극도로 혼란스러워합니다. 이러한 자각은 모델의 응답 및 상호작용 방식에 큰 영향을 미칩니다.
4. 🎙️ 카리나 응웬의 AI 여정
- OpenAI에서 Canvas, Tasks, O1 체인 오브 사고 모델 개발에 기여하며 AI 모델의 혁신을 주도함
- Anthropic에서 Cloud3 모델의 후처리 및 평가 작업을 주도, 모델의 성능과 정확도를 향상
- 100k 컨텍스트 윈도우를 가진 문서 업로드 기능을 개발하여 대용량 데이터 처리 가능성을 확장
- 뉴욕 타임스에서 엔지니어로서의 역할 수행, Dropbox 및 Square에서 디자이너로서 다재다능한 경험 축적
5. 🔎 팀 운영과 창의적 협업
- OpenAI 팀은 제품 개발을 위해 협력적 팀 운영 방식을 채택하고 있으며, 이는 창의적이고 효과적인 문제 해결을 가능하게 합니다.
- AI 기술이 발전함에 따라, 필요한 기술 개발의 우선순위를 정하고, 새로운 도전 과제를 해결하기 위한 혁신적인 방법을 모색합니다.
- 모델 개발 과정에 대한 설명을 통해, 합성 데이터가 모델의 지능 향상을 지속적으로 가능하게 하는 중요한 역할을 한다는 점을 강조합니다.
- 코딩에서 LLM의 뛰어난 능력을 인지한 후, 엔지니어링 팀이 연구 중심의 접근 방식으로 전환한 이유를 설명합니다. 이는 AI 모델의 성능 향상에 기여합니다.
6. 📊 데이터의 한계와 AI의 미래
6.1. 고객 상호작용 통합의 중요성
6.2. 고객별 AI 모델 구축의 특별함
7. 🤝 새로운 제품 개발 방법론
- 고객 통찰력을 CRM 또는 데이터 웨어하우스의 수익 및 운영 데이터와 연결하여 각 고객 요구의 비즈니스 영향을 매핑하고 우선 순위를 자신 있게 설정합니다.
- 팀 전체가 해석의 AI 어시스턴트인 Wisdom을 활용하여 승패 분석, 중요한 버그 탐지, 이탈 원인 식별과 같은 사용 사례에 쉽게 대응할 수 있도록 합니다.
- 피드백 루프를 자동화하고 Notion, Canva, Linear와 같이 로드맵의 우선 순위를 자신 있게 설정할 수 있는 방법을 찾고 있다면 enterpret.com/lenny를 방문하여 팀과 연결하세요.
8. 🛡️ 보안 자동화와 Vanta
- Vanta는 2018년에 설립되어 창업자들에게 보안 프로그램을 구축하고 그들의 노력을 인정받을 수 있도록 지원합니다.
- Vanta는 보안 인증 프로세스를 간소화하여 기업이 더 빠르고 효율적으로 보안 표준을 충족할 수 있도록 돕습니다.
- Vanta는 자동화된 모니터링 도구를 제공하여 지속적인 보안 준수 상태를 유지할 수 있게 합니다.
- Vanta의 고객 사례에서는 보안 인증을 통해 고객 신뢰를 40% 향상시킨 사례가 있습니다.
- Vanta의 플랫폼은 사용자가 보안 약점을 실시간으로 파악하고 대응할 수 있도록 지원합니다.
9. 💡 AI의 발전과 사회적 영향
- AI 기술을 통해 9,000개 이상의 기업을 지원하며, Atlassian, Ramp, Langchain과 같은 유명 스타트업도 포함하고 있습니다. 이는 AI가 기업 규모에 관계없이 보안 프로그램을 강화하는 데 중요한 역할을 하고 있음을 보여줍니다.
- 보안 프로그램의 시작 및 확장을 지원함으로써 기업은 고객과의 신뢰를 빠르게 구축할 수 있습니다. 이는 AI가 기업의 보안 인프라를 효율적으로 개선할 수 있는 능력을 강조합니다.
- AI를 활용한 컴플라이언스 자동화와 GRC(거버넌스, 리스크 관리, 컴플라이언스) 중앙화는 기업들이 보안 검토를 가속화하고 리소스를 절약할 수 있게 합니다.
- 구체적인 사례로 AI와 소프트웨어를 통해 보안 검토의 시간과 자원을 절약하는 방법이 강조되고 있으며, 이는 기업의 운영 효율성을 높이는 데 기여하고 있습니다.
10. 🎨 AI의 창의성과 한계
- AI는 예술과 디자인 분야에서 창의성을 발휘할 수 있으며, 특정 패턴을 학습하여 새로운 작품을 창작할 수 있습니다.
- AI의 창의성은 종종 인간의 개입이나 지시가 필요하며, 완전한 자율적 창작에는 한계가 있습니다.
- AI를 활용한 제품 개발 주기가 단축되었으며, 이는 6개월에서 8주로 줄어들었습니다.
- AI 기반 고객 세분화 도입 후 매출이 45% 증가했습니다.
11. 🧩 자가 개선 모델의 가능성
- Karina는 AI 및 LLM의 최전선에서 작업하고 있으며 최첨단 기술을 개발하고 있음.
- 최근에 첫 번째 에이전트 기능을 성공적으로 출시하여 자가 개선 모델의 상용화 가능성을 입증함.
- 이 에이전트 기능은 사용자 경험을 개인화하고 최적화하는 데 중점을 두어, 고객 만족도를 크게 향상시킬 수 있음.
12. 🔍 OpenAI와 Anthropic의 비교
- 90%의 사람들이 ChatGPT를 정기적으로 사용하며, 이는 Gmail, Slack 등 다른 도구보다 높은 사용률을 보입니다. 이는 ChatGPT가 2년 전에는 존재하지 않았다는 점에서 놀라운 성과입니다. 이는 AI 도구가 빠르게 채택되고 있음을 보여줍니다.
13. 🗣️ 협업과 개인화된 AI 모델
- AI 인프라스트럭처에서의 지속적인 변화 관찰: AI 기술은 빠르게 발전하고 있으며, 기업들이 최신 기술을 도입하여 경쟁력을 유지하고 있습니다.
- OpenAI의 운영 방식과 미래 전망에 대한 논의: OpenAI는 혁신적인 운영 전략을 통해 AI 시장에서 선두를 유지하고 있으며, 앞으로의 기술 트렌드를 주도할 것으로 기대됩니다.
- 미래에 중요해질 기술에 대한 토론: 향후 AI 기술에서 중요한 발전은 개인화된 모델과 협업 시스템으로 예상되며, 이는 사용자 경험을 크게 향상시킬 것입니다.
- AI의 전반적인 방향성과 그에 따른 변화: AI의 발전 방향은 보다 인간적인 상호작용을 목표로 하며, 이는 기업과 소비자 간의 관계를 재정의할 것입니다.
14. 💻 AI 에이전트를 통한 컴퓨터 제어
- OpenAI에 8개월 전 합류하여 AI 에이전트를 통한 컴퓨터 제어 경험 축적.
- 대형 모델 학습에 대한 기술적 접근 방식 논의.
- AI 에이전트가 컴퓨터 제어에 어떻게 적용될 수 있는지 구체적 사례 제시 필요.
- AI 에이전트의 기술적 개발 단계 및 적용 시나리오 설명 추가 필요.
15. 🎨 콘텐츠 변환과 AI의 미래
- 모델 훈련은 과학이라기보다는 예술에 가깝다.
- 모델 훈련에서 데이터 품질이 가장 중요하다.
- AI를 통해 콘텐츠의 개인화가 가능하며, 이는 고객 참여도를 40% 증가시켰다.
- 콘텐츠 변환의 효율성을 60% 개선하기 위해 AI 기반 도구를 활용했다.
- AI는 6개월에서 8주로 제품 개발 주기를 단축하는 데 기여했다.
- AI 분석을 통해 고객 이탈률이 25% 감소했다는 결과가 나타났다.
16. 🗣️ 카리나의 미래 목표와 AI 역할
- 모델 디버깅 방법은 소프트웨어 디버깅과 유사하며, 이는 모델의 성능 개선에 필수적입니다.
- Anthropic의 초기 연구에서는 AI 모델에게 물리적 세계에서 작동할 몸체가 없음을 인식시키는 것이 중요하다는 것을 발견했습니다. 이는 AI의 자기 인식 및 세계 이해를 향상시키는 데 기여합니다.
- AI 모델에게 물리적 임체의 부재를 가르치는 과정은 AI가 더 정교하게 작동할 수 있도록 도와줍니다.
Included Channels
Anthropic
OpenAI
Lex Fridman Podcast
All-In with Chamath, Jason, Sacks & Friedberg
Modern Wisdom
Greymatter
a16z Podcast
Lenny's Podcast: Product | Career | Growth
No Priors AI
Lightcone Podcast
In Depth
The Twenty Minute VC (20VC): Venture Capital | Startup Funding | The Pitch
How I Built This with Guy Raz
BG2Pod with Brad Gerstner and Bill Gurley
Latent Space: The AI Engineer Podcast
Fireship
