Latent Space: The AI Engineer Podcast: 2025년 AI의 발전과 비용 절감에 대한 논의
Lenny's Podcast: Product | Career | Growth: Mercury의 제품 관리 팀 구축과 다제품 전략에 대한 통찰을 제공하며, 품질 투자와 고객 중심 접근의 중요성을 강조합니다.
Latent Space: The AI Engineer Podcast - [Ride Home] Simon Willison: Things we learned about LLMs in 2024
2025년 AI의 발전은 빠르고 저렴한 모델의 등장으로 특징지어집니다. Simon Willison은 AI 모델이 GPT-4 수준의 성능을 유지하면서도 비용이 크게 절감되었다고 설명합니다. 예를 들어, OpenAI의 GPT-3 모델은 2022년과 2023년 동안 가장 발전된 모델이었지만, 현재의 모델은 100배 저렴해졌습니다. 이는 경쟁의 결과로, Google, Anthropic, Meta와 같은 주요 기업들이 더 저렴한 모델을 제공하고 있습니다. 또한, DeepSeek와 같은 기업은 600만 달러로 최첨단 모델을 훈련할 수 있음을 보여주며, AI 모델 훈련 비용이 계속해서 감소할 가능성을 시사합니다.
AI 에이전트의 발전도 논의되었습니다. 현재 AI 에이전트는 신뢰성과 진실성 구별의 문제로 인해 완전한 자율성을 갖추지 못하고 있습니다. 그러나 연구 보조 형태의 에이전트는 유망하며, Google Gemini와 같은 모델이 이를 지원하고 있습니다. 또한, AI의 멀티모달 기능이 향상되면서 비디오 스트리밍과 같은 새로운 응용 프로그램이 가능해졌습니다. 이러한 발전은 AI의 실용성을 높이고, 다양한 산업에서의 활용을 촉진할 것입니다.
Key Points:
- AI 모델 비용 절감: OpenAI의 GPT-3 모델은 현재 100배 저렴해졌으며, 이는 경쟁의 결과입니다.
- DeepSeek의 혁신: 600만 달러로 최첨단 모델을 훈련할 수 있어 AI 훈련 비용이 감소할 가능성을 보여줍니다.
- AI 에이전트의 한계: 신뢰성과 진실성 구별의 문제로 완전한 자율성을 갖추지 못하고 있습니다.
- 멀티모달 기능 향상: 비디오 스트리밍과 같은 새로운 응용 프로그램이 가능해졌습니다.
- AI의 실용성 증가: 다양한 산업에서의 활용을 촉진할 것입니다.
Details:
1. 🎙️ 2025 테크 밈 라이드 홈 특별 에피소드 소개
- 2025년 첫 보너스 에피소드가 소개되었으며, 프로그램의 호스트는 Brian McCullough입니다. 이번 에피소드에서는 2025년의 주요 기술 동향과 혁신적인 기술 밈에 대해 깊이 있는 논의를 진행합니다. 또한, 과거와 현재의 기술 발전을 비교하고 앞으로의 기술 전망에 대해 전략적인 통찰을 제공합니다.
2. 🧠 AI 전문가 사이먼 윌리슨의 통찰력
- 사이먼 윌리슨은 AI 분야의 새로운 현상이 발생할 때마다 분석과 비판을 통해 많은 사람들에게 중요한 정보원이 되고 있다.
- 그의 블로그는 AI 관련 최신 정보를 전달하며, AI 공간에서 중요한 비판적 시각을 제공한다.
- 윌리슨은 AI 발전의 방향성 및 상태에 대한 통찰력을 제공하며, AI 분야에 대한 깊은 이해를 필요로 한다.
- 사이먼 윌리슨은 GPT-3와 같은 AI 모델의 한계와 가능성을 조명하며, 윤리적 고려사항을 강조한다.
- 그는 AI 기술의 투명성과 책임성을 중시하며, 이는 AI 개발 및 적용에 있어 중요한 요소로 강조된다.
- 윌리슨은 AI가 사회적, 경제적 영향을 미칠 수 있는 방법에 대해 심층적인 분석을 제공한다.
3. 🔮 2025년 AI 기술의 발전과 한계
- 2024년 동안 AI 모델은 비용이 50% 감소하고 처리 속도가 30% 빨라졌으며, 멀티모달 기능까지 가능하게 되었습니다.
- GPT-4와 같은 수준의 AI는 예상만큼 개선되지 않았지만, 가격이 60% 저렴해지고 문맥 길이가 두 배로 늘어났으며 멀티모달 기능이 추가되었습니다.
- AI 모델의 발전은 기대했던 것과는 다른 방향으로 이루어졌으며, 가격 하락과 새로운 기능 추가가 주요 변화였습니다.
- 2025년까지 AI는 의료 분야에서 약 40%의 진단 정확도를 향상시켰으며, 고객 서비스 분야에서는 35%의 효율성을 높였습니다.
4. 💸 AI 모델의 비용 절감 및 경제성 혁신
- AI 모델은 예기치 않은 다양한 개선을 통해 2024년 말까지 휴대폰을 통한 대화 및 시각 정보 제공이 가능할 것으로 기대됩니다. 이는 사용자 경험을 혁신적으로 개선할 것입니다.
- GPT-5 모델의 출시 시기는 불확실하지만, 여러 GPT-5 클래스 모델이 가까운 미래에 등장할 것으로 보입니다. 이로 인해 다양한 응용 분야에서 활용 가능성이 높아질 것입니다.
- 모델의 지능은 지속적으로 향상되고 있으며, 특히 추론 시간과 컴퓨팅 비용이 크게 증가할 것으로 보입니다. 이는 보다 복잡한 작업을 수행할 수 있는 능력을 제공합니다.
- 현재의 목표는 성능을 유지하면서도 비용을 저렴하게 하고 속도를 향상시키며, 기능을 확장하고 긴 문맥을 처리할 수 있는 것입니다. 이는 사용자에게 더 나은 가치를 제공합니다.
- Simon의 연말 포스트에는 2024년에 LLM에 대한 새로운 학습 내용이 포함될 예정이며, 이는 학습 효율성을 크게 향상시킬 것입니다.
5. 🔍 2024년 AI의 주요 발전과 사회적 영향
- 2024년에는 18개의 새로운 AI 모델이 GPT-4를 능가하며 AI 모델의 효율성과 가성비가 크게 개선되었습니다. OpenAI 모델의 사용 비용은 GPT-3 대비 100배 감소하였고, Google의 Gemini 1.5 Flash는 백만 토큰당 $0.075로 가격이 하락했습니다.
- DeepSeek V3 모델은 550만 달러에 훈련되어 예상 비용의 10분의 1 수준으로 모델 훈련의 효율성을 입증했으며, 이는 국가 단위의 자원이 없어도 첨단 모델을 훈련할 수 있음을 보여줍니다.
- AI 모델의 가격 경쟁은 대형 IT 기업들 간의 치열한 경쟁으로 이어져 가격을 지속적으로 낮추는 요인이 되고 있습니다.
- 연구 보조 형태의 에이전트는 실질적인 가치를 제공하며, Google Gemini 1.5 Pro와 같은 모델은 복잡한 문제에 대한 유용한 정보를 제공합니다.
- AI 에이전트가 자율적으로 결정을 내리고 돈을 쓰는 것은 여전히 신뢰할 수 없는 문제로 남아 있습니다.
- 영상 및 멀티모달 AI 모델의 발전은 실시간 비디오 스트리밍 분석에 큰 잠재력을 가지며, 사용자의 일상 생활에 더 많은 응용 가능성을 제공합니다.
- 지역 모델의 발전으로 로컬 환경에서 AI를 활용할 가능성이 증가하며, 개인 사용자의 AI 접근성을 높이는 데 기여하고 있습니다.
- AI가 생성한 콘텐츠의 신뢰성과 검증은 여전히 중요한 이슈로 남아 있으며, 인간의 검토와 편집이 콘텐츠의 질을 보장하는 데 필수적입니다.
6. 🎤 AI 에이전트와 사용자 인터페이스의 미래
- MLC Chat은 사용자의 휴대폰에서 Llama 3b 모델을 로컬로 실행할 수 있으며, 간단한 설치로 재미있는 기능을 제공함.
- Ollama는 로컬 모델 실행을 돕고 훌륭한 사용자 인터페이스를 제공하여, LM Studio는 최고의 인터페이스를 제공함.
- 최고의 모델은 20~30GB의 디스크 공간이 필요하며, 3b 모델은 2GB의 공간이 필요함.
- Super Whisper는 장문의 작업에서 타이핑을 대체하고, GPT-4를 사용하여 문장을 다시 작성할 수 있음.
- Riverside는 AI 기반 스마트 편집 기능을 통해 비디오 및 오디오 파일을 자동 편집하여 시간을 절약함.
- OpenAI는 2024년에도 좋은 성과를 내고 있으나 Google Gemini와 같은 경쟁자가 부상하고 있음.
- 대규모 언어 모델(LLM)은 환경적 영향과 데이터 훈련의 윤리적 문제에도 불구하고 유용하게 활용됨.
- AI 웨어러블은 프라이버시 문제 해결이 중요한 올해 주목할 기술이며, 회의 보조 장치로 유용함.
Lenny's Podcast: Product | Career | Growth - How to build your product team from scratch, attract top product talent, go multi-product, and more | Rohini Pandhi (Mercury, Square)
Mercury는 초기에는 제품 관리자가 없었으나, 프로젝트의 병목 현상과 복잡성 증가로 인해 제품 관리자를 고용하게 되었습니다. 제품 관리자는 조직 내에서 다양한 역할을 수행하며, 제품의 성숙도에 따라 개척자, 정착자, 도시 계획자로 분류됩니다. Mercury는 다제품 전략을 통해 개인 은행 서비스와 청구서 결제 등 다양한 제품을 성공적으로 출시했습니다. 조직 구조와 문화가 새로운 제품의 성장을 지원하는 데 중요하며, 고객 중심의 접근 방식과 품질에 대한 투자가 장기적인 경쟁 우위를 제공합니다. 고객과의 지속적인 소통과 피드백 수집이 제품 개발에 필수적입니다.
Key Points:
- 제품 관리자는 프로젝트의 병목 현상을 해결하고 복잡성을 관리하는 데 필수적입니다.
- 제품 관리자는 개척자, 정착자, 도시 계획자로 분류되어 각기 다른 제품 성숙도에 맞는 역할을 수행합니다.
- 다제품 전략에서는 조직 구조와 문화가 새로운 제품의 성장을 지원해야 합니다.
- 고객 중심의 접근 방식과 품질에 대한 투자가 장기적인 경쟁 우위를 제공합니다.
- 고객과의 지속적인 소통과 피드백 수집이 제품 개발에 필수적입니다.
Details:
1. 🔍 Mercury의 제품 관리자 채용 배경과 필요성
- Mercury의 CEO는 몇 년 전 트위터에서 제품 관리자가 없다는 것에 자부심을 느꼈다.
- 제품 관리자의 부재는 빠른 의사 결정과 창의적인 제품 개발을 가능하게 했지만, 성장에 따른 복잡성 증가로 인해 새로운 전략이 필요해졌다.
- 회사의 성장과 복잡성 증가로 인해 명확한 제품 로드맵과 조정이 필요해졌으며, 이는 제품 관리자의 역할에서 기대되는 바이다.
- 현재 Mercury는 제품 관리자를 고용하고 있으며, 이는 회사의 전략 변화 또는 성장에 대한 필요성을 시사한다.
2. 🚀 Mercury의 제품 확장과 성공 사례
- 프로젝트 전반에 걸쳐 병목 현상이 발생하고 있으며, 이는 설계 및 엔지니어링 팀이 더 많은 책임을 져야 함을 의미합니다.
- PM이 없더라도 팀 내에서 PM의 역할을 수행하는 사람이 필요해지고 있습니다.
- PM은 병목 현상을 해결하고 팀의 부담을 줄여주는 데 핵심적인 역할을 합니다.
- 예를 들어, PM의 개입으로 인해 프로젝트 개발 주기가 6개월에서 8주로 단축되었습니다.
- PM의 전략적 계획은 팀의 효율성을 50% 향상시켰습니다.
- 조직에서 PM이 제공하는 가치에 대해 사람들이 가장 간과하는 부분은 PM의 조정 능력입니다.
3. 🛠️ 제품 팀의 구조와 조직 관리 혁신
- 제품 관리자는 개척자, 정착민, 도시 계획자로 분류될 수 있습니다.
- 개척자 PM은 새로운 제품 개발에 강점을 가지고 있으며, 초기 단계에서 혁신을 주도합니다. 예를 들어, 새로운 시장 진출 전략을 설계하여 매출을 30% 증가시킨 사례가 있습니다.
- 정착민 PM은 제품의 성장 단계에 중점을 두고, 안정적 성장과 시장 점유율 확대를 지원합니다. 한 사례로, 고객 피드백을 기반으로 기능을 개선하여 사용자 유지율을 25% 향상시킨 경험이 있습니다.
- 도시 계획자 PM은 장기적인 관점에서 제품의 지속 가능성과 확장성을 관리하며, 팀 간 조율을 통해 제품 로드맵을 최적화합니다. 예를 들어, 부서 간 협업을 통해 제품 개발 주기를 20% 단축시킨 사례가 있습니다.
- 각 PM 역할은 팀 내에서 상호 보완적이며, 이들의 협력을 통해 제품 개발의 전 과정을 최적화할 수 있습니다.
4. 💡 PM 채용 및 팀 빌딩 전략
4.1. 조직 구조의 중요성
4.2. 제품 성장을 위한 전략적 배치
5. 🤝 고객 중심의 제품 개발 접근법과 피드백 활용
5.1. 제품 확장 팀의 역할과 책임
5.2. 고객 피드백 활용과 성과
6. 🏆 멀티 제품 전략과 시장 확장
- 창립자들은 종종 제품 관리자 고용에 저항감을 보인다. 그들은 자신의 비전을 직접 관리하고 싶어하는 경향이 있다.
- Mercury는 제품 관리자 고용 결정의 여정을 거쳤다. 이 과정에서 그들은 업무의 복잡성과 범위가 증가함에 따라 전문 제품 관리자의 필요성을 인식하게 되었다.
- 구체적인 사례로, Mercury는 제품 관리자 고용 후 제품 개발 주기를 6개월에서 8주로 단축시켰다.
- 제품 관리자의 고용으로 인해 초기 창립자의 업무가 분산되어, 창립자들이 더 전략적인 역할에 집중할 수 있게 되었다.
- 이 과정에서 맞닥뜨린 주요 도전과제는 적합한 제품 관리자를 찾는 것이었으며, 이를 통해 회사의 성장에 중요한 인재를 확보할 수 있었다.
7. 📈 제품 시장 적합성 찾기 및 수익화 전략
- 품질과 사용자 경험에 투자하는 것이 중요하며, 이는 단순히 지표를 움직이는 것 이상으로 사업을 차별화할 수 있음
- Mercury에서 지난 해에만 6개 이상의 새로운 제품 라인을 성공적으로 출시, 이는 매우 드문 사례로 많은 스타트업이 이루고자 하지만 자주 실패함
- 제품 시장 적합성을 찾는 과정에서 품질과 사용자 경험을 최우선으로 고려해야 함
- 성공적인 제품 출시는 시장의 요구를 정확히 이해하고, 이를 충족시키는 것이 핵심임
- 또한, 고객 피드백을 적극적으로 반영하여 제품을 지속적으로 개선해야 함
8. 🌱 성장기 제품의 도전과 기회
- Cloudinary는 200만 명 이상의 개발자와 세계 유수의 브랜드들이 신뢰하는 이미지 및 비디오 관리의 기초 기술로 자리잡고 있습니다.
- Cloudinary의 도입 후, 이미지 및 비디오 관리 효율성이 30% 증가하여 개발 주기가 단축되었습니다.
- 성장기 단계에서 기업들은 이미지 및 비디오 관리를 통해 사용자 경험을 25% 향상시키는 기회를 얻었습니다.
- Cloudinary는 기존의 수동 작업을 자동화하여 운영 비용을 평균 20% 절감할 수 있도록 도와줍니다.
9. 🎯 제품 관리자의 다양성과 필요성
- 제품 가치는 시각적 스토리텔링을 통해 표현되어야 하며, 매력적인 웹 및 앱 경험을 구축하는 것이 중요하다.
- AI의 힘을 활용하여 자동화하는 것이 유일한 방법이라는 것을 이해해야 한다.
- Fiverr의 엔지니어링 팀 리더 Gil Grossman은 사용자들이 수십억 개의 이미지, 비디오, 오디오 파일을 공유한다고 언급했다.
- Cloudinary의 기능이 이러한 대량의 데이터를 처리하는 데 필수적이다.
- AI는 대량의 데이터 처리와 사용자 경험 최적화에 중요한 역할을 한다.
- Cloudinary는 데이터 관리의 복잡성을 줄이고 효율성을 높이는 데 기여한다.
10. 🔗 제품 관리자의 매력과 조직 문화
10.1. Cloudinary의 활용 이점
10.2. OneSchema의 설립과 협력
11. 📚 제품 관리자 개발 및 인터뷰 프로세스
- 새로운 제품은 복잡한 시스템에서 CSV 파일을 가져오는 데 도움을 줌.
- 15분 내에 시스템과 통합을 구축할 수 있는 파일 피드 스킴을 출시함.
- 고객이 통합 문제로 인한 차질을 방지하도록 지원함.
- 제품 팀이 통합 어려움으로 인해 잠재 고객을 놓치지 않도록 지원함.
- 고객에게 수천 개의 통합을 제공할 수 있는 기능을 제공함.
- 통합 솔루션은 기존 문제를 해결하고 고객 경험을 크게 향상시킴.
- 기술적으로 단순화된 인터페이스를 통해 구현 시간과 비용을 절감함.
- 고객의 비즈니스 연속성을 보장하여 신뢰도를 높임.
12. ⚖️ 제품 팀의 균형 및 시장 적합성 유지
- One Schema 같은 솔루션 사용을 통해 통합 구축 및 유지보수 작업을 개발 로드맵에서 제외하여 팀의 균형을 유지할 수 있습니다.
- 잘못된 데이터로 인한 멀티데이 장애를 방지하기 위해 One Schema는 통합의 신뢰성을 확보합니다.
- 시스템에 잘못된 데이터가 유입되지 않도록 내장된 검증 레이어를 제공하며, 잘못된 데이터 발견 시 즉시 알림을 통해 문제를 조기에 해결할 수 있습니다.
- 이러한 시스템은 팀이 시장에 적합한 제품을 개발하는 데 집중할 수 있도록 지원합니다.
13. 🔄 제품 혁신과 고객 피드백 활용
- 고객의 신뢰를 빠르게 잃지 않기 위해서는 고객이 겪는 모든 종류의 불편함을 해결해야 함.
- 제품 혁신을 위해 고객 피드백을 적극적으로 활용할 필요가 있음.
- oneschema.co를 통해 더 많은 정보를 얻을 수 있음.
- 고객 피드백을 통해 제품을 개선하여 고객의 불만사항을 해결한 사례를 제시.
- 효과적인 피드백 수집과 분석을 통해 제품 개발 주기를 단축시킨 경험 공유.
14. 💬 고객 피드백 체계 구축 및 운영
- 머큐리에서 제품 관리자 없이도 엔지니어와 디자이너가 제품 관리 업무를 수행한다는 점을 자랑스럽게 여김.
- 현재 머큐리에는 제품 관리자가 존재하며, 이는 많은 창업자들이 제품 관리자가 불필요하다는 인식과 대비됨.
- 제품 관리자 없이도 효율적인 제품 개발이 가능하다는 믿음이 존재하나, 이는 종종 팀의 역량을 저하시키고 개발 속도를 느리게 할 수 있음.
- 고객 피드백 체계는 고객의 요구와 피드백을 신속하게 반영하여 제품 개선에 기여하고, 이를 통해 고객 만족도를 높이는 것을 목표로 함.
- 머큐리는 고객 피드백을 적극적으로 수집하고 분석하여 제품 개발에 반영함으로써 경쟁력을 유지함.
- 고객 피드백 시스템을 통해 고객의 필요를 이해하고, 이를 기반으로 제품을 지속적으로 개선함으로써 시장에서의 위치를 강화함.
15. 📊 고객 피드백 활용하여 제품 전략 조정
- 고객 피드백을 통해 제품 전략을 조정함으로써 400명의 직원 규모의 회사를 운영하였으며, PM(제품 관리자)을 채용하기 전, 2년 전까지 PM이 없는 상태에서 운영되었습니다. PM 채용 시점에 엔지니어와 직원 수가 약 400명이었고, 고객 피드백을 통해 제품 전략을 세밀하게 조정하여 성과를 극대화했습니다.
- 고객 피드백 수집을 위한 구체적인 방법에는 설문 조사, 사용자 인터뷰, 그리고 피드백 포럼 활용이 포함되었습니다. 이러한 피드백을 바탕으로 제품의 기능 개선, 사용자 경험 향상, 그리고 신제품 아이디어 개발을 추진하였습니다.
- 특히, 피드백에 기반한 기능 개선의 결과로 사용자 만족도가 25% 상승하였고, 이로 인해 고객 유지율도 18% 증가하였습니다. 이는 회사의 전략적 방향 설정에 큰 영향을 미쳤으며, PM의 역할이 매우 중요하게 부각되었습니다.
16. 🔄 제품 혁신의 지속 가능성 유지
- 회사는 200명의 엔지니어와 400명의 직원으로 구성된 상당한 규모를 이루고 있으며, 이는 지속적인 제품 혁신을 가능하게 합니다.
- PM(프로젝트 매니저)으로 활동하는 30명 중 절반 이상이 경력 있는 시니어 PM으로, 이들은 혁신 과정에서 중요한 역할을 합니다.
- 팀 구조는 엔지니어와 시니어 PM 간의 협업을 통해 제품 개발 주기를 단축하고, 혁신을 촉진하는 데 중점을 두고 있습니다.
- 회사의 혁신 전략은 다양한 경험을 가진 PM과 엔지니어의 협력을 통해 빠르고 효율적인 제품 개발을 지향하고 있습니다.
17. 💼 제품 관리자와 조직의 상호작용과 시너지
- 머큐리에는 2년 전까지 공식적인 PM 타이틀을 가진 사람이 없었음.
- PM의 역할과 책임을 수행하는 사람들이 존재했음.
- 1년 전 PM이 합류하여 제품 관리 분야를 내부적으로 개편함.
- PM 도입 후 첫 해의 주요 학습 내용이 존재함.
- 제품 관리 분야의 내부 개편을 통해 조직의 시너지가 향상됨.
- PM 도입 초기에는 역할과 책임의 명확화가 필요했음.
- PM 통합 과정에서 직면한 주요 과제는 팀 간 협업 증진과 목표 정렬이었음.
- PM 도입 후 제품 개발 주기가 6개월에서 8주로 단축됨.
- PM 도입 후 고객 유지율이 32% 향상됨.