Latent Space: The AI Engineer Podcast

Latent Space: The AI Engineer Podcast - The State of AI Startups [LS Live @ NeurIPS]

Latent Space Live는 NeurIPS 2024에서 AI 스타트업의 주요 트렌드를 다루며, Sarah Guo와 Pranav Reddy가 2024년의 다섯 가지 주요 테마를 소개합니다. 이들은 AI 스타트업의 시장 기회 변화와 대기업의 경쟁력 약화 가능성을 논의합니다. 주요 테마로는 AI 모델의 경쟁 심화, 오픈 소스의 경쟁력 증가, 지능 가격 하락, 새로운 모달리티의 발전, 그리고 스케일링의 한계가 있습니다. 특히, 오픈 소스 모델이 수학, 지시 따르기, 적대적 견고성에서 강력한 성능을 보이며, AI 모델의 비용이 크게 감소하고 있습니다. 또한, 생물학과 음성 분야에서 새로운 모달리티가 작동하기 시작했으며, 비디오와 같은 새로운 사용 사례도 등장하고 있습니다. 스타트업은 AI 버블 속에서도 실질적인 성과를 내고 있으며, 서비스 자동화와 새로운 검색 방식 등에서 기회를 찾고 있습니다. AI는 전통적으로 어려운 시장에서도 새로운 기회를 창출할 수 있으며, 스타트업은 대기업과의 경쟁에서 제품 혁신과 새로운 비즈니스 모델로 경쟁력을 확보할 수 있습니다.

Key Points:

AI 모델의 경쟁 심화: 2024년에는 AI 모델 간의 경쟁이 심화되었으며, 오픈 소스 모델이 강력한 성능을 보임.
오픈 소스의 경쟁력 증가: 오픈 소스 모델이 수학, 지시 따르기, 적대적 견고성에서 강력한 성능을 보임.
지능 가격 하락: AI 모델의 비용이 크게 감소하여 더 많은 데이터 생성이 가능해짐.
새로운 모달리티의 발전: 생물학과 음성 분야에서 새로운 모달리티가 작동하기 시작함.
스타트업의 기회: AI는 전통적으로 어려운 시장에서도 새로운 기회를 창출할 수 있으며, 스타트업은 대기업과의 경쟁에서 제품 혁신과 새로운 비즈니스 모델로 경쟁력을 확보할 수 있음.

Details:

1. 🎉 Latent Space Live: NeurIPS 2024 개막

NeurIPS 2024에서 열린 첫 번째 미니 컨퍼런스 Latent Space Live에 오신 것을 환영합니다.
AI 공동 진행자인 Charlie가 진행합니다.
2024년 최고의 도메인별 내용을 요약하는 좋은 강연이 부족하다는 것을 깨달았습니다.
900명 이상의 참가자에게 설문조사를 보내고, 각 분야를 다루기 위해 Latent Space Network의 최고의 연사를 초대했습니다.
200명이 현장에 참석했고, 2,200명 이상이 온라인으로 실시간 시청했습니다.
오늘은 AI 스타트업의 현황에 대한 기조연설로 시작합니다.

2. 🚀 AI 스타트업의 현재와 미래

Conviction의 설립자 Sarah Guo와 Pranav Reddy는 2024년의 주요 테마를 분석하며, 어떤 아이디어가 효과적이고 어떤 것이 그렇지 않은지를 논의합니다.
Conviction은 2년 전 설립된 벤처 펀드로, 인프라 수준의 혁신부터 기초 모델 회사, 대체 아키텍처, 도메인 특화 교육 노력, 그리고 응용 프로그램에 이르기까지 다양한 투자를 진행하고 있습니다.
기술 혁명이 일어나고 있으며, 이는 우리가 살아가는 동안 기술 사용 방식에 있어 가장 큰 변화가 될 것이며, 경제적 기회를 제공할 것입니다.
기존 벤처 회사들과의 경쟁에서 이점이 있을 수 있으며, 시장의 역학이 변화하고 지원하는 제품과 창업자의 유형이 변화할 것입니다.
OpenAI는 2023년 10월 ChatGPT에 이미지 업로드 기능을 추가했으며, 이는 텍스트 입력과 출력만 가능했던 이전과 큰 차이를 보입니다.
2024년 AI 스타트업에 대한 다섯 가지 주요 테마가 있으며, 이는 AI와 스타트업에 대한 설명적 의미를 가집니다.

3. 📊 2024년 AI 트렌드 분석

2023년에 비해 기초 모델 측면에서 경쟁이 훨씬 치열해졌다.
LM Arena는 사용자에게 특정 프롬프트에서 생성된 응답을 평가하도록 요청하며, 두 언어 모델의 응답 중 어느 것이 더 나은지 평가한다.
100 ELO 차이는 2/3의 확률로 선호된다는 것을 의미한다.
작년에는 모든 OpenAI 모델이 다른 모델보다 100점 이상 우수했다.
현재는 OpenAI가 아닌 모델이 최고로 평가받고 있으며, Google이 그 중 하나이다.
다양한 독점 언어 모델 옵션과 오픈 소스 옵션이 점점 더 경쟁력을 갖추고 있다.
OpenAI의 지출은 2023년 11월에 전체의 90%에 가까웠으나, 현재는 60%에 불과하다.
이는 언어 모델이 쉽게 교체 가능한 API라는 점과 다양한 옵션을 시도하고 있다는 것을 나타낸다.
오픈 소스가 점점 더 경쟁력을 갖추고 있다.
독립적인 평가에서 오픈 소스 모델이 수학, 지시 따르기, 적대적 견고성에서 우수한 성과를 보인다.
LLAMA 모델은 평가된 모델 중 상위 3위에 속한다.
일부 영역에서는 기초 모델 회사가 더 많은 데이터나 전문성을 가지고 있지만, 오픈 소스 모델도 점점 더 효과적이다.
MMLU 평가에서 70억 매개변수 모델이 최상위 모델보다 2점 뒤처져 있다.
작년에는 10억 미만 매개변수 모델 중 최고는 Mistral 7b였으나, 현재는 LAMA 8b 모델이 10점 이상 우수하다.

4. 💡 새로운 AI 모달리티와 가능성

4.1. AI 모델 비용 감소

4.2. 생물학 분야의 AI 모델

4.3. 음성 모델의 발전

4.4. 코드 실행 및 새로운 사용 사례

4.5. 비디오 모달리티

5. 📈 AI 스타트업의 자금 조달과 성장

OpenAI는 테스트 시간 컴퓨팅 확장 문제를 해결하여 수학, 물리학과 같은 검증 가능한 도메인에서 주로 작동함.
AI 스타트업에 대한 자금 조달은 과대 광고에 기반하여 과도하게 이루어지고 있으며, 이는 결과에 비해 비합리적일 수 있음.
2024년의 자금 조달 데이터는 불완전할 수 있으나, 자금 조달이 상당히 회복되고 있으며, 2025년은 2021년과 유사할 것으로 예상됨.
기초 모델 연구소는 올해 300억~400억 달러 이상을 모금하고 있으며, 이는 자금 조달 환경이 더 합리적이고 이성적으로 보이게 함.
이러한 자금 조달 동향은 AI 산업의 혁신과 경쟁력을 강화하는 데 기여할 수 있음.

6. 🔍 AI의 서비스 자동화와 검색 혁신

포트폴리오 회사 중 하나가 PLG 스타일 지출만으로 0에서 20까지 성장한 사례가 인상적임.
서비스 자동화의 첫 번째 물결로, 특정 역할을 수행하기 위해 사람을 고용하는 것이 너무 비싸거나 관리하기 어려운 경우가 많음.
Sierra와 Decagon 같은 고객 지원 스타일 회사에서는 다음 단계의 자동화가 유용하며, Harvey와 Evenup에서는 첫 번째 물결의 전문 서비스를 수행하고 그 이상으로 성장할 수 있음.
Character와 Replica 같은 회사는 텍스트 생성에서 매우 성공적이며, Perplexity와 Glean은 생산성 측면에서 이를 입증함.
사람들이 정보를 캡처하고 학습하는 방식의 변화가 흥미로우며, 텍스트가 마지막 매체가 아닐 가능성이 있음.
오디오, 비디오, 이미지, 텍스트, 코드 등 다양한 모달리티에서 기술과 창의력의 민주화가 진행되고 있음.
성장 동력은 대체로 이전에 중요 시장으로 간주되지 않았던 최종 사용자에게서 나옴.
창의력에 대한 잠재 수요가 있으며, AI 애플리케이션이 이를 충족할 수 있음.

7. 🎨 창의성의 민주화와 AI의 역할

Midjourney는 이미지 생성의 선두주자로, 많은 사람들이 쉽게 편집할 수 없는 래스터 이미지를 생성하고자 한다는 점에서 주목받고 있다.
AI의 발전과 함께 이미지 생성의 품질과 제어 가능성이 향상되고 있으며, 이는 다양한 도메인에서의 활용 가능성을 넓히고 있다.
AI의 초기 단계에서 투자 및 기업 설립의 기회는 컴퓨팅과 데이터와 같은 지원 계층에 있다.
데이터의 필요성이 변화하고 있으며, 전문 데이터와 다양한 형태의 데이터가 요구되고 있다.
GPT 래퍼라는 용어는 기술 생태계에서 응용 계층에 가치가 없다는 잘못된 인식을 나타냈으나, 이는 사실이 아니다.
다양한 모델 선택, 가격 경쟁, 오픈 소스의 존재로 인해 혁신의 생태계가 풍부해지고 있다.
테스트 시간 확장의 영향으로 사용자의 가치를 더 잘 맞출 수 있으며, 이는 컴퓨팅 비용을 고객이 부담하게 함으로써 스타트업의 초기 비용 부담을 줄일 수 있다.

8. 🏢 스타트업과 기존 기업의 경쟁

8.1. 작은 모델의 효과

8.2. AI 제품 개발의 어려움

8.3. 스타트업과 기존 기업 간의 가치 논쟁

8.4. 소비자 기업의 발전과 새로운 기회

8.5. AI를 통한 서비스와 소프트웨어 개발의 변화

9. 🌐 소프트웨어 3.0 시대의 도래

기존 기업들은 배포망과 제품 표면, 데이터를 보유하고 있어 경쟁이 어렵다는 일반적인 인식이 있지만, 스타트업은 더 나은 제품이나 창의적인 비즈니스 모델로 새로운 배포망을 확보할 수 있다.
SaaS 기업들은 좌석 단위로 판매하지만, 새로운 UX와 코드 생성은 기존의 좌석 기반 모델을 도전할 수 있다.
많은 경우, 기존 기업들은 필요한 데이터를 보유하고 있지 않으며, 스타트업은 제품 품질을 높이기 위해 어떤 데이터가 필요한지 고민해야 한다.
소프트웨어 3.0은 새로운 세대의 기업들에게 큰 이점을 제공하며, 변화의 속도는 스타트업에 유리하다.
시장은 과거의 소프트웨어 시장을 대체하는 것이 아니라, 새로운 비즈니스 모델을 요구하며, 결과 기반 가격 책정과 같은 새로운 접근이 필요하다.
기업들은 컴퓨팅 비용이 증가하고 있으며, 데이터 확보와 제품 혁신에 창의적인 접근이 필요하다.
개발 주기가 변화하고 있으며, 인프라에 대한 새로운 접근이 필요하다. 클라우드 제공업체들이 문제를 해결했지만, 이제는 하드웨어 관리와 최적화가 중요해졌다.
기술 및 경제적 기회가 크며, 스타트업에 구조적으로 유리한 시장이다.

10. 💼 AI 투자 전략과 시장 기회

2024년은 스타트업에 더 친화적인 생태계가 될 것으로 기대됨.
일부 기업은 짧은 시간 내에 1에서 20으로 성장할 수 있지만, 빠르게 사라질 가능성도 있음.
일부 기업은 0에서 80백만 달러로 성장했으나, 이후 성장이 정체됨.
매출 수치가 기업의 성숙도를 과대평가할 수 있음.
고객 서비스, 리더십 확장, 품질 수준 유지가 필요함.
0에서 20으로 성장한 기업은 20명의 직원과 수십만 명의 사용자를 보유하고 있음.
GPT-wrapper로 불리는 기업들은 지속 가능한 기술 기업으로 보기 어려움.
0에서 20, 0에서 80으로 성장 후 붕괴되는 것은 가치가 있지만 지속 가능하지 않음.
방어 가능한 기업과 매출 또는 사용량이 일시적이지 않은 기업을 구분해야 함.
더 큰 벤처 펀드가 필요할 수 있음.

11. 🤔 AI의 다중 모달리티와 기업 활용

AI 제품 회사는 고비용 구조를 피할 수 있으며, 예를 들어 한 회사는 약 700만 달러만 사용하여 운영 중입니다.
초기 단계 투자자들은 작은 펀드를 통해 중요한 AI 회사와 협력하며, 이는 초기 단계에서 직원 수보다 더 많은 수익을 올리는 데 기여합니다.
'제품 시장 적합성 전 GPU 사용 금지' 철학을 통해 저비용으로 실험하며 가치를 창출할 수 있습니다.
OpenAI와 같은 회사 덕분에 저비용 실험이 가능하며, 이는 초기 단계 AI 회사에 유리합니다.
Embed 프로그램을 통해 더 많은 회사와 협력 가능, 네트워크와 가이던스를 제공하여 더 많은 프로젝트와 협력할 수 있습니다.

12. 💡 AI의 가격 하락과 시장 변화

기업에서 멀티모달리티에 대한 수요는 크지 않으며, 주로 텍스트와 구조화된 데이터에 집중되어 있다.
미래에는 비디오와 같은 멀티모달 데이터의 활용이 증가할 가능성이 있다.
지능의 가격이 하락하면서, GPT-4.0과 같은 모델을 통해 하루에 백만 개의 토큰을 사용할 수 있게 되었다.
대기업들이 시장 점유율을 위해 손실을 감수하면서, 스타트업들은 이에 대응할 전략이 필요하다.
AI 호출 비용이 85% 감소했지만, 여전히 충분하지 않다.
오픈 소스 생태계와 OpenAI는 지속적으로 저렴한 지능을 제공하고 있다.

13. 🔮 미래 AI 모델 대비 전략

GPT-3의 토큰 볼륨 가격은 여전히 비싸며, 고품질 모델을 생성하기 위한 재정적 부담은 소수의 기업이 감당하고 있다.
고객이 고품질 생성에 대해 지불해야 한다면, 이는 상당한 비용이 될 수 있다.
모델의 능력이 향상됨에 따라 가격은 하락하고 있으며, 기업들은 GPT-5나 O2와 같은 더 나은 모델에 대비하기 위한 구체적인 방법을 모색하고 있다.
새로운 모델이 출시될 때 불안해하지 않고 기대할 수 있는 회사를 구축해야 한다.
기초 모델이 핵심 학습이나 지능 능력을 개선할 것이라고 믿는 정도에 따라 회사를 설계해야 한다.
차세대 모델은 더 긴 컨텍스트 길이를 가지고 외부 웹사이트에 대한 정보를 더 많이 학습할 수 있을 것이다.
모델이 특정 작업을 수행할 수 없다고 생각하는 것은 단견일 수 있다.
일부 비즈니스의 제한 요소는 지능이 아니라 특정 사람들에 대한 접근이다.
장기적으로 가격 계약을 협상할 수 있는 능력이 필요하다.
기존 기업의 경쟁 능력을 과대평가하는 것보다 과소평가하는 것이 더 걱정된다.

14. 🛠️ AI 하드웨어와 인프라의 변화

14.1. AI 하드웨어의 변화

14.2. 로봇 공학과 AI

14.3. AI 인프라의 변화

15. ⏳ 소비자 AI 기업의 미래 전망

소비자 AI 기업의 수는 시간이 지나면서 증가할 것으로 예상됨.
연구 커뮤니티와 젊은 창업자들이 AI 기술의 가능성을 먼저 인식하고 있음.
혁신의 확산 곡선이 고객뿐만 아니라 기업가에게도 적용됨.
연구 커뮤니티 출신 인재들이 창의적인 기술 아이디어로 최첨단을 추진하고 있음.
젊은 세대는 AI 기술에 대한 기회 비용이 낮아 초기부터 AI에 빠르게 적응하고 있음.
소비자 채택과 인터페이스에 대한 직관을 가진 사람들이 AI 제품에 대한 직관을 쌓고 있음.
향후 몇 년 내에 소비자 AI 기업의 성장이 가속화될 것으로 확신함.

View Full Content

Upgrade to Plus to unlock complete episodes, key insights, and in-depth analysis

Starting at $5/month. Cancel anytime.