AI Explained - AGI: (gets close), Humans: ‘Who Gets to Own it?’
AI의 발전은 노동 시장과 경제에 큰 영향을 미칠 것으로 예상된다. AI가 노동을 대체할 가능성이 높아지면서, 자본이 노동보다 더 큰 힘을 가질 수 있다는 우려가 제기되고 있다. 예를 들어, OpenAI의 CEO Sam Altman은 AI가 세계의 부를 창출하고 이를 재분배할 수 있다고 언급했다. 그러나 이러한 부의 재분배가 어떻게 이루어질지는 불확실하다. 또한, AI의 발전은 국가 간 경제적 불균형을 초래할 수 있으며, 이는 사회적 불안정을 야기할 수 있다. Stanford의 연구에 따르면, 적은 비용으로도 AI 모델을 고도화할 수 있는 가능성이 제시되었으며, 이는 AI의 접근성을 높일 수 있다. 그러나 AI의 발전이 가져올 수 있는 사회적, 경제적 영향을 고려할 때, 조기 개입과 준비가 필요하다는 의견이 있다.
Key Points:
- AI는 노동을 대체하고 자본의 힘을 강화할 수 있다.
- AI 발전은 국가 간 경제적 불균형을 초래할 수 있다.
- 적은 비용으로 AI 모델을 고도화할 수 있는 가능성이 있다.
- AI의 발전에 따른 사회적 불안정을 방지하기 위한 조기 개입이 필요하다.
- AI의 부 재분배 방법은 아직 불확실하다.
Details:
1. 🧠 AI의 부상과 논란
- 미국 부통령은 AI가 노동자를 대체하지 않고 생산성을 향상시킬 것이라고 언급했으나, OpenAI의 CEO Sam Alman은 노동이 자본에 힘을 잃을 수 있다고 우려를 표명함. 이는 AI가 노동 시장에 미칠 잠재적 영향을 둘러싼 상반된 견해를 보여줌.
- Rand 연구소는 AI로 인한 직업 손실과 사회적 불안에 대한 준비가 되지 않았다고 경고하며, AI의 빠른 확산에 대한 사회적 대응의 필요성을 강조함.
- OpenAI의 통제권을 두고 Musk와 Microsoft가 Sam Alman과 경쟁 중이며, 이는 AI 기술의 상업적 및 정치적 통제에 대한 중요성을 부각시킴.
- Stanford 연구는 AI 모델의 성능을 $20만으로 최첨단 수준까지 끌어올릴 수 있다고 주장하며, 이는 AI 연구 개발의 비용 효율성을 시사함.
- Anthropic의 CEO Dario Amade는 AGI를 제어할 시간이 얼마 남지 않았다고 경고하며, AI의 발전 속도에 대한 우려를 표명함.
2. 📈 AGI의 정의와 발전
- AGI 시스템은 다양한 분야에서 인간 수준의 복잡한 문제를 해결할 수 있어야 합니다.
- O3 모델은 Codeforces ELO에서 175번째로 높은 순위를 기록했으며, 이는 인간 수준의 코딩 능력을 넘어섰음을 시사합니다.
- 일본에서는 내부적으로 50번째로 높은 점수를 기록한 경쟁자를 보유하고 있으며, 이는 모방 학습을 넘어선 성과입니다.
- 오픈AI의 심층 연구는 특정 진단을 제안하며, 이는 종종 전문가가 생각하지 못한 점을 발견할 수 있습니다.
- 03 모델은 약 20개의 소스를 검색하며, 05 모델은 500개의 소스를 검색할 수 있습니다.
- 화이트칼라 노동자들이 컴퓨터에서 수행하는 작업들은 강화 학습을 통해 모델에 가르칠 수 있으며, 이는 무한한 작업 학습을 가능하게 합니다.
- 모델은 모든 벤치마크에서 포화 상태에 도달하고 있으며, 평가가 병목 현상이 되고 있습니다.
- 현재 운영 시스템은 월 $200에 Pro 버전에서만 제공되며, 온라인 구매나 스프레드시트 작성과 같은 과제는 강화 학습을 통해 검증 가능성이 높습니다.
3. 💰 AI 투자와 경제적 가치
- AI 모델의 지능은 훈련 및 운영에 사용된 자원의 로그와 대략적으로 같음
- AI 지능이 선형적으로 증가할 때의 사회경제적 가치는 초지수적 증가를 나타냄
- 지능을 두 배로 늘릴 수 있다면 이는 네 배 이상의 가치를 가짐
- AI에 대한 투자 수익은 투자한 것의 10배를 돌려줄 수 있음
- OpenAI는 AGI를 통해 세계의 부를 포착하고 이를 재분배할 계획
- AGI가 부를 창출한다면 이를 어떻게 재분배할지는 명확하지 않음
- 100조 달러 규모의 경제적 가치를 창출할 가능성 있음
- 예를 들어, AI를 활용한 생산성 향상으로 인해 기업의 수익이 30% 증가함
- AI 기반 고객 분석 도입 후 고객 이탈률이 25% 감소함
- AI 기술이 적용된 제조업체의 생산 비용이 20% 절감됨
4. 🤝 소유권 싸움과 AGI의 사회적 영향
4.1. 소유권과 가치 평가의 대립
4.2. AGI의 사회적 영향
5. 🏭 AGI의 경제 및 사회적 변화 예측
5.1. AGI 도입 후 가격 변동 및 경제적 영향
5.2. AGI 도입 후 사회적 영향 및 적응
6. 🔍 AI 연구와 혁신의 경계
6.1. 🔍 OpenAI의 미션 변화와 경제적 영향
6.2. 🔍 AI 모델의 새로운 동향
7. 📊 AI의 권력과 국가 안보
- AI는 독재 정부에 의해 대규모 감시를 통해 인구를 통제하는 데 사용될 가능성이 있으며, 이는 개인 자유를 침해할 수 있습니다.
- RAND 보고서는 대규모 감시 외에도 AI가 국가 안보에 미치는 다양한 위협, 예를 들어 비전문가에게 대량 살상 무기를 개발할 수 있는 권한을 부여하는 가능성을 우려합니다.
- 미국은 AGI의 경제적 이익을 실현하는 데 준비가 부족하여 대규모 실업과 사회적 불안을 초래할 수 있으며, 이는 국가 안보에 직접적인 영향을 미칠 수 있습니다.
- AGI가 경제적 불평등을 심화시킬 경우, 이는 사회적 갈등을 유발할 수 있으며 국가의 안정성을 위협할 수 있습니다.
- 국제 협력 부족 시 AI 개발 경쟁은 군사적 갈등을 초래할 수 있으며, 이는 글로벌 안보에 부정적인 영향을 미칠 수 있습니다.
8. 🧪 스탠포드의 AI 실험과 결과
- 스탠포드는 20달러의 적은 비용으로 S1을 생성했으며, 이는 32억 개의 매개변수를 가진 quen 2.5 모델을 기반으로 함.
- 천 개의 질문 데이터로 작은 모델이 GPQ와 수학 과학 경쟁 수준에서 경쟁력 있는 성능을 발휘할 수 있었음.
- 모델이 멈추려고 할 때마다 'wait' 토큰을 추가하여 지속적으로 성능을 높였음.
- 수학 500 벤치마크에서 95% 이상의 성과를 내었으며, 이는 어려운 질문들에서의 성과임.
- GP QA 다이아몬드에서 60% 이상의 성과를 내었는데, 이는 해당 분야의 박사 수준과 거의 일치함.
- 59,000개의 어려운 질문에서 1,000개를 선택하여 모델을 미세 조정했으며, 이는 물리학 올림피아드, 천문학, AGI 평가 등을 포함함.
- 모델이 스스로의 출력을 검토하고 개선할 수 있도록 'wait' 명령을 반복적으로 사용함으로써 성능을 향상시켰음.
- 이러한 접근법은 모델이 다른 도메인에서 테스트되었을 때 상대적으로 낮은 성과를 보일 수 있음.
9. 🔮 미래의 AI와 사회 준비
- AI의 발전으로 자본과 노동 간의 힘의 균형이 깨질 수 있으며, 이를 해결하기 위해 조기 개입이 필요할 수 있음.
- OpenAI는 보편적 기본소득(UBI)에 대한 연구를 지원했으나, 결과는 혼재되어 있음. 그러나 UBI를 명시적으로 지지하지는 않음.
- AGI가 2~5년 내에 도래할 경우, 조기 개입은 지금 당장 필요할 것임.
- AI는 2026년 또는 2027년까지 데이터 센터에서 천재 국가가 될 가능성이 있으며, 늦어도 2030년 이전에는 실현될 것임.
- 정부는 대형 AI 연구소를 책임지게 하고 리스크를 측정하기 위한 충분한 조치를 취하지 않고 있음.
- 다음 국제 정상회의에서 AI 발전이 제기하는 글로벌 도전을 주요 의제로 다뤄야 함.
- AI의 급속한 발전은 예상보다 빠르게 이루어질 것이며, 이에 대한 준비가 필요함.