AI Explained - Nothing Much Happens in AI, Then Everything Does All At Once
최근 100시간 동안 AI 분야에서 발생한 9가지 주요 개발 사항을 다루며, OpenAI의 Operator와 중국의 Deep Seek R1 모델을 중심으로 논의한다. OpenAI Operator는 자동화에 한계가 있으며, 보안 문제와 사용성 문제를 지적한다. Deep Seek R1은 서구의 AI 모델과 경쟁할 수 있는 성능을 보이며, 저렴한 비용으로 주목받고 있다. 이 모델은 강화 학습을 통해 발전했으며, AI의 안전성과 관련된 연구에 중요한 자료를 제공한다. 또한, AI의 발전이 사회에 미칠 영향과 관련된 다양한 의견을 소개한다.
Key Points:
- OpenAI Operator는 자동화에 한계가 있으며, 반복적인 오류와 보안 문제를 가지고 있다.
- Deep Seek R1은 서구의 AI 모델과 경쟁할 수 있는 성능을 보이며, 저렴한 비용으로 주목받고 있다.
- AI 발전은 사회적 변화와 노동 비용 절감에 영향을 미칠 것으로 예상된다.
- AI 모델의 안전성과 관련된 연구가 중요하며, Deep Seek R1은 이에 대한 자료를 제공한다.
- AI의 발전이 사회에 미칠 영향에 대한 다양한 의견이 존재한다.
Details:
1. 📈 AI 뉴스 업데이트: 최근 100시간의 발전
- OpenAI는 최근 100시간 동안 9개의 주요 발전을 이루었다고 보고됨. 이는 AI 기술의 급속한 진보를 시사하며, 다양한 산업에 대한 영향을 미칠 것으로 예상됨.
- OpenAI의 Operator는 직업 자동화에 대한 우려를 불러일으킬 만큼 성능이 향상되어, 직업 시장에 대한 잠재적 변화를 예고함.
- 미국 정부는 AI 발전을 위한 막대한 자금을 투자하며, 이는 국가 경쟁력을 강화하고 산업 혁신을 가속화하는 전략적 움직임으로 해석됨.
- 중국은 Deep Seek라는 기술을 통해 AI 분야에서 서구와의 격차를 줄이며, 글로벌 AI 경쟁에서의 입지를 강화하고 있음.
- AI 발전에 대한 대중의 관심이 높아지고 있으며, 이는 AI 기술의 사회적 수용도와 윤리적 논의의 증가로 이어질 가능성이 큼.
2. 🤖 오픈AI 운영자 및 기능성 한계
- 오픈AI는 자동화에 한계가 있으며, 특정 직무를 완전히 자동화하지 못한다. 이는 모델이 종종 루프에 갇혀 동일한 기본 계획을 반복하기 때문이다.
- 모델의 자체 제한 사항으로 인해 수행할 수 없는 작업이 많으며, 사용자 개입이 요구된다. 예를 들어, 사용자는 수동으로 캡차를 해결해야 한다.
- 모델은 이메일을 잘못된 수신자에게 보내거나 잘못된 날짜로 알림을 설정하는 등의 되돌릴 수 없는 실수를 저지를 수 있다.
- 은행 거래 수행 요청에 대해 94%의 비율로 거부 반응을 보이며, 이는 신뢰성 문제가 있음을 시사한다.
- 체인 오브 생각(Chain of Thought) 접근 방식을 사용하여 각 단계에서의 행동을 모니터링하고 결정함으로써 모델의 성능을 개선하려고 한다.
3. 🎵 안드로이드용 Perplexity Assistant 출시
- Perplexity Assistant는 Siri보다 더 스마트한 기능을 통해 사용자가 특정 노래나 YouTube 비디오를 쉽게 재생할 수 있게 합니다. 예를 들어, 사용자는 '이 노래 틀어줘'와 같은 명령을 통해 즉시 음악을 들을 수 있습니다.
- 하지만 '최신 YouTube 비디오 재생' 같은 더 복잡한 명령어를 이해하는 데에는 아직 개선이 필요합니다. 이러한 점에서 사용자는 때때로 예상치 못한 결과를 마주할 수 있습니다.
4. 🌌 프로젝트 스타게이트: AI에 대한 대규모 투자
4.1. 프로젝트 스타게이트 투자 분석
4.2. AI 기술 및 경제적 영향
4.3. 프로젝트 스타게이트의 사회적 및 윤리적 고려사항
5. 🤔 Anthropic의 신형 모델에 대한 소문
- Anthropic은 현재 O3 모델보다 뛰어난 신형 모델을 개발 중이라는 소문이 있음. O3 모델은 수학 및 코딩에서 뛰어난 성능을 보이며 벤치마크를 깬 것으로 유명함.
- 신뢰할 수 있는 출처에 따르면, 새로운 모델은 O3의 기능을 넘어서는 개선이 이루어졌다고 전해짐. 이는 Anthropic의 기술적 우위를 강화할 가능성을 시사함.
- 이러한 모델의 발전은 AI 업계 전반에 걸쳐 경쟁력을 재정의할 수 있는 잠재력을 지님.
6. 🇨🇳 중국의 DeepSeek R1: 서구에 도전
6.1. DeepSeek R1의 경쟁력과 비용 효율성
6.2. 기술 및 데이터 공개의 한계
6.3. 중국 AI 혁신의 촉매제
6.4. DeepSeek R1의 성과와 안전성 연구
7. 🔍 DeepSeek R1의 트레이닝 방법론
- DeepSeek R1 모델은 기존 DeepSeek V3 모델을 기반으로 장문 사고 기법을 사용하여 초기 데이터를 구축합니다. 초기 데이터 구축 단계는 모델의 성능 향상에 중요한 역할을 합니다.
- 강화 학습 단계에서는 수학 및 코딩과 같은 검증 가능한 도메인에서 올바른 결과를 얻을 때마다 모델에 보상을 줌으로써 학습을 유도합니다. 이는 모델의 정확성을 높이는 데 기여합니다.
- 미세 조정 단계에서는 포맷에 맞는 올바른 출력물을 생성하도록 학습하며, 먼저 태그를 생각한 후 답변하는 방식으로 포맷을 유지합니다. 이 방법은 모델의 일관성을 유지하는 데 도움을 줍니다.
- 강화 학습과 미세 조정 단계를 반복하면서 사실성 및 자기 인지와 같은 넓은 도메인으로 확장합니다. 이를 통해 모델은 다양한 상황에서의 적용 가능성을 높입니다.
- 모델이 스스로 더 긴 응답을 생성하여 더 나은 결과를 얻도록 학습하며, 이는 연구자들이 입력한 것이 아닌 모델이 스스로 학습한 것입니다. 이 과정은 모델의 자율 학습 능력을 강화합니다.
- 모델은 응답 중간에 '잠깐만요'라고 말하며 생각을 바꾸는 등의 자기 수정 능력을 보여주며, 이는 모델의 자기 인식 능력을 강화합니다.
8. 🧠 AI 모델의 학습 및 보상 체계 변화
- AI 모델의 보상 체계가 결과 기반으로 전환되면서, 개별 추론 단계 검증을 생략하고 최종 답변만 평가하는 방식이 일반화됨. 이는 계산 부담을 줄이고 보상 해킹을 방지하는 데 유리함.
- Sebastian Bck에 따르면, 모델이 명시적 하드코딩 없이 강화 학습을 통해 모든 것을 학습하는 것이 목표임.
- 프로세스 보상에서 결과 보상으로의 전환은 비효율적 행동을 유발할 수 있는 가능성이 있지만, 최적화된 결과를 얻기 위한 효율성을 높임.
- 언어 혼합 사례는 영어가 항상 최적의 추론 언어가 아님을 시사하며, 이는 강화 학습의 성공을 의미할 수 있음.
9. ⏳ AGI 예측과 모델의 한계
9.1. AGI 예측
9.2. 모델의 한계
10. 📚 인간의 마지막 시험? 새로운 벤치마크 평가
- 딥 시크 R1 모델이 새로운 벤치마크에서 99.4%의 성과를 기록했지만, 벤치마크 제작 과정의 한계로 인해 완전한 정확성을 보장하기 어렵습니다.
- 이 벤치마크는 01 모델이 어려움을 겪는 질문을 진단하기 위해 여러 모델을 테스트하면서 만들어졌으며, 이는 딥 시크 R1이 출시되기 전의 모델들로 반복 테스트가 불가능했음을 의미합니다.
- 주로 난해한 지식을 테스트하는 이 벤치마크는 벌새 해부학의 세부사항 같은 질문을 포함하고 있습니다.
- 벤치마크에서 90% 이상의 성과를 보이는 것은 인상적이지만, 에이전시 벤치마크에서 90%를 기록하는 것만큼의 영향력을 보이지는 않습니다.
- 원격으로 작업을 수행할 수 있는 에이전트는 세계 경제에 큰 혁신을 가져올 수 있습니다.