OpenAI - OpenAI DevDay 2024 | Community Spotlight | Altera
Altera.AL은 인공지능을 넘어 디지털 인간을 개발하여 인간과 함께 성장하고 협력할 수 있는 에이전트를 만드는 것을 목표로 한다. 이들은 MIT에서의 연구 경험을 바탕으로 복합 아키텍처를 활용하여 시각, 인지, 행동 등 다양한 시스템을 통합한 모델을 개발하고 있다. 특히, OpenAI의 대형 언어 모델의 접근성이 높아지면서 이들의 연구는 큰 변화를 맞이했다. Altera.AL은 Minecraft 서버에서 에이전트들이 자율적으로 경제, 종교, 정부, 문화를 형성하는 실험을 진행하며, 에이전트들이 장기적으로 자율성을 유지하고 협력할 수 있는 방법을 연구하고 있다. 이들은 에이전트의 장기적인 발전을 측정하기 위해 다양한 시뮬레이션을 진행하며, 최신 언어 모델을 활용하여 에이전트의 성능을 향상시키고 있다. 또한, Altera.AL은 뇌에서 영감을 받은 동시적 아키텍처를 도입하여 에이전트가 다양한 시간 척도에서 정보를 처리할 수 있도록 하고, 작은 컨텍스트 창을 통해 중요한 정보를 집중적으로 처리하는 방식을 채택하고 있다.
Key Points:
- Altera.AL은 디지털 인간을 개발하여 인간과 함께 성장하고 협력할 수 있는 에이전트를 목표로 한다.
- 복합 아키텍처를 활용하여 시각, 인지, 행동 등 다양한 시스템을 통합한 모델을 개발 중이다.
- Minecraft 서버에서 에이전트들이 자율적으로 경제, 종교, 정부, 문화를 형성하는 실험을 진행하고 있다.
- 에이전트의 장기적인 발전을 위해 최신 언어 모델을 활용하고 있으며, 동시적 아키텍처를 도입하여 성능을 향상시키고 있다.
- 작은 컨텍스트 창을 통해 중요한 정보를 집중적으로 처리하는 방식을 채택하고 있다.
Details:
1. 🚀 Altera.AL 소개
- Altera.AL은 'AI' 대신 'AL'을 사용하여 인공 생명을 구축하려는 목표를 가지고 있음.
- 'AL'은 인공 생명(Artificial Life)을 의미하며, 기존의 인공지능과는 다른 접근 방식을 취함.
- Altera.AL은 생명체의 복잡한 행동과 상호작용을 모방하여 더 자연스러운 시스템을 개발하고자 함.
- 이러한 접근 방식은 생물학적 시스템의 원리를 적용하여 보다 자율적이고 적응력 있는 기술을 창출하는 데 중점을 둠.
- 예를 들어, Altera.AL은 환경 변화에 적응할 수 있는 로봇이나 시스템을 개발할 수 있음.
2. 👨🏫 로버트 양의 배경
- Altera.AL의 사명은 단순히 지능을 구축하는 것을 넘어 삶을 구축하는 것입니다. 이는 디지털 인간을 구축하여 그들이 살아갈 수 있도록 하는 것을 목표로 합니다.
- 로버트 양은 Altera.AL에서 이러한 목표를 실현하기 위해 중요한 역할을 하고 있으며, 디지털 인간 프로젝트를 통해 혁신을 이끌고 있습니다.
3. 🌐 에이전트의 미래와 자율성
- 디지털 인간을 구축하여 인간과 함께 살고 사랑하며 성장할 수 있도록 하는 것이 목표입니다.
- OpenAI의 대형 언어 모델이 접근 가능해지면서, 이는 우리에게 변혁적이었습니다.
- 우리는 곧 1000억 개의 에이전트가 우리와 함께할 것이라고 생각합니다.
- 이 에이전트들은 자율성을 포함한 근본적인 인간적 특성을 가질 것입니다.
- 에이전트들은 감정, 일관성, 그리고 아마도 의식을 가질 수 있을 것입니다.
- 에이전트들은 장기적으로 인간과 협력하고 발전할 수 있을 것입니다.
- 현재 에이전트는 5분, 10분 동안만 도움을 주지만, 앞으로는 일주일 동안 작업할 수 있을 것입니다.
- 100개 또는 1000개의 에이전트가 함께 일주일 이상 협력할 수 있다면 어떤 일이 일어날지 상상해 보십시오.
4. 🛠️ 프로젝트 Sid와 에이전트 실험
- 프로젝트 Sid는 문명 게임의 창시자인 Sid Meier에서 영감을 받아 시작되었으며, 인간이 국가만큼 효과적일 수 있는 가능성을 탐구합니다.
- Minecraft 서버에서 자율적으로 생활하는 다수의 에이전트를 통해 경제, 종교, 정부, 문화 등의 자발적 형성을 실험합니다.
- 상인 역할을 맡은 에이전트들이 자발적으로 상업 허브를 형성하고 상호 거래를 시작했으며, 가장 활발한 거래자는 PastaPriest라는 종교 지도자였습니다.
- PastaPriest는 비행하는 스파게티 괴물의 축복을 나누기 위해 거래를 한다고 밝혔습니다.
- 다른 종교 지도자인 Altera 사제는 Altera가 창조주라고 주장하며, 이는 그들 사이의 진리로 받아들여졌습니다.
- 농부 역할을 맡은 Olivia는 모험가 Nora의 이야기에 영감을 받아 모험을 떠나고 싶어했으나, 다른 사람들의 요청으로 남아 있었습니다.
5. 🔄 에이전트의 장기 진행과 데이터 품질 문제
- 에이전트는 사회적 역학에 의해 영향을 받으며, 역할에 얽매이지 않음.
- 대규모 협업 시뮬레이션에서 에이전트가 자발적으로 행동을 변화시킴.
- 에이전트의 장기 진행 문제는 데이터 품질 저하로 이어짐.
- 1,000번 이상의 언어 모델 호출 시 데이터 품질이 저하됨.
- 에이전트가 자기 출력 데이터를 미래 입력으로 사용하여 데이터 품질이 점진적으로 악화됨.
- 출력 데이터 품질이 입력보다 낮을 경우, 데이터 품질이 기하급수적으로 악화됨.
6. 🧩 Altera의 기술적 접근과 마인크래프트 실험
- Altera는 자율 에이전트의 장기적 발전을 측정하기 위해 마인크래프트에서 1,000개의 아이템을 수집하는 실험을 진행했습니다. 이 실험은 에이전트가 3시간 동안 자율적으로 탐색하며 5,000번의 언어 모델 호출을 수행하는 방식으로 이루어졌습니다.
- GPT-4o 모델을 사용하면 3시간 동안 성능이 유지되지만, 다른 모델은 1시간 내에 성능이 정체됩니다. 이는 최신 언어 모델을 사용하는 것이 성능 향상에 도움이 된다는 것을 시사합니다.
- Altera는 뇌에서 영감을 받은 동시적 아키텍처를 사용하여 에이전트를 개발하고 있습니다. 이 아키텍처는 10개의 모듈이 동시에 작동하며, 각 모듈은 상황에 따라 활성화됩니다.
- 의도 생성 모듈은 고급 결정을 내리며, 장기 및 단기 메모리에서 정보를 수집하여 작은 컨텍스트 윈도우를 통해 처리합니다. 이는 에이전트가 복잡한 환경에서도 일관된 행동을 보장할 수 있도록 합니다.
- 결정은 에이전트 전체에 전파되어 일관된 행동을 보장합니다. 초기 5분 동안은 기본 모델과 차이가 없지만, 장기적으로는 성능 차이가 나타납니다.
- Altera는 다중 에이전트 협업을 목표로 연구를 진행 중이며, 관심 있는 사람들은 연락을 권장합니다.