Microsoft, Azure Maia 100 및 Cobalt 100 칩 공개

 

 

Microsoft는 Ignite 컨퍼런스에서 처음으로 두 개의 사내 실리콘 칩인 Azure Maia 100 AI 가속기와 Azure Cobalt CPU를 공식 공개했습니다. 지난달에 보고한 바와 같이, 새로운 칩은 클라우드 서비스 및 AI 워크로드에 맞게 특별히 맞춤화된 맞춤형 프로세서를 설계하려는 Microsoft의 진출을 나타냅니다.

 

 

 

 

 

마이아 100 AI 가속기

Azure Maia 100은 Microsoft의 첫 번째 AI 가속기로서 대규모 AI 모델 교육 및 생성 AI 서비스 실행과 같은 집약적인 인공 지능 워크로드를 처리하도록 특별히 제작되었습니다.

 

Microsoft Azure Maia 100 AI Accelerator는 Microsoft 클라우드에서 대규모 언어 모델 훈련 및 추론을 위해 Microsoft가 최초로 설계한 것입니다.

 

 

Microsoft는 Bing 검색, GitHub Copilot 코딩 도우미 등 내부 AI 서비스와 Microsoft가 지원하는 AI 회사인 OpenAI가 만든 강력한 자연어 모델의 학습을 기반으로 Maia 100 칩을 개발했습니다. 

 

실제로 OpenAI는 Maia 100의 설계 과정에서 Microsoft와 긴밀히 협력하여 대규모 언어 모델에 맞게 칩 아키텍처를 최적화하는 데 귀중한 피드백을 제공했습니다.

 

 

Maia 100의 주요 특성은 다음과 같습니다.

• AI 계산의 속도와 효율성에 최적화된 1,050억 개의 트랜지스터.
• 훈련 및 추론을 가속화하기 위해 정밀도가 낮은 수학 형식을 지원합니다.
• 액체 냉각 "사이드킥" 시스템은 에너지 효율적인 데이터 센터 배포를 위해 더 높은 서버 밀도를 가능하게 합니다.
• Microsoft의 기존 데이터 센터 인프라에 원활하게 통합되도록 설계되었습니다.

 

Maia 100은 생성 AI 및 기타 최첨단 AI 워크로드를 위한 Azure의 제품을 강화할 것입니다. 

Microsoft는 ChatGPT와 같은 서비스를 뒷받침하는 GPT-3.5 Turbo와 같은 모델에서 칩이 이미 테스트되고 있다고 밝혔습니다.

Azure 코발트 CPU

 

Microsoft는 새로운 AI 가속기 외에도 클라우드 컴퓨팅을 위한 최초의 범용 ARM 기반 프로세서인 Azure Cobalt CPU를 공개했습니다.

 

Microsoft CEO Satya Nadella가 Microsoft Ignite 2023 무대에서 Cobalt 100을 들고 있습니다.

 

 

128코어 Cobalt CPU는 성능과 전력 효율성을 향상시키면서 광범위한 클라우드 워크로드를 실행하도록 맞춤화되었습니다. Microsoft는 Azure 데이터 센터에 이미 배포된 기존 ARM 칩에 비해 처리량이 40% 더 빠르다고 주장합니다.

 

Cobalt CPU의 주요 특징:

• 클라우드 최적화를 위한 맞춤형 ARM Neoverse 코어 설계.
• 코어당 성능 및 전력 소비를 세부적으로 제어합니다.
• 클라우드 네이티브 차세대 애플리케이션용으로 설계되었습니다.
• 데이터 센터의 탄소 배출량을 낮추기 위해 에너지 효율성이 향상되었습니다.

Microsoft는 현재 Microsoft Teams 및 Azure SQL Database와 같은 주요 Azure 서비스를 사용하여 Cobalt CPU를 테스트하고 있습니다. 2024년부터 고객이 코발트 기반 가상 머신을 사용할 수 있게 될 것으로 예상됩니다.

 

 

워싱턴 주 레드먼드에 있는 Microsoft 연구소의 시스템 수준 테스터는 Microsoft 데이터 센터 내에서 칩이 경험하게 될 조건을 모방합니다. 이 기계는 실제 조건에서 각 칩을 엄격하게 평가하여 성능 및 신뢰성 표준을 충족하는지 확인합니다.

 

 

새로운 자체 개발 칩을 통해 Microsoft는 소프트웨어 및 서비스에 맞게 맞춤형 실리콘을 맞춤 설계하여 성능을 최적화하는 것을 목표로 합니다. 회사는 하드웨어부터 소프트웨어, 인프라, 냉각 시스템까지 클라우드 스택의 각 계층을 조화롭게 공동 엔지니어링할 수 있습니다.

 

이러한 수직적 통합을 통해  Microsoft 클라우드는 가장 효율적으로 실행되는 동시에 고객에게 더 많은 인프라 선택권을 제공합니다. 회사는 AMD 및 NVIDIA와 같은 파트너의 제품을 통해 자체 실리콘을 계속 보완할 것입니다. 

그러나 마이크로소프트는 트랜지스터 수준까지 칩의 전문성을 강화함으로써 최적화를 다음 단계로 끌어올리기를 희망하고 있습니다.

Azure Maia와 Cobalt 공개는 Microsoft가 맞춤형 실리콘 엔지니어링에 힘쓰는 가운데 시작을 알리는 일제일 뿐입니다. 

클라우드, AI 및 칩 혁신의 최첨단을 유지하는 것을 목표로 이미 2세대 작업을 진행하고 있습니다.