AI 답변을 만드는 기반 시설에 투자한다
마이크로소프트가 2026년 10월 12일 자체 AI 추론 시스템 Azure Maia 300을 발표했다. 2027년부터 Maia 계열을 수 기가와트 규모로 확대하고 자사 제품·서비스의 주력 추론 시스템으로 삼겠다는 계획이다. 새로운 챗봇 모델 발표가 아니라, 이미 학습된 모델이 답변을 생성하고 에이전트 작업을 수행하는 기반 시설에 관한 소식이다. 공식 발표
현재 운영 단계에 들어간 것은 Maia 200이다. Microsoft Copilot 등 자체 서비스에서 사용 중이며 GitHub Copilot과 Microsoft Foundry에는 연말까지 적용할 예정이라고 밝혔다. Maia 300의 실제 운영 배포는 2027년에 시작할 계획이므로, 두 세대의 발표와 이용 가능 시점을 구분해야 한다.
칩과 메모리, 네트워크, 냉각을 함께 설계해 AI 추론 효율을 높이려는 시스템 접근.
긴 문맥과 여러 단계의 작업을 겨냥한다
마이크로소프트는 Maia 300이 긴 문맥을 읽는 추론, 응답 지연에 민감한 대화, 여러 단계로 이어지는 에이전트 작업을 겨냥한다고 설명했다. 이런 작업은 연산 속도뿐 아니라 모델과 처리 중인 데이터를 메모리에서 얼마나 빠르게 가져오고 가속기 사이로 전달하는지도 중요하다.
Azure 기술 문서는 칩·소프트웨어·서버 랙·네트워크·데이터센터를 함께 설계했다고 설명한다. 여러 칩 조각으로 기능을 나누고, 연산에 필요한 데이터를 가까운 메모리에 배치하며, 낮은 정밀도 표현으로 데이터 이동량을 줄이는 접근이다. 아키텍처 상세
랙과 냉각도 성능의 일부가 된다
기술 문서에 따르면 Maia 300 랙은 가속기 96개를 167킬로와트 전력 범위 안에 구성한다. 랙 내부의 전기 연결과 랙 사이의 광 연결을 함께 사용하고, 가속기·스위치 등의 열을 처리하는 액체 냉각도 통합한다. 칩 하나의 연산 수치보다 설치·운영하는 시스템 전체의 효율을 강조하는 설계다.
편집팀은 이 접근이 AI 인프라 경쟁에서 전력과 냉각의 중요성을 보여준다고 본다. 같은 데이터센터에서도 전력·메모리·네트워크가 제한되면 가속기를 늘리는 것만으로 처리량이 비례해 늘지는 않는다. 실제 서비스에서의 효과를 보려면 장비의 최대 사양과 함께 작업 구성, 동시 요청, 응답 지연을 살펴야 한다.
‘40% 증가’와 ‘최대 7배’는 비교 기준이 다르다
마이크로소프트는 Maia 300이 주요 GPU 기반 시스템보다 메가와트당 처리 토큰을 40% 더 제공할 것으로 예상했다. 또 가속기 96개를 갖춘 전체 랙 구성에서는 Maia 200 대비 토큰 처리량이 최대 7배라고 제시했다. 40%는 회사의 기대치이고, 7배는 발표 자료에서 제시한 최대 랙 단위 비교치다. 둘 다 Microsoft의 자체 발표 수치다. Microsoft 발표 요약
40%는 전력 단위당 처리량, 7배는 이전 세대와 비교한 랙 단위 처리량을 가리킨다. 이를 칩 하나가 7배 빠르다거나 개인의 Copilot 답변이 7배 빨라진다는 의미로 바꿔 읽으면 안 된다. 동일한 모델·문맥 길이·요청량·응답 지연 조건에서 서비스 성능을 비교해야 효과를 판단할 수 있다는 것이 편집팀의 해석이다.
사용자 가격과 고객 제공 조건은 아직 별개다
이번 발표는 Microsoft 자체 서비스의 추론 인프라를 어떻게 운영하고 확대할지에 초점을 맞춘다. 고객이 Azure에서 Maia 300을 직접 선택하는 방식, 일반 제공 일정, 고객 대상 가격은 이 자료에서 확인되지 않는다. 인프라 효율 개선이 특정 AI 서비스의 요금 인하로 이어진다는 발표도 없다.
따라서 지금 도입을 검토하는 팀은 발표 수치만으로 비용 계획을 바꾸기보다 자신이 쓰는 서비스의 제공 조건을 확인해야 한다. 앞으로 공개될 실제 운영 결과와 사용 가능한 배포 옵션, 가격에 어떤 변화가 생기는지가 관전 포인트다.
자주 묻는 질문
Maia 300을 지금 사용할 수 있나?
실제 운영 배포는 2027년 시작 예정이라고 발표했다. 현재 운영 중인 Maia 200과 구분해야 하며, 고객이 Maia 300을 직접 선택할 수 있는 일반 제공 조건은 확인되지 않았다.
최대 7배라는 수치는 칩 하나의 속도인가?
가속기 96개를 갖춘 전체 랙에서 Maia 200과 비교한 토큰 처리량 수치다. 칩 하나의 성능이나 사용자가 체감하는 개별 응답 속도를 뜻하지 않는다.
Copilot이나 Azure 요금이 내려가나?
이번 발표에는 특정 서비스의 요금 인하 약속이 없다. 인프라의 처리 효율과 고객에게 적용되는 상품 가격은 따로 확인해야 한다.
Maia는 새로운 언어 모델인가?
언어 모델을 실행하는 추론 하드웨어·시스템 계열이다. 이 발표만으로 모델의 답변 품질이나 새 기능이 바뀌었다고 볼 수 없으며, 모델과 서비스의 업데이트는 별도로 살펴야 한다.
한눈에 정리
Microsoft는 Maia 200의 자체 서비스 운영을 바탕으로 Maia 300과 2027년 대규모 확대 계획을 공개했다. 칩뿐 아니라 메모리·네트워크·냉각을 함께 설계해 전력당 AI 처리량을 높이는 것이 핵심이다.
개발자와 기업은 회사의 성능 주장, 실제 운영 배포, 고객 이용 조건을 나눠 읽을 필요가 있다. 현재 쓰는 서비스의 성능과 비용을 기준으로 판단하고, Maia 300의 실제 운영 결과와 제공 조건이 나오는지 확인하는 편이 타당하다.