메타가 자체 개발한 AI 칩을 데이터센터에 본격적으로 투입하며 AI 인프라 운영에 드는 비용과 전력 소비를 줄이는 데 속도를 낸다.
15일(현지시간) 블룸버그에 따르면 메타는 3세대 자체 AI 칩 ‘MTIA 450(코드명 아르케)’을 시험하고 있으며, 내년 상반기부터 데이터센터에 배치할 예정이다.
4세대 칩인 ‘MTIA 500(코드명 아스트리드)’은 한 달 뒤 설계를 완료하고, 2027년 말까지 데이터센터에 공급할 계획이다.
메타는 2023년부터 자체 칩 개발을 시작했다. 브로드컴과 설계 작업을 협력하고, 생산은 대만 TSMC에 맡기는 방식으로 칩을 개발해 왔다. AI 모델 구동에 필요한 추론용 칩을 직접 설계해 엔비디아 등 외부 공급업체 의존도를 낮추고, 와트당·달러당 처리 성능을 높이겠다는 전략이다.
자체 실리콘 프로그램을 이끄는 이준 송 엔지니어링 부사장은 각 세대의 칩이 기술적 위험을 조금씩 감수하면서도 이전보다 뛰어난 성능을 내도록 설계되고 있다고 설명했다. 특히 전력과 비용 대비 성능을 개선하는 데 중점을 두고 있다고 덧붙였다.
실제 성능을 확인하기 위한 검증도 진행되고 있다. TSMC가 생산한 MTIA 450 시제품 12개는 지난 9월 1일 메타에 도착했다. 테스트 결과를 사전 시뮬레이션과 비교한 성능 차이는 2~3% 수준에 불과했다. 메타는 칩을 받은 첫날부터 자체 AI 모델은 물론 딥시크와 알리바바의 AI 모델까지 구동하는 데 성공했다고 밝혔다.
메타는 앞으로 12개월 동안 1기가와트(GW) 이상의 자체 AI 칩을 데이터센터에 투입할 예정이다. AI 모델 추론 수요가 계속 증가하면 이후 배치 규모도 추가로 확대할 방침이다. 특히 메타 슈퍼인텔리전스 랩스(MSL)는 차세대 AI 모델의 요구사항을 칩 설계에 반영해 추론 효율을 높이고 있다.
메타는 당초 AI 모델의 학습과 추론을 모두 담당하는 ‘올림푸스’ 칩도 개발하려 했지만, 비용 문제 등을 고려해 프로젝트를 취소하고 추론용 칩 개발에 집중하기로 했다. 대규모 데이터센터에서 수GW 규모의 연산 능력을 운영하게 되면 칩 가격이 중요한 요소로 작용하기 때문이다.
현재 MTIA 계열 칩은 초저지연 추론보다는 범용 AI 모델 추론을 담당하는 주력 엔진으로 활용하는 데 초점을 맞추고 있다. 메타는 아스트리드 이후 후속 칩을 처리 속도와 처리량을 높이는 방향으로 개발하고, 광섬유 기술도 적용해 성능을 개선할 계획이다.