현황: 추론 인프라의 구조적 한계

짐렛랩스가 시리즈B에서 3억 달러(약 4038억원)를 조달해 기업가치 30억 달러를 인정받았다. 앤드리슨호로위츠가 주도한 이번 투자에는 ARM홀딩스, 마이크로소프트 벤처캐피털(M12), 삼성벤처스 등이 참여했으며, 누적 투자액은 3억9200만 달러에 달한다.

투자가 집중되는 배경은 AI 추론 인프라의 한계에 있다. GPU 중심의 현 구조에서는 각 처리 단계마다 필요한 하드웨어 특성이 다르기 때문이다.

AI 추론의 단계별 특성

AI 추론은 두 가지 핵심 단계로 나뉜다.

  • 프리필(Prefill): 입력 데이터를 한꺼번에 처리. 높은 연산 성능 요구
  • 디코드(Decode): 토큰을 순차 생성. 메모리 대역폭이 중요

AI 에이전트는 반복적인 모델 호출과 외부 도구 사용까지 더해져 작업이 복잡해진다. 하나의 칩만으로 모든 단계를 처리하면 각 구간에서 비효율이 발생한다.

멀티 실리콘 기술의 해법

2023년 설립된 짐렛랩스는 2025년 10월 스텔스 모드를 벗어났다. 핵심 기술인 멀티 실리콘 추론 클라우드는 하나의 AI 워크로드를 여러 단계로 나눠 각 작업에 최적의 하드웨어(GPU·CPU·전용 가속기)에 배분한다.

새로운 칩을 직접 설계하지 않고 기존 반도체들을 하나의 인프라로 연결한 뒤, 컴파일러와 런타임 소프트웨어로 작업을 분산하는 방식이다.

성능 향상의 규모

짐렛랩스에 따르면:

  • 동일한 비용·전력 조건에서 AI 워크로드 성능을 3~10배 향상
  • 같은 전력 범위에서 처리량과 상호작용 성능을 최대 10배 개선

이는 전력 비용이 급증하는 현 시점에 중요한 의미를 갖는다. 같은 성능을 더 낮은 전력으로 달성하는 것이 가능해진다.

시장 반응과 사업 확장

짐렛랩스는 사업 범위를 추론 소프트웨어에서 데이터센터 인프라 구축으로 확대하고 있다. 이기종 반도체 운용에는 전력 밀도, 네트워크, 냉각 조건 등을 통합 고려해야 하기 때문이다.

최근 성과는:

  • 3월 이후 수십억 달러 규모 계약 확보
  • 관리 용량을 수백MW 수준으로 확대

글로벌 클라우드 기업과 데이터센터 운영사들의 대규모 수요가 증명하고 있다.

시장 구도의 변곡점

현재 AI 추론 시장은 GPU 중심에서 벗어나는 변곡점에 있다. 삼성벤처스를 포함한 글로벌 기업들의 투자는 멀티 실리콘 방식이 차세대 AI 인프라의 핵심이라는 판단을 반영한다.

특히 삼성의 참여는 의미가 있다. 반도체 설계·제조 경험이 풍부한 삼성이 추론 소프트웨어에 베팅한다는 것은, 하드웨어 다양화 전략에 소프트웨어 레이어가 필수적임을 인식하고 있다는 신호다.

결론

AI 추론은 이제 GPU를 단순히 늘리는 방식을 벗어나고 있다. 에너지 효율, 처리 비용, 응답 속도를 동시에 개선해야 하는 복합적 요구가 생겼기 때문이다. 짐렛랩스의 멀티 실리콘 기술은 이러한 필요에 대한 구체적 해법을 제시하며, 글로벌 투자 집중은 시장의 합의를 반영한다.

다음 단계:
- 데이터센터 운영진이라면 추론 워크로드 특성 분석을 통해 하드웨어 구성 최적화 가능성을 점검할 필요가 있다.
- AI 인프라 투자를 계획하는 기업이라면 단순 GPU 추가보다 워크로드별 맞춤형 하드웨어 조합의 비용 대비 성능을 비교 검토해야 한다.
- 반도체 및 소프트웨어 기업들은 멀티 실리콘 통합 기술의 필요성을 인식하고 생태계 구축에 선제적으로 대응할 때다.

  • #AI추론
  • #짐렛랩스
  • #GPU
  • #멀티실리콘
  • #데이터센터