엔비디아와의 협력을 통해 퍼플렉시티는 클라우드에 의존하지 않고 사용자의 기기 내에서 AI 에이전트를 실행시킬 수 있는 '포터블 컴퓨터(Portable Computer)'를 선보였다. 개인정보나 기업 비밀을 원격 서버로 보내지 않으면서도 문서 분석, 코드 작업, 데이터 처리 같은 고난도 업무를 처리할 수 있도록 설계된 점이 주요 특징이다.
25일(현지시간) 퍼플렉시티는 자신의 에이전트형 AI 플랫폼 '퍼플렉시티 컴퓨터'를 로컬 환경에 맞춰 구현한 '포터블 컴퓨터'를 발표했다.
에이전트 오케스트레이터, 플래너, 도구 라우터, 스케줄러, 로컬 검색 인덱스, 추론 엔진, 보안 샌드박스 등 여러 요소를 통합 시스템으로 구성하여, 사용자들이 AI 모델과 다양한 도구를 따로 설치하고 연결하는 번거로움을 덜어냈다.
처음에는 엔비디아의 데스크톱 AI 슈퍼컴퓨터 'DGX 스파크'에서 이용 가능하며, 향후 엔비디아 RTX GPU가 탑재된 리눅스 PC로 대응 범위를 넓혀나갈 계획이다. DGX 스파크는 그레이스 블랙웰 GB10 플랫폼 기반으로 20코어 Arm CPU, 엔비디아 GPU, 128기가바이트(GB)의 통합 메모리를 탑재하고 있다. 리눅스에서 우선 지원되며 윈도 버전은 9월에 출시될 예정이다.
구동에는 '큐원 3.8 27B'와 퍼플렉시티가 직접 추가로 학습시킨 'PPLX 27B' 모델이 제공된다. 엔비디아의 '네모트론 3.5 라이트닝'도 추가로 지원할 계획이다. 또한 사용자가 자신의 모델이나 추론 서버를 직접 연결할 수도 있도록 지원한다.
포터블 컴퓨터의 중심은 '로컬 우선(local-first)' 아키텍처에 있다. 사용자의 파일, 코드, 문서 같은 것들을 분석하는 작업은 기본적으로 기기 내부에서 진행되며, 로컬 모델이 처리한 업무에 대해서는 별도의 토큰 비용이 부과되지 않는다. 이는 기업들이 대규모 문서 분석이나 코드 리뷰처럼 오래 걸리는 에이전트 작업의 지출을 낮출 수 있다는 의미다.
보안도 큰 초점이다. 코드와 도구의 실행은 운영체제 단계의 격리된 샌드박스 내에서 일어나며, 파일과 연관된 응용 프로그램에 대한 접근도 제한된다. 만약 샌드박스가 정상 작동하지 않으면, 보안 메커니즘을 빠져나가 실행하는 대신 도구 사용을 완전히 중지하도록 설계되어 있다.
그러나 오로지 로컬 실행만을 고수하는 것은 아니다. 실시간 웹 검색이나 고도의 분석이 필요한 경우, 사용자의 동의 하에 특정 작업을 클라우드로 넘길 수 있다. 이 경우에도 기기 외부로 나갈 정보를 미리 확인한 후 승인받도록 했다.
이렇게 함으로써 15개를 넘는 클라우드 프론티어 모델들을 활용할 수 있으며, 원격 모델에는 로컬 파일이나 도구에 대한 직접 접근권을 부여하지 않음으로써 민감한 정보 유출을 방지한다.
구글 드라이브, 지메일, 슬랙, 깃허브 등의 외부 업무용 서비스와도 연결 가능하다. 예를 들어 로컬에서 깃허브의 이슈와 지메일 버그 리포트를 분석한 후 긴급도가 높은 항목과 담당자를 정리하여 슬랙으로 보내는 작업을 자동으로 처리할 수 있다.
퍼플렉시티는 자체 평가를 바탕으로 성능을 입증했다. 53개의 과제로 이루어진 '로컬 지식 업무 벤치'에서 DGX 스파크로 실행한 큐원 3.8 27B 기반 포터블 컴퓨터는 82.6% 성과를 얻었고, PPLX 27B는 85.4%까지 올랐다. '브라우징컴프(BrowseComp)' 테스트에선 66.7% 정확성을 기록했으며 비교 대상인 오픈소스 에이전트보다 더 적은 시간과 토큰을 소비했다.
특히 로컬 실행과 클라우드 추론을 함께 활용하는 하이브리드 접근 방식을 강조했다. '터미널 벤치 2.1'에서 완전히 로컬에서만 실행했을 땐 59.6% 점수였으나, 클라우드 모델의 지원을 받도록 설정하니 73.0%로 상승했다. 퍼플렉시티는 이를 통해 클라우드 프론티어 모델의 능력을 부분적으로 활용하면서도 비용 절감과 데이터 흐름 최소화가 가능하다고 밝혔다.
이번 발표는 두 회사 모두에게 전략적 가치가 상당하다. 퍼플렉시티는 로컬 AI에 기반해 기업용 시장을 개척할 수 있으며, 엔비디아는 DGX 스파크와 RTX GPU를 실제 업무 중심의 AI 에이전트 플랫폼과 결합하는 기회를 얻는다.
향후 퍼플렉시티는 로컬 모델과 에이전트 하네스를 계속 함께 고도화하여, 개인 소유의 PC에서도 클라우드 수준의 정교한 AI 작업을 처리할 수 있는 생태계로 확장해 나갈 방침이다.