최근 인공지능은 클라우드 중심의 처리 방식에서 벗어나 사용자의 기기 내에서 직접 데이터를 다루는 온디바이스 방식으로 빠르게 확산되고 있다. 특히 기업의 업무 환경에서는 AI의 성능 우수성과 개인정보 보호 사이의 균형을 맞춰야 하므로, 클라우드 AI와 로컬 AI를 함께 활용하는 하이브리드 접근법이 새로운 해결책으로 떠올랐다.
퍼플렉시티는 1일(현지시간) 강력한 클라우드 기반 추론 능력과 사용자 기기의 보안성을 결합한 '하이브리드 컴퓨팅'을 맥(Mac)용으로 출시했다.
고성능의 첨단 AI 모델은 클라우드에서 웹 검색, 복잡한 문제 분석, 미래 계획 수립 같은 작업을 맡고, 외부 유출이 허용되지 않는 개인정보나 기업 기밀은 맥에 설치된 로컬 AI가 기기 내부에서 처리하는 방식이다.
퍼플렉시티는 자체 에이전트 플랫폼인 '퍼플렉시티 컴퓨터(Perplexity Computer)'에 하이브리드 컴퓨팅 기능을 통합했다. 종래에는 클라우드 AI 또는 로컬 AI 중 하나를 선택해야 했으나, 새로운 방식에서는 하나의 작업 과정 중에 AI가 상황에 맞춰 클라우드와 로컬 환경을 오가며 처리한다. 사용자가 별도로 지시사항을 나눠 입력하거나 데이터를 직접 이동시키지 않아도 퍼플렉시티 컴퓨터가 전체 절차를 관리한다.
시스템의 중심을 이루는 것은 맥에서 작동하는 '프라이버시 게이트(Privacy Gate)'다. 기기 내 분류 체계가 이름, 주소, 계좌 정보, 비밀번호, 정부 발급 신분증 데이터, 각종 기밀 사항 등 민감한 정보를 식별하고, 이러한 정보가 클라우드로 전달되지 않도록 제어한다. 민감한 정보는 기기에 보관하거나 일부를 가린 후 클라우드 AI에 보낼 수 있으며, 필요시 사용자의 승인을 받거나 작업을 차단할 수도 있다.
클라우드와 로컬 환경은 각각의 장점에 따라 업무를 분담한다. 클라우드의 첨단 모델은 웹 검색, 장기 계획 수립, 고도의 분석 업무를 수행하고, 맥의 로컬 모델은 개인 파일, 민감한 정보, 기기에서 직접 처리해야 하는 작업들을 담당한다.
이러한 협력 구조는 금융 업무에도 활용된다. 투자 담당자는 클라우드 AI로 기업의 공개 재무 자료와 시장 정보를 조사하는 동시에 로컬 AI로 기밀 투자자 정보와 비공개 재무 내용을 분석할 수 있다. 클라우드와 로컬에서 나온 결과를 하나의 업무 흐름으로 연결하므로, 기존처럼 현지 자료와 클라우드 검색 결과를 사람이 일일이 종합할 필요가 줄어든다.
서비스 출시 시점에 제공되는 로컬 모델은 구글의 '젬마 4 E4B', 알리바바의 '큐원3.6 35B-A3B', 퍼플렉시티의 자체 후학습 로컬 모델 등 세 가지다. 특히 로컬에서 실행되는 모델은 데이터 처리 과정에서 외부 클라우드로 정보를 보내지 않는다. 로컬 추론에 소비된 토큰에 대해서는 별도의 클라우드 이용료가 발생하지 않으며, 사용자는 자신의 맥 하드웨어와 전력을 이용해 AI 작업을 수행한다.
하이브리드 컴퓨팅은 애플 실리콘 기반 맥의 통합 메모리와 처리 능력을 활용한다. 애플 실리콘을 탑재하고 맥OS 15 이상을 실행하는 맥 중에서 통합 메모리 24기가바이트(GB) 이상을 보유한 기기에서 사용할 수 있다. 더 높은 성능의 로컬 모델을 사용해야 한다면 맥 미니 등을 전용 서버처럼 항상 켜두고 아이폰에서 원격으로 퍼플렉시티 컴퓨터에 접속하는 방법도 가능하다.
기업 사용자를 위한 보안 관리 기능도 포함되었다. 퍼플렉시티 엔터프라이즈 관리자는 조직 차원의 민감정보 처리 정책을 수립해 특정 정보는 반드시 로컬에만 유지하거나, 클라우드 전송 전에 정보를 마스킹하거나, 사용자 인증을 거치도록 설정할 수 있다. 기기 외부로 나간 정보가 무엇인지도 추적할 수 있어 법률, 의료, 금융 등 민감한 정보를 다루는 기업을 염두에 두고 설계되었다.
퍼플렉시티는 최근 로컬 AI 범위를 적극적으로 넓혀가고 있다. 앞서 엔비디아의 'DGX 스파크(DGX Spark)' 기반으로 기기에서 먼저 작업을 진행하고 필요할 때만 클라우드 AI를 활용하는 로컬 중심형 '포터블 컴퓨터(Portable Computer)'를 출시한 바 있다.
이번 맥용 하이브리드 컴퓨팅은 이와는 반대의 구조로, 클라우드에서 작업을 시작한 뒤 민감한 내용을 로컬 환경으로 내려보내는 '클라우드 중심' 방식이라는 점이 특징이다.