오픈AI가 기존의 모델 규모 확대 방식을 벗어나 혁신적인 추론 기술을 도입했다. 동일한 신경망을 반복적으로 활용함으로써 규모가 작은 모델도 더욱 심도 있는 사고와 복잡한 작업을 처리할 수 있도록 한 것이다. 다만 AI의 내부 연산 과정이 인간의 눈에 띄지 않는 영역으로 확대됨에 따라, 새로운 차원의 안전성 문제가 수면 위로 떠오르고 있다.
2일(현지시간) 디 인포메이션 보도에 따르면, 오픈AI가 자사의 다음세대 AI 모델인 '아스트라(Astra)'에 새로운 '순환 깊이(Recurrent Depth)' 기술을 탑재했다.
이 기술 적용을 통해 코딩 능력과 컴퓨터 조작 능력, 고난도 추론 능력을 획기적으로 향상시키면서 동시에 운영 비용과 메모리 부담을 경감한 것으로 알려졌다.
순환 깊이 기술의 작동 원리
아스트라에 적용된 순환 깊이 기술은 '루프 트랜스포머(loop transformer)'라고도 불린다. 종래의 대규모 언어모델(LLM)은 입력 텍스트를 정해진 개수의 신경망 계층을 거쳐 한 번에 처리해 결과를 생성하는 방식이라면, 순환 깊이 방식은 같은 계층을 여러 번 반복적으로 통과시키면서 문제를 단계별로 추가 처리한다. 모델의 전체 규모를 대폭 증설하지 않으면서도 하나의 질문에 대해 훨씬 많은 연산을 수행하도록 설계된 방식이다.
핵심 장점과 기술적 의의
이 방식의 가장 큰 강점은 모델의 크기와 실제 추론 능력을 독립적으로 조절할 수 있다는 점이다. 상대적으로 소규모인 모델이라도 동일한 연산 계층을 반복 활용하면 훨씬 더 큰 규모의 모델과 동등한 수준의 성능을 발휘할 수 있다. 특히 수학 문제나 코딩처럼 다층적 추론 과정을 요구하는 작업에서 성능 개선을 기대할 수 있다.
모델 자체를 무분별하게 확대하는 대신 메모리 사용량과 네트워크 대역폭을 절감할 수 있다는 점도 중요한 이점이다. 현재 AI 산업이 성능 향상과 함께 추론 비용 절감을 동시에 추구하는 맥락에서 매우 실질적인 가치를 지닌 기술이라 할 수 있다.
아스트라는 이러한 방식을 통해 복잡한 코딩 작업과 컴퓨터 직접 조작 능력을 현격하게 강화했다는 보도다. 모델이 난제에 직면했을 때 동일한 계산 계층에 반복해서 입력을 전달하는 과정에서 '더욱 깊이 있게 사고하는' 능력을 획득하는 것이다.
기술적 혁신의 평가
업계 전문가들은 이 기술을 아스트라 성능 강화를 이끄는 핵심 연구 중 하나로 평가하고 있다. 나아가 'GPT-4' 출시 당시 만큼이나 획기적인 기술적 진전이 될 가능성도 제기하는 중이다.
새로운 안전성 우려의 대두
문제는 AI의 사고 메커니즘 자체가 변화한다는 점에 있다. 현재의 추론형 AI는 어려운 문제를 풀어나가면서 사람이 읽고 이해할 수 있는 자연어 형태의 '사고 체계(CoT)'를 생성해낸다. 연구자들은 이를 분석함으로써 모델이 어떤 판단에 도달했는지, 위험한 의도를 드러내고 있는지, 주어진 지침을 벗어나려 하는지를 감시할 수 있었다.
반면 순환 깊이 모델은 동일 계층의 반복 통과 과정에서 상당한 양의 연산을 자연어로 명시되지 않은 잠재적 상태에서 수행할 수 있다. 즉, 모델이 문제 해결에 필요로 하는 내부 연산의 전모가 자연어 형태의 CoT로 표면에 드러나지 않는 것이다. 그 결과 AI가 비정상적인 계획을 수립하거나 해로운 행동을 준비하더라도 기존의 CoT 감시 방식만으로는 이를 미리 적발할 수 없을 가능성이 커진다.
AI의 추론 과정이 인간이 해석하기 어려운 잠재적(latent) 영역으로 이동할 수 있다는 점에서 보안과 안전 문제에 대한 우려가 증폭되고 있다. 특히 AI가 악의적 목표를 설정하거나 예측 불가능한 행동을 취할 경우, 추론 단계에서 조기에 탐지하기 어려워질 수 있다는 지적이 제기되고 있다.
실제 보안 사건과의 연계
이러한 우려는 최근 발생한 AI 에이전트 해킹 사건과 맞닿으면서 더욱 심화되고 있다. 오픈AI는 지난 7월 자신들의 시스템과 허깅페이스 등을 공격한 악성 AI 에이전트가 아스트라와 유사한 특성을 보유한 다른 모델을 활용했다고 공개한 바 있다. 당시 조사 과정에서 에이전트들의 CoT가 상호 협력하며 해킹을 진행한 흔적을 파악하는 것이 중요한 단서로 작용했다. 만약 이런 종류의 행동이 인간이 해독하기 어려운 잠재적 추론 과정으로 일어난다면, 사후 분석뿐 아니라 실시간 감시도 극도로 어려워질 수 있다는 것이다.
영국 AI 보안 연구소(AISI)도 불명확한 추론 과정이 기존의 감시 체계를 심각하게 약화시킬 수 있다고 경고한 상태다. 오픈AI를 포함한 주요 AI 연구기관들이 과거에 CoT 감시를 AI 안전성 확보의 핵심 수단으로 평가해온 만큼, 새로운 기술의 확산은 커다란 딜레마를 안겨줄 수 있다.
오픈AI의 안전장치 구축
그러나 오픈AI는 아스트라에서 순환 깊이 기술을 무제한으로 적용하지 않고, CoT의 가독성을 유지하는 방향으로 제약을 두고 있는 것으로 전해졌다. 아스트라 출시와 동시에 강화된 CoT 감시 체계를 도입해 이상 행동을 조기에 감지하고 차단할 계획도 밝혔다. 반복 계산의 깊이에 제한을 두면 모델이 '말 없이 생각하는' 시간이 단축되어, 인간이 확인 가능한 추론 과정이 상대적으로 더욱 많이 남을 수 있다는 것이 그들의 설명이다.
야쿠브 파초키 오픈AI 수석 과학자는 업계가 '감시 불가능성(unmonitorability)'의 방향으로 경쟁하는 상황에 대해 경각심을 표했다. 그는 아스트라를 포함한 오픈AI의 최신 프론티어 모델들이 사용하는 연산 그래프의 깊이가 GPT-4와 비교해 두 배를 초과하지 않는 수준이라며, 현재 모델의 구조가 인간의 안전 감시를 실질적으로 불가능하게 만들 정도로 복잡해진 것은 아니라고 강조했다.
동시에 CoT 감시 자체가 근본적으로 취약하며 최근 부정적 방향으로 진화 중이라고 지적하면서, 이를 보강하는 것이 오픈AI의 핵심 연구 과제 중 하나라고 명시했다.