오픈AI가 지난달 안전 연구원 3명을 해고한 배경에는 차세대 추론 기술인 ‘순환 깊이(Recurrent Depth)’의 기밀 유출 가능성에 대한 조사가 있었던 것으로 밝혀졌다. 회사는 당시 민감한 정보 취급 규정을 위반했다는 설명만 내놨지만, 조사에서는 아스트라의 내부 설계를 다룬 보도와 외부 안전 연구자에게 보낸 ‘시그널(Signal)’ 메시지가 쟁점이 됐다. 연구원들은 기밀 유출을 부인하고 있어 실제로 정보가 유출됐는지, 해고가 정당했는지를 둘러싼 논란이 계속되고 있다.
월스트리트저널(WSJ)은 22일(현지시간) 오픈AI가 토메크 코르박, 미키타 발레스니, 재스민 왕을 해고하기에 앞서 모델의 내부 설계 정보가 외부로 유출됐을 가능성을 조사했다고 보도했다.
조사는 지난달 초 디 인포메이션이 아스트라의 새로운 추론 기술을 보도한 뒤 시작됐다. 해당 기술은 모델 성능을 높이는 한편, 사람이 모델의 사고 과정을 파악하기 어렵게 만들 수 있다는 내용이었다. 당시 오픈AI 수석 과학자 야쿠브 파초키는 보도가 “혼란스럽다”고 비판하면서도, 업계가 감시할 수 없는 AI 모델 개발 경쟁에 뛰어드는 일을 경계해야 한다고 말했다.
몇 주 뒤 오픈AI는 내부 직원들에게 유출 조사를 시작한다고 알렸다. 글로벌 보안 조사팀은 세 연구원을 비롯한 직원들을 불러 개인 휴대전화의 잠금을 풀도록 요구했다. 조사팀은 외부 AI 안전 연구자 라이언 그린블랫과 주고받은 시그널 대화를 확인하려 했다. 시그널은 대화 당사자만 메시지를 볼 수 있도록 암호화하며, 사용자가 설정한 시간이 지나면 메시지를 자동으로 삭제하는 메신저다.
발레스니는 조사팀이 당시 레드우드 리서치 수석 과학자였던 라이언 그린블랫을 정보 유출자로 의심했다고 전했다. 휴대전화를 살펴보는 과정에서 일부 연구원이 그린블랫과 나눈 대화에 메시지 자동 삭제 기능을 설정해 둔 사실이 확인됐다. 일주일 후 세 연구원은 각각 같은 시각에 열린 회의에서 해고 통보를 받았다.
이번 조사에서 다뤄진 순환 깊이 기술은 ‘루프 트랜스포머(loop transformer)’라고도 한다. 같은 신경망 레이어를 여러 차례 되풀이해 문제를 처리하는 방식이다. 모델의 크기를 대폭 키우지 않으면서도 복잡한 문제에 더 많은 계산을 투입할 수 있다.
안전 연구자들이 우려한 대목은 계산 과정을 들여다보기 어렵다는 점이다. 기존 추론 모델은 문제를 풀어가는 중간 단계를 자연어로 된 ‘사고 사슬(CoT)’에 남기므로 연구자들이 위험한 행동의 단서를 찾아볼 수 있다. 반면 순환 깊이 방식에서는 내부 계산의 상당 부분이 문장으로 표현되지 않을 수 있어 감시가 어려워질 수 있다.
세 연구원은 해고되기 전부터 사람이 AI의 추론을 감시할 수 있는 구조를 유지해야 한다고 주장해 왔다. 발레스니는 지난 8월 동료들과 함께 AI 기업들이 이런 감시를 막는 설계를 추구하지 않기로 합의해야 한다는 제안서를 작성했다. 그는 회사의 승인을 받아 그린블랫과 이 제안을 논의했으며, 외부에 공유한 문서에는 회사 기밀을 담지 않았다고 설명했다.
그린블랫은 오픈AI와 무관한 외부 인사만은 아니었다. AI 안전 평가기관 METR이 오픈AI 에이전트의 허깅페이스 해킹 사건을 조사하는 과정에서 그에게 로그 분석을 맡겼다. 오픈AI 측 협업팀에 참여한 코르박은 이 과정에서 사내 슬랙과 시그널을 통해 그린블랫과 소통했다고 밝혔다.
코르박과 발레스니는 경영진이 시그널의 메시지 자동 삭제 기능을 사용한 점을 해고 사유로 들었다고 주장했다. 코르박은 “승인되지 않은 경로로 제3자와 접촉해 신뢰를 저버렸다는 말을 들었다”고 말했다. 그는 메시지 자동 삭제 기능이 실리콘밸리에서 기본적인 보안 관행으로 쓰인다고도 설명했다.
왕은 임원의 이메일을 반복해서 열람했다는 이유로 해고 통보를 받았다고 별도로 밝혔다. 그는 약 1년 전 해당 이메일에 대한 접근 권한을 없애달라고 요청했지만 반영되지 않았으며, 지난달 민감한 이메일을 실수로 열어본 직후 이를 보고했다고 설명했다. 내용을 다른 사람에게 전달하지 않았다는 주장도 덧붙였다. 오픈AI는 이메일 접근 권한 자체가 문제였던 것은 아니라고 답했다.
세 연구원은 모두 회사 기밀을 외부에 공유하지 않았으며, 어떤 정보를 부적절하게 취급했다는 것인지 서면으로 설명받지도 못했다고 밝혔다. 그린블랫 역시 디 인포메이션에 기밀을 제공했다는 의혹을 부인했다. 그는 “기밀 유지를 매우 중요하게 생각하며, 그런 정보를 기자들에게 절대 공유하지 않는다”고 말했다.
오픈AI는 내부 조사 결과 세 연구원이 “민감한 정보 취급에 관한 명확한 규정을 위반했다”며 “안전 문제를 제기하거나 의견을 밝혔다는 이유로 해고한 것은 아니다”라고 밝혔다. 시그널 사용은 승인되지 않은 일이었지만, 그것만으로 해고한 것은 아니라고 덧붙였다.
그러나 세 연구원이 실제로 기밀을 유출했는지는 확인되지 않았다. 코르박은 “동료들로부터 이제 제3자와 대화하는 것을 두려워하고, 안전 문제를 제기하는 것도 두려워한다는 이야기를 듣고 있다”고 전했다. 그는 직원과 외부 평가기관이 소통할 때 적용할 규칙을 명확히 마련해야 한다고 촉구했다.