지난 6월부터 11일까지 서울 삼성동 코엑스에서 열린 ICML 2026(국제기계학습학회)은 세계 3대 AI 학회다. 올해 처음 한국에서 개최된 이 행사에서 팀네이버(네이버와 네이버클라우드)는 대규모언어모델(LLM)의 취약점을 사전에 찾아내는 레드티밍 기술을 공개했다. 이 기술이 이목을 집중시킨 것은 단순히 새로운 연구이기 때문만은 아니다.
상위 2.2% 스포트라이트 논문, '스테이블 지플로우넷'
팀네이버가 발표한 핵심 기술은 스테이블 지플로우넷이다. 이는 LLM이 실제 서비스에 배포되기 전 공격자가 시도할 법한 질문을 던져 위험한 답변이나 지시 이행 가능성을 미리 점검하는 기술이다. 뉴스에 따르면 이 논문은 ICML에 채택된 전체 논문 중 상위 약 2.2%에 해당하는 '스포트라이트' 논문으로 선정됐다. 스포트라이트는 학회가 인정하는 최상위 논문 등급이며, 수많은 제출 논문 가운데 극소수만 이 지위를 얻는다.
LLM 취약점, 왜 미리 찾아야 하는가
AI 모델이 대규모 서비스에 실제로 쓰이기 전에 잠재적 위험을 사전 차단하는 것이 산업 표준으로 자리 잡고 있다. 레드티밍 기술은 이런 맥락에서 필수 검증 단계다.
- 적대적 입력 테스트: 모델이 거짓 정보를 진실처럼 전달하거나, 위해한 지시를 수행하려는 시도에 얼마나 취약한지 측정
- 사용 전 위험 제거: 배포 후 피해가 발생하기 전에 문제를 식별하고 개선
- 규제 대응: AI 안전성 관련 글로벌 규제(EU AI Act 등)에 대응하는 증거 자료 확보
팀네이버의 다른 연구 성과
ICML 2026에서 공개된 기술은 LLM 취약점 탐지에만 한정되지 않았다.
- 시머지: 번역, 추론, 요약 등 서로 다른 강점을 지닌 여러 AI 모델을 하나로 통합 운영하는 기술
- 플로우봇: 여러 AI 에이전트가 협력할 때 작업 순서를 자동으로 결정하는 시스템
- 3D 복원 기술: 흔들리거나 초점이 흐린 단일 카메라 영상만으로 움직이는 물체와 공간을 3차원으로 재구성
이들은 모두 AI 모델의 효율적 운영이라는 공통 주제를 다루고 있다. 또한 네이버, 네이버랩스, KAIST, 서울대가 공동 개발한 '서울 월드모델'은 서울 전역의 공간 데이터를 디지털 환경에 구현해 실제 서비스 적용의 사례를 보여줬다.
결론
LLM 취약점 탐지가 ICML의 최상위 논문으로 선정된 사실은, 글로벌 AI 커뮤니티가 안전성을 핵심 과제로 인식하고 있음을 드러낸다. "AI 공격엔 AI로 대응"이라는 수사는 단순한 표현이 아니라, 이제 LLM을 운영하는 모든 조직이 마주한 현실이다.
지금 바로 할 수 있는 일:
- AI 서비스 운영 중: 배포 전 레드티밍을 검증 프로세스에 포함했는지 확인
- AI 도입 검토 중: 공급사에 취약점 평가 결과와 대응 방안을 질문 목록에 추가
- AI 규제 대응: EU AI Act 등 지역별 규제에서 요구하는 안전성 테스트 기준 파악