사건의 핵심: 미성년 계정으로 45,000건 질문

메타가 경쟁사 AI 모델을 대상으로 벌인 대규모 테스트가 논란이 되고 있다. 와이어드 보도(2026년 7월 13일 현지시간)에 따르면 메타는 지난 4월까지 미성년자 가짜 계정을 개설해 오픈AI 챗GPT, 구글 제미나이, 캐릭터.ai에 성·마약·섭식장애 관련 질문을 던졌다. 지난해 8월 완료된 한 차례 테스트만 해도 45,000개 이상의 질문을 기록했으며, 계약직 직원 수백 명이 이 프로젝트에 투입됐다.

테스트 대상 기업들은 사전 고지를 받지 못했다. 오픈AI는 "이 문제를 조사 중"이라 밝혔고, 구글은 "3자 테스트를 승인한 적이 없고 목적도 모른다"고 반박했다. 캐릭터.ai는 더 강하게 "회사의 이용 약관과 정책을 위반한다"며 반발했다.

AI 업계의 경쟁사 테스트: 시행 규모와 방식의 차이

AI 업계에서 경쟁사 모델을 테스트하는 관행은 처음 아니다. 그러나 메타의 사건은 규모와 질문 내용에서 뚜렷한 차이를 보인다.

  • 메타의 테스트: 미성년자 계정, 윤리적 문제가 있는 주제(성·마약·섭식장애), 45,000개 이상 질문, 2026년 4월까지 지속
  • 구글의 2023년 테스트: 자사 AI 바드 성능 개선 목표, 챗GPT에 수천 개 질문, 답변 활용 사실 사후 공개

구글의 사례는 경쟁사 기술 벤치마킹 수준이었으나, 메타의 접근은 윤리적 취약점을 의도적으로 테스트하려 했다는 점에서 질적으로 다르다.

각사 입장과 업계 반응

메타는 성명을 통해 "안전하고 연령에 적합한 경험을 보장하기 위해 챗봇 응답을 테스트하고 벤치마킹하는 것은 책임감 있는 업계 표준 관행"이라고 주장했다. 그러나 이 설명은 다음 의문을 남긴다:

  • 윤리적 질문을 거부하는 것이 "안전성 테스트"의 목표라면, 왜 비인륜적 질문을 4만 개 이상 반복했는가?
  • 왜 대상 기업에 사전 공지하지 않았는가?
  • 왜 미성년자 가짜 계정을 사용했는가?

이러한 방식은 합의 없는 테스트, 계약상 위반 가능성, 미성년 정체성 악용 등으로 인해 업계의 자율규제 기준을 넘어선 것으로 평가받고 있다.

숫자가 드러내는 의미: 벤치마크 vs 윤리

메타 테스트의 규모에 주목할 필요가 있다. 45,000개 질문과 수백 명의 직원 투입은 이것이 단순한 품질 검증이 아닌 체계적인 경쟁사 분석 프로젝트임을 시사한다. 이는:

  1. 벤치마킹 관행의 한계 노출: 경쟁사 성능 비교 자체는 일반적이나, 윤리 정책 회피 시나리오를 대규모로 테스트하는 것은 다른 문제다.

  2. AI 업계의 신뢰 문제: 합의 없는 테스트는 향후 AI 기업 간 협력 관계를 손상시킬 수 있다.

  3. 규제 신호: 미성년자 보호와 AI 안전성을 다루는 규제 기관들의 감시 대상이 될 가능성이 높다.

결론

메타의 챗GPT·제미나이 테스트 사건은 AI 경쟁의 심화 속에서 윤리적 경계의 중요성을 다시 한 번 부각시킨다. 45,000개의 질문과 수백 명의 투입 규모는 경쟁사 AI 벤치마크가 더 이상 기술적 비교를 넘어 산업 신뢰도를 좌우하는 이슈임을 보여준다.

실무 적용 시사점:
- AI 서비스 운영진: 제3자 테스트 계약서에 명확한 테스트 범위·기간·주제 제한 조항 추가
- AI 거버넌스 담당자: 경쟁사 분석 시 미성년자 보호 및 이용약관 준수 여부 사전 검토
- 경영진: 벤치마킹 효율성과 업계 신뢰 간 균형점 재검토 필요