인스타그램이 실제 사람으로 보이는 'AI 인플루언서'를 엄격하게 관리하기로 나섰다. AI로 만들어진 인물을 계정에 내세우면서 이를 명시하지 않으면 추천 알고리즘에서 노출을 제한하겠다는 것이다.
인스타그램은 31일(현지시간) 기존 'AI 크리에이터(Creator)' 표시를 'AI-생성 프로필(AI-generated profile)'로 명칭을 바꾸고, AI로 생성한 인물이 있는 계정에 이 표시를 필수적으로 붙이기로 정책을 개선했다.
과거에는 AI 크리에이터가 자체적으로 라벨을 선택할 수 있었으나, 이제부터는 인스타그램 측에서 AI 생성 인물로 추정되는 계정을 직접 찾아 표시를 확인할 예정이다.
라벨이 붙어있지 않은 상태에서 AI 생성 인물을 게시하는 계정으로 적발될 경우, 해당 계정의 콘텐츠가 추천 영역에 노출되지 않을 수 있다. 인스타그램은 조치를 받은 계정에 알림을 주고 계정 상태(Account Status)에서 추천 제한 여부를 확인할 수 있도록 할 것이다.
이후 AI-생성 프로필 라벨을 붙이거나 AI 계정이 아니라는 점이 확인되면 이의를 제기해 추천 노출 기회를 다시 얻을 수 있다.
한편 단순히 AI 편집 기능을 이용해 콘텐츠를 만드는 일반적인 크리에이터는 별도의 프로필 라벨을 할 필요가 없다. 인스타그램은 창작 과정에서 AI를 사용하는 것 자체가 아니라, 마치 실제 인간처럼 보이는 AI 인물을 게시하면서 그 사실을 감추는 행위에 초점을 맞췄다.
인스타그램이 이번 조치를 단행한 배경에는 사용자들의 혼동이 있다. 생성형 AI 기술이 발전하면서 실제 인물과 구분하기 어려운 수준의 이미지와 영상이 대량으로 만들어지고 있기 때문이다.
특히 외모와 일상을 중심으로 한 가상의 여성 인플루언서 계정들이 실제 인간인 양 관리되면서, 광고나 협찬 같은 상업 거래로 발전할 가능성이 커지고 있다. 인스타그램은 "사용자들이 뒤늦게 AI 생성 인물을 보고 있었다는 사실을 깨닫는 상황을 줄이겠다"고 설명했다.
AI 인플루언서의 영향력은 인스타그램을 넘어 전체 콘텐츠 산업의 지형을 바꾸고 있다. 중국에서는 AI 영상 생성 기술의 급속한 발전으로 배우와 온라인 인플루언서들이 직접적인 위협을 받고 있다. 특히 바이트댄스의 '시댄스(Seedance) 2.0'이 출시된 이후 미니 드라마와 라이브커머스에서 AI 인물이 인간을 대체하는 사례가 빠르게 늘어나고 있다.
중국 넷캐스팅서비스협회 집계에 따르면 올해 1분기 중국에서 공개된 짧은 드라마는 약 12만8000편으로, 지난해 연간 수치보다 3배를 초과했으며, 이 중 95%가 AI로 제작된 것으로 나타났다. 중국 미니 드라마 산업의 직접 고용 규모가 69만명에 이르는 만큼, AI로의 전환이 일자리 시장에 미칠 영향은 상당할 것으로 예상된다.
제작 비용과 소요 시간도 급격히 줄어들었다. 칭화대 연구진의 분석에 따르면 과거에는 3~5분 분량의 드라마 작품 하나를 만드는 데 5명이 약 3개월을 투자해야 했지만, 현재는 한 명이 하루 또는 이틀 정도면 완성할 수 있는 수준으로 생산성이 올라갔다. 분당 제작 원가도 실제 배우를 쓰던 시절의 약 10% 수준으로 내려갔다.
AI로의 전환 과정에서는 배우와 진행자가 자신의 얼굴, 목소리, 연기 스타일까지 AI에 학습시키는 '지식 추출(distilling)'을 요구받는 일까지 벌어지고 있다. 자신의 데이터로 AI 대체 인력을 만든 뒤 정작 일자리를 잃게 되는 모순적인 상황이 현실화되고 있는 것이다.