AI 에이전트가 코딩과 업무를 대신하는 범위가 넓어지면서 인간의 판단력과 전문성이 약해질 수 있다는 우려가 커지고 있다. AI가 내놓은 결과를 확인하려면 인간의 전문성이 필요하지만, AI에 일을 더 많이 맡길수록 그 전문성마저 퇴화할 수 있다는 ‘감독의 역설(Paradox of Supervision)’이 새로운 문제로 떠올랐다.
앤트로픽 ‘클로드 코드’ 개발팀의 엔지니어 애디 오스마니는 3일(현지시간) X에 올린 글에서 AI 에이전트가 발전할수록 개발자들이 비판적으로 사고하고 결과를 검증하는 능력을 의식적으로 지켜야 한다고 강조했다. 과거 구글 크롬 개발팀을 이끌었던 그는 지금은 AI 코딩 도구를 적극적으로 개발하고 활용하는 입장에서 이 문제를 제기했다.
그는 “AI 에이전트를 여러 개 동시에 실행해도 결과물을 살펴볼 수 있는 눈은 결국 한 쌍뿐”이라며 “비판적 사고를 일상에 의식적으로 포함해야 한다. 이제는 그런 기회를 저절로 만들어주는 것이 아무것도 없기 때문”이라고 말했다.
오스마니는 AI 모델의 성능 향상이 오히려 사람의 검증 능력을 약화시킬 수 있다고 지적했다. 예전에는 AI가 눈에 띄는 오류를 자주 내놓아 사람들이 자연스럽게 결과를 확인했다. 하지만 최근에는 답변 대부분이 그럴듯하고 상당히 정확해져, 꼼꼼히 살펴야 한다는 필요성을 느끼기 어려워졌다는 설명이다.
앤트로픽 내부에서도 같은 우려가 제기된 바 있다. 앤트로픽은 지난해 12월 자사 엔지니어와 연구원 132명을 대상으로 진행한 설문조사와 심층 인터뷰를 분석한 보고서에서, AI가 생산성을 높이는 한편 개발자의 실무 능력을 약화시킬 가능성도 있다고 밝혔다. 보고서는 특히 “클로드를 감독하려면 코딩 능력이 필요하지만, 바로 그 능력이 AI를 과도하게 사용하면서 퇴화할 수 있다”는 ‘감독의 역설’을 소개했다.
조사에 참여한 일부 엔지니어는 AI가 쉬운 일을 대신하면서 복잡한 문제를 해결하는 데 필요한 기초 경험을 쌓기 어려워졌다고 말했다. 반면 다른 직원들은 AI 덕분에 새로운 기술을 빠르게 익히고 전보다 더 폭넓은 업무를 할 수 있게 됐다고 평가했다.
오픈AI 공동 창업 멤버이자 전 테슬라 AI 책임자인 안드레이 카르파시도 비슷한 경험을 공유했다. 그는 지난 1월 X에서 2025년 11월까지는 직접 코딩하는 비중이 80%였지만, 12월에는 AI 에이전트가 코딩의 80%를 맡는 방식으로 바뀌었다고 밝혔다.
카르파시는 “직접 코드를 작성하는 능력이 서서히 퇴화하고 있다는 것을 이미 느낀다”고 인정했다. 다만 코드를 작성하는 능력과 읽고 평가하는 능력은 서로 다르므로, 직접 코딩하기 어려워지더라도 기존 코드를 검토할 수는 있다고 설명했다.
오스마니는 이보다 한 걸음 더 나아간 우려를 제기한다. AI가 작성한 코드를 검토하는 능력도 실제 문제를 해결한 경험과 시스템에 대한 이해가 뒷받침되지 않으면 약해질 수 있다는 것이다.
그는 이런 현상을 ‘인지적 항복(Cognitive Surrender)’이라는 개념으로 설명했다. 미국 펜실베이니아대학교 와튼스쿨 연구진이 제시한 용어로, AI의 결과를 스스로 살피거나 판단하지 않은 채 그대로 받아들이는 현상을 가리킨다. 처음에는 일을 AI에 맡기면서도 판단권을 유지하지만, 점차 AI의 답변을 검증하지 않고 다음 작업의 출발점으로 삼다가 결국 그 답변을 자신의 판단처럼 받아들이게 된다는 설명이다.
이 과정에서 개발자가 코드 내부 구조를 제대로 이해하지 못하는 ‘이해 부채(Comprehension Debt)’가 쌓일 수도 있다. 당장은 AI 덕분에 개발이 빨라지고 테스트도 통과하지만, 나중에 프로그램을 수정하거나 장애를 해결해야 할 때 코드를 충분히 이해하는 사람이 없어 어려움을 겪을 수 있다는 뜻이다.
최근처럼 여러 AI 에이전트를 동시에 운용하는 개발 방식에서는 문제가 더 커질 수 있다. AI가 코드를 만드는 속도는 계속 빨라지는 반면, 사람이 결과를 검토하고 승인하는 속도는 그만큼 높아지기 어렵기 때문이다. 오스마니는 에이전트가 만들어내는 작업량과 사람이 책임지고 검토할 수 있는 양의 차이를 ‘오케스트레이션 세금(Orchestration Tax)’이라고 불렀다.
그는 “자신이 책임질 수 있는 양보다 많은 결과물을 만들어낸다면, 더 이상 검토하는 것이 아니라 잘되기를 바라는 것에 불과하다”고 경고했다.
AI가 작성한 코드의 테스트가 통과해도 프로그램 전체가 제대로 작동한다고 장담할 수는 없다고도 지적했다. AI가 코드와 테스트를 모두 잘못된 가정에 따라 만들었다면 오류를 찾아내지 못할 수 있기 때문이다. 오스마니는 “테스트가 통과했다면 무엇을 입증했는지, 또 무엇은 확인하지 못했는지 물어야 한다”고 강조했다.
그는 AI가 개발자의 능력을 한 방향으로만 약화시키는 것은 아니라고 덧붙였다. 클로드 코드 개발팀처럼 필요할 때 AI를 활용해 코드의 특정 부분을 다시 이해하는 방법도 있다는 것이다. 모든 코드를 직접 작성하거나 전체 시스템을 늘 이해할 필요는 없지만, 자신이 무엇을 모르는지는 알아야 한다고 강조했다.
오스마니는 AI 에이전트 사용을 줄이기보다 인간의 판단과 검증을 업무 과정에 명시적으로 넣어야 한다고 제안했다. AI에 일을 맡기기 전에 기대하는 결과를 스스로 생각하고 완료 기준을 정하며, 중요한 기술은 가끔 AI 없이 직접 해보면서 실력을 확인하라는 것이다.
그는 “업무와 검증의 상당 부분을 AI에 맡길 수는 있지만, 책임까지 넘길 수는 없다”며 “사용하지 않는 기술은 사라지기 마련이며, 잃고 싶지 않은 능력은 계속 연습해야 한다”고 강조했다.