사카나 AI가 딥러닝 학습의 핵심 기법인 ‘역전파(Backpropagation)’ 없이도 매우 깊은 신경망을 학습할 수 있는 새로운 레이어별 학습 방식을 공개했다.
사카나 AI는 최근 기존 예측 코딩(PC·Predictive Coding)의 한계를 보완한 ‘PC-ALM(Augmented Lagrangian Predictive Coding)’을 온라인 아카이브에 발표했다.
PC-ALM은 각 레이어가 주변 정보와 자신의 상태를 활용해 학습하도록 설계됐다. 연구진은 최대 1000개 레이어로 이뤄진 신경망에서도 역전파에 근접한 성능을 확인했다.
현재 딥러닝 모델은 일반적으로 데이터를 한 방향으로 처리한 뒤, 결과에서 발생한 오류를 반대 방향으로 전달해 각 연결의 가중치를 조정하는 역전파 방식으로 학습한다. 사카나 AI 연구진은 이 과정에서 신경망 전체가 순방향 계산과 역방향 계산, 가중치 조정을 정해진 순서에 따라 동시에 수행해야 한다는 점에 주목했다. 그러나 생물학적 뇌에서는 신경망 전체의 계산 과정을 이처럼 일일이 조율하는 방식이 발견되지 않았다. 이에 따라 역전파가 실제 뇌의 학습 방식과는 다르다는 지적도 제기돼 왔다.
PC-ALM은 역전파를 대체할 방법으로 연구된 ‘예측 코딩(PC)’에 ‘증강 라그랑주’ 기법을 결합한 학습 방식이다. 각 레이어에서 실제 값과 예측값 사이의 차이를 기록하고, 해당 오차를 지속적으로 축적하는 별도의 값을 추가한다.
이렇게 축적한 오차 정보를 다음 학습 과정에 전달하면 각 레이어가 필요한 만큼 스스로 보정할 수 있다. 연구진은 각 레이어가 주변 레이어의 정보와 자신의 상태만 사용하도록 하면서도, 누적된 오차를 활용하면 역전파처럼 각 레이어가 학습에 얼마나 기여했는지 알려주는 신호를 생성할 수 있다고 설명했다.
기존 예측 코딩 방식은 출력 단계에서 발생한 학습 신호가 여러 레이어를 통과하는 동안 점차 약해지는 문제가 있었다. 특히 레이어 수가 많고 각 레이어의 폭이 좁은 신경망에서는 이 문제가 더욱 두드러져 역전파보다 낮은 성능을 보였다.
PC-ALM은 각 레이어에서 발생하는 예측 오차를 계속 축적해 학습 신호가 네트워크 전체로 전달되도록 했다. 연구진은 이를 기존 예측 코딩의 신호가 여러 방향으로 퍼지며 약해지는 ‘확산형’ 방식과 구분해, 신호가 각 레이어에 빠르게 도달하는 ‘탄도형’ 신용 신호 전파라고 설명했다.
실험을 통해서도 PC-ALM의 효과가 확인됐다. 연구진은 ‘패션-MNIST’와 ‘MNIST’ 데이터를 사용해 레이어의 깊이와 폭을 다양하게 설정한 잔차형 다층퍼셉트론(MLP)을 테스트했다.
네트워크 깊이의 두 배에 해당하는 T=2L을 학습 단계로 설정한 결과, PC-ALM은 네트워크의 깊이와 폭, 활성화 함수가 달라져도 역전파와 유사한 성능을 나타냈다. 특히 레이어가 많고 폭이 좁아 기존 예측 코딩의 성능이 크게 낮아지는 환경에서도 역전파와의 성능 격차를 크게 줄였다.
특히 MNIST에서 폭을 32로 설정하고 ReLU 활성화 함수를 적용한 1000개 레이어의 잔차형 MLP를 5회 학습했다. 그 결과 PC-ALM의 성능은 역전파보다 약 2%포인트 이내의 차이를 기록했다.
ResNet-18을 사용한 CIFAR-10과 Tiny ImageNet 실험에서도 PC-ALM은 기존 예측 코딩(PC)보다 우수한 성능을 보였다.
PC-ALM은 이론적으로도 역전파를 대체할 가능성을 제시한다. 선형 예측 코딩 네트워크를 분석한 결과, PC-ALM이 안정적으로 수렴할 경우 각 레이어에 저장된 라그랑주 승수가 역전파에서 활용되는 그래디언트 신호와 정확히 대응하는 것으로 나타났다.
이는 네트워크 전체를 역방향으로 계산하지 않더라도 각 레이어가 주변 정보와 자체 학습 과정을 바탕으로 역전파와 같은 방향의 학습 신호를 생성할 수 있다는 의미다.
다만 PC-ALM은 아직 연구 단계에 있다. 연구진이 깃허브에 공개한 JAX 기반 코드는 CPU에서도 실행 가능한 연구용 구현이며, 지금까지의 실험 역시 주로 소규모 이미지 분류 문제에 집중됐다.
또한 기존 예측 코딩(PC)보다 활성 값을 저장하는 데 더 많은 메모리가 필요하다는 한계도 있다.