역전파(Backpropagation) - AI는 틀린 답을 어떻게 수정할까?
역전파(Backpropagation)란? AI는 틀린 답을 어떻게 수정할까?
지난 글에서는 활성화 함수가 계산된 정보를 다음 뉴런으로 전달할지 결정하는 역할을 한다는 것을 알아보았습니다.
하지만 여기서 또 하나의 궁금증이 생깁니다.
"AI가 틀린 답을 냈다면 어떻게 더 똑똑해질 수 있을까요?"
사람은 시험에서 틀린 문제를 다시 풀어보며 실수를 고칩니다.
AI도 비슷합니다.
틀린 이유를 분석하고, 다음에는 더 정확한 답을 내도록 스스로 수정합니다.
이 과정을 역전파(Backpropagation)라고 합니다.
이번 글에서는 AI가 어떻게 자신의 실수를 고쳐 나가는지 쉽게 알아보겠습니다.
사람도 틀리면서 배웁니다
시험을 본다고 생각해 보겠습니다.
100문제 중 80문제를 맞고 20문제를 틀렸다면,
우리는 틀린 문제를 다시 확인합니다.
"왜 틀렸을까?"
"어디에서 실수했을까?"
를 생각한 뒤
다음 시험에서는 같은 실수를 하지 않도록 공부합니다.
AI도 똑같습니다.
틀린 답을 냈다면
그 이유를 찾아 조금씩 수정합니다.
역전파란?
역전파는 쉽게 말하면
"틀린 만큼 다시 수정하는 과정"입니다.
AI는 먼저 결과를 예측합니다.
그리고 실제 정답과 비교합니다.
차이가 있다면
그 차이를 이용해
가중치를 조금씩 수정합니다.
입력
↓
예측
↓
정답과 비교
↓
오차 계산
↓
가중치 수정
↓
다시 예측
이 과정을 수없이 반복하면서
AI는 점점 더 정확한 답을 맞히게 됩니다.
양궁 연습을 떠올려 보세요
양궁 선수가 과녁을 조준했다고 생각해 보겠습니다.
첫 번째 화살은
과녁보다 조금 왼쪽에 맞았습니다.
선수는
"조금 더 오른쪽으로 조준해야겠구나."
라고 판단합니다.
두 번째 화살은
과녁에 더 가까워집니다.
세 번째,
네 번째,
다섯 번째...
계속 조준을 수정하다 보면
결국 정중앙을 맞히게 됩니다.
AI도 마찬가지입니다.
처음에는 정답과 많이 다를 수 있지만,
계속 수정하면서
조금씩 정답에 가까워집니다.
무엇을 수정할까?
AI는
프로그램 자체를 바꾸는 것이 아닙니다.
수정하는 것은 바로 가중치(Weight)입니다.
예를 들어
귀보다 배경을 더 중요하게 생각해서
고양이를 잘못 판단했다면,
귀의 가중치는 조금 높이고,
배경의 가중치는 조금 낮춥니다.
이렇게 조금씩 수정하다 보면
더 정확한 판단을 할 수 있게 됩니다.
왜 '역전파'라고 부를까?
AI는 먼저
입력에서 출력까지
순서대로 계산합니다.
그리고
결과가 틀렸다는 것을 알게 되면
이번에는
거꾸로 올라가면서
어디에서 잘못됐는지를 찾아갑니다.
그래서
뒤로(Back)
오차를
전달(Propagation)
한다고 해서
역전파(Backpropagation)라는 이름이 붙었습니다.
입력
↓
은닉층
↓
출력
↓
오차 발견
↑
가중치 수정
↑
은닉층 수정
↑
입력 방향까지 수정
내비게이션도 비슷합니다
자동차 내비게이션을 떠올려 보겠습니다.
길을 잘못 들어가면
내비게이션은
"경로를 다시 탐색합니다."
라고 알려줍니다.
그리고
새로운 길을 계산해서
더 좋은 경로를 제시합니다.
AI도 같습니다.
예측이 틀렸다면
그냥 같은 방법을 반복하지 않습니다.
어디에서 잘못됐는지 확인하고
가중치를 수정한 뒤
다시 예측합니다.
한 번만 수정하는 것이 아닙니다
AI는 한 번 수정한다고 끝나지 않습니다.
수천 번,
수만 번,
많게는 수백만 번까지
예측하고 수정하는 과정을 반복합니다.
예측
↓
오차 계산
↓
가중치 수정
↓
다시 예측
↓
오차 감소
↓
반복
이 반복 과정 덕분에
AI는 점점 더 똑똑해집니다.
역전파가 없었다면?
만약 역전파가 없다면,
AI는 자신이 틀렸다는 것은 알 수 있어도
어떻게 수정해야 하는지는 알 수 없습니다.
즉,
계속 같은 실수를 반복하게 됩니다.
그래서 역전파는
오늘날 딥러닝을 가능하게 만든
가장 중요한 기술 중 하나로 평가받습니다.
한눈에 정리하기
| 개념 | 쉽게 말하면 |
|---|---|
| 예측 | AI가 답을 맞혀 봄 |
| 오차 | 정답과 얼마나 다른지 확인 |
| 역전파 | 틀린 이유를 거꾸로 추적 |
| 가중치 수정 | 다음에는 더 잘 맞도록 조정 |
즉,
예측 → 비교 → 수정 → 다시 예측
이 과정을 반복하는 것이
역전파의 핵심입니다.
마무리
역전파는 AI가 스스로 성장할 수 있게 만드는 핵심 기술입니다.
AI는 먼저 답을 예측하고,
정답과 비교하여 오차를 계산한 뒤,
그 오차를 거꾸로 전달하면서 가중치를 조금씩 수정합니다.
이 과정을 수없이 반복하기 때문에
처음에는 서툴던 AI도 점점 더 정확한 답을 낼 수 있게 됩니다.
하지만 아직 한 가지 중요한 의문이 남아 있습니다.
AI는 '얼마나 틀렸는지'를 어떻게 계산할까요?
그 답은 손실 함수(Loss Function)에 있습니다.
💡 오늘의 핵심
역전파는 AI가 틀린 답의 원인을 거꾸로 추적하여, 가중치를 조금씩 수정하는 학습 방법입니다.




댓글
댓글 쓰기