LLM이란? 대규모 언어 모델이 문장을 배우고 만드는 원리
지난 글에서는 Transformer가 Self-Attention으로 문장 안의 여러 토큰 관계를 살펴보고 문맥을 처리하는 구조라는 것을 알아봤습니다. 이 구조를 많은 데이터와 큰 규모의 신경망으로 학습하면 오늘날 자주 접하는 LLM으로 이어집니다.
LLM(Large Language Model, 대규모 언어 모델)은 많은 텍스트에서 언어의 패턴을 학습하고, 주어진 문맥에 이어질 토큰의 가능성을 예측하는 모델입니다. 질문에 답하거나 글을 요약하고 번역할 수 있지만, 사람처럼 생각하거나 모든 사실을 정확히 기억하는 존재는 아닙니다.
먼저 언어 모델이란 무엇일까?
언어 모델은 어떤 문맥 뒤에 특정 단어나 토큰이 나타날 가능성을 계산합니다. “오늘 하늘이 매우 ___”라는 문장이 주어지면 ‘맑다’, ‘흐리다’, ‘어둡다’ 같은 후보에 서로 다른 확률을 부여하는 식입니다.
여기서 토큰(Token)은 모델이 글을 처리하는 기본 단위입니다. 하나의 단어일 수도 있고, 단어의 일부나 문장 부호일 수도 있습니다. Google의 대규모 언어 모델 입문 자료도 언어 모델을 긴 토큰 순서 안에서 토큰 또는 토큰 순서의 확률을 추정하는 모델로 설명합니다.
LLM에서 ‘대규모’는 무엇을 뜻할까?
‘대규모’라는 말은 단순히 프로그램 파일이 크다는 뜻만은 아닙니다. 일반적으로 다음 요소들이 함께 커진 언어 모델을 가리킵니다.
- 학습 데이터: 다양한 주제와 표현이 담긴 많은 텍스트를 사용합니다.
- 파라미터: 학습으로 조정되는 수많은 가중치에 언어 패턴이 분산되어 반영됩니다.
- 계산량: 학습과 실행에 상당한 연산 자원이 필요할 수 있습니다.
- 문맥 처리: 여러 토큰 사이의 관계를 이용해 다음 내용을 예측합니다.
다만 크기만 키운다고 항상 좋은 모델이 되는 것은 아닙니다. 데이터 품질, 학습 방법, 모델 구조, 평가와 안전 조정도 결과에 큰 영향을 줍니다.
LLM은 어떻게 학습할까?
대표적인 생성형 언어 모델의 기본 학습 목표는 앞의 문맥을 보고 다음 토큰을 맞히는 것입니다. 실제 정답과 모델의 예측이 얼마나 다른지 손실 함수로 계산하고, 역전파와 경사하강법을 이용해 가중치를 조금씩 조정합니다.
- 학습 텍스트를 토큰으로 나눕니다.
- 일부 토큰 또는 다음에 올 토큰을 예측합니다.
- 예측과 실제 정답의 차이를 계산합니다.
- 오차가 줄어들도록 모델의 가중치를 조정합니다.
- 많은 문장에 대해 이 과정을 반복합니다.
이 과정을 사전학습(Pre-training)이라고 합니다. 사전학습 뒤에는 지시문을 더 잘 따르거나 특정 작업에 맞도록 추가 학습할 수 있습니다. Google의 Transformer·LLM 설명에서도 대규모 데이터의 예측 과제를 통해 언어의 패턴과 높은 수준의 구조를 학습한다고 설명합니다.
다음 토큰 예측이 어떻게 긴 답변이 될까?
사용자가 질문을 입력하면 모델은 입력과 지금까지 생성한 내용을 문맥으로 처리합니다. 그다음 가능한 토큰마다 확률을 계산하고 선택 규칙에 따라 하나를 고릅니다. 선택한 토큰을 문장 뒤에 붙인 후 같은 계산을 다시 수행합니다.
예를 들어 “봄에는 꽃이” 다음 후보가 ‘핀다’, ‘많다’, ‘예쁘다’라면 모델은 문맥에 맞는 확률 분포를 만듭니다. 하나를 선택해 추가하고, 길이 제한이나 종료 신호를 만날 때까지 한 토큰씩 반복합니다.
따라서 긴 답변도 실제로는 매우 빠른 다음 토큰 예측이 여러 번 이어진 결과입니다. 항상 가장 확률이 높은 토큰만 고르는 것은 아니며, 설정에 따라 여러 가능성 중 일부를 선택할 수 있어 같은 질문에도 표현이 달라질 수 있습니다.
LLM은 지식을 어디에 저장할까?
LLM은 학습 문장을 책장처럼 그대로 분류해 보관하고 검색하는 데이터베이스와는 다릅니다. 학습 과정에서 단어 관계, 문장 구조, 자주 함께 등장하는 개념 같은 패턴이 많은 파라미터에 분산되어 반영됩니다.
그래서 배운 패턴을 조합해 새로운 문장을 만들 수 있지만, 특정 사실의 출처를 자동으로 제시하거나 최신 정보를 항상 알고 있다고 보장할 수는 없습니다. 검색이나 외부 문서를 연결한 시스템은 모델의 생성 능력과 별도의 정보 검색 기능을 함께 사용하는 것입니다.
LLM이 할 수 있는 일
- 질문에 대한 설명과 초안 작성
- 긴 문서의 요약과 핵심 내용 정리
- 번역과 문체 변환
- 분류, 정보 추출, 아이디어 제안
- 코드 작성과 오류 원인 설명
이 작업들은 서로 완전히 별개의 기능처럼 보이지만, 많은 경우 입력 문맥을 이해하고 적절한 토큰 순서를 생성하는 공통 과정으로 처리됩니다.
LLM의 중요한 한계
그럴듯하지만 틀린 답을 만들 수 있다
LLM은 사실을 판정하는 장치가 아니라 문맥상 자연스러운 토큰을 예측하는 모델입니다. 근거가 부족할 때도 틀린 내용을 자신감 있게 생성하는 환각(Hallucination)이 발생할 수 있으므로 중요한 정보는 원문이나 신뢰할 수 있는 자료로 확인해야 합니다.
학습 데이터의 편향을 반영할 수 있다
데이터에 불균형하거나 부정확한 표현이 포함되어 있다면 모델의 출력에도 영향을 줄 수 있습니다. 안전 조정이 위험을 줄이는 데 도움을 주지만 모든 문제를 완전히 제거하지는 못합니다.
문맥과 최신성에는 범위가 있다
한 번에 처리할 수 있는 문맥 길이는 모델마다 제한되어 있으며, 학습 이후의 새로운 사실을 자동으로 아는 것도 아닙니다. 또한 큰 모델은 학습과 실행에 많은 계산 자원을 요구할 수 있습니다.
Transformer와 LLM은 같은 말일까?
두 용어는 관련이 깊지만 같은 뜻은 아닙니다. Transformer는 Attention을 중심으로 정보를 처리하는 신경망 구조이고, LLM은 많은 언어 데이터와 파라미터로 학습된 대규모 언어 모델입니다. 오늘날 많은 LLM이 Transformer를 기반으로 하지만, 구조와 학습된 모델이라는 관점이 다릅니다.
한눈에 정리하기
- LLM은 많은 텍스트에서 언어 패턴을 학습한 대규모 언어 모델입니다.
- 대표적인 생성형 LLM은 문맥을 보고 다음 토큰을 반복 예측합니다.
- 지식은 문장 목록이 아니라 여러 파라미터에 분산된 패턴으로 반영됩니다.
- 요약, 번역, 글쓰기 등 다양한 작업을 수행할 수 있습니다.
- 환각, 편향, 최신성, 문맥 길이와 계산 비용의 한계가 있습니다.
다음 글에서는 LLM이 문장을 처리하는 가장 작은 단위인 토큰(Token)이 무엇인지, 한글과 영어가 어떻게 나뉘는지 더 자세히 알아보겠습니다.
댓글
댓글 쓰기