한 줄 정의
파인튜닝은 이미 큰 데이터로 학습된 모델을 특정 목적에 맞게 다시 훈련하는 방법이야. 새 모델을 처음부터 만드는 게 아니라 기존 모델의 반응 습관을 좁은 방향으로 조정한다고 보면 돼.
어떻게 작동하나
보통 예시 입력과 원하는 출력 쌍을 모아 추가 학습을 돌려서 말투, 형식, 분류 기준을 더 안정적으로 따르게 만들어. OpenAI 같은 플랫폼에서는 학습 파일을 올리고 파인튜닝 job을 생성해 돌리는 식으로 운영해서, 개발팀이 API 흐름 안에서 관리하기 쉬워.
왜 중요한가
실무에서 중요한 이유는 프롬프트를 길게 붙이지 않아도 일정한 출력 형식을 유지하게 만들 수 있어서야. 잘 맞으면 반복 업무 자동화나 내부 분류 체계 같은 곳에서 비용과 지연을 줄이는 데도 꽤 도움 돼.
주의해서 볼 점
파인튜닝이 최신 사실을 가르치는 만능 버튼은 아니야. 데이터가 작거나 품질이 나쁘면 특정 예시에만 과하게 맞아서 일반 상황 성능이 오히려 흔들릴 수 있어.
관련 용어
- PyTorch: 파인튜닝을 직접 구현할 때 가장 자주 만나는 딥러닝 프레임워크야. 개념을 코드와 학습 루프로 옮길 때 연결되는 이름이야.
- Alignment: 모델이 사람 의도와 정책을 더 잘 따르게 만드는 넓은 목표야. 파인튜닝은 그 목표를 이루는 여러 수단 중 하나로 보면 돼.
- Distillation: 큰 모델의 행동을 더 작은 모델로 옮기는 데 초점이 있어. 같은 모델을 조정하는 파인튜닝과는 해결하려는 문제가 조금 달라.
- RLHF: 사람 피드백을 보상 신호로 쓰는 학습 방식이야. 지도 파인튜닝보다 복잡하고 선호도 최적화 색이 더 강해.