파인튜닝과 일반적인 학습의 차이점

파인튜닝은 이미 학습된 AI 모델을 새로운 데이터에 맞춰 다시 조정하는 과정입니다.

AI 모델을 완전히 처음부터 학습하는 것이 아닌, 기존 모델이 이미 배운 내용을 바탕으로 새로운 목적에 맞게 살짝 수정합니다.

AI 모델을 처음부터 학습시키려면 방대한 데이터, 오랜 시간, 그리고 많은 컴퓨팅 자원이 필요합니다.

하지만 이미 잘 학습된 모델이 있다면, 그 모델을 기반으로 새로운 작업에 맞게 빠르게 조정하는 것이 훨씬 효율적입니다.

예를 들어 GPT처럼 다양한 언어를 이해하는 똑똑한 모델이 있다면, 여기에 다양한 판례를 학습시켜 법률 문제를 해결하는 AI로 쉽게 변환할 수 있습니다.

일반적인 학습은 완전히 초기화된 상태에서 시작합니다.

모든 가중치(Weight)와 편향(Bias)을 무작위로 설정한 뒤, 데이터를 이용해 이 값들을 조금씩 조정하면서 모델을 학습시킵니다.

참고: 가중치와 파라미터를 합쳐서 모델의 파라미터(Parameters)라고 합니다.

반면, 파인튜닝은 이미 학습된 가중치와 편향을 갖춘 사전학습(pre-trained) 모델에서 시작합니다.

기존 모델이 갖고 있는 지식을 유지한 채, 새로운 데이터에 맞게 가중치와 편향을 일부만 조정하거나 전체를 미세하게 조정합니다.

모델은 내부적으로 여러 층(Layer)으로 구성되어 있으며, 각 층에는 가중치와 편향 값이 있습니다.

이 값들은 학습을 통해 바뀌며, 예측의 정확도에 직접적인 영향을 줍니다.

파인튜닝 과정에서는 다음과 같은 방식으로 작동합니다.

1. 기존 모델 불러오기: 대규모 데이터로 사전 학습된 모델을 불러옵니다.

2. 일부 층 or 전부 조정: 특정 층은 그대로 두고 몇 개의 층만 파라미터 값을 조정하거나, 모든 층을 미세하게 조정할 수 있습니다.

3. 새로운 데이터로 학습: 의료, 법률과 같은 새로운 분야의 데이터를 사용하여, 기존 모델을 업데이트합니다.

파인튜닝은 프롬프트 엔지니어링과 함께 AI를 더 효율적으로 사용하기 위한 대표적인 방법 중 하나입니다.

다음 수업에서는 파인튜닝과 프롬프트 엔지니어링의 차이점에 대해 알아보겠습니다.