파인튜닝 총정리

지금까지 학습한 파인튜닝 주요 내용을 총정리해 보겠습니다.

기존에 훈련된 AI 모델을 특정한 작업이나 목적에 맞게 재훈련하여 성능을 향상시키는 과정

데이터를 분석하고, 그 데이터로부터 패턴을 학습하여 새로운 데이터에 대한 예측이나 결정을 내릴 수 있는 모델을 만드는 과정

입력 데이터와 해당 데이터에 대한 정답이 주어지는 학습 방식

정답이 없는 데이터를 사용하여 데이터의 구조나 패턴을 발견하는 학습 방식

강화 학습은 시도와 오류를 통해 보상을 최대화하는 행동을 학습하는 방식

컴퓨터가 사람처럼 학습하는 기술로, 기계학습(Machine Learning)의 하위 분야

많은 예시 데이터에서 특징을 추출해 패턴을 배우고, 이를 기반으로 새로운 데이터를 정확하게 처리하는 능력을 기르는 것

기술적으로, 새로 입력된 데이터에 대한 출력을 결정하는 알고리즘(특정 작업을 수행하기 위한 단계적 절차)을 만드는 것

입력 데이터의 특정 특징이 얼마나 중요한지 결정하는 매개변수

모델의 출력이 특정 방향으로 치우치지 않도록 조정하는 매개변수

기존 모델의 가중치(Weights)와 편향(Bias) 값을 초기 값으로 사용. 새로운 데이터를 학습하면서, 기존에 학습한 패턴의 가중치(weights)와 편향(biases) 등을 조정

AI 모델 학습 및 검증 등 특정한 목적을 위해 수집 및 정리된 데이터의 모음

AI가 처음으로 학습하는 데이터

학습 도중에 AI의 성능을 평가하는 데 사용

AI가 실제 상황에서 얼마나 잘 작동하는지를 평가하는 데 사용

데이터를 분석하거나 AI 모델을 학습시키기 전에 데이터를 정리하고 변환하는 과정

데이터를 저장하고 교환하기 위한 경량의 데이터 형식

JSON Lines의 약자로, JSON 데이터를 한 줄씩 저장하는 형식

모델의 출력과 실제 정답 사이의 차이를 계산하는 함수

손실 함수 기울기로, 값을 최소화하는 방향으로 모델의 가중치를 조정

AI 모델을 훈련시킬 때 설정하는 매개변수

각 반복마다 모델이 얼마나 크게 변화할 것인지 결정하는 값

모델이 한 번에 처리하는 데이터의 양

전체 데이터셋을 몇 번 반복해서 학습할 것인지를 결정

AI 모델이 학습 데이터에는 아주 잘 맞춰져 있지만, 학습 데이터에 과도하게 최적화되어 새로운 데이터나 검증 데이터에 대해서는 성능이 좋지 않은 상태

AI 모델이 학습 데이터의 패턴을 충분히 학습하지 못해, 학습 데이터와 새로운 데이터 모두에 대해 성능이 좋지 않은 상태

기존에 학습된 모델을 새로운 문제에 적용하는 기법