수업 핵심 내용 정리

주어진 데이터를 분석하여 패턴과 규칙을 학습하고, 이를 바탕으로 새로운 데이터에 대한 예측 및 결정을 내리는 컴퓨터 프로그램

기존에 훈련된 AI 모델을 특정한 작업이나 목적에 맞게 재훈련하여 성능을 향상시키는 과정

많은 예시 데이터에서 특징을 추출해 패턴을 배우고, 이를 기반으로 새로운 데이터를 정확하게 처리하는 능력을 기르는 것

기술적 설명: 새로 입력된 데이터에 대한 출력을 결정하는 알고리즘(특정 작업을 수행하기 위한 단계적 절차)을 만드는 것입니다.

AI는 매개변수인 가중치와 편향을 조정해 데이터의 패턴을 학습하고, 새로운 데이터에 대한 예측을 수행

복사
y = w1x1 + w2x2 + ... + wnxn + b

데이터를 저장하고 교환하기 위한 경량의 데이터 형식

JSON은 객체(Object)와 배열(Array)로 구성되며, 객체는 중괄호 { }로, 배열은 대괄호 [ ]로 감싸져 있음

복사
// 대괄호로 감싼 배열
[
     // 중괄호로 감싼 객체
    {  
        "이름": "김철수",
        "수학": 85,
        "영어": 90
    },
    {
        "이름": "최영희",
        "수학": 88,
        "영어": 80
    }
]

파인튜닝에 활용되는 JSONL 파일은 1줄에 JSON 형식의 데이터를 1개씩 저장하는 형식

AI 모델 학습 및 검증 등 특정한 목적을 위해 수집 및 정리된 데이터의 모음

• 학습 데이터셋: 전체 데이터의 약 60-80%

• 검증 데이터셋: 전체 데이터의 약 10-20%

• 테스트 데이터셋: 전체 데이터의 약 10-20%

모델이 예측한 값과 실제 값 사이의 차이를 측정하는 함수로, 모델의 예측 값과 실제 값(정답)을 입력으로 받아, 손실(오차)을 출력으로 반환

손실 함수의 값이 작을수록 모델의 예측이 실제 값과 가깝다는 의미하며, AI 학습의 목표는 손실 함수의 값이 작아지도록 하는 것

손실 함수의 기울기를 그래디언트(Gradient)라고 하며, 모델의 파라미터를 어떻게 조정해야 손실을 줄일 수 있는지 알려줌.

AI 모델을 훈련시킬 때 설정하는 매개변수 (설정값)