신경망에서 층(Layer)이란?

신경망에서 층은 뉴런들이 모여 있는 구조로, 입력을 받아 가공한 후 다음 층으로 전달하는 역할을 합니다.

층이 많을 수록 신경망은 더 복잡한 패턴을 학습할 수 있으며, 수백개의 층으로 이루어진 신경망을 심층 신경망(Deep Neural Network)이라고 합니다.

이러한 심층 신경망을 사용하는 머신러닝 모델을 딥러닝(Deep Learning)이라고 합니다.

신경망의 주요 층은 다음과 같습니다.

• 입력층 (Input Layer) : 데이터가 신경망에 처음 들어오는 층입니다.

• 은닉층 (Hidden Layer) : 입력 데이터를 가공하고 특징을 추출하는 층으로, 신경망의 핵심 연산이 이루어집니다.

• 출력층 (Output Layer) : 최종 결과를 출력하는 층입니다.

신경망은 순전파(Forward Propagation)와 역전파(Backpropagation) 과정을 거쳐 학습합니다.

입력층에서 받은 데이터가 은닉층을 거쳐 출력층으로 전달되는 과정입니다.

이 과정에서 각 뉴런은 가중치와 활성화 함수를 적용하여 데이터를 변환합니다.

대표적인 활성화 함수 예시는 다음과 같습니다.

• 시그모이드 함수 (Sigmoid Function) : 출력값을 0과 1 사이로 변환하여 확률처럼 해석할 수 있도록 합니다.

• 렐루 (ReLU, Rectified Linear Unit) : 음수를 0으로 바꾸고 양수는 그대로 유지하여 연산을 빠르게 수행합니다.

• 소프트맥스 (Softmax Function) : 다중 클래스 분류에서 각 클래스의 확률을 계산하는 데 사용됩니다.

출력층에서 얻은 결과와 실제 값의 차이를 손실 함수를 통해 계산한 후, 이를 바탕으로 가중치를 조정하는 과정입니다.

손실 함수는 모델이 얼마나 잘못된 예측을 했는지 수치적으로 측정합니다.

이후, 경사 하강법과 같은 최적화 기법을 사용하여 오차가 줄어들도록 가중치를 업데이트합니다.

이 과정을 여러 번 반복하면서 신경망은 점점 더 정확한 결과를 도출할 수 있도록 학습됩니다.

다음 수업에서는 각 층의 역할과 신경망의 동작 원리에 대해 자세히 알아보겠습니다.