03.7 정리

이번 장에서는 신경망의 순전파를 살펴봤습니다. 이번 장에서 설명한 신경망은 각 층의 뉴런들이 다음 층의 뉴런으로 신호를 전달한다는 점에서 앞 장의 퍼셉트론과 같습니다. 하지만 다음 뉴런으로 갈 때 신호를 변화시키는 활성화 함수에 큰 차이가 있었습니다. 신경망에서는 매끄럽게 변화하는 시그모이드 함수를, 퍼셉트론에서는 갑자기 변화하는 계단 함수를 활성화 함수로 사용했습니다. 이 차이가 신경망 학습에 중요하죠. 이에 대해서는 다음 장에서 설명하겠습니다.

이번 장에서 배운 것

• 신경망에서는 활성화 함수로 시그모이드 함수와 ReLU 함수 같은 매끄럽게 변화하는 함수를 이용한다.
• 넘파이의 다차원 배열을 잘 사용하면 신경망을 효율적으로 구현할 수 있다.
• 기계학습 문제는 크게 회귀와 분류로 나뉩니다.
• 출력층의 활성화 함수로는 회귀에서는 주로 항등 함수를, 분류에서는 주로 소프트맥스 함수를 이용한다.
• 분류에서는 출력층의 뉴런 수로 분류하려는 클래스 수와 같게 설정한다.
• 입력 데이터를 묶은 것을 배치라 하며, 추론 처리를 이 배치 단위로 진행하면 결과를 훨씬 빠르게 얻을 수 있다.

---

🧭 3장의 모험 정리 상자

지니가 3장의 핵심 마법 공식과 개념들을 보기 좋게 적어둔 요술 스크롤을 보여주고 있어요.

지니의 모험 소회

• 지니: “도로시, 토토! 이번 3장에서는 단순한 퍼셉트론 성벽을 넘어 매끄러운 마법을 쓰는 ‘신경망 성’의 구조, 그리고 다차원 배열 연산과 배치 처리의 비밀까지 완벽히 마스터했어!”
• 도로시: “맞아! 수식을 코드로 직접 짜보니까 정말 재미있었어. 아직 수동으로 입력해야 하는 가중치가 남아있지만, 자동으로 가중치를 맞추는 다음 단계 학습을 어서 배우고 싶어!”
• 토토: “왈왈! (지니와 도로시를 번갈아 보며) 3장 정복 기념 하이파이브다 멍!”

블랙보드 앞에서 도로시와 지니가 신경망 정복의 즐거움을 나누며 기쁘게 손을 마주치고 있고, 토토가 신나게 공중으로 날아오르고 있어요.

지니: “좋아, 다음 목적지는 4장 신경망 학습이야! 신경망이 손실 함수라는 피드백과 경사하강법이라는 지도를 활용해 스스로 학습(수동 가중치 조절을 대체)해 나가는 신비로운 여정이 될 거란다. 어서 가자!”

• 도로시/토토: “(별빛 가득한 길을 향해 힘차게 달리며) 출발이다! 멍멍!”

3장의 여정을 성공적으로 마친 삼총사가 아름다운 은하수 밤하늘 아래에서 서로를 격려하며, 다음 학습 모험을 향해 힘차게 나아갈 준비를 하고 있어요.