쉽게 풀어쓴 딥러닝(Deep Learning)의 거의 모든 것

Source

  • Evernote/Inbox/T-Robotics Robot & Math 쉽게 풀어쓴 딥러닝(Deep Learning)의 거의 모든 것.md

Summary

본문은 딥러닝이 인공신경망(ANN)의 현대적 발전형임을 설명하며, 그 핵심 메커니즘을 ‘선형 맞춤(linear fitting)과 비선형 변환(nonlinear transformation)의 반복’으로 정의한다. 딥러닝은 복잡한 데이터를 구분하기 위해 공간을 왜곡하고 합하는 과정을 통해 최적의 구분선을 찾으며, 이는 방대한 데이터와 장기적인 최적화(optimization)를 통해 이루어진다. 역사적으로 인공신경망은 1990년대 최적화 난제(로컬 미니마 문제)로 인해 암흑기를 겪었으나, 제프리 힌톤(Geoffrey Hinton) 교수가 2006년 제안한 ‘비지도학습 기반의 사전학습(pre-training)’ 기법으로 이 문제를 해결하며 부활했다. 이후 빅데이터와의 결합 및 최적화 기법의 발전으로 딥러닝은 기계학습 분야에서 지배적인 위치를 차지하게 되었다.

Key Points

  • 딥러닝은 본질적으로 인공신경망(ANN)이며, 선형 구분과 비선형 왜곡을 반복하여 복잡한 데이터 패턴을 학습한다.
  • 학습 과정은 대량의 데이터와 오랜 시간의 최적화(optimization)에 의존한다.
  • 인공신경망은 1990년대 최적화 알고리즘의 한계(로컬 미니마 함정)로 인해 연구가 정체되었다.
  • 2006년 제프리 힌톤 교수의 ‘비지도학습을 이용한 사전학습(pre-training)’ 연구가 딥러닝 부활의 전환점이 되었다.
  • 사전학습은 노이즈를 감소시키고 초기 가중치를 조정하여 깊은 신경망의 최적화 문제를 해결했다.
  • 빅데이터의 등장과 결합된 딥러닝은 영상처리, 음성인식 등 다양한 분야에서 기존 기계학습 방법을 대체하며 주류가 되었다.