처음 시작하는 딥러닝

  • 인터넷에 공개된 다양한 딥러닝 코드를 활용하는 것은 어쩌면 딥러닝을 처음 시작하는데 적절한 방법일 수도 있습니다. 하지만 활용에서 벗어나 응용을 하기 위해서는 탄탄한 기초가 필요합니다.
  • 처음 시작하는 딥러닝 책은 딥러닝의 가장 기초가 되는 함수를 시작으로 합성곱 신경망인 CNN, 그리고 순환 신경망인 RNN까지 일련의 과정을 학습합니다. 딥러닝에 대한 전체적인 이해를 바탕으로 마지막 파이토치(PyTorch)를 활용하는 방법으로 책은 마무리가 됩니다.

주요 특징: 초반

  • 책에서 신경망을 처음 학습할 때 접근하는 방법은 아래와 같이 세 가지 관점으로 접근합니다. 이는 처음 시작하는 딥러닝 책의 시작을 보면 그 의도를 알 수 있습니다. 수식을 외우지 말라. 개념만 제대로 이해하면 나만의 수식을 만들 수 있다. - 존 코크런 즉, 단순한 암기에서 벗어나 원리와 과정을 이해하여 응용할 수 있는 능력을 함양하는데 목적이 있다는 것을 알 수 있습니다.

    1. 수식: 수식 형태로 설명한다.
    2. 코드: 가능한 한 간단한 문법만 사용해 설명한다.
    3. 다이어그램: 코딩 인터뷰에서 사용할 법한 다이어그램으로 구조나 과정을 설명한다.
  • 세 가지 관점은 특히 기본 지식을 수식과 코드로 접하고, 다이어그램으로 이해를 하는 구조는 독자들로 하여금 조금 더 쉽게 이해할 수 있도록 도와줍니다.

  • 또한 신경망 구조를 설명하고, 신경망 연산을 사용하는 부분에서는 처음부터 PyTorch나 TensorFlow와 같은 딥러닝 프레임워크를 사용하지 않고, 넘파이(NumPy)를 사용하여 보다 세부적인 이해를 도와줍니다. 손실 함수를 구현하기 위해 도함수 계산 과정을 직접 구현하는 등 딥러닝 프레임워크가 제공하는 추상화된 메소드를 호출하는 것이 아니므로 자신만의 무언가를 만들려고 할 때 큰 장벽에 가로막히는 과정을 최대한 줄이려는 노력이 보입니다.

주요 특징: 중반

  • 기초를 벗어나 본격적인 딥러닝을 만들어보는 과정은 다양한 클래스를 설계하여 구현하는 과정을 학습합니다. 이는 프레임워크가 제공하는 클래스의 의도를 이해하는 데 도움을 줍니다. 뿐만 아니라 직접 설계한 클래스는 이미 구현된 클래스를 가져다 사용하는 것보다 활용하는데 쉽기 때문에 추가적인 테스트 또는 자신이 준비한 데이터를 사용해보는데 수월하다는 특징이 있습니다.
  • 기본적인 딥러닝 클래스에서 다양한 부가적인 클래스로 확장하는 과정은 모멘텀(Momentum), 학습률 감쇠(Learning Rate Decay), 드롭아웃(Dropout) 등 학습을 도와주는 다양한 응용 기법을 다룹니다. 이 역시 직접 클래스로 구현하면서 동작을 확인합니다.

주요 특징: 후반

  • 딥러닝의 기본적인 구조를 학습하면 CNN, RNN 구조의 특별한 연산 방법을 공부하며, 일반적인 Nerural Network에서 보다 발전된 내용을 학습합니다. 특히 CNN과 RNN과 같은 구조를 직접 구현한다는 것은, 프레임워크가 제공하지 않는 본인만의 특별한 레이어(Layer)를 설계하는데 큰 도움이 됩니다.

  • 직접 구현한 NumPy 기반의 딥러닝 연산들은 GPU와 같은 하드웨어 가속을 처리할 수 없기 때문에 다양한 프레임워크를 사용하게 됩니다. 하지만 딥러닝의 이론과 코드에 대한 적절한 이해가 있다면 딥러닝 프레임워크를 사용하는데 큰 도움이 됩니다. 지금까지 학습한 내용을 PyTorch로 사용하는 방법을 학습하여 프레임워크가 제공하는 기능을 보다 명확하게 사용하도록 도와줍니다.

총평

  • 딥러닝을 처음 공부하는데 많은 사람들이 참고하는 책이 밑바닥부터 시작하는 딥러닝이라 생각합니다. 밑바닥부터 시작하는 딥러닝도 딥러닝에 사용하는 다양한 기초 내용부터 시작하여 직접 코드로 구현하는 과정을 거치지만, 처음 시작하는 딥러닝보다 오래된 내용을 다룬다는 점, 순환 신경망 또는 PyTorch와 같은 내용들이 없다는 점을 고려하면, 딥러닝을 처음 시작하는 사람들에게 매력 있는 책이라 생각합니다.
  • 저 역시도 책에서 제공하는 코드를 따라 하고, 모듈로 분리하여 하나의 패키지로 만들어보는 등 다양한 경험을 할 수 있어서 매우 좋았습니다.

한빛미디어 <나는 리뷰어다> 활동을 위해서 책을 제공받아 작성된 서평입니다.