제1고지 미분 자동 계산
__1단계 상자로서의 변수
__2단계 변수를 낳는 함수
__3단계 함수 연결
__4단계 수치 미분
__5단계 역전파 이론
__6단계 수동 역전파
__7단계 역전파 자동화
__8단계 재귀에서 반복문으로
__9단계 함수를 더 편리하게
__10단계 테스트
제2고지 자연스러운 코드로
__11단계 가변 길이 인수(순전파 편
__12단계 가변 길이 인수(개선 편
__13단계 가변 길이 인수(역전파 편
__14단계 같은 변수 반복 사용
__15단계 복잡한 계산 그래프(이론 편
__16단계 복잡한 계산 그래프(구현 편
__17단계 메모리 관리와 순환 참조
__18단계 메모리 절약 모드
__19단계 변수 사용성 개선
__20단계 연산자 오버로드(1
__21단계 연산자 오버로드(2
__22단계 연산자 오버로드(3
__23단계 패키지로 정리
__24단계 복잡한 함수의 미분
제3고지 고차 미분 계산
__25단계 계산 그래프 시각화(1
__26단계 계산 그래프 시각화(2
__27단계 테일러 급수 미분
__28단계 함수 최적화
__29단계 뉴턴 방법으로 푸는 최적화(수동 계산
__30단계 고차 미분(준비 편
__31단계 고차 미분(이론 편
__32단계 고차 미분(구현 편
__33단계 뉴턴 방법으로 푸는 최적화(자동 계산
__34단계 sin 함수 고차 미분
__35단계 고차 미분 계산 그래프
__36단계 고차 미분 이외의 용도
제4고지 신경망 만들기
__37단계 텐서를 다루다
__38단계 형상 변환 함수
__39단계 합계 함수
__40단계 브로드캐스트 함수
__41단계 행렬의 곱
__42단계 선형 회귀
__43단계 신경망
__44단계 매개변수를 모아두는 계층
__45단계 계층을 모아두는 계층
__46단계 Optimizer로 수행하는 매개변수 갱신
__47단계 소프트맥스 함수와 교차 엔트로피 오차
__48단계 다중 클래스 분류
__49단계 Dataset 클래스와
★ 파이썬을 활용해 밑바닥부터 직접 구현하는 딥러닝 프레임워크
딥러닝 프레임워크 안은 놀라운 기술과 재미있는 장치로 가득합니다. 어떤 구조를 갖추고 어떤 원리로 움직일까요? 어떤 기술이 사용되고 어떤 사상이 밑바닥에 흐르고 있을까요? 3편의 목표는 그것들을 밖으로 꺼내보고 제대로 이해하는 것입니다. 그 과정에서 여러분이 기술적인 재미도 느낄 수 있도록 ‘밑바닥부터 만든다’는 방침을 세웠습니다. 다른 누군가가 만들어놓은 도구를 사용하기만 해서는 도달하기 어려운 깊은 깨달음을 얻기를 바랍니다.
● 제1고지_ 프레임워크 개발을 위한 기반을 마련합니다.
● 제2고지_ 프레임워크를 사용하는 코드가 더 자연스럽게 보이도록 합니다.
● 제3고지_ 2차 미분을 구할 수 있도록 프레임워크를 확장합니다. ‘역전파의 역전파’ 구조를 배우고 이해하면 프레임워크의 새로운 가능성에 눈을 뜨게 됩니다.
● 제4고지_ 프레임워크를 신경망용으로 정비하고 이를 사용해 손쉽게 신경망을 구축합니다.
● 제5고지_ CPU 대응, 모델 저장과 복원 등 실전 딥러닝에 꼭 필요한 기능을 추가합니다. CNN, RNN 등 발전된 모델도 다룹니다. 딥러닝 응용을 다루는 이 주제들을 프레임워크로 구현한다면 간단한 코드만으로 해결할 수 있습니다.
