1장. 로젠블랫 퍼셉트론
2입력 퍼셉트론 예제
퍼셉트론 학습 알고리듬
퍼셉트론의 한계
여러 퍼셉트론 조합하기
선형대수로 퍼셉트론 구현하기
__벡터 표기법
__내적
__벡터를 2차원 행렬로 확장하기
__행렬-벡터 곱
__행렬-행렬 곱
__퍼셉트론을 위해 사용한 벡터와 행렬 연산의 요약
__행렬곱으로서의 내적
__다차원 텐서로 확장하기
퍼셉트론의 기하학적 해석
편향 항 이해하기
퍼셉트론 맺음말
2장. 기울기 기반 학습
퍼셉트론 학습 알고리듬의 직관적인 설명
미분 그리고 최적화 문제
경사 하강으로 학습 문제 풀기
__다차원 함수를 위한 경사 하강
네트워크에서의 상수와 변수
퍼셉트론 학습 알고리듬의 분석적인 설명
퍼셉트론 학습 알고리듬의 기하학적 설명
각기 다른 형태의 퍼셉트론 도표 다시 보기
패턴 식별에 퍼셉트론 사용하기
기울기 기반 학습의 맺음말
3장. 시그모이드 뉴런과 역전파
다수준 네트워크에서 경사 하강이 가능하도록 수정된 뉴런
어떠한 활성 함수를 사용해야 하는가
함수 합성과 연쇄법칙
역전파를 사용해 기울기 계산하기
__포워드 패스
__백워드 패스
__가중치 조정
층마다 복수의 뉴런이 있는 역전파
프로그래밍 예제: XOR 함수 학습하기
네트워크 아키텍처
역전파의 맺음말
4장. 다중클래스 분류에 적용된 완전 연결 네트워크
네트워크를 훈련시킬 때 쓰이는 데이터셋 소개
__데이터셋 살펴보기
__데이터에서 인간의 편향
__훈련 집합, 테스트 집합, 그리고 일반화
__초매개변수 튜닝과 테스트 집합 정보 유출
훈련과 추론
네트워크와 학습 알고리듬을 확장해 다중클래스 분류하기
숫자 분류를 위한 네트워크
다중클래스 분류를 위한 오차 함수
프로그래밍 예제: 손글씨 숫자 분류하기
미니배치 경사 하강
다중클래스 분류의 맺음말
5장. DL을 향해: 프레임워크 및 네트워크 미조정
프로그래밍 예제: DL 프레임워크로 이동하기
포화 뉴런과 기울기 소실 문제
◈ 추천의 글 ◈
인공지능(AI, Artifical Intelligence은 지난 10년간 인상적인 진전을 이뤘다. 우리처럼 생각하고 행동할 수 있는 지적 기계를 만들고자 하는 인간의 꿈이 마침내 시작되는 것 같다. 모두가 이러한 역사적인 혁명에 참여할 수 있으려면 AI 지식과 자원의 민주화가 필요하다. 이 책은 이러한 담대한 목표를 달성하는 데 있어 시의적절하며 유의미하다.
이 책은 야망 있으며 경험을 가진 AI 개발자 모두에게 폭넓은 교육적 가이드를 제공한다. 저자인 매그너스는 AI 분야에서 확고한 리더인 NVIDIA로부터 얻은 풍부한 경험을 공유해준다. 지난 수년간 딥러닝에서의 비약적인 발전을 다루는 데 집중하고 있는 이 책은 좋은 균형을 유지하며 역전파와 같은 중요한 근본적인 내용 몇몇 도메인에서의 최신 모델(예를 들면 언어 이해를 위한 GPT, 이미지 이해를 위한 Mask R-CNN 모두를 다룬다.
AI는 데이터, 알고리듬, 연산 인프라의 삼위일체다. ImageNet 대회가 시작되며 커다란 신경망을 훈련하기 위한 대규모 벤치마크 데이터셋을 제공했다. NVIDIA GPU의 병렬화는 이러한 커다란 신경망의 훈련을 가능케 했다. 대규모 모델의 구축과 유지는 곧 모든 AI 엔지니어의 필수적인 기술로 간주될 것이다. 이 책은 여러 도메인에서의 대규모 모델을 깊게 다루고 있으며 또한 신경 아키텍처 검색과 같은 떠오르는 분야를 다룬다. 우리가 이 분야에서 현재의 AI 모델로부터 될 수 있는 한 최대의 정확도와 하드웨어 효율성을 끌어내기 시작했으므로, 이들은 더욱 널리 보급될 것이다. 딥러닝 혁명은 거의 전적으로 오픈소스로부터 발생돼 왔다. 이 책은 코드와 데이터셋을 편리하게 접근하도록 해주며 코드 예제를 세밀하게 진행한다. 딥러닝을 위한 가장 인기 있는 프레임워크인 텐서플로(TensorFlow와 파이토치(PyTorch 모두를 위한 폭넓은 프로그램 코드가 준비되어 있다.
AI를 다루는 어떤 책이든지 윤리적 문제를 논의하지 않을 수 없을 것이다.