=======================
1장 처음 만나는 자연어 처리
=======================
1-1 딥러닝 기반 자연어 처리 모델
1-2 트랜스퍼 러닝
1-3 학습 파이프라인 소개
1-4 개발 환경 설정
=========================
2장 문장을 작은 단위로 쪼개기
=========================
2-1 토큰화란?
2-2 바이트 페어 인코딩이란?
2-3 어휘 집합 구축하기
2-4 토큰화하기
=======================
3장 숫자 세계로 떠난 자연어
=======================
3-1 미리 학습된 언어 모델
3-2 트랜스포머 살펴보기
3-3 셀프 어텐션 동작 원리
3-4 트랜스포머에 적용된 기술들
3-5 BERT와 GPT 비교
3-6 단어/문장을 벡터로 변환하기
=======================
4장 문서에 꼬리표 달기
=======================
4-1 문서 분류 모델 훑어보기
4-2 문서 분류 모델 학습하기
4-3 학습 마친 모델을 실전 투입하기
=======================
5장 문장 쌍 분류하기
=======================
5-1 문장 쌍 분류 모델 훑어보기
5-2 문장 쌍 분류 모델 학습하기
5-3 학습 마친 모델을 실전 투입하기
=======================
6장 단어에 꼬리표 달기
=======================
6-1 개체명 인식 모델 훑어보기
6-2 개체명 인식 모델 학습하기
6-3 학습 마친 모델을 실전 투입하기
=======================
7장 질문에 답하기
=======================
7-1 질의응답 모델 훑어보기
7-2 질의응답 모델 학습하기
7-3 학습 마친 모델을 실전 투입하기
=======================
8장 문장 생성하기
==
<이 책의 특징>
딥러닝 기반 자연어 처리 기술의 핵심 내용을 쉽게 전달
트랜스포머 계열 BERT, GPT의 동작 원리 중점 설명
NSMC, KorQuAD 등 한국어 데이터의 전처리 노하우 공유
세계적으로 널리 쓰이는 허깅페이스, 파이토치 라이트닝 활용법 소개
자연어 처리 입문자, 비전공자의 진입 장벽을 낮추고자 수식과 코딩 최소화
칭찬과 욕설을 구분하는 AI는 어떻게 만들까? 기계는 지문을 읽고 답을 어떻게 찾을까? 인공지능은 어떻게 소설을 쓸 수 있을까? 이 책은 이런 질문의 해답과 함께 최근 자연어 처리 기술 발전의 중심에 있는 BERT와 GPT의 핵심 동작 원리를 알려 줍니다. 그리고 한국어 언어 모델과 데이터를 활용해 대표 과제 5가지를 직접 수행해 보면서 자연어 처리의 전반과 구체적인 활용법을 배웁니다.
▶ 수학, 코딩을 잘 몰라도 자연어 처리를 배울 수 있어요
자연어 처리를 정석대로 공부하자면 딥러닝을 비롯해 수학, 코딩 등 다양한 기법을 알아야 하지만, 이 책에서는 자연어 처리 입문을 포기하게 만드는 장벽을 허물고자 노력했습니다. 처음 시작할 때는 트랜스포머에만 집중해도 충분하기 때문입니다. 파이썬이나 파이토치 문법 역시 당장 몰라도 최종 목적지를 확인하는 데는 문제가 없습니다. 그래서 이 책은 자연어 처리를 자신의 업무에 도입해 보려는 개발자나 데이터 사이언티스트뿐만 아니라 자연어 처리에 입문하려는 어문 계열 학생이나 언어학 연구자도 쉽게 접근할 수 있도록 수식과 코딩을 최소화했습니다.
▶ 내 손으로 만든 인공지능을 맛보세요
이 책은 언어 모델을 만드는 것에 그치지 않고 웹 서비스까지 확장해서 모델이 제대로 동작하는지 시험해 볼 수 있도록 구성했습니다. 오픈소스로 공개된 한국어 말뭉치를 학습한 언어 모델을 만들고 빈칸 맞히기, 다음에 올 단어 맞히기, 질문에 답하기, 문장 생성하기 등 내가 만든 모델이 어떻게 동작하는지 웹 브라우저에서 직접 확인해 볼 수 있습니다.
▶ 편리한 실습 환경을 제공해요
