Part 1 LLM 소개
Chapter 1 LLM
_1.1 LLM이란?
__1.1.1 LLM 정의
__1.1.2 LLM 주요 특징
__1.1.3 LLM 작동 원리
_1.2 현재 많이 사용되는 LLM
__1.2.1 BERT
__1.2.2 GPT-4와 ChatGPT
__1.2.3 T5
_1.3 도메인 특화 LLM
_1.4 LLM을 이용한 애플리케이션
__1.4.1 전통적인 자연어 처리(NLP 작업
__1.4.2 자유로운 텍스트 생성
__1.4.3 정보 검색/신경망 의미 기반 검색
__1.4.4 챗봇
_1.5 마치며
Chapter 2 LLM을 이용한 의미 기반 검색
_2.1 들어가는 글
_2.2 작업
__2.2.1 비대칭적 의미 기반 검색
_2.3 솔루션 개요
_2.4 구성 요소
__2.4.1 텍스트 임베더
__2.4.2 문서 청킹
__2.4.3 벡터 데이터베이스
__2.4.4 파인콘
__2.4.5 오픈 소스 대안
__2.4.6 검색 결과 재순위화
__2.4.7 API
_2.5 통합
__2.5.1 성능
_2.6 클로즈드 소스 구성 요소의 비용
_2.7 마치며
Chapter 3 프롬프트 엔지니어링의 첫 번째 단계
_3.1 들어가는 글
_3.2 프롬프트 엔지니어링
__3.2.1 언어 모델에서 정렬
__3.2.2 직접 요청하기
__3.2.3 퓨샷 학습
__3.2.4 출력 구조화
__3.2.5 페르소나 지정하기
_3.3 여러 모델과 프롬프트 작업하기
__3.3.1 ChatGPT
__3.3.2 Cohere
__3.3.3 오픈 소스 프롬프트 엔지니어링
_3.4 ChatGPT와 Q/A 챗봇 만들기
_3.5 마치며
Part 2 LLM 활용법
Chapter 4 맞춤형 파인튜닝으로 LLM을 최적화하기
_4.1 들어가는 글
_4.2 파인튜닝과 전이학습: 기초 안내서
__4.2.1 파인튜닝 과정
__4.2.2 파운데이션 모델로 사전 훈련된 클로즈드 소스 모델 사용하기
_4.3
LLM이 생소한 입문자이든, 숙련된 개발자이든, 모두가 만족할 맞춤형 LLM 가이드
ChatGPT와 같은 최신 LLM은 놀랍고도 편리한 기술을 제공해 주지만, 거대한 크기와 많은 복잡성 때문에 여전히 실무자가 실제로 자신의 업무에 적용하기 어려워합니다. 이 책은 이러한 어려움을 해결하기 위해 LLM의 복잡성을 최소화하고, 프롬프트 엔지니어링 기법부터 강화 학습까지 여러 분야의 쉽지 않은 내용들을 적당한 깊이와 난이도로 설명합니다. LLM 서비스를 구현하는 개발자이든, 새롭게 공부하는 학생이든, 심지어 서비스를 기획하는 프로덕트 매니저까지도 자신의 수준에 맞는 LLM 개념과 활용법을 알차게 배울 수 있습니다. 이 책을 통해 LLM의 전반적인 지식을 빠르고 쉽게 익혀 자신의 업무에 LLM을 적용해 보시길 바랍니다.
주요 내용
사전 훈련, 파인튜닝, 어텐션, 토큰화 등 LLM의 주요 개념
API와 파이썬을 활용한 LLM 파인튜닝 및 맞춤화
의미 기반 검색 시스템을 구축하여 LLM 검색 기능 최적화
퓨샷 프롬프트와 같은 고급 프롬프트 엔지니어링
LLM 임베딩, 멀티모달 트랜스포머 구축, RLHF/RLAIF를 활용한 LLM 정렬
