CHAPTER 1 텍스트 데이터에서 찾는 통찰
1.1 학습 목표
1.2 탐색적 데이터 분석
1.3 데이터셋: 유엔총회 일반토의
1.4 전략: 팬더스로 데이터 개요 확인
1.5 전략: 간단한 텍스트 전처리 파이프라인 구축
1.6 단어 빈도 분석을 위한 전략
1.7 전략: 컨텍스트 내 키워드 탐색
1.8 전략: N-그램 분석
1.9 전략: 시간 및 범주에 따른 빈도 비교
1.10 마치며
CHAPTER 2 API로 추출하는 텍스트 속 통찰
2.1 학습 목표
2.2 API
2.3 전략: 리퀘스트 모듈을 이용한 API 호출
2.4 전략: 트위피를 사용한 트위터 데이터 추출
2.5 마치며
CHAPTER 3 웹사이트 스크래핑 및 데이터 추출
3.1 학습 목표
3.2 스크래핑 및 데이터 추출
3.3 로이터 뉴스 아카이브
3.4 URL 생성
3.5 전략: robots.txt 파일 해석
3.6 전략: sitemap.xml 파일로 URL 획득
3.7 전략: RSS에서 URL 획득
3.8 데이터 다운로드
3.9 전략: 파이썬을 사용한 HTML 페이지 다운로드
3.10 전략: wget을 사용한 HTML 페이지 다운로드
3.11 반정형 데이터 추출
3.12 전략: 정규 표현식을 사용한 데이터 추출
3.13 전략: HTML 파서를 사용한 데이터 추출
3.14 전략: 스파이더링
3.15 밀도 기반 텍스트 추출
3.16 올인원 접근 방식
3.17 전략: 스크래피를 사용한 로이터 아카이브 스크래핑
3.18 스크래핑과 관련된 문제
3.19 마치며
CHAPTER 4 통계 및 머신러닝을 위한 텍스트 데이터 준비
4.1 학습 목표
4.2 데이터 전처리 파이프라인
4.3 데이터셋: 레딧 셀프포스트
4.4 텍스트 데이터 정리
4.5 토큰화
4.6 스페이시를 사용한 언어 처리
4.7 대규모 데이터셋에서 특성 추출
4.8 더 알아보기
4.9 마치며
CHAPTER 5 특성 엔지니어링 및 구문 유사성
5.1 학
이럴 땐 이렇게!
98가지 분석 전략으로 텍스트를 정복하라
텍스트는 문맥에 크게 의존하고 있어 컴퓨터가 이해하는 데 많은 어려움이 있었다. 하지만 최근 들어 통계 기술과 머신러닝 알고리즘이 발전하며 텍스트를 분석하는 다양한 방식이 탄생했다. 그렇다면 이 많은 텍스트 분석 기법 중에서 내가 분석하려는 텍스트에 딱 맞는 방법을 찾을 수 있을까? 이 책은 저자들이 여러 비즈니스 영역에서 텍스트 분석 프로젝트를 진행한 경험을 바탕으로 텍스트에 맞는 분석 전략 98가지를 소개한다.
각 장에서는 API나 크롤링을 이용한 텍스트 수집, 정규표현식이나 인공지능을 활용한 유사 단어 탐색, 단어 사이 관계를 파악하는 지식 그래프 생성 같은 텍스트 분석의 모든 과정마다 필요한 다양한 전략을 소개한다. 이때 사용하는 데이터는 유엔총회 연설 데이터, 깃허브 이슈 모음, 커뮤니티 게시글 모음 등 실제로 마주할 수 있는 텍스트로 여러 상황이나 데이터에 적합한 맞춤형 분석 전략을 소개한다. 전략마다 넘파이(NumPy, 트랜스포머스(Transformers, 사이킷런(scikit-learn, 사이파이(SciPy, 스페이시(spaCy 등 텍스트 분석에 필요한 라이브러리를 사용하며, 각자 가지고 있는 데이터와 요구 사항에 맞게 변경해 분석해볼 수 있도록 코드의 뼈대도 함께 제공한다. 지금 당장 새로운 정보를 알아내야 할 텍스트가 있다면 이 책에서 소개하는 적절한 전략을 찾아 텍스트를 정복하자.
대상 독자
- 갖고 있는 텍스트에 적합한 분석법을 판단하려는 개발자
- 빠르게 초기 결과를 만들어서 프로젝트의 성공 가능성을 검토하려는 기획자
- 문제를 풀기 위한 베이스라인을 빠르게 작성해야 하는 데이터 과학자
주요 내용
- API와 웹페이지에서 데이터를 추출하는 법
- 텍스트 데이터를 통계 분석과 머신러닝에 사용할 수 있도록 전처리하는 법
- 머신러닝을 활용한 분류, 주제 모델링, 요약 기법
- 단어 임베딩을 활용한 구문 유사도 시각화 방법
- 명명된 개체와 그 관계
