상세정보
미리보기
Azure OpenAI로 ChatGPT와 LLM 시스템 쉽고 빠르게 구축하기 : 챗GPT 활용부터 프롬프트 엔지니어링, RAG 구현, 자체 코파일럿 개발까지 AI 시스템 구축을 위한 애저 완벽 실무 가이드
- 저자
- 가모 히로사토,나가타 쇼헤이,다테와키 유타 등저/원밀리언라인즈코딩 역/배인진 감수
- 출판사
- 제이펍
- 출판일
- 2025-06-06
- 등록일
- 2026-01-28
- 파일포맷
- PDF
- 파일크기
- 31MB
- 공급사
- 예스이십사
- 지원기기
-
PC
PHONE
TABLET
프로그램 수동설치
뷰어프로그램 설치 안내
책소개
단계별로 배우는 효율적인 AI 시스템 구축법빠르게 발전하는 AI 기술의 중심에는 마이크로소프트 Azure OpenAI가 있다. 이 책은 실무에서 바로 활용할 수 있도록 생성형 AI와 ChatGPT 모델의 도입부터 최적화까지 단계별로 안내하는 실전 가이드다. 애저에서 ChatGPT 기반 RAG를 활용한 사내 문서 검색 시스템과 LLM을 탑재한 코파일럿 애플리케이션을 구축하면서 이론뿐만 아니라 실제 적용 방법까지 배울 수 있다. Azure OpenAI 활용에 필요한 거버넌스와 책임 있는 AI 구현도 함께 다룬다. 이 책을 통해 AI 시스템을 쉽게 구축하고, 업무에 바로 적용할 수 있는 유용한 기술과 노하우를 배울 수 있을 것이다.
저자소개
일본 마이크로소프트 클라우드 설루션 아키텍트. SI 대기업에서 커리어를 시작했다. 자동차 업계의 DMS 데이터 활용 환경 구축을 위한 컨설팅 및 개발과 엔터프라이즈 블록체인을 활용한 다른 업종 간 데이터 유통 플랫폼을 구축했다. 수년간 데이터 사이언티스트로서 사회 인프라 관련 기업을 대상으로 데이터 분석 및 머신러닝 시스템 개발을 경험했으며, 현재는 설루션 아키텍트로서 AI 도입 기술 지원 및 Azure OpenAI Service 이밴절리스트 활동에 종사하고 있다.
목차
지은이/옮긴이/감수자 소개 옮긴이 머리말 추천의 글 베타리더 후기 시작하며 감사의 글 이 책에 대하여 PART I 마이크로소프트 애저에서의 ChatGPT 활용CHAPTER 1 생성형 AI와 ChatGPT 1.1 생성형 AI와 ChatGPT가 불러온 충격 __1.1.1 AI 시대의 개막 __1.1.2 ChatGPT를 적용할 수 있는 업무들 [COLUMN] Open Interpreter __1.1.3 ChatGPT 사용 시 주의할 점 1.2 ChatGPT의 구조 __1.2.1 기존 챗봇과의 차이점 __1.2.2 GPT란 __1.2.3 사람이 선호하는 문장을 생성하는 방법: RLHF __1.2.4 ChatGPT의 탄생 과정 1.3 마무리 CHAPTER 2 프롬프트 엔지니어링 2.1 프롬프트 엔지니어링이란 2.2 기본적인 작성법 __2.2.1 구체적으로 지시하기 __2.2.2 출구 지정하기 __2.2.3 역할 부여하기 __2.2.4 입출력 예시 지정하기 [COLUMN] 제로샷 학습과 퓨샷 학습 __2.2.5 프롬프트 구조화하기 2.3 생각의 사슬 [COLUMN] GPT-3.5 Turbo와 GPT-4의 성능 차이 2.4 그 밖의 기법들 2.5 마무리 CHAPTER 3 Azure OpenAI Service 3.1 Azure OpenAI Service란 __3.1.1 OpenAI의 API 서비스와 Azure OpenAI Service의 차이점 __3.1.2 Azure OpenAI 개요 3.2 Azure OpenAI 시작하기 __3.2.1 Azure OpenAI 액세스 신청 __3.2.2 리소스 생성 __3.2.3 GPT 모델 배포하기 3.3 채팅 플레이그라운드에서 ChatGPT 애플리케이션 개발하기 __3.3.1 설정 __3.3.2 채팅 세션 [COLUMN] 채팅 플레이그라운드는 어디에서 동작하는 것일까? __3.3.3 채팅 애플리케이션 배포 [COLUMN] 플레이그라운드에서 배포한 웹 애플리케이션의 소스 코드 3.4 고려 사항 __3.4.1 비용 문제 __3.4.2 할당량 및 제한 3.5 마무리 PART II RAG를 활용한 사내 문서 검색 시스템 구현CHAPTER 4 RAG 개요 및 설계 4.1 ChatGPT의 문제점과 해결 방법 4.2 RAG란 4.3 검색 시스템 4.4 Azure AI Search __4.4.1 색인 생성 __4.4.2 문서 검색 4.5 오케스트레이터 __4.5.1 Azure OpenAI on your data __4.5.2 Azure Machine Learning 프롬프트 흐름 __4.5.3 자체 구현 4.6 Azure OpenAI on your data __4.6.1 데이터 원본 __4.6.2 사용 방법 4.7 Azure Machine Learning 프롬프트 흐름 __4.7.1 사용 방법 [COLUMN] Azure Machine Learning이란 4.8 LLM 4.9 Azure OpenAI API __4.9.1 Chat Completions API __4.9.2 Embeddings API 4.10 마무리 [COLUMN] RAG vs. 파인 튜닝 CHAPTER 5 RAG 구현 및 평가 5.1 아키텍처 5.2 사내 문서 검색 구현 __5.2.1 사용할 애저 서비스 목록 및 요금 __5.2.2 로컬 개발 환경 구축하기 __5.2.3 로컬 환경에서 실행하기 __5.2.4 로컬 변경사항을 App Service에 배포하기 __5.2.5 환경 설정 파일 변경하기 __5.2.6 문서를 추가로 인덱싱하기 __5.2.7 실제로 질문하기 __5.2.8 기능 소개 5.3 채팅 이력 저장 __5.3.1 채팅 이력 저장 구현 예시 __5.3.2 Cosmos DB에 저장된 채팅 이력 확인 5.4 검색 기능 __5.4.1 벡터 검색 [COLUMN] 청크 분할의 중요성 __5.4.2 하이브리드 검색 __5.4.3 의미 체계 하이브리드 검색 [COLUMN] 가장 좋은 결과를 내는 검색 모드는 어떤 것일까? [COLUMN] 커스터마이징 포인트 5.5 데이터 수집 자동화 5.6 RAG 평가 및 개선 5.7 검색 정확도 평가 __5.7.1 기본 평가 지표 __5.7.2 순위를 고려한 평가 지표 5.8 생성 정확도 평가 __5.8.1 연관성 평가 __5.8.2 일관성 평가 __5.8.3 유사도 평가 [COLUMN] RAG 응답의 정확도를 향상시키는 방법 5.9 마무리 136PART III 코파일럿 스택을 사용한 LLM 애플리케이션 구현CHAPTER 6 AI 오케스트레이션 6.1 코파일럿 스택이란 __6.1.1 1계층: 코파일럿 프런트엔드 __6.1.2 2계층: AI 오케스트레이션 __6.1.3 3계층: 파운데이션 모델 6.2 AI 오케스트레이션과 에이전트 __6.2.1 Reasoning & Acting __6.2.2 Planning & Execution [COLUMN] 랭체인 [COLUMN] 시맨틱 커널 __6.2.3 플러그인 실행 6.3 자체 코파일럿 개발 시 아키텍처 및 구현 __6.3.1 툴 선정(ReAct) 기능 구현 __6.3.2 채팅 UI에서 사용하기 __6.3.3 ChatGPT 플러그인 구현하기 __6.3.4 스트리밍 출력 구현하기 6.4 마무리 [COLUMN] Azure AI Studio의 등장 CHAPTER 7 파운데이션 모델과 AI 인프라스트럭처 7.1 파운데이션 모델과 AI 인프라스트럭처 정의 7.2 호스팅 가능 모델 __7.2.1 GPT-3.5와 GPT-4 [COLUMN] GPT-4 Turbo [COLUMN] GPT-4o와 o1 __7.2.2 파인 튜닝 [COLUMN] GPT-4의 파인 튜닝 7.3 공개 모델 __7.3.1 모델 종류 __7.3.2 모델 크기와 압축 방법 __7.3.3 모델 호스팅 [COLUMN] Azure AI Foundry 모델 카탈로그 7.4 마무리 [COLUMN] OSS와 머신러닝 모델 CHAPTER 8 코파일럿 프런트엔드 8.1 사용자 경험 정의 __8.1.1 사용성 __8.1.2 정지 버튼과 재생성 버튼 __8.1.3 캐시를 고려한 구현 8.2 LLM의 부정확한 응답에 대처하기 __8.2.1 정확성 __8.2.2 투명성(정보 출처 제시) __8.2.3 UX 향상을 위한 스트리밍 처리 __8.2.4 OpenAI 엔드포인트의 스트리밍 출력을 직접 처리하기 __8.2.5 플라스크 애플리케이션의 응답을 스트림 형식으로 처리하기 8.3 UX 향상을 위한 참고 자료 [COLUMN] 채팅 외의 인터페이스 8.4 마무리 PART IV 거버넌스와 책임 있는 AICHAPTER 9 거버넌스 9.1 공통 기반이란 9.2 공통 기반 아키텍처 2__9.2.1 사용할 애저 서비스 목록 및 요금 __9.2.2 배포 9.3 인증 및 인가 __9.3.1 인증 및 인가 처리 흐름 __9.3.2 예제 코드 실행 [COLUMN] API Management의 구독 키 [COLUMN] 특정 사용자에게만 Azure OpenAI API 접근 허용하기 9.4 로그 통합 9.5 과금 9.6 호출 제한 9.7 폐쇄망 9.8 부하 분산 __9.8.1 Application Gateway 이용 [COLUMN] Application Gateway의 부하 분산을 프로덕션 환경에서 사용할 때의 주의점 __9.8.2 API Management 이용 9.9 마무리 CHAPTER 10 책임 있는 AI 10.1 책임 있는 AI를 위한 마이크로소프트의 노력 10.2 책임 있는 AI 적용 10.3 콘텐츠 필터 10.4 데이터 취급 10.5 마무리 APPENDIX A 예제 코드 실행 환경 구축 A.1 파이썬 설치 __A.1.1 설치 방법(윈도우) A.2 깃 설치 __A.2.1 설치 방법(윈도우) A.3 Azure Developer CLI 설치 __A.3.1 설치 방법(윈도우) __A.3.2 설치 방법(리눅스) __A.3.3 설치 방법(macOS) A.4 Node.js 설치 __A.4.1 설치 방법(윈도우) A.5 파워셸 설치(윈도우 한정) __A.5.1 설치 방법 APPENDIX B ChatGPT의 구조 B.1 트랜스포머의 등장 __B.1.1 어텐션 __B.1.2 seq2seq __B.1.3 seq2seq에 도입된 어텐션 __B.1.4 어텐션의 계산 처리 __B.1.5 트랜스포머의 구조 __B.1.6 트랜스포머의 장점 __B.1.7 트랜스포머의 한계 B.2 대규모화 및 언어 모델의 사전 학습에 따른 성능 향상 __B.2.1 트랜스포머 인코더 계열 모델의 발전 __B.2.2 트랜스포머 디코더 계열 모델의 발전 __B.2.3 스케일링 법칙 B.3 호의적 응답으로 조정된 언어 모델 [COLUMN] 공개 모델 마치며 찾아보기