Forward Deployed Engineer 로드맵
이 책은 Outcome School의 Amit Shekhar가 공개한 Forward Deployed Engineer Roadmap의 순서와 내용을 따라, 연결된 블로그 140편과 영상 자막을 한국어로 재서술한 반복학습용 개인 학습서입니다. 장 번호는 로드맵의 Step 번호와 같습니다. 절마다 원문 링크를 두었고, 각 장 끝의 "고객이 내일 묻는다면"이 통과 기준입니다.
원문에 없는 계산 예시와 FDE 관점의 판단 문장은 이해를 돕기 위해 더한 것입니다. 외부 출처로 확인한 결과와 한계는 부록 「검증 기록」에 있습니다.
장 목록
- 0. FDE와 첫 미팅의 여섯 단어
- 1. AI·머신러닝 필수 기초
- 2. LLM은 어떻게 동작하는가
- 3. 고객에게 맞는 모델 고르기
- 4. 프롬프트 엔지니어링과 컨텍스트 엔지니어링
- 5. 고객 데이터 위의 RAG
- 6. AI 에이전트와 도구 연동
- 7. 에이전틱 엔지니어링과 코딩 에이전트로 빠르게 만들기
- 8. 평가와 관측성: 고객에게 가치 증명하기
- 9. AI 안전·보안·신뢰
- 10. 프로덕션의 지연 시간과 비용
- 11. 파인튜닝과 모델 커스터마이징
- 12. AI 시스템 설계와 인프라
- 13. 고객 사례: 실시간 음성 AI 에이전트
- 14. FDE 면접 준비
- 부록: 검증 기록
전체 목차
- 0. FDE와 첫 미팅의 여섯 단어
- 1. AI·머신러닝 필수 기초
- 2. LLM은 어떻게 동작하는가
- 2.1 생성형 AI(Generative AI)
- 2.2 LLM은 어떻게 동작하는가: 개관
- 2.3 자기회귀 모델(Autoregressive Model)
- 2.4 토큰화(Tokenization)
- 2.5 바이트 쌍 인코딩(BPE)
- 2.6 임베딩(Embedding)
- 2.7 코사인 유사도(Cosine Similarity)
- 2.8 트랜스포머(Transformer) 아키텍처
- 2.9 셀프 어텐션(Self Attention)
- 2.10 LLM 아키텍처의 진화
- 2.11 온도(Temperature)와 LLM 출력
- 2.12 Top-k·Top-p 샘플링
- 2.13 정지 토큰(Stop Token)
- 2.14 로그 확률(Logprobs)
- 2.15 토큰 스트리밍(Token Streaming)
- 2.16 컨텍스트 윈도우(Context Window)
- 2.17 중간 소실 문제(Lost in the Middle)
- 2.18 LLM 환각(Hallucination)의 토큰 수준 원인
- 2.19 고객이 내일 묻는다면
- 3. 고객에게 맞는 모델 고르기
- 4. 프롬프트 엔지니어링과 컨텍스트 엔지니어링
- 5. 고객 데이터 위의 RAG
- 5.1 벡터 데이터베이스(Vector Database)
- 5.2 근사 최근접 이웃(ANN) 탐색
- 5.3 시맨틱 검색(Semantic Search)
- 5.4 하이브리드 검색(Hybrid Search)
- 5.5 리랭커(Reranker)
- 5.6 RAG 청킹(Chunking) 전략
- 5.7 컨텍스추얼 리트리벌(Contextual Retrieval)
- 5.8 HyDE(가상 문서 임베딩)
- 5.9 쿼리 재작성(Query Rewriting)과 멀티 쿼리 검색
- 5.10 ColBERT: 후기 상호작용(Late Interaction) 검색
- 5.11 이미지 임베딩(Image Embedding)
- 5.12 임베딩 캐시(Embedding Cache)
- 5.13 시맨틱 캐싱(Semantic Caching)
- 5.14 에이전틱 RAG(Agentic RAG)
- 5.15 GraphRAG
- 5.16 벡터리스 RAG(Vectorless RAG)
- 5.17 고객이 내일 묻는다면
- 6. AI 에이전트와 도구 연동
- 6.1 AI 에이전트(AI Agent)
- 6.2 함수 호출(Function Calling)
- 6.3 에이전트 루프(Agent Loop)
- 6.4 ReAct 에이전트
- 6.5 Plan-and-Execute 에이전트
- 6.6 Reflection 에이전트
- 6.7 에이전트 메모리(Agent Memory)
- 6.8 ChatGPT는 어떻게 사용자를 기억하는가
- 6.9 MCP(Model Context Protocol)
- 6.10 에이전트 스킬(Agent Skills)
- 6.11 OKF(Open Knowledge Format)
- 6.12 멀티 에이전트 시스템(Multi-Agent System)
- 6.13 서브에이전트(SubAgent)
- 6.14 에이전트 간 통신
- 6.15 AI 오케스트레이션(AI Orchestration)
- 6.16 컴퓨터 사용 에이전트(Computer-Use Agent)
- 6.17 브라우저 에이전트(Browser Agent)
- 6.18 고객이 내일 묻는다면
- 7. 에이전틱 엔지니어링과 코딩 에이전트로 빠르게 만들기
- 8. 평가와 관측성: 고객에게 가치 증명하기
- 9. AI 안전·보안·신뢰
- 10. 프로덕션의 지연 시간과 비용
- 10.1 LLM 추론 최적화 기법 총정리
- 10.2 Prefill vs Decode
- 10.3 KV 캐시(KV Cache)
- 10.4 페이지드 어텐션(Paged Attention)
- 10.5 연속 배칭(Continuous Batching)
- 10.6 투기적 디코딩(Speculative Decoding)
- 10.7 Prefill-Decode 분리(Disaggregation)
- 10.8 모델 양자화(Quantization)
- 10.9 GGUF
- 10.10 llama.cpp
- 10.11 Ollama
- 10.12 vLLM
- 10.13 SGLang
- 10.14 TensorRT-LLM
- 10.15 고객이 내일 묻는다면
- 11. 파인튜닝과 모델 커스터마이징
- 12. AI 시스템 설계와 인프라
- 13. 고객 사례: 실시간 음성 AI 에이전트
- 13.1 실시간 음성 AI 에이전트 설계
- 13.2 캐스케이드 vs 음성-대-음성 아키텍처
- 13.3 하프 듀플렉스 vs 풀 듀플렉스
- 13.4 턴테이킹(Turn-Taking)
- 13.5 엔드포인팅(Endpointing)
- 13.6 침묵 기반 vs 모델 기반 턴 감지
- 13.7 동적 엔드포인팅(Dynamic Endpointing)
- 13.8 말 끊김(Cutting Users Off)
- 13.9 긴 침묵(Long Pauses) 처리
- 13.10 미완성 입력: 전화번호·이메일
- 13.11 바지인(Barge-in)
- 13.12 끼어들기 vs 기침·배경 소음
- 13.13 백채널(Backchannel)
- 13.14 지연 예산(Latency Budget)
- 13.15 음성-대-음성 지연(Voice-to-Voice Latency) 측정
- 13.16 첫 오디오까지의 시간(Time-to-First-Audio)
- 13.17 TTS용 문장 청킹(Sentence Chunking)
- 13.18 스트리밍 TTS(Streaming TTS)
- 13.19 투기적 LLM 생성(Speculative Generation)
- 13.20 필러 구문(Filler Phrase)
- 13.21 느린 도구 호출(Slow Tool Call) 가리기
- 13.22 고객이 내일 묻는다면
- 14. FDE 면접 준비