Forward Deployed Engineer 로드맵

부록: 검증 기록

이 책의 사실 주장은 합본 직전에 외부 출처로 검증했습니다. 검증 범위와 한계를 그대로 공개합니다.

요약

한계

항목별

위치 사실 결과 출처
0.1.1 FDE 정의(고객과 직접 일하며 데모를 운영 시스템으로), AI 엔지니어는 제품을 만들고 FDE는 한 고객에게 동작시킨 뒤 제품 팀에 환류 ✓ https://github.com/amitshekhariitbhu/forward-deployed-engineer-roadmap
0.1.2 엔지니어·문제 발굴자·신뢰 구축자 세 역할 ✓ https://github.com/amitshekhariitbhu/forward-deployed-engineer-roadmap
0.1.3 원문은 깊이보다 폭을 강조 ✓ https://github.com/amitshekhariitbhu/forward-deployed-engineer-roadmap
0.2 일곱 단계(발견~실전 사례)와 Step 번호 대응(0 / 1-3 / 4-7 / 8 / 9-11 / 12 / 13) ✓ https://github.com/amitshekhariitbhu/forward-deployed-engineer-roadmap
0.2 14장은 면접 준비, Step N = N장 ✓ https://github.com/amitshekhariitbhu/forward-deployed-engineer-roadmap
0.3 원문 사용법 5개 항목, 장 끝 질문 "내일 고객이 물어도 설명하고 결정할 수 있는가" ✓ https://github.com/amitshekhariitbhu/forward-deployed-engineer-roadmap
0.4 Step 0 여섯 단어와 영상 제목 ✓ https://github.com/amitshekhariitbhu/forward-deployed-engineer-roadmap
0.4 영상이 약 3시간 라이브 강의 ❓ 확인하지 못함(영상 본문 미열람)
0.4.1 기반 모델 학습 비용 1억 달러 수준(영상 언급, 방송 시점 기준) ⚠️ https://www.tomshardware.com/tech-industry/artificial-intelligence/ai-models-that-cost-dollar1-billion-to-train-are-in-development-dollar100-billion-models-coming-soon-largest-current-models-take-only-dollar100-million-to-train-anthropic-ceo
0.4.1 비트코인 65K달러, 2020년 모델의 5만 달러대 응답(방송 시점 예시) ⚠️ 시점 예시로 표기되어 있어 변경 없음
0.4.2 RAG = Retrieval-Augmented Generation ✓ https://arxiv.org/abs/2005.11401
0.4.2 컨텍스트 윈도우 한계가 계속 커지고 있다 ⚠️ 일반 합의, 수치 제외로 변경 없음
0.4.3 MCP는 AI 애플리케이션을 외부 시스템에 연결하는 개방형 표준 ✓ https://modelcontextprotocol.io/docs/getting-started/intro
0.4.3 MCP 서버가 HTTP 서버와 같은 통신 위에서 동작 ❌ https://modelcontextprotocol.io/specification/latest/basic/transports (JSON-RPC, stdio와 Streamable HTTP)
0.4.4 LangChain으로 100~200줄이 10~20줄 수준 ❓ 외부 출처 없음, 본문에 미확인 표기
0.4.5 LoRA = Low-Rank Adaptation, 기반 모델 고정 후 소수 파라미터만 학습 ✓ https://arxiv.org/abs/2106.09685
0.4.5 전체 파인튜닝은 추론 대비 4~6배 메모리 ⚠️ 영상의 경험 규칙, 옵티마이저 상태 때문에 수 배 필요하다는 점은 일반 합의
0.4.5 LoRA는 추론의 약 1.1배 메모리 ❓ 외부 출처 없음, 본문에 미확인 표기
0.4.6 8비트 양자화 + LoRA를 QLoRA라 부름 ❌ https://proceedings.neurips.cc/paper_files/paper/2023/hash/1feb87871436031bdc0f2beaa62a049b-Abstract.html (원 논문은 4비트 NF4)
0.4.6 모델 이름의 q 표시가 양자화 버전(예: q4_K_M) ✓ https://ollama.com/library (태그 목록) 및 GGUF 양자화 표기 관례
0.4.5/0.4.6 파라미터 수 × 바이트 크기 계산(70억 × 4 = 28GB 등) ✓ 산술
1.7.3 PyTorch torch.optim.SGD는 배치 크기 1에 한정되지 않음(배치는 데이터 로더가 정함) ✓ https://docs.pytorch.org/docs/2.15/generated/torch.optim.SGD.html
1.5.4 train_test_split의 stratify=y로 클래스 비율 유지 ✓ https://scikit-learn.org/stable/modules/generated/sklearn.model_selection.train_test_split.html
1.12.5 PyTorch BCEWithLogitsLoss는 로짓을 받아 Sigmoid+BCE를 수치 안정적으로 결합 ✓ https://docs.pytorch.org/docs/2.15/generated/torch.nn.BCEWithLogitsLoss.html
1.14.5 PPO는 정책 경사 계열 RL 알고리즘(2017, Schulman 등) ✓ https://arxiv.org/abs/1707.06347
1.10.2 Sigmoid 기울기 최대 0.25, 0.25^10 ≈ 0.00000095, Tanh 기울기 1(4배) ✓ 수학적 사실(계산 확인)
1.11.3 e^1 ≈ 2.718배, e^5 ≈ 148배 ✓ 수학적 사실(계산 확인)
2.2 / 2.8 2017년 논문 "Attention Is All You Need", Google 연구진 ✓ https://arxiv.org/abs/1706.03762
2.8 원형 트랜스포머 인코더·디코더 각 6층 ✓ https://arxiv.org/abs/1706.03762
2.8 GPT-3 1,750억 파라미터, 96층 ✓ https://arxiv.org/abs/2005.14165
2.10 GPT-2 약 15억, GPT-3 약 1,750억 파라미터 ✓ https://arxiv.org/abs/2005.14165
2.10 2022년 Chinchilla 논문: 대형 모델이 덜 학습됨, 데이터와 파라미터를 함께 확대 ✓ https://arxiv.org/abs/2203.15556
2.10 Mixtral 8x7B 총 약 470억·활성 약 130억 ✓ https://arxiv.org/abs/2401.04088
2.10 DeepSeek-V3 총 6,710억·활성 370억, MLA 사용 ✓ https://arxiv.org/abs/2412.19437
2.10 GQA는 LLaMA 3 등, 슬라이딩 윈도우는 Mistral, 컨텍스트 약 2,000에서 100만 토큰 ⚠️ 일반 합의 사항, 단일 1차 출처 없음 (Mixtral 논문 https://arxiv.org/abs/2401.04088 에서 슬라이딩 윈도우 확인)
2.12 Nucleus Sampling은 2019년 논문 "The Curious Case of Neural Text Degeneration" ✓ https://arxiv.org/abs/1904.09751
2.12 많은 도구의 기본값 k=50, p=0.95 ❌ https://huggingface.co/docs/transformers/main_classes/text_generation (top_k=50, top_p=1.0) — 본문에 도구별 차이를 명시
2.16 영어 토큰 하나 약 4글자, 100토큰 약 75단어 ✓ https://help.openai.com/en/articles/4936856-what-are-tokens-and-how-to-count-them
2.16 128k 토큰 윈도우는 약 300쪽 분량 (영상 기준) ⚠️ OpenAI GPT-4 Turbo 발표 당시의 대략 환산치, 정확한 사양 아님 (https://openai.com/index/new-models-and-developer-products-announced-at-devday/)
2.13 Llama 3 출시 때 정지 토큰 설정 문제 (<|eot_id|>와 <|end_of_text|>) ⚠️ 커뮤니티 보고로 확인, 공식 릴리스 노트 없음 (https://huggingface.co/meta-llama/Meta-Llama-3-70B-Instruct/discussions/12)
2.13 모델별 정지 토큰 이름 (GPT-2, Llama 2, Llama 3, Qwen, Gemma) ✓ 각 모델의 Hugging Face 토크나이저 설정 (https://huggingface.co/meta-llama/Meta-Llama-3-8B-Instruct)
2.13 finish_reason/stop_reason 값 이름 제공사별 차이 ✓ https://platform.claude.com/docs/en/build-with-claude/streaming
2.15 SSE의 data: 줄과 [DONE] 표지를 ChatGPT와 Claude가 모두 사용 ❌ https://platform.claude.com/docs/en/build-with-claude/streaming (Claude는 [DONE] 없이 message_stop 이벤트로 종료) — 본문 수정
2.14 부동소수점은 대략 10^-308보다 작은 수를 0으로 처리 ❌ https://docs.python.org/3/library/sys.html#sys.float_info (최소 정규수 약 2.2e-308, 비정규수는 약 5e-324까지) — 본문 수정
2.3 Claude, Gemini, LLaMA 모두 디코더 전용 트랜스포머 ⚠️ Gemini 1.0 기술 보고서 https://arxiv.org/abs/2312.11805 는 디코더 전용 명시, Claude 아키텍처는 비공개 — 본문 수정
2.5 LLaMA 3 어휘 약 128K, Gemma 약 256K ✓ https://huggingface.co/blog/llama3 (128,256), Gemma 약 256K는 2차 출처
2.4 tiktoken cl100k_base 약 10만 토큰 ✓ https://github.com/openai/tiktoken
2.11 온도 범위 0~2, 많은 도구 기본값 1 ✓ https://platform.openai.com/docs/api-reference/chat/create
2.18 학습·평가 방식이 정직한 모름보다 자신 있는 추측에 더 좋은 점수를 줌 ✓ https://arxiv.org/abs/2509.04664
2.18 어떤 수정도 환각을 완전히 없애지 못함 ✓ https://arxiv.org/abs/2509.04664
2.6 문장 임베딩 차원 384~3072, 무관 문장 코사인 0.1~0.3·관련 0.7~0.9 ⚠️ 모델마다 분포가 달라 합의 수준의 경험칙, 1차 출처 없음
2.1 / 2.17 / 2.2 / 2.7 일반 서술(LLM 범주, U자형 곡선, 코사인 수학) ✓ https://arxiv.org/abs/2307.03172
2.14 많은 LLM API가 logprobs·top_logprobs 제공 ✓ https://platform.openai.com/docs/api-reference/chat/create
3.1.1 Phi-4-mini 3.8B, 컨텍스트 128K ✓ https://huggingface.co/microsoft/Phi-4-mini-instruct
3.1.1 Gemma 4 E2B/E4B 유효 파라미터, 128K, 오디오 입력, Per-Layer Embeddings ✓ https://huggingface.co/google/gemma-4-E2B
3.1.1 Llama 3.2 1B/3B 128K 온디바이스 ✓ https://ai.meta.com/blog/llama-3-2-connect-2024-vision-edge-mobile-devices/
3.1.1 Qwen 3.5 0.8B/2B/4B/9B, 256K 컨텍스트 ✓ https://huggingface.co/Qwen/Qwen3.5-0.8B
3.1.1 SmolLM3 3B, 128K ⚠️ 학습 64K, YaRN으로 128K 확장으로 본문 수정 https://huggingface.co/blog/smollm3
3.1.4 비용 $25 대 $0.10~0.20, 지연 2초 대 100ms 등 어림 수치 ❓ 원문 어림값으로 이미 명시됨
3.2.2 AIME 2024: GPT-4o 12%, o1 74%/83%(64회)/93%(1000회) ✓ https://openai.com/index/learning-to-reason-with-llms/
3.2.3 DeepSeek R1-Zero는 SFT 없는 순수 RL, GRPO, 가중치 공개 ✓ https://arxiv.org/abs/2501.12948
3.2.5 GPT-5.5 Thinking (2026-04 출시) ✓ https://gigazine.net/gsc_news/en/20260424-openai-gpt-5-5/
3.2.5 GPT-5.5 Thinking이 원본 추론 흔적을 숨김 ❓ 원문 설명으로 귀속
3.2.5 DeepSeek V4 생각/비생각 모드 ✓ https://www.fonearena.com/blog/?p=481064
3.2.5 Claude Opus 4.7 extended thinking ❌ 수동 예산 대신 적응형 생각만 지원, 본문 수정 https://platform.claude.com/docs/en/build-with-claude/adaptive-thinking
3.2.5 Grok 4.1 Thinking, Gemini 3 Deep Think 존재 ✓ https://gigazine.net/gsc_news/en/20251118-xai-grok-4-1
3.2.5 Qwen3, DeepSeek V3.1 생각/비생각 모드 ⚠️ V3.1 직접 확인 못함, 본문 유지
3.2.1 LRM 토큰 5,000~50,000, 지연 10~120초, 비용 10~30배 ❓ 원문 어림값
3.3.2 Mixtral 8x7B 전체 약 47B(46.7B), 활성 약 13B(12.9B) ✓ https://mistral.ai/news/mixtral-of-experts
3.3.5 Mixtral, DeepSeek-V2/V3가 MoE 기반 ✓ https://arxiv.org/abs/2405.09818 (Chameleon 논문은 Mixtral 8x7B 비교만) / Mistral 발표문
3.4.3 GPT-4V/GPT-4o/Gemini/Claude/CLIP/DALL-E/Whisper/Sora/Veo 입출력 ✓ 일반 상식, 개별 1차 출처 미조회
3.5.2 CLIP 2021년, 약 4억 쌍 ✓ https://arxiv.org/abs/2103.00020
3.5.3 LLaVA-1.5 MLP 프로젝터 ✓ https://arxiv.org/abs/2310.03744
3.5.3 LLaVA 첫 버전 선형 층 ❓ 초록에서 확인 불가, 본문 유지 https://arxiv.org/abs/2304.08485
3.5.3 BLIP-2 Q-Former ✓ https://arxiv.org/abs/2301.12597
3.5.3 Chameleon 네이티브 멀티모달 ✓ https://arxiv.org/abs/2405.09818
3.5.3 Flamingo 크로스 어텐션 ❓ 직접 조회 안 함, 널리 알려진 설명
3.6.1 프런티어 $15 대 작은 LLM $0.50, 라우터 지연 10% 경험칙 ❓ 원문 수치로 귀속됨
3.6.3 Sakana Fugu 분류기/선택 헤드 라우팅 ⚠️ 학습된 오케스트레이터로 확인, 구조는 확인 못해 본문 약화 https://www.thoughtworks.com/insights/blog/generative-ai/sakana-ai-fugu-is-this-where-model-routing-should-live
4.1 일부 최신 모델은 프롬프트 없이 스스로 추론하도록 학습됨 ✓ https://platform.claude.com/docs/en/build-with-claude/prompt-caching
4.3.2 ToT 논문: 2023, Shunyu Yao 등, Princeton과 Google DeepMind, 제목 ✓ https://arxiv.org/abs/2305.10601
4.3.4 Game of 24: GPT-4 CoT 4%, ToT b=5 74% ✓ https://arxiv.org/abs/2305.10601
4.3.3 5x5 크로스워드는 DFS 사용 ✓ https://ar5iv.labs.arxiv.org/html/2305.10601
4.3.5 최신 추론 모델이 긴 추론 안에서 탐색·되돌아감을 학습 ❓ (외부 출처 미확인, 원문 인용 유지)
4.4 구조화 출력 API·JSON 스키마 제약을 주요 제공자가 지원 ✓ https://platform.claude.com/docs/en/build-with-claude/structured-outputs
4.4 few-shot 예시 2~5개가 시작 범위 ❓ (경험칙, 본문에 작업마다 다르다고 명시되어 있음)
4.5 컴팩션 임계치 윈도우의 80% 예 ⚠️ https://platform.claude.com/docs/en/build-with-claude/compaction (임계치는 사용자 설정값, 예시 수치)
4.6.2 캐시 쓰기 1.25배, 읽기 0.1배 ⚠️ https://platform.claude.com/docs/en/build-with-claude/prompt-caching (읽기 요율은 모델별로 0.1/0.05/0.025배)
4.6.2 기본 TTL 5분 및 1시간 옵션 ✓ https://platform.claude.com/docs/en/build-with-claude/prompt-caching
4.6.2 1시간 TTL 쓰기 비용 ❌ https://platform.claude.com/docs/en/build-with-claude/prompt-caching (정가 2배로 명시 보강)
4.6.3 Anthropic·OpenAI 프롬프트 캐싱 내장, 응답에 캐시 쓰기/읽기 토큰 수 ✓ https://developers.openai.com/api/docs/guides/prompt-caching
4.6.3 vLLM 동일 접두 공유 ✓ https://docs.vllm.ai/en/latest/features/automatic_prefix_caching.html
4.6.3 SGLang radix tree ⚠️ https://arxiv.org/abs/2312.07104 (RadixAttention은 확인, 자료구조 세부는 초록에 없음)
4.6.3 TensorRT-LLM prefix reuse ✓ https://nvidia.github.io/TensorRT-LLM/advanced/kv-cache-reuse.html
5.1 pgvector, FAISS(Meta 라이브러리, IndexFlatL2는 제곱 L2) PostgreSQL pgvector 확장, FAISS 전수·IVF 인덱스 ✓ https://github.com/pgvector/pgvector
5.2 HNSW가 대부분 벡터 DB의 기본 선택 합의 사항이나 1차 출처 불분명 ⚠️ 없음(표현 약화)
5.3 대형 벡터 DB는 거의 모두 ANN 사용 일반 합의, 1차 출처 불분명 ⚠️ 없음(표현 약화: 다수)
5.4 RRF 상수 k=60 Cormack 등 2009 논문에서 k=60 사용 ✓ http://cormack.uwaterloo.ca/cormacksigir09-rrf.pdf
5.4 RRF가 가장 흔한 퓨전 비교 통계 없음 ⚠️ 없음(표현 약화: 널리 쓰이는)
5.5 BGE 리랭커는 오픈소스 크로스 인코더 BAAI, Apache-2.0, 질의-문단 쌍 점수 ✓ https://huggingface.co/BAAI/bge-reranker-v2-m3
5.5 후보 100~200개를 상위 5~10개로 업계 관례, 1차 출처 없음 ⚠️ 없음(원문도 "흔한 선택"으로 서술)
5.6 권장 청크 크기와 오버랩 10~20% 경험 규칙, 1차 출처 없음 ⚠️ 없음(본문이 "약"과 기본값으로 서술)
5.7 2024년 Anthropic 소개 2024-09-19 발표 ✓ https://www.anthropic.com/news/contextual-retrieval
5.7 실패율 5.7%, 3.7%, 2.9%, 1.9%(상위 20개) 일치 ✓ https://www.anthropic.com/news/contextual-retrieval
5.7 Claude 3 Haiku, 약 1.02달러/100만 문서 토큰 일치 ✓ https://www.anthropic.com/news/contextual-retrieval
5.7 20만 토큰(약 500쪽) 미만이면 전체를 프롬프트에 일치 ✓ https://www.anthropic.com/news/contextual-retrieval
5.8 HyDE 동작(가상 문서를 임베딩해 검색) Gao 등 2022 논문 설명과 일치 ✓ https://arxiv.org/abs/2212.10496
5.9 RRF k=60 Cormack 등 2009 ✓ http://cormack.uwaterloo.ca/cormacksigir09-rrf.pdf
5.10 2020년 Khattab과 Zaharia, 논문 제목 일치 ✓ https://arxiv.org/abs/2004.12832
5.10 MS MARCO MRR@10 34.7 대 34.9, 10,700ms 대 61ms, 880만 문단, 인덱스 154GB 논문 표와 일치 ✓ https://arxiv.org/pdf/2004.12832
5.10 ColBERTv2 인덱스 6~10배 감소 초록과 일치 ✓ https://arxiv.org/abs/2112.01488
5.10 PLAID 지연 수십 ms GPU 수십 ms, CPU 수십~수백 ms ✓ https://arxiv.org/abs/2205.09707
5.10 ColPali 문서 이미지 패치 MaxSim 별도 확인 안 함 ❓ 없음
5.11 clip-ViT-B-32 텍스트·이미지 공유 공간 모델 카드 일치, 512차원은 모델 카드에 명시 없음 ⚠️ https://huggingface.co/sentence-transformers/clip-ViT-B-32
5.12 해시 키 예시 d1abc1cd0579 SHA-256을 줄바꿈으로 이은 값과 일치(본문에 구분자 명시) ✓ 직접 계산
5.12 Redis 인메모리 캐시 일반 지식 ✓ https://redis.io/docs/
5.13 임계값 0.85~0.95 일반 권고 경험 규칙, 1차 출처 없음 ⚠️ 없음(본문이 사용 사례별 조정을 명시)
5.14 Self-RAG 패턴 원 논문은 반성 토큰을 내도록 학습한 모델, 본문에 보충 ✓ https://arxiv.org/abs/2310.11511
5.14 CRAG 패턴(검색 평가 후 웹 검색 대체) 초록과 일치 ✓ https://arxiv.org/abs/2401.15884
5.15 GraphRAG 인덱싱(엔티티 그래프, 커뮤니티 요약)과 맵-리듀스 글로벌 질의 논문과 일치 ✓ https://arxiv.org/abs/2404.16130
5.16 벡터리스 RAG 트리 탐색 절차 원문 설명, 외부 출처 확인 못 함 ❓ 없음
6.1 컴퓨터 사용이 Claude Code에 포함됨 (macOS 연구 프리뷰로 표기 보강) ✓ https://code.claude.com/docs/en/computer-use
6.4 원 ReAct 논문(Yao 외, 2022)의 Action 대괄호 표기 ✓ https://arxiv.org/abs/2210.03629
6.7/6.8 ChatGPT Memory: 채팅 삭제가 저장된 메모리를 지우지 않음, 임시 채팅은 메모리를 참조/생성하지 않음 ✓ https://help.openai.com/en/articles/11146739-how-does-reference-saved-memories-work
6.9 MCP를 Anthropic이 2024년 11월 개방형 표준으로 공개 ✓ https://en.wikipedia.org/wiki/Model_Context_Protocol
6.9 MCP 표준 전송 방식 stdio와 Streamable HTTP, JSON-RPC 메시지 ✓ https://modelcontextprotocol.io/specification/2025-06-18/basic/transports
6.9 MCP 서버 수천 개 존재, 다른 주요 AI 회사 채택 ⚠️ https://www.anthropic.com/news/donating-the-model-context-protocol-and-establishing-of-the-agentic-ai-foundation
6.10 Agent Skills를 Anthropic이 2025년 10월 소개 ✓ https://www.anthropic.com/engineering/equipping-agents-for-the-real-world-with-agent-skills
6.10 점진적 공개 수준 1 약 100 토큰, 본문 5천 토큰 미만(권장) ✓ https://agentskills.io/specification
6.10 스킬 저장 경로 ~/.claude/skills/ 와 .claude/skills/ ✓ https://code.claude.com/docs/en/skills
6.11 OKF 버전 0.1, Google Cloud 공개, 필수 필드 type 하나, 보강 에이전트와 시각화 도구 동시 공개 ✓ https://the-decoder.com/google-clouds-open-knowledge-format-turns-scattered-docs-into-markdown-files-for-ai-agents/
6.11 OKF 공개일 2026년 6월 13일 ⚠️ https://letsdatascience.com/news/google-publishes-open-knowledge-format-for-knowledge-bundles-9756381a
6.14.5 MCP와 A2A가 모두 Linux Foundation 아래, 에이전트-도구 대 에이전트-에이전트 ⚠️ https://www.anthropic.com/news/donating-the-model-context-protocol-and-establishing-of-the-agentic-ai-foundation
6.15.6 Sakana Fugu: 프런티어 모델들을 호출해 결과를 합치는 멀티 에이전트 시스템 ✓ https://sakana.ai/fugu-release/
6.15.6 Fugu가 질문을 모델에 라우팅하는 세부 기준 ❓ https://sakana.ai/fugu-release/
6.2~6.4 함수 호출 병렬 호출, 도구 호출 스키마(Claude, GPT, Gemini) ⚠️ https://modelcontextprotocol.io/specification/2025-06-18/basic/transports
6.12 LangGraph, AutoGen이 오케스트레이션 배선을 처리 ⚠️ 확인하지 못함(일반적으로 알려진 설명)
6.15.7 LangChain, LlamaIndex, Haystack, CrewAI, Semantic Kernel, DSPy 설명 ⚠️ 확인하지 못함(일반적으로 알려진 설명)
6.16/6.17 컴퓨터 사용·브라우저 에이전트의 한계, Playwright/Puppeteer, CAPTCHA·프롬프트 인젝션 ❓ 원문 설명만 확인, 외부 출처 미확인
7.1 하네스 엔지니어링의 정의와 구성요소(프롬프트 관리·도구 오케스트레이션·가드레일 등) ❓ 원문 정의이며 외부 공식 정의 없음, 원문 귀속 유지 https://code.claude.com/docs/en/how-claude-code-works (Claude Code를 agentic harness로 지칭)
7.2 루프 엔지니어링의 실패 유형(멈춤 없음 등)과 기법 ❓ 원문 개념 설명, 외부 출처 없음 -
7.3 그래프 엔지니어링 개념과 의사 API(add_conditional_edge, interrupt_before, checkpointer) ⚠️ 개념은 LangGraph 문서와 부합, 코드는 예시로 명시됨 https://docs.langchain.com/oss/python/langgraph/graph-api
7.4 LangChain PromptTemplate, ChatOpenAI(model="gpt-4o-mini"), StrOutputParser, 파이프 연산자 ✓ 클래스·패키지 이름 존재(langchain_core, langchain_openai), 모델명은 예시 https://docs.langchain.com/oss/python/langchain/overview
7.5 LangGraph StateGraph, START, END, add_node, add_edge, add_conditional_edges, compile, invoke ✓ https://docs.langchain.com/oss/python/langgraph/graph-api
7.5 체크포인터를 compile에 연결해 상태 영속화 ✓ compile(checkpointer=...) https://docs.langchain.com/oss/python/langgraph/persistence
7.5 LangGraph는 LangChain과 같은 팀이 만듦 ✓ 공식 문서가 LangChain 문서 사이트에 있음 https://docs.langchain.com/oss/python/langgraph/graph-api
7.6.1 에이전트 루프 3단계(맥락 수집·행동·결과 검증) ✓ https://code.claude.com/docs/en/how-claude-code-works
7.6.2 도구 Read/Grep/Glob/Edit/Write/Bash ✓ 범주 수준에서 일치(파일 작업·검색·실행) https://code.claude.com/docs/en/how-claude-code-works
7.6.5 CLAUDE.md를 세션 시작 시 읽는 프로젝트 지시 파일 ✓ https://code.claude.com/docs/en/how-claude-code-works
7.6.6 기본 권한 동작이 승인 요청(수동) ⚠️ 최근 버전은 자동 모드가 시작 모드일 수 있어 본문 수정 https://code.claude.com/docs/en/how-claude-code-works
7.6.6 권한 모드 네 가지(수동·편집 수락·계획·자동) ⚠️ 네 모드는 맞으나 bypassPermissions 존재, 편집 수락은 mkdir/mv 등도 자동 승인, 자동은 분류 모델 점검 — 본문 보강 https://code.claude.com/docs/en/permission-modes
7.6.6 "모든 파일 수정은 되돌릴 수 있다" ❌ Bash만으로 바뀐 파일·서브에이전트 편집·외부 시스템 변경은 체크포인트 대상 아님, 본문 수정 https://code.claude.com/docs/en/checkpointing
7.6.6 체크포인트가 수정 전 스냅샷을 저장 ✓ https://code.claude.com/docs/en/how-claude-code-works
7.6.7 서브에이전트는 별도 컨텍스트 윈도우와 요약 반환 ✓ https://code.claude.com/docs/en/how-claude-code-works
7.6.7 훅은 시스템이 강제하는 결정적 규칙, CLAUDE.md는 모델이 따르는 요청 ✓ https://code.claude.com/docs/en/hooks-guide
7.6.7 플랜 모드는 읽기 전용으로 계획 후 승인 ✓ https://code.claude.com/docs/en/permission-modes
7.7 Cursor는 VS Code 위에 만들어진 편집기 ✓ 백과사전·제3자 출처는 일치, Cursor 공식 페이지 확인은 못 함 https://en.wikipedia.org/wiki/Cursor_(code_editor)
7.7.1 대부분 요금제에서 코드 대신 임베딩 위주로 서버 저장 ⚠️ 현재 공식 문서는 일시 캐시·영구 저장 안 함, 로컬 Instant Grep은 임베딩 미저장 — 본문 약화 https://cursor.com/data-use , https://cursor.com/docs/context/codebase-indexing
7.7.2 Tab은 다음 편집 예측 전용 소형 모델, 여러 줄·떨어진 위치 편집 제안 ✓ 편집·점프 예측은 공식 블로그 확인, "소형 모델"은 제3자 요약만 https://cursor.com/en/blog/tab-update
7.7.5 Apply 모델이 서술된 변경을 병합하고 diff로 Accept/Reject ❓ 공식 출처 확인 못 함, 원문 귀속으로 수정 -
7.7.6 작업별 모델 분담(Tab 소형, Chat/Agent 대형, Apply 소형) ❓ 공식 출처 확인 못 함(Tab 일부만 확인) https://cursor.com/en/blog/tab-update
7.7.7 프라이버시 모드에서 요청 후 코드 미저장 ⚠️ 공식: 학습 미사용, 파일 일시 캐시 후 영구 저장 안 함 — 본문 수정 https://cursor.com/data-use
8.1.3 HLE 3,000여 문항 ❌ 공개 세트 2,500문항으로 수정 https://arxiv.org/html/2501.14249v2
8.1.3 MMLU-Pro 보기 10개 ✓ https://arxiv.org/abs/2406.01574
8.1.3 MMLU 57개 과목 ✓ https://arxiv.org/abs/2009.03300
8.1.3 Chatbot Arena Elo 순위 ⚠️ Elo 계열 점수로 완화 https://arxiv.org/abs/2306.05685
8.1.3 벤치마크 목록(MMLU, SWE-bench Verified, LiveCodeBench, GPQA-Diamond, RULER 등) ✓ 널리 알려진 벤치마크, 개별 설명 일치 https://arxiv.org/abs/2406.01574
8.1.6 RAGAS 4지표 ⚠️ 4지표는 일치, 컨텍스트 정밀도는 순위 반영 계산임을 보충 https://docs.ragas.io/en/v0.1.21/concepts/metrics/
8.1.6 HarmBench, AdvBench, TrustLLM 설명 ✓ https://arxiv.org/html/2402.04249v2 ; https://arxiv.org/html/2401.05561v6
8.2.1 강한 LLM 판정자와 사람 80% 이상 일치, 사람 간 일치와 비슷 ✓ https://arxiv.org/abs/2306.05685
8.2.2 판정 모델 예 GPT-5, Claude Opus 4.7, Gemini 3.1 Pro ✓ 세 모델 모두 존재(Opus 4.7 2026-04-16, Gemini 3.1 Pro 2026-02-19) https://thenextweb.com/news/anthropic-claude-opus-4-7-coding-agentic-benchmarks-release
8.2.3 G-Eval이 평가 단계 생성 후 점수 부여, 사람 평점과 더 잘 일치 ✓ https://arxiv.org/abs/2303.16634
8.2.4 스타일 편향이 가장 지배적 ❓ 원문 주장으로 귀속
8.2.4 위치, 장황함, 자기 선호 편향 ✓ https://arxiv.org/abs/2306.05685
8.3.6 τ-bench 단일 제어, τ²-bench 이중 제어 ✓ https://arxiv.org/abs/2506.07982
8.3.6 Terminal-Bench 작업(ML 모델 학습, 리눅스 빌드, 바이너리 리버스 엔지니어링) ✓ https://huggingface.co/papers/2601.11868
8.3.6 MLE-bench Kaggle 대회 ✓ https://openai.com/index/mle-bench/
8.3.6 BrowseComp 열린 웹 정보 탐색 ✓ https://openai.com/index/browsecomp/
8.3.6 AppWorld 일상 앱 API 에이전트 ✓ https://arxiv.org/abs/2407.18901
8.3.6 OSWorld, VisualWebArena, GAIA, WebArena, BFCL 설명 ✓ 알려진 설명과 일치(개별 검색은 생략)
8.3.6 SWE-bench Verified가 Terminal-Bench로 보완되는 중 ❓ 원문 판단으로 이미 귀속됨
8.3.7 LangSmith, DeepEval 기능 설명 ✓ 원문 소개로 귀속, 공식 설명과 대체로 일치
8.4.5 OpenTelemetry GenAI 규약이 모델명, 토큰 수, 비용에 표준 이름 제공 ❌ 비용 표준 항목 미확인, 모델명과 토큰 수로 수정, 개발 단계 명시 https://opentelemetry.io/docs/specs/semconv/gen-ai/gen-ai-spans/
8.4.5 Arize Phoenix OpenTelemetry 기반 오픈소스, Langfuse 오픈소스 ✓ https://docs.arize.com/phoenix/learn/resources/faqs/langfuse-alternatives
8.4.5 Laminar 오픈소스, OpenTelemetry 네이티브, 장기 실행 에이전트용 ✓ https://github.com/lmnr-ai/lmnr
8.4.5 최신 에이전트 프레임워크 대부분이 계측 내장 ❓ 원문 주장으로 귀속, 프레임워크마다 다름 명시
§9.2.5 OWASP LLM 앱 Top 10에서 프롬프트 인젝션이 1위(LLM01) ✓ https://genai.owasp.org/llmrisk/llm01-prompt-injection/
§9.2.8 프롬프트 인젝션 공개 시점 2022년, 지시 계층 학습 ✓ https://openai.com/index/the-instruction-hierarchy/
§9.2.8 이중 LLM 패턴과 이를 강화한 CaMeL(권한 있는 모델/격리된 모델) ✓ https://arxiv.org/abs/2503.18813
§9.2.7 스포트라이팅, 입출력 가드의 한계(원문 서술, 구현 방식 일반론) ❓ (외부 출처 미확인, 원문 서술 유지)
§9.3.2 2023년 논문 "Jailbroken: How Does LLM Safety Training Fail?"의 두 실패 원인(상충하는 목표, 불일치 일반화) ✓ https://arxiv.org/abs/2307.02483
§9.3.3 Anthropic의 many-shot jailbreaking(2024), 예시가 많을수록 성공 가능성 증가 ✓ https://www.anthropic.com/research/many-shot-jailbreaking
§9.3.3 Microsoft 연구진의 Crescendo(2024) 다중 턴 공격 ✓ https://arxiv.org/abs/2404.01833
§9.3.3 2023년 자동 탐색 접미 문자열 논문, 오픈 모델에서 탐색해 다른 모델에 전이 ✓ https://arxiv.org/abs/2307.15043
§9.3.4 Anthropic Constitutional Classifiers(2025), 입력·출력 분류기 ✓ https://www.anthropic.com/research/constitutional-classifiers
§9.3.3 DAN 등 유명 수법 상당수가 최신 모델에는 통하지 않음(원문 서술로 이미 귀속) ❓ (외부 출처 미확인, 원문 귀속 유지)
§9.3.3 base64 예시 문자열 SG93IGRvIEkgLi4u 해독 결과 "How do I ..." ✓ (로컬 base64 디코딩으로 확인)
§9.4.1 실제 모델 어휘 크기 대략 5만~수십만 토큰 ✓ https://arxiv.org/abs/2301.10226
§9.4.1 연구 논문에서 선호/그 외 집단을 그린/레드 리스트라 부름 ✓ https://arxiv.org/pdf/2301.10226
§9.4.6 Google DeepMind SynthID-Text가 토큰 선택을 바꾸는 워터마크 ⚠️ https://www.nature.com/articles/s41586-024-08025-4
10.1 Medusa 2~3배(원문 인용) ✓ https://arxiv.org/abs/2401.10774 (논문은 2.2~3.6배)
10.1/10.6 투기적 디코딩 2~3배, 출력 동일 ✓ https://arxiv.org/abs/2211.17192
10.1 FlashAttention 개념(IO 인지 정확 어텐션) ✓ https://arxiv.org/abs/2205.14135
10.2 Prefill GPU 활용 90%+/Decode 20~40% ❓ 원문 주장으로 귀속되어 있음, 외부 출처 확인 못 함
10.2/10.4 PagedAttention 블록 16토큰 ❓ 원문 주장으로 귀속, 외부 확인 못 함(논문 기본값 16으로 알려짐)
10.3 KV 캐시 5,049 vs 100 계산 ✓ 본문 산술 재계산 일치
10.4/10.12 PagedAttention은 vLLM 핵심 아이디어, OS 가상 메모리에서 차용 ✓ https://arxiv.org/abs/2309.06180
10.5 연속 배칭+PagedAttention 2~4배(vLLM 논문) ✓ https://arxiv.org/abs/2309.06180
10.5 vLLM 20배 이상(원문 인용) ❓ 원문 귀속 유지, 외부 확인 못 함
10.6 DeepSeek-V3 MTP 약 1.8배 ✓ https://arxiv.org/abs/2412.19437
10.6/10.12 vLLM이 투기적 디코딩(EAGLE, n-gram), chunked prefill, 연속 배칭, OpenAI 호환 서버 지원 ✓ https://docs.vllm.ai/en/latest/
10.7/10.13 SGLang이 PD 분리, chunked prefill, 투기적 디코딩, 양자화, multi-LoRA, 전문가 병렬, 캐시 인지 로드밸런싱, 멀티모달 지원 ✓ https://docs.sglang.io/
10.7 작업 예시 수치(400ms, 2GB 등) 예시 값이라 검증 제외 -
10.8 DeepSeek-V4 FP4 QAT ✓ https://arxiv.org/pdf/2606.19348
10.8 GPTQ/AWQ/4비트 sweet spot ⚠️ 일반 합의, 1차 출처 미확인
10.9 GGUF는 GGML/GGMF/GGJT의 후속 포맷 ✓ https://github.com/ggml-org/ggml/blob/master/docs/gguf.md
10.9/10.10 LM Studio가 llama.cpp 기반 ⚠️ 본문을 llama.cpp 기반 엔진 사용 및 Apple Silicon MLX 병행으로 보강. https://lmstudio.ai/llms.txt
10.10 llama.cpp GitHub 스타 12만 초과 ✓ https://github.com/ggml-org/llama.cpp (약 13.3만)
10.10 Gerganov, 2023년 3월 창시 ⚠️ 널리 알려진 사실, 저장소 페이지에는 명시 없음
10.10 백엔드 Metal, CUDA, Vulkan, ROCm(HIP) ✓ https://github.com/ggml-org/llama.cpp
10.10 Q4_K_M 민감 텐서 6비트/나머지 4비트, 256 슈퍼블록 ❓ 원문 귀속, 외부 확인 못 함
10.11 Ollama keep_alive 기본 5분, 포트 11434 ✓ https://docs.ollama.com/faq
10.11 Ollama /v1 OpenAI 호환, 자체 엔진 ⚠️ 이번 조회 페이지에서 확인 못 함, 널리 알려진 기능
10.14 TensorRT-LLM PyTorch 경로가 기본 ✓ https://nvidia.github.io/TensorRT-LLM/release-notes.html (1.0부터)
10.14 NVIDIA GPU 대상, Triton 연동 ✓ https://github.com/NVIDIA/TensorRT-LLM
10.14 NIM 컨테이너 안에서 TensorRT-LLM 사용 ⚠️ 프로젝트 문서에서 확인 못 함
11.1.4 InstructGPT: 사람이 쓴 답변으로 한 파인튜닝(SFT)이 GPT-3를 어시스턴트로 바꾼 첫 단계 ✓ https://arxiv.org/abs/2203.02155
11.2.1 Adam 사용 시 풀 파인튜닝 메모리가 모델 크기의 3~4배 ✓ (LoRA 논문: GPT-3 175B 학습 VRAM 1.2TB, fp16 가중치 350GB 대비 약 3.4배) https://arxiv.org/abs/2106.09685
11.2.2 Microsoft의 원 논문, 가중치 변화량이 낮은 랭크 ✓ https://arxiv.org/abs/2106.09685
11.2.3 랭크 8~64가 대부분 과제에 적합 ⚠️ 논문은 랭크 1~4로도 충분한 사례를 보임. 8~64는 실무 관행으로 서술을 약화 https://arxiv.org/abs/2106.09685
11.2.3 A는 가우시안, B는 0으로 초기화 ✓ https://arxiv.org/abs/2106.09685
11.2.3 alpha = 2 × r이 흔한 선택 ❓ 관행으로 알려졌으나 1차 출처 못 찾음(본문은 "흔한 선택"으로 이미 완화) https://arxiv.org/abs/2106.09685
11.2.3 70억 모델 LoRA는 약 1000배 이상 감소(원문) ✓ (논문은 GPT-3 175B에서 10,000배) https://arxiv.org/abs/2106.09685
11.2.4 원 논문: W_Q와 W_V만 적응시켜도 강한 성능 ✓ https://arxiv.org/abs/2106.09685
11.2.5 QLoRA: LoRA + 4비트 양자화로 큰 모델을 GPU 한 장에서 파인튜닝 ✓ (65B를 48GB GPU 한 장) https://arxiv.org/abs/2305.14314
11.3.1 프리픽스 튜닝 학습 대상은 전체의 1% 미만 ✓ (논문 0.1%) https://arxiv.org/abs/2101.00190
11.3.2 원 논문의 재매개변수화(작은 네트워크로 프리픽스 생성, 학습 후 폐기) ✓ https://arxiv.org/abs/2101.00190
11.3.2 peft prefix_projection 기본값 꺼짐 ✓ https://github.com/huggingface/peft/blob/main/src/peft/tuners/prefix_tuning/config.py
11.3.3 gpt2 출력 trainable params 368,640 / all params 124,808,448 / 0.2954% ✓ (20×2×768×12 = 368,640, gpt2 124,439,808 + 368,640 = 124,808,448로 산술 일치) https://github.com/huggingface/peft/blob/main/src/peft/tuners/prefix_tuning/config.py
11.3.4 프롬프트 튜닝은 Lester 등(2021) ✓ https://arxiv.org/abs/2104.08691
11.3.4 프리픽스 튜닝은 풀 파인튜닝보다 최고 정확도가 대체로 조금 뒤짐 ✓ (논문: 요약에서 소폭 열세) https://arxiv.org/abs/2101.00190
11.3.5 최적 프리픽스 길이: 표→문장 약 10, 요약 약 200 ✓ https://arxiv.org/abs/2101.00190
11.3.5 실무에서 LoRA가 프리픽스 튜닝보다 훨씬 흔함 ⚠️ 통계 출처는 없으나 합의된 인식 https://github.com/huggingface/peft
11.4.6 DistilBERT: 약 40% 작고 약 60% 빠르며 언어 이해 약 97% 유지 ✓ https://arxiv.org/abs/1910.01108
11.5.2 EWC(Elastic Weight Consolidation) 정규화 기반 방법 ✓ https://arxiv.org/abs/1612.00796
11.6.1 2017년 Deep RL from Human Preferences 논문(게임·로봇) ✓ (Atari, 시뮬레이션 로봇) https://arxiv.org/abs/1706.03741
11.6.1 OpenAI가 InstructGPT 논문으로 언어 모델에 적용 ✓ https://arxiv.org/abs/2203.02155
11.6.1 SFT 데이터 약 1만~10만 건 ⚠️ InstructGPT는 약 1.3만 건. 원문 서술임을 밝히고 논문 값 병기 https://arxiv.org/abs/2203.02155
11.6.2 선호 쌍 3만~10만 ⚠️ InstructGPT 보상 모델 프롬프트 약 3.3만 건. 원문 서술임을 밝히고 병기 https://arxiv.org/abs/2203.02155
11.6.2 보상 모델은 SFT 모델에서 시작해 마지막 층을 스칼라 헤드로 교체 ✓ https://arxiv.org/abs/2203.02155
11.6.3 PPO 클립 비율 보통 0.2 ✓ https://arxiv.org/abs/1707.06347
11.6.3 GRPO가 DeepSeek-R1에서 쓰였고 가치 모델을 없앰(세 모델) ✓ https://arxiv.org/abs/2501.12948
11.6.4 beta 보통 0.01~0.2, 시작값 0.01~0.05 ❓ 외부 출처 못 찾음, 원문 서술로 귀속 https://arxiv.org/abs/2203.02155
11.7.3 DPO 손실식과 beta 흔한 값 0.1 ✓ https://arxiv.org/abs/2305.18290
11.7.5 많은 최신 오픈소스 모델이 DPO를 씀(원문 서술) ✓ (예: Llama 3 후처리에 DPO 사용) https://arxiv.org/abs/2407.21783
12.1 TensorFlow Serving, NVIDIA Triton(여러 라이브러리 모델 서빙), vLLM(LLM 전용)의 특징 ✓ https://github.com/triton-inference-server/server
12.2 CUDA/cuDNN 생태계, 텐서 코어의 FP16/INT8 지원, NVLink GPU 간 고속 연결 ✓ https://developer.nvidia.com/blog/parallelforall/mixed-precision-programming-cuda-8/
12.2 VRAM 24/40/80GB 구분, 7B 모델 FP32 28GB 등 계산 ✓ 계산 예시(웹 확인 불필요)
12.3 블록당 스레드 상한 보통 1,024개, 최신 GPU SM 100개 이상 ⚠️ https://docs.nvidia.com/cuda/cuda-c-programming-guide/index.html (해당 표 페이지는 열지 못함, 널리 알려진 값이며 본문은 이미 완화 표현)
12.3 전역 메모리가 공유 메모리보다 약 100배 느림 ⚠️ 1차 출처 못 찾음. 원문 설명으로 귀속하고 어림값으로 완화
12.3 cuBLAS가 NVIDIA의 기성 수학 커널 라이브러리이며 PyTorch가 호출 ✓ https://developer.nvidia.com/cublas
12.4 2013년 무렵 음성 검색 증가로 데이터센터 컴퓨터를 두 배로 늘려야 한다는 계산이 TPU 개발 계기 ✓ https://cloud.google.com/transform/ai-specialized-chips-tpu-history-gen-ai/
12.4 128x128 MXU 예시 ⚠️ 세대별로 격자 크기가 다름(초기 TPU v1은 256x256). 본문에 예시임을 명시
12.4 구글 클라우드 TPU 대여, Edge TPU(소형 기기용) ✓ https://coral.ai/docs/edgetpu/inference
12.5 LPU 용어는 Groq가 도입, 칩당 SRAM 230MB, 온칩 대역폭 최대 80TB/초 ✓ https://groq.com/wp-content/uploads/2024/08/GroqChip™-Processor-Product-Brief-v1.7.pdf
12.5 현대 GPU HBM 약 3TB/초, 70B 모델 약 305칩, 토큰 속도 43 vs 약 1,100개 ⚠️ 원문이 개념용 어림값이라 밝힘. 산술(70,000/230, 1/0.023)은 일관
12.6.1 좋은 연결에서 클라우드 왕복 지연 약 50~200밀리초 ⚠️ 1차 출처 없음. 원문 설명으로 귀속, 어림값 표기
12.6.1 시속 100km = 초속 약 27.8m, 200ms 동안 약 5.6m ✓ 산술 확인
12.6.3 클라우드 수천억 파라미터 vs 폰 수 GB 모델, 소형 모델 격차 축소 ⚠️ 일반적 합의, 1차 출처 불분명. 본문은 이미 정성적 서술
12.6.5 온디바이스 업데이트 도달률 곡선 ⚠️ 원문의 예시 곡선이며 실측값 아님(본문에 이미 명시)
12.6.7 연합 학습으로 폰 키보드 개선(Gboard) ✓ https://research.google/blog/federated-learning-collaborative-machine-learning-without-centralized-training-data/
12.6.7 ChatGPT 긴 답변=클라우드 등 제품별 실행 위치 분류 ⚠️ 일반적 분류 예시, 제품별 공식 출처 없음
13.1 비용 구조(텔레포니·STT·LLM·TTS·인프라 분당 단가, 캐스케이드 $0.04~0.07, S2S $0.10~0.30, 사람 $0.50~1.00) ❓ 원문 서술로 귀속, 외부 확인 불가 -
13.1 지연 예산(800ms 목표, 구간별 예산, 캐스케이드 700ms~1.2초 대 S2S 300~500ms) ⚠️ 업계 통용 추정치, 1차 출처 없음 -
13.1 Opus 16kHz 음성 16~20kbps, G.711 64kbps ✓ https://opus-codec.org/ , https://en.wikipedia.org/wiki/G.711
13.1 OpenAI Realtime API, Google Gemini Live, Kyutai Moshi가 S2S 모델의 예 ✓ https://arxiv.org/abs/2410.00037
13.3 Moshi 최초 실시간 풀 듀플렉스 음성 LLM, 이론 지연 160ms, 실제 200ms ✓ https://arxiv.org/abs/2410.00037
13.3 Moshi 80ms 조각, 12.5조각/초(Mimi 12.5Hz) ✓ https://arxiv.org/pdf/2410.00037
13.4 10개 언어 대화 연구에서 가장 흔한 턴 간격 0~200ms ✓ (Stivers 외 2009, PNAS) https://languagelog.ldc.upenn.edu/nll/?p=7997
13.14 10개 언어 연구에서 턴 간격 평균 약 200ms ⚠️ 논문 확인값은 최빈값 0~200ms이므로 '흔히 약 200ms'로 수정 https://doi.org/10.1073/pnas.0903616106
13.15 사람 대화 간격 흔히 약 200ms ✓ https://doi.org/10.1073/pnas.0903616106
13.16 사람 분당 약 150단어, LLM 초당 수십 토큰 ⚠️ 일반 통용 수치, 1차 출처 없음 -
13.11 OpenAI Realtime API conversation.item.truncate 이벤트(재생된 audio_end_ms로 잘라냄) ✓ SDK 레퍼런스 확인, 공식 문서 직접 열람은 403 https://docs.rs/openai-struct/latest/x86_64-apple-darwin/src/openai_struct/models/realtime_client_event_conversation_item_truncate.rs.html
13.13 1970년 Victor Yngve가 백채널 용어 도입 ✓ https://en.wikipedia.org/wiki/Victor_Yngve
13.18 Baidu 2020 논문 Incremental TTS with Prefix-to-Prefix Framework, 1~2단어 룩어헤드 ✓ https://arxiv.org/abs/1911.02750
13.18 CosyVoice 2 텍스트:음성 토큰 교차 5:15 ⚠️ 논문은 N:M 일반형, 5:15는 공개 구현 기본값으로 수정 https://github.com/FunAudioLLM/CosyVoice/blob/main/cosyvoice/llm/llm.py
13.18 CosyVoice 2 음성 토큰 25Hz, 채움 토큰 동작 ✓ https://arxiv.org/abs/2412.10117
13.18 Kyutai Delayed Streams Modeling이 스트림 사이에 지연을 둠(TTS에서는 오디오가 텍스트보다 지연) ✓ https://arxiv.org/abs/2509.08753
13.19 일부 프레임워크가 투기적 생성을 preemptive generation이라 부름 ❓ 프레임워크 명칭, 확인 생략 -
13.1 비용 절감: 라우팅·프롬프트 캐싱 포인터 추가 ✓ -