Book
LLMOps
Abi Aryan
Summary
大規模言語モデル（LLM）を本番環境で安定稼働させるための運用ガイド。LLMの基礎知識とLLMOpsチームの 役割分担から説き起こし、RAGやエージェントを含むLLMベースのアプリケーション構成、学習データや パイプラインを扱うデータエンジニアリングの勘所までを順に扱う。後半では評価指標の設計とハルシネーション など重大な失敗の早期検知、ガバナンス・プライバシー・プロンプトインジェクションといったセキュリティ リスクへの対応を軸に、可観測性パイプラインの構築とコストを意識したインフラ拡張の考え方を示す。 プロトタイプの段階を超え、実運用でのトラブルに直面し始めたチームが直面しやすい論点を章立てで 整理した内容になっている。
Target Readers
- 本番環境でLLMアプリケーションの運用・監視を任されているMLエンジニアやSRE
- RAGやLLMエージェントの評価指標・ガバナンス体制を整備したいチームリーダー
Tags
Colophon
- Publisher
- オライリー・ジャパン
- ISBN
- 978-4-8144-0160-4
- Published
- May 2026
- List price
- ¥5,280incl. taxMay differ from the actual selling price on Amazon
Get this book
* The link above is an advertisement via Amazon Associates.Related Books
Prerequisites
- Recommended
Observability Engineering
Charity Majors, Liz Fong-Jones, George Miranda
Reason: Where 'Observability Engineering' teaches observability for distributed systems in general via structured events and distributed tracing, 'LLMOps' applies that thinking to running LLM-based applications, connecting it to LLM-specific observation challenges like evaluation-metric design and early detection of hallucination.
Sources
- Recommended
生成AIの安全性入門
綿岡晃輝
Reason: Once you've learned generative-AI risk classification, red-teaming-based safety evaluation, and system-level countermeasures like guardrails, you advance to embedding them into a mechanism that actually keeps running in production. LLMOps' closing chapter covers responding to security risks such as governance, privacy, and prompt injection, plus building an observability pipeline — connecting the evaluation and countermeasure knowledge from the AI safety primer into concrete production-operation mechanisms.
Sources
- Related
Site Reliability Engineering
Betsy Beyer, Chris Jones, Jennifer Petoff, Niall Richard Murphy
Reason: Where Google's 'Site Reliability Engineering' frames engineering reliability for general services via SLIs/SLOs and error budgets, 'LLMOps' applies that operating philosophy to the new target of LLM applications, organizing the production concerns—including governance and cost management—specific to running them.
Sources