書籍
LLMOps
本番環境における大規模言語モデル運用ガイド
Abi Aryan
概要
大規模言語モデル（LLM）を本番環境で安定稼働させるための運用ガイド。LLMの基礎知識とLLMOpsチームの 役割分担から説き起こし、RAGやエージェントを含むLLMベースのアプリケーション構成、学習データや パイプラインを扱うデータエンジニアリングの勘所までを順に扱う。後半では評価指標の設計とハルシネーション など重大な失敗の早期検知、ガバナンス・プライバシー・プロンプトインジェクションといったセキュリティ リスクへの対応を軸に、可観測性パイプラインの構築とコストを意識したインフラ拡張の考え方を示す。 プロトタイプの段階を超え、実運用でのトラブルに直面し始めたチームが直面しやすい論点を章立てで 整理した内容になっている。
対象読者
- 本番環境でLLMアプリケーションの運用・監視を任されているMLエンジニアやSRE
- RAGやLLMエージェントの評価指標・ガバナンス体制を整備したいチームリーダー
タグ
奥付
- 出版社
- オライリー・ジャパン
- ISBN
- 978-4-8144-0160-4
- 出版日
- 2026年5月
- 参考定価
- ￥5,280税込Amazonの実売価格と異なる場合があります
この本を手に入れる
※ 上記は Amazon アソシエイトによる広告リンクです。関連書籍
前提となる書籍
- 推奨前提
オブザーバビリティ・エンジニアリング
分散システムの信頼性とパフォーマンス
Charity Majors, Liz Fong-Jones, George Miranda
理由: 『オブザーバビリティ・エンジニアリング』が構造化イベントや分散トレースで分散システム一般の可観測性を説くのに対し、『LLMOps』はその考え方を LLM ベースのアプリケーション運用に適用し、評価指標の設計やハルシネーションの早期検知といった LLM 特有の観測課題へつなげる。
- 推奨前提
生成AIの安全性入門
綿岡晃輝
理由: 生成AIのリスク分類やレッドチーミングによる安全性評価、ガードレールによるシステムレベルの対策までを学んだら、それらを実際に本番環境で回し続ける仕組みへ落とし込む段階に進む。LLMOpsは終章でガバナンス・プライバシー・プロンプトインジェクションといったセキュリティリスクへの対応や可観測性パイプラインの構築を扱っており、生成AIの安全性入門で得た評価・対策の知識を本番運用の具体的な仕組みへ接続する。
- 参考
SRE サイトリライアビリティエンジニアリング
Googleの信頼性を支えるエンジニアリングチーム
Betsy Beyer, Chris Jones, Jennifer Petoff, Niall Richard Murphy
理由: Google『SRE サイトリライアビリティエンジニアリング』が SLI/SLO やエラーバジェットで一般的なサービスの信頼性を工学的に管理する枠組みを示したのに対し、『LLMOps』はその運用思想を LLM アプリケーションという新しい対象に当てはめ、ガバナンスやコスト管理を含めた本番運用の論点を整理する。