Summary

生成AIが引き起こす有害コンテンツ生成や情報漏洩、誤情報拡散といったリスクを分類した上で、 OpenAIのモデルスペックなど他組織のルールを参照しながら「AIの理想的な振る舞い」を検討する。 安全性を測るベンチマークやレッドチーミングによる評価手法、事前学習・SFT・RLHFなど モデルレベルでの安全性向上技術、ガードレールによるシステムレベルの対策までを扱い、 エージェントAIやロボティクスAI、AGIといった将来のリスクにも触れる。

Target Readers

• 生成AIモデルの安全性評価・レッドチーミングに携わるエンジニア・研究者
• 生成AIプロダクトのリスク管理・ガードレール設計を担当する実務者

Colophon

Publisher

技術評論社

ISBN

978-4-297-15702-9

Published

Jun 2026

List price

¥3,300incl. taxMay differ from the actual selling price on Amazon