大規模言語モデル入門2〜生成型LLMの実装と評価の表紙

大規模言語モデル入門2

生成型LLMの実装と評価

山田 育矢, 鈴木 正敏, 西川 荘介, 藤井 一喜, 山田 康輔, 李 凌寒技術評論社ISBN 9784297143930

Zenn・Qiitaの1記事で紹介(2026年6月、時点)。

紹介記事
1件
Qiita / Zenn
1 / 0
初めての紹介
最新の紹介

紹介している記事(1件)

記事ごとの説明は、記事本文のうちこの本に触れた部分をAIが要約したもので、筆者の原文ではありません。

  • 【読書の夏?】各分野のおすすめ技術書を75冊まとめてみた Qiita · miruky · · いいね 125

    前作の続きとして、文章を生成する大規模言語モデルの作り込みと評価を扱う本だと紹介している。評価の考え方や指標、指示に従わせる学習、人の好みに沿わせるRLHFなどの調整を数式とともに説明し、外部文書を参照するRAGや複数台での並列・分散学習にも触れるとしている。基礎を学んだ読者が実装と評価へ進む際の次の本と位置づけている。

この本について

生成型LLMの性能評価、指示チューニング、選好チューニング、RAG、分散並列学習を、理論と実装の両面から扱う書籍である。性能評価ではベンチマークやリーダーボード、自動評価の指標、LLMを使った評価を取り上げる。指示チューニングと選好チューニングでは、学習方法に加えて実装や、指示追従性能・安全性の評価を扱い、選好チューニングではRLHFとDPOを説明する。RAGではLangChainを用いたシステム構築や評価を扱い、AI王データセットによる指示チューニングも行う。分散並列学習ではデータ並列、DeepSpeed ZeRO、パイプライン並列、テンソル並列などの手法を説明し、Megatron-LMを用いたLlama 2の学習まで取り上げる。

出版社の内容紹介・目次と紹介記事をもとにAIが要約したものです。原文の転載ではありません。

目次(主な章)

出典: 出版社の書籍ページ (章の見出しのみ)

  1. 第10章 性能評価
  2. 第11章 指示チューニング
  3. 第12章 選好チューニング
  4. 第13章 RAG
  5. 第14章 分散並列学習