大規模言語モデル入門 2「生成型LLMの実装と評価」
発売日:2024年9月
- 巻の書名
- 生成型LLMの実装と評価
- ページ数
- 220p
- ISBN
- 978-4-297-14393-0
- 著者情報
- 山田 育矢(ヤマダ イクヤ)
株式会社Studio Ousiaチーフサイエンティスト・名古屋大学客員教授・理化学研究所AIP客員研究員2007年にStudio Ousiaを創業し、自然言語処理の技術開発に従事。2016年3月に慶應義塾大学大学院政策・メディア研究科博士後期課程を修了し、博士(学術)を取得。大規模言語モデルLUKEの開発者
鈴木 正敏(スズキ マサトシ)
株式会社Studio Ousiaソフトウェアエンジニア・東北大学データ駆動科学・AI教育研究センター学術研究員。2021年3月に東北大学大学院情報科学研究科博士後期課程を修了し、博士(情報科学)を取得。博士課程では質問応答の研究に従事。日本語質問応答のコンペティション「AI王」の実行委員。東北大学が公開している日本語BERTの開発者
西川 荘介(ニシカワ ソウスケ)
LINEヤフー株式会社自然言語処理エンジニア。2022年3月に東京大学大学院情報理工学研究科修士課程を修了。現在は情報検索分野での言語処理に取り組む
藤井 一喜(フジイ カズキ)
東京工業大学情報工学系修士1年・Turing株式会社嘱託研究員。学士、修士課程では大規模モデルの分散並列学習に従事。llm‐up、Swallow Projectにて日本語大規模言語モデルの事前学習を担当
山田 康輔(ヤマダ コウスケ)
株式会社サイバーエージェントAI Labリサーチサイエンティスト・名古屋大学大学院情報学研究科協力研究員。2024年3月名古屋大学情報学研究科博士後期課程を修了し、博士(情報学)を取得。2024年4月より現職。博士後期課程では自然言語処理、特にフレーム意味論に関する研究に従事
セブン-イレブン受取り(送料無料)
発送目安
発売日(発売日以降は当日)~2日で発送
宅配(送料¥550税込)
発送目安
発売日(発売日以降は当日)~2日で発送
交通状況・天候の影響や注文が集中した場合等、お届けにお時間をいただく場合がございます。
商品説明
「大規模言語モデル入門」の続編です。「大規模言語モデル入門」は理論と実装のバランスをとって構成しましたが、本書では実装部分で扱い切れなかった話題を取り上げ、特に大規模言語モデルの評価と生成LLMに関連する解説を充実させます。「大規模言語モデル入門」の9章に続き、10章から始まります。
10章では、後続する章で行う言語モデルの評価方法について解説します。自動評価と人手評価の2つの側面から、ベンチマーク、評価指標、具体的な評価ツールやデータセットなどを取り上げます。11から13章では、主に大規模言語モデルの性能を上げるためのトピックとして、指示チューニング、人間のフィードバックからの学習、RAGに焦点を当て、それぞれの実装方法、利用するデータセット、評価の方法について解説します。14章では大規模言語モデルの学習における並列・分散処理について詳しく解説します。大規模なデータを限られた計算資源で学習させるノウハウは多くのエンジニアにとって有益な情報となるでしょう。
大規模言語モデルの性能を高めるための各トピックの実装とともに、それぞれの評価について理解できる一冊です。
目次
第10章 性能評価(モデルの性能評価とは
評価指標を用いた自動評価
LLMを用いた自動評価)
第11章 指示チューニング(指示チューニングとは
指示チューニングの実装
指示チューニングしたモデルの評価)
第12章 選好チューニング(選好チューニングとは
選好チューニングの実装
選好チューニングの評価)
第13章 RAG(RAGとは
基本的なRAGのシステムの実装
RAG向けにLLMをチューニングする
RAGの性能評価)
第14章 分散並列学習(分散並列学習とは
さまざまな分散並列学習手法
LLMの分散並列学習)
商品詳細
- 出版社名
- 技術評論社
- サイズ
- 23cm
- 対象年齢
- 一般
- フォーマット
- 単行本
注意事項
- 本の帯に関して
- 帯つきでの出荷はお約束しておりません。
商品ページに、帯のみに付与される特典物等の表記がある場合でも、確実に帯つきでの出荷はお約束しておりません。
また、帯は商品の一部ではなく「広告扱い」のため、帯の有無・破損による交換や返品は承っておりません。 - 版・表紙について
- 版・表紙(カバー)のご指定は承っておりません。ご注文いただくタイミングによっては、お届けする商品の版や表紙が商品ページ上のものとは異なる場合がございます。
また、初版にのみにお付けしている特典(初回特典、初回仕様特典)がある商品は、商品ページに特典の表記がされている場合でも、無くなり次第終了となります。