ChatGPT 大規模言語モデルの進化と応用
発売日:2024年4月
- ページ数
- 195p
- ISBN
- 978-4-86594-400-6
- 著者情報
- アンドリュー,シン(アンドリュー,シン)(Shin,Andrew)
現慶應義塾大学デジタルメディアコンテンツ研究センター特任助教。東京大学大学院情報理工学系研究科博士課程修了。株式会社ソニーグループのR&Dセンターを経て、2022年現職に着任。目下の研究分野は画像認識と自然言語処理の融合
小川 航平(オガワ コウヘイ)
現KEEN株式会社ソフトウェアエンジニア兼書道家。香川高等専門学校情報工学科を卒業後、筑波大学情報学群へ3年次編入学。博士前期課程修了までデジタルネイチャー開発研究センターにて、3Dプリンティング、3Dセンシング、身体性等を追求したHuman Computer Interactionの研究に従事。新卒で日本マイクロソフト株式会社へ入社し、Cloud Solution Architect(Data&AI)として、エンタープライズ企業のお客様に対して、データ分析、MLOpsなどの導入・実装支援を行う
谷合 廣紀(タニアイ ヒロキ)
日本将棋連盟の棋士(四段)。吉本興業文化人。東京大学情報理工学系研究科修士課程修了。将棋AIの研究と普及に注力しており、2022年には自作の将棋AIであるpreludeが世界コンピュータ将棋選手権で独創賞を受賞
セブン-イレブン受取り(送料無料)
発送目安
発売日(発売日以降は当日)~2日で発送
宅配(送料¥550税込)
発送目安
発売日(発売日以降は当日)~2日で発送
交通状況・天候の影響や注文が集中した場合等、お届けにお時間をいただく場合がございます。
商品説明
ChatGPTの話題は巷に溢れていますが、多くはプロンプトの例示だったり、断片的・揮発的な技術情報だったりします。一方、本書はデータサイエンティストをはじめ、AIの研究者や開発者を対象とし、大規模言語モデルの進化の過程を踏まえたうえで、ChatGPTの適用技術、応用の仕方、限界まで、重要ポイントを絞り込んで解説。さらにマイクロソフトの関連サービスや機能を詳解します。ChatGPTは大規模言語モデルの頂点にあり、進化の到達点に位置します。AIやNLPのパラダイムが転換しない限り、今後さらに大規模な言語モデルが登場しても、それはChatGPTの延長線上にあり、本書の内容は長く有効であり続けるでしょう。
◆◆データサイエンティスト、AIの研究者・開発者に◆◆
◆◆役立つ実務情報を集約◆◆
ChatGPTの話題は巷に溢れていますが、多くはプロンプトの例示だったり、断片的・揮発的な技術情報だったりします。一方、本書はデータサイエンティストをはじめ、AIの研究者や開発者を対象とし、大規模言語モデルの進化の過程を踏まえたうえで、ChatGPTの適用技術、応用の仕方、限界まで、重要ポイントを絞り込んで解説。さらにマイクロソフトの関連サービスや機能を詳解します。
ChatGPTは大規模言語モデルの頂点にあり、進化の到達点に位置します。AIやNLPのパラダイムが転換しない限り、今後さらに大規模な言語モデルが登場しても、それはChatGPTの延長線上にあり、本書の内容は長く有効であり続けるでしょう。
●想定読者
本書は主に次のような方々に向けて書かれています。
・データサイエンティストの方々
・ChatGPTの仕組みや特徴を他のモデル作成に活かしたい方々
・構文解析や感情分析などの伝統的なNLPタスクに携わる方々
・深層学習による汎用大規模言語モデル、その応用先や評価に興味を持つAIの研究者
●前提とする知識
言語モデルの学習や推論、またコーパスから得られる単語や文のベクトル表現など、NLPの基本的な概念を理解していれば大丈夫です。数式に馴染みがあり、トランスフォーマーやBERTの知識や経験があれば一層結構ですが、本書の中でも説明しているので、必須ではありません。
●本書の特徴と工夫
本書は、理論と応用の両方を充実させました。
ChatGPTの背景や原理は、最新の理論に基づき体系的に整理しました。ミニChatGPTのサンプル開発やチューニングでは実際のコードを示し、手を動かしながら理解を深めることができます。また、データサイエンティストの方々には文系出身者も多いので、難易度が高い理論や数式は図説や脚注で補足しています。
応用面では、マイクロソフトのサービス実装など、実務に役立つ最新情報を提供。実際に直面する課題の解決や、応用先の拡大も図れるよう工夫しました。
目次
第1章 ChatGPTの概要
1.1 ChatGPT登場の背景と社会的反響
1.2 言語モデルの歴史
第2章 ChatGPTの動作原理
2.1 トランスフォーマー
2.2 BERT
2.3 GPT-3
2.4 RLHF
第3章 他の大規模言語モデル
3.1 LaMDAとBard
3.2 PaLM
3.3 LLaMA
第4章 ChatGPTのAPI
4.1 ChatGPTのAPIとは?
4.2 アクセス取得及び最初の呼び出し
4.3 入力及び応答のフォーマット
4.4 アドバンスドな利用方法
第5章 APIを用いたファインチューニング
5.1 ファインチューニングの準備
5.2 ファインチューニングの実行
5.3 推論の実行
第6章 HuggingFaceを用いたファインチューニング
6.1 Pythonスクリプトによる学習の準備
6.2 モデルの学習
6.3 推論
6.4 RLHFの再現
第7章 プロンプトエンジニアリング
7.1 プロンプトエンジニアリングの概要
7.2 プロンプトのパターン
7.3 日本語のプロンプトエンジニアリング
第8章 Microsoftのサービスで始めるLLMシステム
8.1 本章に書くこと・書かないこと
8.2 LLMを組み込んだMicrosoft製品
8.3 Azure OpenAI Serviceという選択肢
8.4 RAGアーキテクチャ
8.5 研究者のためのクイックなRAG環境構築:Azure OpenAI Serviceとカスタム実装
8.6 本章の最後に
第9章 ChatGPTの限界を越えて< ほか
商品詳細
- シリーズ名
- AI/Data Science実務選書
- 出版社名
- リックテレコム
- サイズ
- 24cm
- 対象年齢
- 一般
- フォーマット
- 新書・選書
注意事項
- 本の帯に関して
- 帯つきでの出荷はお約束しておりません。
商品ページに、帯のみに付与される特典物等の表記がある場合でも、確実に帯つきでの出荷はお約束しておりません。
また、帯は商品の一部ではなく「広告扱い」のため、帯の有無・破損による交換や返品は承っておりません。 - 版・表紙について
- 版・表紙(カバー)のご指定は承っておりません。ご注文いただくタイミングによっては、お届けする商品の版や表紙が商品ページ上のものとは異なる場合がございます。
また、初版にのみにお付けしている特典(初回特典、初回仕様特典)がある商品は、商品ページに特典の表記がされている場合でも、無くなり次第終了となります。