大規模言語モデル（LLM）と現代の生成AI

トランスフォーマー（Transformer）

2017年に登場し、生成AIの時代を大きく変えた技術です。

特徴

• CNNやRNNを使わない新構造
• 「自己注意機構（Self-Attention）」で文章の大事な部分に注目
• データの順番に左右されず高速
• 大量の学習に向いている

GPTシリーズをはじめ、多くの最新AIモデルの基盤となっています。

小学生でもわかる説明：
長い文章から「大事なところだけにしるしをつけて読む」ようなAIです。
重要な部分を見つけるのが得意です。

GPTシリーズの進化（2018〜）

GPT-1（2018）

• 約1.7億パラメータ
• 基本的な言語理解が可能

GPT-2（2019）

• 約15億パラメータ
• 人らしい文章を生成できる
• 高性能すぎて一部が非公開に

GPT-3（2020）

• 約1750億パラメータ
• 翻訳・要約・会話など多くのタスクに対応
• 微調整なしで高性能

InstructGPT（2022）

• GPT-3にRLHFを導入
• 人が望む答えに寄せる学習
• ChatGPTの原型

GPT-3.5（2022）

• 約3550億パラメータ
• 対話性能が大幅進化
• ChatGPTとして公開

GPT-4（2023）

• 約1兆7600億パラメータ
• 画像・音声も理解できるマルチモーダルAI
• より安全性・正確性が向上

小学生でもわかる説明：
GPTは「だんだんかしこくなっていくAIのシリーズ」です。
はじめは文章だけだったのが、今では絵や声もわかるようになっています。

GPTモデルの特徴まとめ

• GPT-1：言葉を理解する最初のステップ
• GPT-2：人っぽい文章が書けるようになる
• GPT-3：いろいろな仕事をこなせる巨大AI
• GPT-3.5：会話がとても上手なAI（ChatGPT）
• GPT-4：画像や音声も理解できる高性能AI

小学生でもわかる説明：
GPTは「AIの成長日記」のようなものです。
1年生→2年生→3年生…とレベルアップして、今はとても賢いAIになっています。