LLMはlarge language model。大きな・言葉の・模型
LLMはlarge language modelの略で、日本語では「大規模言語モデル」。ものすごい量の文章から学び、次に来そうな言葉を当て続けて文を作るしくみです。ChatGPTやClaudeのようなAIの中心にあるのが、このLLMです。
「LLM」と3文字で書かれると、むずかしい専門用語に見えます。でも、ほどいてみればlarge(大きな)、language(言葉)、model(模型)。中学校で習う単語ばかりです。1語ずつ読んでいきましょう。
LLMの意味はlarge language model
ケンブリッジの辞書はlarge language modelを、「とても大量のデータをもとにした、言葉の複雑な数学的な表現で、人が言いそうな言葉をコンピューターが作れるようにするもの」と説明しています。3語に分けると、こうなります。
| 語 | ふつうの意味 | LLMでの意味 |
|---|---|---|
| large | 大きな | 学ぶ文章の量と、中の数(パラメーター)がけたちがいに大きい |
| language | 言葉 | 人の言葉、文章を扱う |
| model | 模型、見本 | 言葉の決まりや流れを、数でまねたしくみ |
modelは、プラモデルの「モデル」と同じ語です。本物の飛行機をまねて小さく作るのが模型。人の言葉の使い方を数でまねて作ったのが言語モデル。そう考えると、急に身近になります。
LLMのlargeは何が大きいのか
IBMの解説によると、LLMは本、記事、ウェブサイト、プログラムなどから、何十億、何兆という語を学びます。中で調整される数(パラメーター)も、何十億から何兆。IBMの解説では、OpenAIのGPT-3が1,750億のパラメーターを持つ例として挙げられています。
1,750億は英語で175 billion。billionは10億なので、175×10億です。こうした大きな数の読み方はbillionは何億?で練習できます。
では、そんなに大きなしくみが何をしているのか。同じIBMの解説は、LLMを「次に来る言葉を、くり返し予測する巨大な統計の機械」と説明しています。「今日はいい」のあとには「天気」が来そう。実際には、単語やその一部などに分けた「トークン」という単位を順に予測します。「次の言葉を当てる」は、そのしくみを大まかに表す説明です。
次の言葉を「当てる」しくみなので、もっともらしいけれどまちがった答えを作ることもあります。これがハルシネーションです。くわしくはハルシネーションの語源で読めます。
LLMとChatGPTの関係は英語でどう言う?
LLMはしくみ、ChatGPTやClaudeはそれを使って作られた製品です。エンジンと車の関係に近いでしょう。
ChatGPT is a chatbot built on a large language model.
ChatGPTは、大規模言語モデルをもとに作られたチャットボットだ。
built onは「〜の上に作られた、〜をもとにした」。LLMの話でいちばんよく使う形です。powered by(〜で動く)も同じ場面で出てきます。
文や画像を作るAI全体の呼び名は生成AIは英語で何と言う?で整理しました。
LLMの読み方と、ニュースでの出方
読み方はアルファベットのまま「エル・エル・エム」。複数形はLLMsで、「エル・エル・エムズ」と読みます。
ひとつ面白いことがあります。ケンブリッジの辞書でLLMを引くと、最初に出てくるのは法学修士(Master of Laws)。大学院の法律の学位のことです。AIのlarge language modelは別の項目にのっています。弁護士の経歴でLLMを見たら、AIではなく学位のことです。
- train an LLM
- LLMを学習させる。trainは「訓練する」
- open-source LLMs
- 中身が公開されているLLM
- LLM-powered
- LLMで動く。an LLM-powered app
LLMの前の冠詞はanです。Lの読みが「エル」と母音で始まるので、an LLMになります。
しくみを英語で聞いてみたい人には、数学の解説で人気の3Blue1Brownの8分の動画があります。日本語版のチャンネルにも同じ内容の動画があるので、先に日本語で見てから英語で聞くこともできます。
Large Language Models explained briefly
YouTubeで見るLLMとは何かをひとことで言う英語
LLMを説明する
An LLM is a huge model trained on text to guess the next word.「LLMは、次の言葉を当てるように文章で学習させた、巨大なモデルです」。trained on text(文章で学習させた)とguess the next word(次の言葉を当てる)の2つで、しくみの中心が伝わります。
本文を見ずに考えてみる:LLMの前に付く冠詞はaとanのどちらでしょうか。理由も考えてみてください。
考え方と答えを確認する
anです。LLMはアルファベットで「エル」と読み、母音の音で始まるので、an LLMになります。つづりではなく音で決まります。
確かめた資料
- Cambridge Dictionary:large language model
- Cambridge Dictionary:LLM — Master of Lawsの意味
- IBM:What are large language models? — 学ぶ語の量、パラメーターの数、次の言葉を予測するしくみ、GPT-3の1,750億
