LLMはlarge language model。大きな・言葉の・模型

LLMはlarge language modelの略で、日本語では「大規模言語モデル」。ものすごい量の文章から学び、次に来そうな言葉を当て続けて文を作るしくみです。ChatGPTやClaudeのようなAIの中心にあるのが、このLLMです。

「LLM」と3文字で書かれると、むずかしい専門用語に見えます。でも、ほどいてみればlarge(大きな)、language(言葉)、model(模型)。中学校で習う単語ばかりです。1語ずつ読んでいきましょう。

LLMの意味はlarge language model

ケンブリッジの辞書はlarge language modelを、「とても大量のデータをもとにした、言葉の複雑な数学的な表現で、人が言いそうな言葉をコンピューターが作れるようにするもの」と説明しています。3語に分けると、こうなります。

語ふつうの意味LLMでの意味
large大きな学ぶ文章の量と、中の数(パラメーター)がけたちがいに大きい
language言葉人の言葉、文章を扱う
model模型、見本言葉の決まりや流れを、数でまねたしくみ

modelは、プラモデルの「モデル」と同じ語です。本物の飛行機をまねて小さく作るのが模型。人の言葉の使い方を数でまねて作ったのが言語モデル。そう考えると、急に身近になります。

LLMのlargeは何が大きいのか

IBMの解説によると、LLMは本、記事、ウェブサイト、プログラムなどから、何十億、何兆という語を学びます。中で調整される数(パラメーター)も、何十億から何兆。IBMの解説では、OpenAIのGPT-3が1,750億のパラメーターを持つ例として挙げられています。

1,750億は英語で175 billion。billionは10億なので、175×10億です。こうした大きな数の読み方はbillionは何億?で練習できます。

では、そんなに大きなしくみが何をしているのか。同じIBMの解説は、LLMを「次に来る言葉を、くり返し予測する巨大な統計の機械」と説明しています。「今日はいい」のあとには「天気」が来そう。実際には、単語やその一部などに分けた「トークン」という単位を順に予測します。「次の言葉を当てる」は、そのしくみを大まかに表す説明です。

次の言葉を「当てる」しくみなので、もっともらしいけれどまちがった答えを作ることもあります。これがハルシネーションです。くわしくはハルシネーションの語源で読めます。

LLMとChatGPTの関係は英語でどう言う?

LLMはしくみ、ChatGPTやClaudeはそれを使って作られた製品です。エンジンと車の関係に近いでしょう。

ChatGPT is a chatbot built on a large language model.

ChatGPTは、大規模言語モデルをもとに作られたチャットボットだ。

built onは「〜の上に作られた、〜をもとにした」。LLMの話でいちばんよく使う形です。powered by(〜で動く)も同じ場面で出てきます。

文や画像を作るAI全体の呼び名は生成AIは英語で何と言う?で整理しました。

LLMの読み方と、ニュースでの出方

読み方はアルファベットのまま「エル・エル・エム」。複数形はLLMsで、「エル・エル・エムズ」と読みます。

ひとつ面白いことがあります。ケンブリッジの辞書でLLMを引くと、最初に出てくるのは法学修士(Master of Laws)。大学院の法律の学位のことです。AIのlarge language modelは別の項目にのっています。弁護士の経歴でLLMを見たら、AIではなく学位のことです。

train an LLM
LLMを学習させる。trainは「訓練する」
open-source LLMs
中身が公開されているLLM
LLM-powered
LLMで動く。an LLM-powered app

LLMの前の冠詞はanです。Lの読みが「エル」と母音で始まるので、an LLMになります。

しくみを英語で聞いてみたい人には、数学の解説で人気の3Blue1Brownの8分の動画があります。日本語版のチャンネルにも同じ内容の動画があるので、先に日本語で見てから英語で聞くこともできます。

Large Language Models explained briefly

3Blue1Brown 長さ 7:58

YouTubeで見る

LLMとは何かをひとことで言う英語

LLMを説明する

An LLM is a huge model trained on text to guess the next word.

「LLMは、次の言葉を当てるように文章で学習させた、巨大なモデルです」。trained on text(文章で学習させた)とguess the next word(次の言葉を当てる)の2つで、しくみの中心が伝わります。

本文を見ずに考えてみる:LLMの前に付く冠詞はaとanのどちらでしょうか。理由も考えてみてください。

考え方と答えを確認する

anです。LLMはアルファベットで「エル」と読み、母音の音で始まるので、an LLMになります。つづりではなく音で決まります。

確かめた資料