> ぷっ、生成AIの時代にジジイの話なんて参考になるかよ笑
LLM(大規模言語モデル)の中核をなすのは、Attentionと呼ばれるニューラルネットワークアルゴリズム。その複数のAttentionを組み合わせて推論エンジンを構成し、推論を実行している。
そのシステムはTransformerと呼ばれ、GPTの「T」はTransformerの意。
Transformer、直訳すれば変成器。
つまり生成AIとは「入力された文章の次に配置される可能性が最も高い単語を推論する計算機(ニューラルネットワーク)」ということになり、入力文から出力文を推論して変成しているに過ぎない。
さて本題、では推論エンジンは何を学習したのか？それはキミが言う所の「ジジイの話」を学習した結果さ(笑)
良かったな、キミも間接的にジジイの話を参考に出来て(爆笑)