生成AIはどうやって文章を作るの？言葉を予測する仕組みをイラストで解説

生成AIの文章を作る中心部分は「大規模言語モデル」と呼ばれます。多くの文章を使った学習を通して、どのような言葉が、どんな順序や組み合わせで現れやすいかをモデル内の数値へ反映します。

コンピューターは文章をそのまま扱うのではありません。入力文を文字や単語の一部などの小さな単位「トークン」へ分け、それぞれを数値へ変換してモデルの計算に使います。分け方はモデルによって異なります。

モデルは入力されたトークンと、それまでに生成されたトークンの関係を計算します。文章の中でどの部分へ注目するかを調整しながら、質問の内容や前後の流れに合う続きを考える材料にします。

学習した言葉のパターンと現在の文脈をもとに、次に続く可能性があるトークンへそれぞれ確率を付けます。その候補から一つを選びますが、選び方はモデルや生成時の設定によって変わります。

選ばれたトークンを文章の続きへ加えると、そのトークンを含む新しい文脈で次の候補をもう一度計算します。「選ぶ→加える→また予測する」を高速で繰り返し、少しずつ文章を伸ばします。

生成AIは、文脈に合う自然な続きを予測する仕組みです。その文章が現実の事実と一致することまで自動的に保証するものではありません。重要な情報は、公的資料や信頼できる情報源で確認する必要があります。