【日刊】AIニュース~人間が黙ってAIに番組を任せたらどうなるのか、世界が震えるAI学習番

Edwin
【日刊】AIニュース~人間が黙ってAIに番組を任せたらどうなるのか、世界が震えるAI学習番

🤖毎朝5分、AIたちが語る時事・テック・陰謀・人生相談!  人間が黙ってAIに番組を任せたらどうなるのか、世界が震えるAI雑談番組、ここに爆誕。 🧠 ChatGPT × 合成音声による無限トークの記録

  1. 15 THG 5

    ChatGPT、GPT-4.1利用可能になり、100万tokenの取り扱いが可能に

    GPT-4.1がどのようにして最大100万トークンもの超長文コンテキストを扱えるようになったかについて、ソースに基づいた主な説明は以下の通りです。これは、従来のTransformerモデルの設計では困難だった長さを実現するために、位置表現、注意機構、インフラ、学習方法の4つの層で総力戦でのチューニングを行った結果だとされています。 その具体的なアプローチは以下の点が挙げられます。 位置表現(Positional Encoding)の拡張 Rotary Positional Embedding(RoPE)の拡張版が採用されています(俗にLongRoPE、xPos、Position-Interpolationなどと呼ばれる技術)。これにより、訓練時に見た系列長よりもはるかに長い系列でも、同じ重みで計算が破綻しないように、理論上の位置範囲を百万トークン級まで外挿できるよう再設計されています。TechTargetも、モデルが長いデータセットから情報を正確に解析・取得できるよう注意機構が改善されたことに言及しています。これは例えるなら、既存の座標系を大きく「引き伸ばす」ような数学的な補間により、位相のズレを抑えたまま計算を続けるイメージです。計算量を抑える スパース/階層型アテンション 従来のTransformerが抱える計算量(トークン数の二乗、N²)を事実上ほぼ線形に抑えるための工夫がされています。**局所+グローバル混合(Longformer系)**のアプローチとして、大部分のトークンは近傍の窓(local window)内のトークンのみを参照し、章や文書境界など一部の重要なトークンだけが文書全体を参照(グローバル発火)することで、計算複雑度をNに窓幅を掛けたO(N·w)に縮小しています。リカレント/リング注意のように、一定長ごとに注意計算をリセットしながらバトンを回し、GPUメモリを時系列的に再利用する手法も用いられています。KVキャッシュ選択やスライディングウィンドウ量子化により、解析で重要度が低いトークンを動的に間引き・圧縮し、メモリ帯域を節約する研究成果が複数実装されています。これらの「全部に注意しない」アプローチを組み合わせることで、膨大な計算量を抑制しています。KVキャッシュとインフラの大幅最適化 100万トークンを扱うには、素直にKey/Value行列を保持するだけで数百GBのメモリが必要になります。これを解決するため、Key/Value行列を低ビット(8bit/4bit)で量子化し、GPUとCPU、さらにはNVMe SSD間をストリーミングする階層キャッシュとして扱う技術が採用されています。FlashAttention-2やmemory-efficient kernelsといった技術により、行列演算をGPUメモリ上でオンザフライに再計算し、メモリの読み書き回数を最小化しています。OpenAIはAzure H100クラスタ上で、層単位やシーケンス単位の分散推論パイプラインを採用し、100万トークンでも最初のトークン出力まで約60秒という実用的な遅延に抑えていると公表しています。こうしたハードウェアとソフトウェアの共同設計により、「巨大な書籍丸ごと」といったリクエストでも実用的な遅延とコストに抑えることが可能になっています。長尺データでの カリキュラム再学習 モデルを長いシーケンス長に対応させるため、まず16Kトークン、次に128K、そして1Mトークンと段階的に系列長を伸ばしながら再訓練し、勾配爆発や消失を防いでいます。「ニードル・イン・ヘイスタック」(干し草の山から針を探すように、長文の中から特定の情報を見つける)やGraphwalksといった長文特化の評価データで、モデルが過学習しないよう大量に課題を生成して学習させています。これは、「何十万トークン先の1行を取り出す」といった能力をモデルに獲得させるためです。これらの技術的な積み重ねにより、GPT-4.1は100万トークンという桁外れのコンテキスト長を扱えるようになっています。 ただし、これは**「無限のメモリ」ではない**点に注意が必要です。モデルは必ずしも全文に対して完全に注意を払っているわけではなく、裏では重要度の推定や階層的な読み込みが走っています。また、OpenAI自身の検証でも、極端に長い入力時にはモデルの精度が低下する現象が確認されており(例えば、8千トークン入力で84%の正答率だったタスクが、100万トークンでは50%に減少)、長過ぎる文脈はモデルの負荷となり得るため、ノイズに埋もれると精度は低下する可能性があります。 実務でGPT-4.1のロングコンテキスト能力を活かすヒントとしては、以下の点が挙げられています。 長い資料を扱う際には、必要な部分を「明示的に」ハイライトしたり、目次や要点を付けて関連性を上げたりすることが有効です。本当に1Mトークンの入力が必要か再考し、分割+要約→統合のハイブリッドなアプローチが適しているケースも多いです。同じ長文を何度も送る場合は、変動する部分を末尾に置くことでキャッシュ割引が適用され、コストを抑えることができます(API利用の場合)。結論として、GPT-4.1が100万トークンを扱えるのは、単一のブレークスルーではなく、位置表現の数学的な拡張、計算量を抑えるアテンション技術、大規模なKVキャッシュを効率的に扱うためのインフラ最適化、そして長尺データでの綿密な再学習カリキュラムという、地道で総合的なエンジニアリングの積み重ねによって実現されています。

    8 phút

Giới Thiệu

🤖毎朝5分、AIたちが語る時事・テック・陰謀・人生相談!  人間が黙ってAIに番組を任せたらどうなるのか、世界が震えるAI雑談番組、ここに爆誕。 🧠 ChatGPT × 合成音声による無限トークの記録

Có Thể Bạn Cũng Thích

Bạn cần đăng nhập để nghe các tập có chứa nội dung thô tục.

Luôn cập nhật thông tin về chương trình này

Đăng nhập hoặc đăng ký để theo dõi các chương trình, lưu các tập và nhận những thông tin cập nhật mới nhất.

Chọn quốc gia hoặc vùng

Châu Phi, Trung Đông và Ấn Độ

Châu Á Thái Bình Dương

Châu Âu

Châu Mỹ Latinh và Caribê

Hoa Kỳ và Canada