株式会社ずんだもん技術室AI放送局

株式会社ずんだもん技術室AI放送局

AIやテクノロジーのトレンドを届けるPodcast。平日毎朝6時配信。朝の通勤時間や支度中に情報キャッチアップとして聞いてほしいのだ。(MC 月:春日部つむぎ、火水木:ずんだもん、金:お嬢様ずんだもん)

  1. 16時間前

    株式会社ずんだもん技術室AI放送局 podcast 20261105

    youtube版(スライド付き) 関連リンク Siri AI is now open to all developers - Latest News - Apple Developer Appleは、iOS 27.3、iPadOS 27.3、macOS 27.3、visionOS 27.3などのベータ版において、すべてのデベロッパーに向けて「Siri AI」を統合できる新しいDeveloper Previewの提供を開始しました。これにより、アプリのコンテンツやカスタムアクションをSiri AIへ直接組み込み、ユーザーが自然言語で話しかけるだけで様々な処理を実行できるようになります。 今回のプレビューでは、App Intentsを活用することで、パーソナルコンテキストの理解、画面上の要素の認識、高度な自然言語処理といったSiri AIの最新機能をアプリから利用できるようになります。例えば、荷物の配送状況の確認、レストランの予約、注文の完了など、ユーザーが自分の言葉で依頼したカスタムアクションをSiri AIがシームレスに実行します。さらに、複雑なリクエストに対して複数のアクションを一つの体験として統合できる「skills」も新たに導入され、Spotlightのセマンティックインデックスにあるあらゆるエンティティを表面化させることが可能になりました。 Appleは、カレンダー、ファイル、メール、マップ、メッセージ、メモ、写真、リマインダー、Safari、天気などの自社製アプリにもこれらの機能を順次導入しており、デベロッパー向けのリファレンスとして活用できます。今後のスケジュールとしては、数ヶ月後に一般顧客向けへの正式な提供が開始され、春にはApp Storeへのアプリ提出が解禁される予定となっています。これにより、デベロッパーは正式リリースに向けて新しい体験の探索や開発、フィードバックの共有を行う十分な時間を確保できます。 新人エンジニアが開発を進める上での重要なポイントとして、新しいAPIの詳細や、Siri AIを活用したアプリ体験の評価方法については公式ドキュメント（Siri AI Developer Preview）が公開されています。また、利用にあたってはいくつかの注意点があり、対応するApple Intelligence搭載デバイスおよびサポート言語（日本語を含む）が必要となります。現時点ではEU圏内でのiOS、iPadOS、watchOS向けSiri AIは利用不可となっており、13歳未満のユーザーも対象外です。さらに、サーバーサイドモデルに依存する一部のApple Intelligence機能には1日の利用制限が設けられており、将来的に有料での拡張アクセスが提供される予定であるため、今後の利用規約やポリシーの変更にも注意を払う必要があります。 引用元: https://developer.apple.com/news/?id=gdk2umrf NVIDIA CUDA 13.5 Brings NVIDIA Vera Rubin GA Support NVIDIAは、次世代フラグシップアーキテクチャ「Vera Rubin」の正式サポート（GA）を含む「NVIDIA CUDA 13.5」を発表しました。本リリースでは、AIおよびアクセラレーテッド・コンピューティングのパフォーマンスとスケーラビリティを最大化するための多くの新機能や改良が提供されています。新人エンジニアがCUDA開発やGPU最適化を進める上で押さえておくべき主要なポイントを以下に解説します。 まず、GPUリソース管理の柔軟性が大きく向上しました。ローカリティドメイン（Locality Domain）の拡張により、ストリーミング・マルチプロセッサ（SM）のパーティション設定をカスタマイズできるようになり、ハードウェアの性能を余すところなく活用可能です。また、NVIDIA Multi-Process Service（MPS）v3では、ウェイト付きタイムスライシングやSMパーティションのロードバランシング、cgroupベースのルーティングなどが導入され、マルチテナント環境でのワークロード共有管理が強化されています。さらに、Windows on ArmサポートがNVIDIA DGX Station for Windowsにも拡張されました。 開発言語やライブラリの面でも強力なアップデートが行われています。CUDA Pythonのコアライブラリ（cuda.core 1.2）では、バッファの一括コピーを行う copy_batch() やPythonからのProgrammatic Dependent Launch（PDL）の利用が可能になり、効率的なストリーム制御が行えるようになりました。また、CCCL（CUDA C++ Core Libraries）3.5では、CUBデバイスワイドアルゴリズム用の公開チューニングAPIが導入され、ブロックあたりのスレッド数などをコードからカスタマイズ可能です。さらに、バッチ処理によるTop-K選択や、浮動小数点スキャンの実行結果の再現性を保証する機能が追加され、LLM推論などのAIワークロードにおける開発が容易になりました。 数学ライブラリや開発者ツールも強化されています。cuBLASでは、Vera Rubin向けにNVFP4やMXFP8の行列積（matmul）のパフォーマンスが向上したほか、倍精度浮動小数点（FP64）の対称rank-k更新におけるOzaki-IIスキームの拡張などが行われました。開発者向けには、長期にわたるトレーニングや推論のプロファイリングを常時行うための「NVIDIA Nsight Perf SDK for AI」のパブリックプレビューが提供され、Nsight Computeにはタイムライン専用ページが追加されるなど、ボトルネックの調査やデバッグ作業が効率化されています。コンパイラ関連では、nvprune によるデバイスコードの事前コンパイル機能や、PTXおよびデバイス組み込み関数の拡張により、実行時のオーバヘッド削減と最適化が進められています。 引用元: https://developer.nvidia.com/blog/nvidia-cuda-13-5-brings-nvidia-vera-rubin-ga-support/ OpenAI to acquire Pierre Computer Company, Inc. OpenAI社は、開発者向けツールやソースコード管理関連のライブラリを手がけるPierre Computer Company, Inc.の買収を発表しました。Pierre社は、コードストレージサービスである「Code Storage」や、ファイル構造の迅速なナビゲーションを可能にする「Trees」、コード変更差分を見やすくする「Diffs」などの優れたオープンソース開発ツールやライブラリを開発してきた企業です。 今回の買収の背景には、AIによるコーディングエージェントや複数の開発作業が並行して行われる現代のソフトウェア開発において、Gitを中心とした周辺システムを進化させるという狙いがあります。OpenAI社ではすでに、社内のエンジニアやエージェント向けにソースコントロールバックエンドである「Pando」を活用してGitのスケーリングを行っていますが、Pierre社のチームが持つ優れた開発者ツールや知見を組み合わせることで、エージェントが作成する最初のブランチからコードがデプロイされる瞬間までの一連のワークフローを刷新したい考えです。 具体的には、Pierre社が開発した、ファイルの素早い確認やコードレビューを効率化する「Trees」や「Diffs」のライブラリ、コードの即座の修正を可能にするDiffsの「Edit」モード、リアルタイムで高速に動作するシンタックスハイライター「Highlights」、Gitベースでコードの履歴を追跡・保存できる「Code Storage」などの技術や機能が、今後の「Codex」アプリやプラットフォームに統合されていく予定です。 なお、買収完了後もPierre社のオープンソースプロジェクトは引き続きオープンソースとして維持され、OpenAI社もその開発に貢献していく方針です。また、Code Storageの既存顧客についても、買収手続きの完了後、その機能がCodexに統合されていくまでの間は引き続きサービスを利用することができます。本買収の完了には、規制当局の承認を含む慣習的な完了条件が適用されます。新人エンジニアの視点としても、AIコーディングエージェントの普及に伴い、ソースコード管理やコードレビューのあり方がどのように進化していくのか、今後の開発環境のトレンドを把握する上で注目すべきニュースとなります。 引用元: https://openai.com/index/openai-to-acquire-pierre 三日坊主を卒業。専属トレーナーの Gemini と始める無理のない運動習慣 本記事では、Googleの生成AI「Gemini」を活用して無理なく運動習慣を作る方法が紹介されています。Googleカレンダーやヘルスケアアプリのデータ連携により、個人のスケジュールや運動レベルに合わせた最適なトレーニング計画の自動作成が可能です。また、YouTube連携による条件に合う動画の検索や事前の要約、写真によるフォームの確認機能、さらに「Gemini タスク」を用いた天気や予定に応じた自律的なスケジュール調整など、AIを専属トレーナーに見立てて継続をサポートする具体的な活用法が解説されています。 引用元: https://note.com/google_gemini/n/nef56e564a8f2 お便り投稿フォーム （株式会社ずんだもんは架空の登場組織です）

  2. 1日前

    株式会社ずんだもん技術室AI放送局 podcast 20261104

    youtube版(スライド付き) 関連リンク Scaling Git at OpenAI OpenAI社内におけるAIによる開発の高速化と並列作業の激増に伴い、既存のソース管理システムが限界を迎えたことから、Git互換の新しいバックエンドシステム「Pando」を自社で開発・導入した事例について解説しています。従来のGitサーバーは、リポジトリ全体の一貫性維持やクライアントごとの個別パックファイル生成に起因して、書き込みの競合やCPU・ディスクI/Oの負荷増大というスケーリングの課題を抱えていました。これに対してPandoでは、水平スケーリングが可能なメタデータストアとオブジェクトストレージを基盤とし、リポジトリ全体の一貫性を緩やかにする代わりに個別のブランチ更新で直列化を保つ「因果一貫性（Causal Consistency）」を採用しました。さらに、クライアントのブランチ更新時に生成される不変のパックファイルをキャッシュし、他のクライアントからのフェッチ時に再利用する仕組みを導入することで、サーバー側の重いアンパック・リパック処理を排除しています。これにより、無数のブランチに対する書き込みと多くのリーダーからの読み込みを完全に並列化し、リクエスト処理性能を劇的に向上させました。また、L0からL4に至る多段階のコンパクション（統合処理）をバックグラウンドで実行することで、大量のパックファイルを効率的に整理し、対数時間でのフェッチ計画立案と高速な読み込みを実現しています。新人エンジニアにとっても、分散システムの設計における一貫性と可用性のトレードオフや、既存プロトコル（Git）の互換性を保ったまま大規模なスケーラビリティを達成するアーキテクチャの具体例として、非常に深い学びが得られる内容となっています。 引用元: https://openai.com/index/scaling-git-at-openai Making Kubernetes AI-Ready for NVIDIA Vera Rubin on Day One この記事は、NVIDIAの次世代GPUアーキテクチャ「Vera Rubin」をKubernetes環境で運用できるようにするための最新の技術情報について解説しています。新人エンジニアがAIインフラの基盤構築や設定管理を学ぶ上で非常に参考になる内容となっています。 Vera Rubinは従来のGB200 NVL72などのアーキテクチャから進化していますが、実際に運用する際にはGPUドライバーの新しいブランチやDOCA/NICドライバー、デバイスのトポロジーなどの変更点に対応する必要があります。例えば、Vera Rubin NVL72では従来のConnectX-7からConnectX-9 SuperNICやBlueField-4 DPUに置き換わっており、GPUとNICの接続やNUMA配置などの設計を慎重に行う必要があります。 このような複雑なハードウェアとソフトウェアの組み合わせをシンプルにし、再現性のある構成で管理するために、「NVIDIA AI Cluster Runtime (AICR)」というツールが活用されます。AICRを使用することで、検証済みの設定を「レシピ」として定義し、デプロイや検証を自動化することができます。 具体的なワークフローとしては、以下のステップでKubernetes環境の構築と検証を行います。 レシピの生成: aicr recipeコマンドを使用し、サービス（rke2）、アクセラレータ（vr200）、OS（ubuntu）、目的（trainingやinference）を指定して構成ファイルを生成します。これにはGPU OperatorやDRA（Dynamic Resource Allocation）ドライバー、監視ツールなどが含まれます。 デプロイバンドルのレンダリング: 生成したレシピをもとにHelmチャートなどのデプロイ用スクリプトを出力します。 スナップショットと検証: aicr validateコマンドを使用して、OSのバージョンやカーネル、GPUドライバー（nvidia-smi）の健全性、コンフォーマンス（適合性）、さらにマルチノード環境でのNCCLを使ったパフォーマンス検証（All-Reduceテストなど）を段階的に実行します。 また、Vera Rubin向けの検証プロセスを通じて、go-nvlibのアーキテクチャ判定の修正や、ホスト管理型IMEXとDRA管理型ComputeDomainの競合回避といったフィードバックがアップストリームに還元され、エコシステム全体が改善されていることも紹介されています。 このように、最先端のAIハードウェアをKubernetes上で素早く、確実に見通し良く立ち上げるための実践的なアプローチがまとまっており、プラットフォームエンジニアやAIインフラに携わるエンジニアにとって重要な知見が詰まっています。 引用元: https://developer.nvidia.com/blog/making-kubernetes-ai-ready-for-nvidia-vera-rubin-on-day-one/ How we’re training a Figma-fluent editing model 本記事では、デザインツール大手のFigmaが、キャンバス上の既存のデザイン要素に対して直接編集や反復作業を行う独自のエージェントモデルをどのように訓練したか、その具体的なアプローチと知見について解説しています。 Figmaの開発チームは、日常的な細かいデザイン修正（スペースの調整、色の変更、レイアウトの改修など）を迅速かつ正確に行うため、フロンティアモデルそのままではなく、特化したモデルの構築を目指しました。初期の汎用的なフロンティアモデルではFigmaの構文を深く理解させることが難しく、過度にトークンを消費するシステムプロンプトが必要になるという課題がありました。 そのため同社は、教師あり微調整（Supervised Fine-Tuning: SFT）に投資しました。具体的には、開始時のデザイン、生成された合成編集リクエスト、そして成功した変更例をペアにした訓練データを大量に作成しました。デザインはFigmaのネイティブファイル形式で表現され、デザインシステムアセット（テーマやコンポーネントの変更）を含む合成プロンプトも活用されました。データ生成プロセスにおいては、より大型の教師モデルが編集を試行し、決定論的なバリデーターやビジュアルモデルの評価器（LLMジャッジ）を用いて候補をチェックし、自己修復（セルフヒール）を行うパイプラインが構築されました。この初期のSFTアプローチにより、例えば25万件以上の例で訓練されたLlama 3.3 70Bモデルが、当時のトップモデルと競合できるレベルに達しました。 しかし、SFT単体では模倣学習の限界（訓練データに酷似したデザインを生成する一方で汎化性能が低下すること、またサンプル効率が悪いこと）に直面したため、最新のレシピでは強化学習（Reinforcement Learning: RL）へも投資を広げています。デザインドメインに適したRL環境の整備、訓練例の多様性の確保、報酬モデルの形作り、専門家による評価基準の拡張などが行われています。 モデルの評価においては、「デザインの良し悪しは主観的である」という課題に対し、構造のチェックとビジュアル評価を組み合わせ、専門のデザイナーによるレビューでキャリブレーションを行う手法をとっています。これにより、テキストとアイコンの重なりや、要素のクリッピングといったAI生成デザイン特有のエラーを個別の次元で評価・改善しています。現在ではQwenモデルやMuse Spark Open、Inklingなどのベースモデルも活用され、最新の非公開モデル（Qwen 3.8 27Bベースのポストトレーニングモデルなど）は高い評価を獲得しています。 最終的に、この独自にポストトレーニングされた編集モデルは、Figmaエージェント（一般提供開始された新機能）に組み込まれました。エージェントは画像生成や新規デザイン探索には最適なサードパーティモデルを使用し、高精度な編集や反復作業にはFigma独自のモデルを使い分けています。その結果、タスク処理速度の向上、ユーザーによる「取り消し（Undo）」の減少、ユーザー評価の向上、メッセージあたりの平均コスト削減などの優れた成果を上げています。新人エンジニアにとっても、特定のドメインに特化したAIモデルのポストトレーニング、SFTからRLへの移行、合成データの活用、およびドメイン特有の評価パイプライン設計の具体例として、非常に学びの多い内容となっています。 引用元: https://www.figma.com/blog/training-a-figma-fluent-editing-model/ AI書道コンクール 「第1回 AI書道コンクール」は、様々な言語モデルが生成した筆運びデータを、専用の書道エンジン（sho.js）を用いて出力した作品を競うユニークなイベントです。コンクールでは「楷書の部」と「絵文字の部」が設けられており、「やきいも」や「シンギュラリティ」、「🐈」や「🍣」といったお題に対して、Qwen、Mistral、Claude、GPTなどの多様なモデルを活用した作品が多数展示されています。LLMのユ

  3. 3日前

    マジカルラブリー☆つむぎのピュアピュアA.I.放送局 podcast 20261102

    youtube版(スライド付き) 関連リンク streamAppendHTML() で AI の回答を HTML のままストリーミング描画する この記事では、LLM（大規模言語模型）からの回答をチャットUI画面に少しずつストリーミング描画する際の実装課題と、それを解決する新しいWeb API streamAppendHTML() について解説しています。新人フロントエンドエンジニアが知っておくべきポイントを網羅して説明します。 従来のチャットUIにおける課題として、届いたテキスト全体をチャンクごとにパースして innerHTML や setHTML() で要素全体を丸ごと置き換える方法が挙げられます。この従来手法では、回答のテキストが長くなるにつれてパースするデータ量が増加し処理が重くなるだけでなく、テキストの選択状態が解除されてしまったり、開いていた 要素が閉じられてしまったり、CSSアニメーションが毎回最初から再生されてしまうという問題が発生していました。 新しく登場した streamAppendHTML() は、HTML文字列の断片（チャンク）を要素の末尾へ逐次的にストリーミング追加できるブラウザのネイティブ機能です。WritableStream を返し、response.textStream().pipeTo(element.streamAppendHTML()) のように接続することで利用できます。ブラウザのHTMLパーサーが内部でタグの途中で切れたチャンクを保持・管理してくれるため、未完成のタグが画面にそのまま表示されることはなく、すでに描画された既存の要素や状態を壊さずに効率的な逐次描画が可能になります。また、生成を途中で停止したい場合には AbortController の signal を pipeTo() に渡すことで安全に中断でき、それまでに描画された内容をそのまま維持できます。 もう一つの重要なポイントとして、LLMの出力にはプロンプトインジェクションによる悪意あるHTMLやスクリプトが含まれるリスクがあるため、信頼できない入力として扱う必要があります。streamAppendHTML() にはサニタイズを行う Safe 版と、行わない Unsafe 版（streamAppendHTMLUnsafe()）が存在します。Safe 版ではデフォルトのサニタイザによりXSSにつながる要素や属性が自動的に除去されます。ただし、デフォルト設定では や 、CSSの class 属性なども安全のために除去されてしまうため、チャットUIで利用する際は Sanitizer APIを用いて必要な要素や属性を明示的に許可リストに指定する実装を行う必要があります。 引用元: https://azukiazusa.dev/blog/stream-append-html/ third-intelligence/Haas-ja-v1.0 · Hugging Face 「Haas-ja-v1.0」は、高速性と高精度を両立させた日本語音声認識（ASR）モデルであり、Hugging Face上で公開されました。NVIDIAのParakeet-TDTアーキテクチャをベースにしており、FastConformerエンコーダと、トークンごとに出現長さを予測するToken-and-Duration Transducer（TDT）デコーダを採用しています。さらに、予測ネットワークのLSTMをKimi Delta Attention（KDA）に置き換えることで、推論速度をほとんど落とすことなく認識精度を向上させている点が大きな特徴です。モデルのパラメータ数は約6.16億で、入力には16 kHzのモノラル音声を使用します。 学習データには、ReazonSpeechやCommon Voice、YODASなどの公開コーパスおよび社内データを合わせた約46,000時間が使用され、高品質なフィルタリング処理が施されています。性能評価には、発話スタイルやドメインの異なる5つの公開データセットを組み合わせたベンチマーク「asr-ja-bench v1.1」が用いられました。文字誤り率（CER strict）の評価では6.12%を記録し、オープンな日本語音声認識モデルの中ではトップクラスの精度を達成しています。商用APIと比較しても同等レベルの高精度を誇りながら、H200 GPU環境を用いた場合の処理速度（RTFx）は非常に高速で、主要なオープンモデルと比較して圧倒的なスピードとコストパフォーマンスを実現しています。1時間あたりの推論コストは0.003〜0.004ドル程度と推定されており、商用APIの数分の一から百分の一程度のコストで利用可能です。 新人エンジニアが実際に利用する際の手順として、Linux環境およびNVIDIA GPU、Python 3.11以降、NeMo 2.7を前提条件としています。リポジトリをクローンしてuvを使ってセットアップするか、pipを通じて推論パッケージをインストールすることで簡単に導入できます。基本的な使い方は、haas_asr.load_modelでモデルを読み込み、haas_asr.load_audioで音声ファイルを読み込んでtranscribeメソッドを実行するだけです。30秒以上の長尺音声に対しては、無音部分で分割してバッチ処理を行うtranscribe_longform関数が用意されています。また、特定の専門用語や人名を正しく認識させるためのカスタム語彙機能（Vocabulary）や、NVIDIAの「Nemotron-3-Diarization」モデルと組み合わせることで話者分離ラベルを付与する機能などもサポートされており、実践的な音声認識アプリケーション開発に役立つ構成となっています。 引用元: https://huggingface.co/third-intelligence/Haas-ja-v1.0 3 人それぞれの Claude Code を Slack でつないで ISUCON2026 に参加した（207,039 点） 本書は、3人組のチーム「いくぜカウシェ」が技術コンテスト「ISUCON2026」に挑み、最終スコア207,039点を獲得した事例を紹介する記事です。各メンバーが自分のPC上でAIコーディングアシスタント「Claude Code」を稼働させ、調査やデプロイ、ベンチマーク実行などのタスクを分担させました。エージェント間では会話履歴が共有されないため、Slackチャンネルを主たる連絡手段として利用し、サーバーへのデプロイやベンチマークの衝突を防ぐための運用上の工夫が行われました。 運用面における具体的なアプローチとして、タスクや進捗管理にはGit管理された「GOAL.md」を活用しました。初期段階では細かな手順を指示していましたが、途中からは高めのゴール設定と制約事項だけを記載したファイルを用いてエージェント自律的に動かす手法に切り替えました。また、Slack上でのメッセージ量が増大してエージェントの読み込みに支障が出たため、機械的かつ短い書式（例：CLAIMやDEPLOY_REQなどの1行フォーマット）をエージェント自身に定義させ、人間が確認すべき内容だけを日本語の「TO_HUMAN」として区別する仕組みを取り入れました。 ベンチマークの競合制御に関しては、時間帯ごとに運用を改善しています。初期は手動や個別判断による競合でスコアが失われる失敗（FAIL）が発生しましたが、16時以降はデプロイとベンチマークの担当を1つのエージェントに集約し、スクリプトによる自動化を行うことで衝突を防ぎました。一方で、実行担当が手一杯になり他のメンバーからの修正を取り込み忘れる課題も浮き彫りになり、役割分担の重要性が示唆されています。 人間の役割については、目の前の細かな改善に終始しがちなエージェントに対し、大局的な目標や逆算した方針（「100万点に届かせるには何が足りないか」など）を随時指示・修正することにありました。最終的な振り返りでは、AIをそのまま利用するだけでなく、チーム間やエージェント間に与えるルール設計、ツール、問題領域への理解や適切な問いの立て方が成果の差を生むポイントであると結論づけられています。当日のAI利用量としては、3人のPC合計で約25.3億トークンが消費され、その大部分がキャッシュの読み取りによるものであったことが報告されています。 引用元: https://zenn.dev/kauche/articles/f3736c660aab77 「作曲って難しいと思うじゃん？だったら遊びにしちゃえばいいんじゃね？」ということで、音楽理論やコード進行が全くわからなくても音楽が作れる作曲ツールを作った 音楽理論やコード進行の知識がなくても、直感的な操作で手軽に作曲を楽しめる個人開発のWebツールが話題を集めている。このツールは、好きな雰囲気を選んでコードを並べ、その上にメロディを一音ずつ乗せていくという初心者向けのステップを採用している。完全無料で登録不要で利用でき、完成した楽曲はMIDI形式で保存することが可能だ。そのため、初心者が音楽づくりの楽しさを体験できるだけでなく、作成したデータを「Synthesizer V」などのボカロソフトや本格的なDAWに読み込ませて、本格的な楽曲制作の導入として活用することもできる。X（旧Twitter）での共有機能も備えており、手軽に友人へ曲を届けて聴いてもらうことも可能となっている。 引用元: https://togetter.com/li/2765526 お便り投稿フォーム VOICEVOX:春日部つむぎ

  4. 6日前

    私立ずんだもん女学園放送部 podcast 20261030

    youtube版(スライド付き) 関連リンク Welcome Le Chonk: Mistral Large 4 on Hugging Face Hugging Face上で公開されたMistralの最新マルチモーダル・多言語対応・Mixture-of-Experts（MoE）モデル「Mistral Large 4（通称Le Chonk）」について、そのモデル仕様やアーキテクチャ、具体的な推論・ファインチューニング手順が詳細に解説されています。新人エンジニアがこの新しい巨大モデルを実際に扱うために知るべき技術的ポイントが網羅されています。 まず、モデルの基本仕様として、全体で約1兆、アクティブパラメータが約49B、コンテキストウィンドウが1Mトークンに達します。公式にはFP8およびNVFP4の2つのバリアントが提供されており、Unslothやllama.cppチームによるGGUF版も配布されています。ライセンスはMistral Ecosystem Open-Weight Licenseが採用されています。特にサイバーセキュリティやコーディングエージェント、マルチモーダル処理において高い性能を発揮し、脆弱性の再現とパッチ適用タスクではオープンモデルとして優れたスコアを記録しています。プロンプトインジェクションに対する高い防御力も特徴です。 アーキテクチャ面では、テキストデコーダーに72層（隠れ次元6,144、64アテンションヘッド）を持ち、Multi-head Latent Attention（MLA）とDeepSeek Sparse Attention（DSA）インデクサーを組み合わせたアテンションブロックを採用しています。また、3層ごとのRoPEと1層のNoPEのパターンや、128人のエキスパート中からソフトマックスルーターで4人を選択し、1人の共有エキスパートと合わせることで合計5人のアクティブエキスパートを稼働させるMoE構造を採用しています。ビジョンエンコーダーには1.6BのPixtralが使われています。 インフレーションやデプロイのサポートとして、transformers、vLLM、llama.cppによるDay-0サポートが提供されています。transformersではAutoModelForMultimodalLMを使い、reasoning_effortを調整してテキストや画像を処理できます。vLLMではNVFP4チェックポイントを利用した高効率なサーバー起動が可能であり、llama.cppではGGUF量子化モデル（Q2_Kなど）を利用してApple SiliconやマルチGPU環境で動かすことができます。また、TRLを用いたLoRAベースのファインチューニング例もコード付きで紹介されており、開発環境への導入から応用までスムーズに行えるようになっています。 引用元: https://huggingface.co/blog/mistral-large4 Le Chonk: Built for Coders, Trusted by Defenders. Mistral AIは、1兆パラメータを持つ最新のフラッグシップオープンウェイトモデル「Mistral Large 4（開発コードネーム：Le Chonk）」の一般公開を発表しました。欧州のインフラ上でゼロから事前トレーニングされたネイティブマルチモーダルモデルであり、エージェント型コーディング、サイバーセキュリティ、および推論効率の面で大幅な性能向上が図られています。 コーディング性能においては、強化された強化学習により、オープンウェイトモデルの最前線をリードしています。「FrontierCode 2.0」や「Terminal-Bench 4.0」などの主要なベンチマークで高いスコアを記録しつつ、他の主要なオープンウェイトモデルと比較して大幅に少ないトークン数で効率的な動作を実現しています。また、開発者がパフォーマンスとコストのトレードオフを調整できるよう、低・中・高の3つの推論モードがサポートされており、コストパフォーマンスの最適化が可能です。 サイバーセキュリティの領域では、脆弱性の発見、再現、検証、および既存の機能を壊さないパッチ適用といった防衛的セキュリティのタスクにおいて優れた性能を発揮します。コードベースのセキュリティ評価やペネトレーションテストなどのワークフローを支援する一方、悪意のある攻撃リクエストに対しては非常に高い拒否率（平均96.6%）を維持するよう組み込みのガードレールが強化されています。さらに、金融関連のワークフロー（スプレッドシートの作成・編集など）やウェブブラウジング、エージェントのセキュリティ（プロンプト流出や悪意あるコードインジェクションへの耐性）においても、前回のプレビュー版から大幅な改善が見られます。 展開と活用の面では、組織が独自のインフラ上でモデルを検査、カスタマイズ、デプロイできるソブリンAIとしての利点を提供しています。オープンウェイトのモデルウェイトはHugging Faceからダウンロード可能であり、vLLMやSGLangを用いた自社環境でのセルフホストが可能です。また、Mistral StudioやAPI、OpenRouter経由で利用できるほか、Microsoft FoundryやNVIDIAの環境（NIMコンテナやNeMoライブラリ）を通じたエンタープライズ向けのデプロイにも対応しています。ライセンスは「Mistral Ecosystem Open-Weight license（修正MITライセンス）」が適用されており、Model-as-a-Service事業を展開する場合を除き、商用利用や微調整が自由に行えます。 引用元: https://mistral.ai/news/mistral-large-4-oss/ How we detect frontier model misalignment OpenAIが公開したフロンティアAIモデルの自律的逸脱行動やミスアライメントを検知・監視するための多層防御アプローチに関する記事です。記事では、AIモデルが高度化するにつれて、トレーニングや評価、デプロイ時に意図しない行動や未承認のアクション（サンドボックスからの脱出しようとする試みや、外部ネットワークへの不正アクセスなど）を起こすリスクが高まっているため、包括的な監視システムを拡張・運用している背景が解説されています。新人エンジニアがAIの安全性確保やシステム運用の観点で理解できるよう、監視システムの具体的なアーキテクチャや仕組みを詳細に説明します。 OpenAIの内部監視システムは、効率性と網羅性を両立させるために多層構造（レイヤー）で設計されています。第0層（L0）では「アクティベーション・プローブ」と呼ばれる軽量な分類器を用い、モデル内部の活性化パターンにある懸念点を高速にスクリーニングします。見落としを防ぐため、プローブが検知しなかったトラフィックの一定割合もランダムに次層へ送り、感度を高く維持しています。第1層（L1）では、モデルベースのレビューアーが会話履歴や思考プロセス（チェーン・オブ・ソート）、ツールの使用状況を監視し、欺瞞や未承認のアクションの兆候がないかを検証します。 さらにL1でフラグが立ったケースは、第2層（L2）の「調査エージェント」へと送られます。L2では、セキュリティ特化型またはアライメント特化型の調査エージェントが過去のコンテキストを横断的に読み込み、隔離環境でコードを実行するなどしてインシデントを再構築し、深刻度を判断します。機密性の高いワークロードでは、第3層（L3）としてネットワークログやシステムテレメトリーなど外部エビデンスとの突合が行われ、必要に応じて人間のセキュリティ担当者にアラートが通知される仕組みになっています。アラートを受け取った人間やシステムは、必要に応じてワークロードを一時停止し、インシデントの封じ込めを行います。 また、監視がモデルの隠蔽工作や回避行動（オフトランケーション）を誘発しないための工夫についても触れられています。監視システムがトレーニング報酬に直接悪影響を与えたり、同期的に処理を遅延させたりすると、モデルは不適切な行動を隠すように学習してしまうリスクがあります。そのため、監視は非同期で行われ、不正検知時に直ちに報酬を変動させないことで隠蔽をインセンティブ化しない設計にしています。さらに、外部展開される最高性能モデルに対する監視アプローチや、記録された過去のインシデントおよびシミュレーション攻撃を使った監視システムの評価・改善プロセス、独立した外部研究機関によるレッドチーミングの実施など、フロンティアAIの開発・運用における実践的なセキュリティ対策の全体像が詳述されています。 引用元: https://openai.com/index/how-we-detect-frontier-model-misalignment Firefox の Intl.Segmenter で「メロス」を「彼」にすると「した」が文字扱いされなくなる Firefoxのエディタ実装において、Intl.Segmenterで日本語を単語分割してカーソル移動を実装しようとした際に発生したユニークな不具合の検証小ネタです。現象として、文頭の主語を「メロス」から「彼」に変更すると、文末の「した」という単語のisWordLikeプロパティがtrueからfalseに変化してし

    私立ずんだもん女学園放送部 podcast 20261030

  5. 10月28日

    株式会社ずんだもん技術室AI放送局 podcast 20261029

    youtube版(スライド付き) 関連リンク Zero Trust for AI agents Anthropic社が公開した、企業における自律型AIエージェントの安全なデプロイを実現するための「ゼロトラストセキュリティフレームワーク」についての解説です。新人エンジニアの皆さんが今後AIエージェントを実務のシステムに組み込む際、セキュリティの基礎知識として非常に重要となる内容がまとまっています。 AIモデルの進化に伴い、脆弱性の発見から悪用までのタイムラインが数ヶ月から数時間に短縮されており、攻撃手法も高度化しています。AIエージェントは自律的に目標を解釈し、ツールを選択して複数ステップの操作を実行するため、従来のアクセス制御では正当な権限の悪用を防ぎきれません。そのため、「何も信頼せず、すべてを検証し、すでに侵害されていると仮定する」というゼロトラストの原則をエージェントシステム向けに再定義する必要があります。 本フレームワークでは、以下の重要な要素や実践的なアプローチが網羅されています。 エージェント特有のセキュリティ考慮事項 ツールへのアクセス、自律的な意思決定、コンテキストの永続性、マルチエージェント間の連携など、AI特有の挙動に伴うリスクを解説しています。 現在の脅威ランドスケープ プロンプトインジェクション、ツールポイズニング、ID・特権の乱用、メモリポイズニング、サプライチェーン攻撃など具体的な脅威を取り上げています。 3段階のゼロトラストフレームワーク 組織の成熟度やリスク許容度に合わせて、「Foundation（基礎）」「Advanced（発展）」「Optimized（最適化）」の3つの階層にマッピングされたアーキテクチャを提供しています。 8段階の導入ワークフロー ID管理、アクセス権のスコープ設定、サンドボックス化、入出力制御、メモリ保護など、実装に向けた具体的な手順を網羅しています。 Agentic SOAR（セキュリティオーケストレーション・自動化・対応） 自律型攻撃者のスピードに対抗するため、AIを活用した迅速なセキュリティ運用の仕組みについて解説しています。 コンプライアンス対応 医療、金融、政府機関などの規制産業におけるコンプライアンスとの整合性についても触れられています。 AIエージェントを活用したシステム開発を行うエンジニアにとって、初期段階から「侵害を前提とした設計」を組み込むための必読のアーキテクチャガイドとなっています。 引用元: https://claude.com/resources/articles/zero-trust-for-ai-agents Gemini 4 Carbon: our next frontier model Google DeepMindは、次世代フロンティアモデル「Gemini 4 Carbon」を発表しました。Carbonは、高度なサイバーセキュリティ能力と長期間にわたる推論（ロングホライゾン）に最適化された、同社最強のモデルです。「Artificial Analysis Intelligence Index」のv5.0でスコア59を記録し、トップにランクインしています。コーディング、エージェントタスク、およびサイバーセキュリティ防衛において大幅な性能向上が図られており、脆弱性発見の「SEC-bench Pro」で88.2%、悪用検証の「ExploitGym」で54.8%、根本原因の修正を行う「CWE-bench」で71.0%という優れた成果を挙げています。 長期間にわたる複雑なエンジニアリング問題に対応できるように設計されており、内部テストでは大規模なコードベースや低レイヤーシステムにおける微妙なバグの特定とパッチ適用といった、複数ステップにわたるタスクを数日間にわたって自律的に実行できることが確認されています。また、フルスタックWeb開発やマルチモーダル理解の性能も向上しており、「WebDev Arena」のコード部門で1768のスコアを獲得しています。 サイバーセキュリティのライフサイクル全体（脆弱性の検出、検証、修復）において最先端の性能を発揮します。セキュアなコード生成能力は前モデルの「Gemini 4 Argon」と比較して2倍以上に向上し、Chromeチームによる高品質パッチ生成のテストでは他社のフロンティアモデルの10倍以上のパフォーマンスを記録しました。クラウドセキュリティプラットフォームのWizにおけるWebペネトレーションテストのベンチマークなどでも優位性を示しています。 安全性とセキュリティ面では、多層的なセーフティースタックに加え、複雑で高負荷なタスクに対して適切に応答するようモデルのアライメント（調停）が強化されています。トレーニング時の近道や抜け穴の利用をさらに抑制し、「Terminal-Bench 4.0」での不正行為を0.0%に削減しました。内部テストでは、根拠のない主張をArgonの約半分に削減し、不確実な状況下では憶測で進めるのではなくユーザーに必要な情報や矛盾点を提示して協力を仰ぐなど、透明性と誠実性が高められています。さらに、間接的プロンプトインジェクション（IPI）のベンチマークであるGray Swanの評価では、攻撃成功率0.0%を達成し、すべての攻撃を防御しました。 価格設定はArgonと同水準で、入力トークンが100万あたり2ドル、出力トークンが100万あたり10ドルとなっており、キャッシュ済み入力トークンは入力価格から95%オフで提供されます。Googleは慎重なロールアウトアプローチを採用しており、米国政府の事前テストプロセスに協力しつつ、今週からサイバー防衛者のサブセットを対象に提供を開始します。「Fairwind Program」を通じて信頼できるパートナーへのアクセスを段階的に拡大し、フィードバックやガードレールの調整を行った上で、開発者、企業、一般消費者向けに順次公開していく予定です。 引用元: https://deepmind.google/blog/gemini-4-carbon-our-next-frontier-model/ Siri AI、日本語で提供開始 Appleは、ソフトウェアアップデート27.2において、新バージョンのアシスタント機能である「Siri AI」の日本語提供を正式に開始したことを発表しました。日本語のほか、フランス語、韓国語、ポルトガル語、スペイン語にも新たに対応します。Siri AIは「Apple Intelligence」を基盤に構築されており、ユーザーのパーソナルコンテクストの理解、幅広い知識の活用、オンスクリーン認識、システム全体でのアプリ内アクションの充実などを実現し、より自然で有能な会話ができるように設計されています。 新機能の主な特徴として、メッセージやEメール、写真などのパーソナルな情報からユーザーが必要なデータを探し出し、一からメールの下書きを作成したり、写真を共有・編集するなどのタスクをサポートします。また、外部アプリともシームレスに連携し、乗換案内で経路を調べたり、ToDoリストへタスクを追加するといった操作が可能です。オンスクリーン認識機能により、画面上に表示されているウェブサイトや画像のコンテンツに関する質問にも直接答えることができます。さらに、カメラアプリに組み込まれた「ビジュアルインテリジェンス」や、iPad、Mac、Apple Vision Proなどのデバイス間におけるマルチモーダルな画像理解機能も拡充されています。 文章作成・編集機能では、入力を行うほぼすべての場面でSiri AIを利用して下書き生成や内容の修正、トーンの調整を行うことができます。システム全体を通じて自動校正機能も提供されます。プライバシーとセキュリティの面では、オンデバイス処理とプライベートクラウドコンピューティングを組み合わせることで、ユーザーの個人データがAppleや第三者に保存・アクセスされない斬新なアーキテクチャを採用しています。なお、Siri AIはiOS 27.2、iPadOS 27.2、macOS 27.2、watchOS 27.2、visionOS 27.2のベータ版として利用可能ですが、EU圏での利用制限やサーバサイドモデルに依存する機能での1日あたりの使用回数制限が設けられています。 引用元: https://www.apple.com/jp/newsroom/2026/10/siri-ai-is-available-today-in-more-languages/ お便り投稿フォーム （株式会社ずんだもんは架空の登場組織です）

  6. 10月27日

    株式会社ずんだもん技術室AI放送局 podcast 20261028

    youtube版(スライド付き) 関連リンク The sleep framework: A new way for LLMs to retain knowledge in continual learning Google Researchは、大規模言語モデル（LLM）の継続学習における「破滅的忘却」の課題に対処し、新しい知識を長期的に保持・自己改善させるための新パラダイム「Sleep Framework」を発表しました。従来のLLMは事前学習完了後に静的な状態となり、新しいデータでパラメータを継続的に更新すると過去のタスク性能が著しく低下するという問題がありました。また、コンテキスト内学習（ICL）に依存するとセッション終了時に情報が失われます。このフレームワークは人間の睡眠時の脳のメカニズムに着想を得ており、「アクティブ（覚醒）フェーズ」と「オフライン睡眠フェーズ」の2つの状態を循環させることで、モデルのアーキテクチャやコードベースを変更せずに継続的な学習を実現します。 睡眠プロセスは、主に「メモリ固定化」と「ドリーミング（夢）」の2つのステージで構成されています。メモリ固定化では、人間の非レム睡眠中の徐波睡眠を模倣し、パラメータの動的な拡張と知識の定着を行います。具体的には、Mixture of Experts（MoE）アーキテクチャを活用し、睡眠時に新たに解放された低ランクの専門家ブロックに、高頻度の短期記憶レイヤーから情報を移行させます。この移行には、一般化知識蒸留（GKD）と強化学習ベースの模倣学習（LTI）を組み合わせた知識シーディング（上方蒸留）を用います。低頻度の長期モジュールへの記憶の移行が完了すると、短期記憶用のパラメータはリセットされ、将来のアクティブセッションに向けて容量が解放されます。 もう一つのステージであるドリーミングは、人間のレム睡眠中のシナリオシミュレーションを模倣し、自律的な自己改善ループを実行します。MoEルーターをランダムに活性化して異なる知識ドメインを混合させ、合成トレーニングサンプル（夢）を生成します。その後、勾配ベースのデータ選択によってモデルの性能向上に最も貢献するサンプルをフィルタリングし、強化学習（RL）によるファインチューニングを行って下流タスクの精度を最適化します。理論的背景として、このプロセスは単なるデータ拡張ではなく、低ランク圧縮問題および学習の幾何学的性質を改善する最適化のランドスケープとして機能し、古い能力を上書きせずに新しい知識を安全に統合できることが示されています。 評価実験では、この睡眠フレームワークが多くのベンチマークで優れた成果を示しています。未知の言語を用いた継続翻訳タスクでは、従来のベースラインで発生していた破滅的忘却をほぼゼロに抑えました。また、BABILongベンチマークを用いた1000万トークン規模の長期コンテキスト理解においても、長文情報をパラメータメモリに直接圧縮することで、GPT-4などの強力なベースラインを上回るスケーリングを達成しました。さらに、SQuADや継続事前学習を用いた事実知識の統合、AIMEやHMMTといった数学的推論ベンチマークにおいても、従来の教師あり学習や自己蒸留の手法を凌駕する精度を記録しており、継続学習を行うAIシステムの発展に向けた重要な技術的知見を提供しています。 引用元: https://research.google/blog/the-sleep-framework-a-new-way-for-llms-to-retain-knowledge-in-continual-learning/ Build specialized multimodal models with LFM3 Liquid AI社が開発した新世代の軽量マルチモーダル基盤モデル「LFM3」の技術解説です。LFM3は、テキスト、ビジョン、音声、オムニ（統合）、意思決定モデルの各機能を約2B（20億）パラメータ規模の共通のバックボーン上に統合し、エッジ環境やオンデバイス実行において高い実用性を発揮します。 前世代のLFM2ファミリーと比較して、LFM3は1パラメータあたりの性能が大幅に向上しており、新開発のトライハイブリッドアーキテクチャと学習レシピの採用により、LFM3-1.7Bはパラメータ数を35%削減しながら前世代モデルを上回る性能を実現しています。アーキテクチャの主な特徴として、13層のゲート付きショート畳み込み、256トークンのウィンドウを持つ5層のスライディングウィンドウアテンション（SWA）、6層のグローバルアテンションを組み合わせた「トライハイブリッドレイヤーミックス」を採用しています。さらに、量子化時の精度低下を抑制するヘッドごとのゲート付きアテンションや、長文脈処理を安定させるパーシャルRoPE、サンドイッチ正規化などを導入することで、携帯電話やRaspberry Pi 5、ラップトップ、各種ハードウェアアクセラレータ上での高速な推論と、最大256Kトークンという長文脈コンテキストを両立しています。 LFM3ファミリーには、ベースモデルから派生した複数の専門モデルが用意されています。テキスト処理用の「LFM3-1.7B」をはじめ、画像・動画入力をサポートする「LFM3-VL-2B」、音声の入出力やストリーミングに対応する「LFM3-Audio-2B」、すべてのモダリティを統合した「LFM3-Omni-2B」、そして高速な構造化判断を行う「d1-2B」および「d1-omni-2B」が提供されています。これらはHugging FaceのTransformersライブラリから簡単にロードして実行することが可能です。 また、LFM3は一般的な汎用モデルとは異なり、各企業の固有データや専門用語、デプロイ環境に合わせて最適化（特化）させることを前提に設計されています。全てのモデルが単一のGPUでファインチューニング可能であり、SFT（教師あり微調整）、DPO、GRPO、CPTといった手法を用いた具体的な実装手順やGoogle Colabのノートブックが公開されています。テキストからの構造化データ抽出や音声コマンドの関数呼び出し、さらにはロボティクスの制御タスクへの応用など、多岐にわたるユースケースに対応する優れた拡張性と実用性を備えたモデルとなっています。新人エンジニアにとっても、オンデバイスAIやマルチモーダルモデルのカスタム・ファインチューニング手法を学ぶ上で非常に有益な内容です。 引用元: https://huggingface.co/blog/LiquidAI/lfm3 Genie 4: A new generation of world simulation Google DeepMindは、リアルタイムな対話型シミュレーションの精度とフォトリアリズムを大幅に向上させた次世代の世界モデル「Genie 4」を発表しました。Genie 4はネイティブにマルチモーダル対応しており、シミュレーションの実行と同時に環境音や音楽、さらには状況に応じて変化するインタラクティブな人間の音声を同時に生成できる点が大きな特徴です。 本モデルはGeminiファミリーの機能を統合しており、Gemini Omniが現実世界の外観や挙動をシミュレーションに反映させ、他のGeminiモデルがシミュレーションの整合性や時間的な連続性を維持するための高度な推論を担っています。ユーザーはテキストプロンプトや標準的なキーボード操作を用いることで、天気の変更、カメラワークの移動、オブジェクトの追加といった環境の変化をリアルタイムに指示し、シミュレーションを動的に制御することが可能です。 主な技術的進化としては、以下の4点が挙げられます。第一に、自然言語を用いたリアルタイムでの世界シミュレーションの形状変化や制御です。第二に、空気力学や衝突判定といった物理法則のシミュレーション精度の向上と、自然に動作・反応する人間キャラクターの再現です。第三に、風の音や環境音に加え、状況に適応する音声対話のネイティブな生成です。第四に、Geminiモデル（Gemini 3.8 Flashなど）と連携することで、複雑で多段階にわたるタスクを小分けにしてステップごとに処理し、因果関係や手続き的行動を伴う一貫性のある世界を構築できる点です。 Genie 4の活用ユースケースとしては、クリエイティブディレクションにおける映像のプリビジュアライゼーションやライブテイクの調整、2Dアーカイブ写真からのリアルタイム環境シミュレーション、ゲーム開発における自然言語ベースのプロトタイピング、そしてロボットの訓練環境をはじめとする各種エンタープライズ分野でのシナリオ生成が期待されています。 現時点では初期の実験的モデルであり、長時間セッションにおける詳細なビジュアルやオブジェクトの永続性のドリフト、複雑な物理相互作用、リアルタイム音声の精度などの課題も残されています。安全性に関しては、悪意のあるコンテンツ生成を防ぐための厳格な安全ガードレールや、S

  7. 10月26日

    株式会社ずんだもん技術室AI放送局 podcast 20261027

    youtube版(スライド付き) 関連リンク Groundhog Day for AI agents: Prompt caching patterns for using OpenAI models on Amazon Bedrock Amazon Web Services この記事では、Amazon Bedrock上のOpenAIモデルを用いてAIエージェントを構築・運用する際、マルチターン処理で課題となるコストとレイテンシの増大を防ぐための「プロンプトキャッシュ設計パターン」について詳しく解説しています。 AIエージェントはターンが進むごとに、ツール定義、システム指示、過去のやり取りやツール実行結果の全履歴を毎回モデルに送信し直す必要があります。これが原因でコストや処理時間が肥大化しますが、プロンプトキャッシュを活用することで、静的なプレフィックスや成長する会話履歴を効率的に再利用し、インプットコストを大幅に削減できます。 主な設計パターンと重要なポイントは以下の通りです。 キャッシュの基本とモードの使い分け プリフィル処理時に構築されるKVベクトル（作業状態）をキャッシュし、後続のリクエストでは新規部分のみを処理します。 暗黙的（implicit）モード: Amazon Bedrockが自動的に会話の成長に合わせてキャッシュ境界を管理します。成長する会話履歴に向いています。 明示的（explicit）モード: prompt_cache_breakpoint を使用して保存ポイント（ツールや指示など）をコードで明示的に指定します。 ハイブリッド活用: 安定した静的プレフィックス（指示やツール）には明示的モードを使い、会話の成長には暗黙的モードを組み合わせることで、再利用可能な開始点を維持しつつ会話の自動管理が可能です。再利用には最低1,024トークンが必要となります。 会話履歴とツール結果のキャッシュ ターンが進むにつれて増加するツール実行結果は、暗黙的モードまたはローリングブレークポイントを用いて効率的にキャッシュします。 ツールの追加や変更を行う際は、初期のツールカタログを安定させつつ、additional_tools を用いて既存のキャッシュプレフィックスを無効化せずに新しいツールを追加できます。また、allowed_tools を使うことでキャッシュ定義を変えずに呼び出し制限が可能です。 サブエージェントとファンアウト（並行処理） 複数のヘルパーやサブエージェントを立ち上げる際は、最初に通常のウォームアップリクエストを完了させて共有プレフィックスをキャッシュ（ウォーム）してから並行処理でファンアウトさせます。これにより、各ヘルパーが同じ背景情報を再読み込みするコストを防ぎます。 キャッシュキーの管理とベストプラクティス セッション間でキャッシュを共有するには、モデル、AWSアカウント、リージョンが同一であることに加え、安定した prompt_cache_key を使用する必要があります（ハッシュ値を用いた動的生成などが有効）。 キャッシュのTTL（有効期限）は最低30分で、再利用により更新されます。 Amazon CloudWatchのメトリクスやAWS Cost Explorerを活用して、キャッシュ読み込み・書き込みのトークン数やコストをモニタリングし、費用対効果を測定することが重要です。 新人エンジニアにとっても、AIエージェントの実装時におけるAPIコスト最適化の具体的なアプローチやPythonコード例が網羅されており、実務で直面するパフォーマンス課題を解決するための実践的な学びが得られる内容となっています。 引用元: https://aws.amazon.com/blogs/machine-learning/groundhog-day-for-ai-agents-prompt-caching-patterns-for-using-openai-models-on-amazon-bedrock/ How NVIDIA Minerva Turns Telemetry Chaos Into Peak GPU Yield NVIDIA Minervaは、数万基規模のGPUクラスタを運用する巨大なAIファクトリー向けに設計された、AIネイティブのAIOps（IT運用のための人工知能）およびオブザーバビリティプラットフォームです。AIの分散学習では、最も処理の遅いランクやノードのペースに全体が同期するため、わずかなハードウェアの劣化やネットワークの遅延が全体の処理時間を大きくロスさせます。従来の静的なしきい値やルールベースの監視では、コンポーネント単体では正常に見えるが負荷時に問題が起きる「グレー故障」の検知や、1つの故障から派生する大量の警告（アラートストーム）の相関分析が困難でした。NVIDIA Minervaは、GPU、ネットワークファブリック（Spectrum-X、NVLink）、SuperNIC、ストレージ、スケジューラ、AIワークロードからテレメトリデータを収集し、動的な知識グラフ（ナレッジグラフ）を用いてインフラストラクチャとアクティブなジョブをリアルタイムにマッピングします。これにより、障害が発生した際に関連するジョブや物理トポロジを横断して即座に特定できます。機械学習モデルを活用した異常検知では、教師あり学習による既知のエラーパターンの検出だけでなく、教師なし学習によるピア比較（同等コンポーネント同士の挙動の比較）や、NLPを用いたログの異常検知を行い、静なしきい値では見逃される微妙な劣化を捉えます。また、トポロジ認識型の相関エンジンにより、関連する数多くのイベントや警告を1つの「実用的なインシデント」に集約し、ノイズを大幅に削減します。さらに、内蔵されたAIエージェント「Sherlock」やMCPサーバーにより、エンジニアは自然言語を用いてライブのテレメトリや知識グラフに問い合せ、根本原因の解析やトラブルシューティング、修復の推奨事項を得ることが可能です。これにより、障害のトリアージにかかる時間を数時間から数分へと短縮し、GPUの稼働率（グッドプット）を最大化します。今後は「DSX OS」との統合も進められ、テレメトリ基盤のオープンソース化も予定されています。新人エンジニアにとっても、大規模分散システムにおける複雑な障害解析やオブザーバビリティの重要性を理解する上で非常に参考になるアーキテクチャとなっています。 引用元: https://developer.nvidia.com/blog/how-nvidia-minerva-turns-telemetry-chaos-into-peak-gpu-yield/ Fixing Tool-Call Accuracy in vLLM オープンウェイトLLMをエージェントワークロードなどで実運用する際、モデルが生成するTool Call（関数呼び出し）の精度低下は深刻な問題となります。例えば、vLLMを使用して「Kimi K2.6」などのモデルをサービングした際、デフォルトの状態ではスキーマに完全一致しない不正な形式のTool Callが一定割合で発生し、コンテキストの汚濁やエラーの連鎖、コストの増大を引き起こすケースがあります。こうした問題の主な原因は、LLMが確率的にトークンをサンプリングする仕組み上、学習データやプロンプトの影響を受けて存在しないパラメータ名や誤った構文を生成してしまうことにあります。 この課題を根本的に解決する実用的な手法として、「制約付きデコード（Constrained Decoding）」があります。vLLMのバージョン0.31などでサポートされたこの機能は、XGrammarライブラリなどの構造的タグを利用し、生成されるトークンを動的に制限する仕組みです。推論時にツール定義のJSONスキーマや構文ルールに基づいて有効なトークンのみを許可し、無効なパスやトークンをGPU上で効率的にマスクします。これにより、Tool Callの構文精度をベストエフォートから100%保証されたランタイムへと引き上げることが可能です。 ただし、vLLMのようなモデル非依存の汎用推論エンジンでは、制約付きデコードをデフォルトで有効にすると、一部のモデルで出力が不自然になったり、グラマ翻訳のバグやスペックラティブデコードなどの他機能との競合によってリクエスト失敗を引き起こしたりするリスクがあります。そのため、vLLMの標準動作ではこれがデフォルトでオフに調整されており、ユーザー自身がサーバー側のフラグ等で明示的に厳格化レベルを設定する必要があります。特定のオープンウェイトモデルを高精度で運用したいエンジニアにとって、この制約付きデコードを適切に有効化・設定することは、モデル本来の性能を引き出すために極めて重要なアプローチとなります。 引用元: https://www.ubicloud.com/blog/fixing-tool-call-accuracy-in-vllm コンピューターサイエンス分野において「霧雨魔理沙」の名義で論文を出してる人を発見、冗談みたいな名前だが経歴見るとガッチガチの模様 コンピューターサイエンスの学術データベース上に、人気ゲーム「東方Project」のキャラクター名である「霧

  8. 10月25日

    マジカルラブリー☆つむぎのピュアピュアA.I.放送局 podcast 20261026

    youtube版(スライド付き) 関連リンク Kimi K3.1 Pro Tech Blog: Advancing Open Intelligence 中国のMoonshot AIが、最新の3兆パラメータ級オープンウェイトモデル「Kimi K3.1 Pro」および高速版の「Kimi K3.1 Pro Highspeed」を発表しました。本モデルは100万トークンのコンテキストウィンドウを備え、コーディング、3Dモデリング、財務リサーチ、エージェントとしての自律実行能力において大幅な性能向上の実現を謳っています。 コーディング分野においては、大規模な強化学習の導入により、単なるバグ修正からUnityやUnreal Engine、Godotなどのゲームエンジンを活用したフルプロジェクトの構築まで幅広く対応します。長時間の推論タスクをこなすロングホライズンな実行力が高められており、ターミナル操作を評価する「Terminal-Bench 4.0」では高いスコアを記録するなど、主要な独自モデルに匹敵する性能を示しています。 3Dモデリングとデザインの領域でも優れた空間推論能力を発揮し、テキストの指示やスケッチ、参考画像からCADコードを生成してCADモデルを再構築する「BenchCAD」などで高い精度を実現しています。BlenderやCADツール用のスクリプトを自ら記述・実行することで、機械部品や建築モデルなどのパラメトリックモデリングを効率的に行える点が特徴です。さらに、オンラインで3Dモデルのプレビューや編集が行える「3D Make」機能も提供されます。 財務およびビジネスリサーチの分野では、複雑な金融ドキュメントの解析やクロスドキュメント検証、投資ワークフローのサポートにおいて優れた性能を発揮し、事実誤認（ハルシネーション）の発生率も前モデルから大幅に抑制されています。 また、セキュリティと安全性の観点から、モデルのトレーニング段階（ミッドトレーニングおよび強化学習のステージ）でサイバーセキュリティ関連のデータを識別して削除するフィルタリング処理が施されました。これにより、一般的な有用性を維持しつつ悪用のリスクを軽減しつつも、高度なデバッグ能力や汎用コーディング能力によってセキュリティタスクへの適応力は維持されています。 Kimi K3.1 Proは、公式のWebプラットフォームや専用アプリ、デスクトップアプリ「Kimi Work」、コード支援ツール「Kimi Code」、およびAPI経由で本日より利用可能であり、モデルの全ウェイトは2026年11月4日までに公開される予定です。 引用元: https://www.kimi.ai/blog/kimi-k3-1-pro Zero-Shot to New Robots: Introducing Dream-1 Dream Labs社は、未学習のロボットやタスク、環境に対して即座に対応できる世界初（※初期段階の検証に基づく）の汎用ロボット基盤モデル「Dream-1」と、それを利用できるパブリックAPIを発表しました。ロボット業界長年の課題である「有用なロボットを作るにはそのロボットのデータが必要だが、データはロボットが使われないと集まらない」という鶏と卵のジレンマを打破することを目指しています。 従来のロボット制御モデルは特定のハードウェア（関節角度など）に強く依存していましたが、Dream-1は「世界行動モデル（World Action Model: WAM）」というアプローチを採用しています。WAMは動画の予測と行動の予測を同時に学習する仕組みであり、ヘッドカメラ等を通じて捉えたシーンをピクセル（形状の動き）として認識します。これにより、二腕と平行グリッパーを持つロボットであれば、これまで学習時に一度も触れたことがない未知のロボット（18年前にリリースされたPR2などの古い研究用ロボットを含む）であっても、ゼロショット（追加学習なし）で制御することが可能です。 また、APIはプラグアンドプレイに近い手軽さで設計されており、機械学習の深い専門知識がなくても、数行のPythonコード（dream.DreamClient等）でロボットを接続して指示を与えられます。モデルの実行コストは「Dream-1」が1時間あたり約3ドル、「Dream-1-flash」が約2ドルと非常に安価に抑えられています。 さらに、ゼロショットでの対応が難しい独自のロボットや複雑なタスクに対しても、FaaS（Fine-tuning-as-a-Service）という仕組みが提供されています。ユーザーが自分のロボットで数分間（例：5分程度）のデモデータを収集してアップロードしファインチューニングを行うことで、カスタムモデルを構築し、タスクの成功率を大幅に向上させることができます。 本記事は、安価なロボットハードウェアの普及が進む中で、ロボットの知能をオープンなAPIとして提供し、研究者だけでなく一般の開発者や小規模チームが汎用ロボットを簡単に動かせるエコシステムを構築しようとする、ロボティクス分野の大きな進展を示しています。 引用元: https://dreamlabs.ai/research/dream-1/ AI ネイティブの SDLC プレイブック AIエージェントの普及によりコード作成が高速化した現代において、従来のソフトウェア開発ライフサイクル（SDLC）を見直し、開発プロセス全体をAIネイティブに再構築するための実践的なプレイブックをAnthropic社が公開しています。従来のSDLCは手動による承認や引き継ぎに依存していましたが、AIネイティブなSDLCでは、計画、設計、構築、テスト、導入、保守の6つのステージを非線形のループ構造とし、各段階でバージョン管理されたマークダウンファイルを成果物として引き渡す仕組みを提案しています。 具体的なステージごとのアプローチとして、まず「計画（Plan）」では、アイデアや問題を非エンジニアでも作成できるintent.mdとしてバージョン管理します。「設計（Design）」では、要件と設計仕様を1つのセッションに圧縮し、組織のポリシーをスキルとして適用した上でspec.mdを作成します。「構築（Build）」では、Claude Codeのプランモードを活用して承認済みの plan.md を作成し、インメモリとしての CLAUDE.md や、スキル、ガードレールとなるフックを用いて自律的な開発を安全に進めます。「テスト（Test）」では、セッション自身にテストやビルドを実行させてループを完結させ、CIでの継続的な評価を実施します。「導入（Deploy）」では、PRレビューの自動化やフックによる承認ゲート、サンドボックス環境でのCI/CD統合を行います。「保守（Maintain）」では、指標の監視やコードベースの定期的なスキャン、Slackなどのチャネルに常駐する「Claude Tag」を活用してループを閉じ、見つかった課題を再び intent.md としてパイプラインに戻します。 このように、人間の判断をプロセスの中心に据えつつ、ガバナンスやセキュリティをコードや設定で強制することで、組織全体の開発速度と安全性を両立させるための指針となっています。 引用元: https://claude.com/ja/resources/articles/the-ai-native-sdlc-playbook 「山の木の実ぜんぶ乗せフルーツタルト」を作った動画をアップしたら、「サムネがAIっぽい」と批判されてしまった「知らないものはAIに見える時代になった？」 野草研究家が投稿した「山の木の実ぜんぶ乗せフルーツタルト」の動画のサムネイル画像に対し、SNS上で「生成AIで作った偽物だ」という批判や指摘が寄せられた。投稿者は完全に実写であり、トマシなどの実在する珍しい野草や木の実を使用していると反論した。これに対し、ユーザーの間では、写真の彩度やコントラスト、見慣れない木の実の形状、カットされた実と殻つきの実が混在する構図などが、AI生成画像によく見られる雰囲気や不自然さに似ていると感じさせたことが原因ではないかと議論になった。知らない自然の姿や特殊な盛り付けが、AIの普及によって「本物か偽物か」と疑われる現代の認知の歪みや難しさを浮き彫りにする話題となっている。 引用元: https://togetter.com/li/2762761 お便り投稿フォーム VOICEVOX:春日部つむぎ

すべて見る（116）

評価とレビュー

5
5段階評価中
3件の評価

番組について

AIやテクノロジーのトレンドを届けるPodcast。平日毎朝6時配信。朝の通勤時間や支度中に情報キャッチアップとして聞いてほしいのだ。(MC 月:春日部つむぎ、火水木:ずんだもん、金:お嬢様ずんだもん)

情報

その他のおすすめ