フレームワーク

5BロボットモデルがJetson Thorで33倍高速化、リアルタイム動作を実現

General InstinctがInstinctFlashをオープンソース公開。ランタイム最適化と蒸留拡散スケジューラにより、LingBot-VAの推論速度を33.78倍に引き上げ、2/4ステップ構成でもタスク成功率90.5%を維持した。

文字サイズ

数字で見る:33.78倍はどこから生まれたか

まず数字を並べる。Jetson Thor上でLingBot-VAを実行すると、ランタイム最適化だけで1.2倍〜7.9倍の高速化を実現している。そこに蒸留済みのfew-step diffusion schedulerを重ねると、エンドツーエンドで33.78倍に到達する。

この33倍は単一の最適化で出てきたものではなく、二層の積み重ねによるものだ。

  • ランタイム層:1.2倍〜7.9倍。ここはThorのtensor core帯域幅、オペレータ fusion、メモリ再利用が効いている。inference frameworkの基礎体力そのものだ。ただ、エッジGPUでこのレンジを出せるということは、General Instinctが実際にJetson上でプロファイリングしている証拠になる。A100/H100で動かしてバックポートしただけではない。
  • スケジューラ層:拡散ステップを 25 visual / 50 action steps から 2 / 4 steps に圧縮。ここが本当のレバレッジだ。ステップ数が12.5倍に減り、ランタイムの約2.7倍と組み合わさって、ちょうど33.78倍になる。

HNの元ポストでGuanming自身が述べているのは「from the original 25 visual / 50 action steps to 2 / 4 steps」という表現。つまりこの数字はマーケティング文言ではなく、元の構成からの実測値だ。

最初に判断すべきは「続きを読む価値があるか」だろう。個人的にはある。理由は、エッジロボットが最も苦しんでいるlatency budgetの問題に正面から取り組んでいるからだ。

なぜ4090ではなくJetson Thorなのか

コンシューマ向け4090ではなくThorを選んだ背景には、明確な判断がある。

LingBot-VAは 5Bパラメータ級のworld-actionモデル だ(HNのタイトルと要約でこのサイズが明記されている)。5Bにdiffusion policyを組み合わせれば、4090でも理論上は動作する。しかし4090はロボット本体向けに設計されていない。消費電力450W、アクティブ冷却が必要、筐体サイズ的に大半のヒューマノイド/移動ロボットには積めない。

Thorの強み:

  • INT8/FP8 tensor coreの帯域幅が、5Bクラスのオンデバイス推論要件とちょうど噛み合う
  • NVIDIA Isaacエコシステム(Isaac Lab、Isaac Sim、Isaac ROS)と直結しており、sim2realのツールチェーンが揃っている
  • 消費電力がロボットに搭載できる範囲に収まる

つまりGeneral Instinctが狙っているのは「クラウドで速くする」ことではなく、 モデルをそのままロボット本体に載せる ことだ。制御ループ周期以下のレイテンシを実現する。Diffusion policy最大の工学的ハードルはサンプリングステップ数だ。50ステップもかけていては、ロボットアームが振り切れちゃう。2/4ステップに減らして初めてリアルタイム性が成立する。

したがって「5B + エッジ + few-step diffusion」という組み合わせは、すべて同じ目的に奉仕している。ロボット方策デプロイのlatency/計算資源コストを、本体に組み込める組み込みプラットフォームが耐えられる水準まで下げることだ。

AGPL-3.0は両刃の剣

リポジトリを見ると、ライセンスが AGPL-3.0 になっている。適当に選んだわけではない。

AGPL-3.0の核心的な制約は「コードを改変してネットワーク経由でサービスを提供する場合、その改変を公開しなければならない」という点だ。クラウドベンダが「ラッパーを被せて売る」ルートを完全に塞ぐ。

比較してみよう:

  • Llama系:寛容なライセンス、商用派生OK、月間アクティブユーザーがある閾値を超えなければOK
  • Mistral系:Apache 2.0、基本的に何をしても自由
  • AGPL-3.0:一番厳しいやつ

ロボット分野がAGPLを選んだ背景には、二段構えの計算があると思う。

  1. クラウドベンダのただ乗りを防ぐ。ロボットモデルの学習データ、sim2realのフロー、ハードウェアチューニングの経験は、すべて高コストな蓄積だ。クラウドベンダがオープンソースの重みをそのまま取ってAPI課金を始めたら、先行投資した側が何も回収できない。AGPLはその経路を断つ。
  2. 商業ユーザーに二者択一を迫る。公式サービス(General Instinct自身が販売)を買うか、上流にコントリビュートするか(AGPL-3.0のコードを使った企業は改善点を必ず還元しなければならない)。

代償も明確だ。AGPLは企業内で使うのがとにかく面倒で、法務部門が必ず止める。だからInstinctFlashの普及速度はLlamaほど滑らないだろう。でも作者は明らかにそこを気にしていない。気にしているのは クラウドベンダに価値を搾り取られないこと のほうだ。

90.5%はどう測定されたか、信頼できるか

この数字について語る前に、評価規模を確認しておく必要がある。

  • ベンチマーク: Robotwin2.0
  • タスク数: 50
  • 各構成で 1153エピソード 実行

これがどれくらいの規模か。現在主流のVLA(Vision-Language-Action)論文の評価は、タスク10〜30個、各タスク数十trajectory程度が一般的だ。 50タスク × 1153エピソード という評価規模は、多くのRL/VLA論文よりずっとしっかりしている。トイ・ベンチマークではない。

この規模で、2/4ステップ構成は 90.5%のタスク成功率 を達成している。

読み解き:

  1. 90.5%という数字は、few-step蒸留が「速さのためだけの妥協」ではないことを示している。ステップを12.5倍に削っても成功率9割以上を保っているなら、スケジューラ蒸留の品質は合格点だ。
  2. ただし注意が必要だ。「タスク成功率」は集約指標だ。長尾の動作(精密把把、柔軟物体の操作など)に踏み込むと、few-stepで点数が落ちる可能性がある。現時点のREADMEにはブレイクダウンがない。
  3. 蒸留高速化手法に内在するリスク:タスク汎化、見たことのない物体配置、長尾スキル。これらは蒸留ギャップによってregressionを起こす可能性がある。後続のper-task breakdownデータが待たれる。

個人的な評価:90.5%は学術デモには十分だが、産業デプロイにはまだ足りない。産業現場では成功率9割は「10回中1回は人手介入が必要」という意味になる。だからfew-step蒸留は「feasible」であって「done」ではない。

編集部の所感

なぜこれが重要か。ロボット方策デプロイのlatency/計算資源コストは、2026年に急速に引き下げられつつある。InstinctFlashが5B diffusion policyをJetson Thor上でリアルタイム動作させたということは、「エッジロボット本体に5Bワールドモデルを載せる」が単なるPPTではなくなったということだ。sim2realデプロイが量産に向かう具体的なシグナルと言える。

反コンセンサス的な観察: 今後12ヶ月で、オープンソースの推論フレームワークがモデル自体よりも競争激化する可能性がある。過去2年、ロボット/VLA分野の注目は「誰が更大的なモデルを出したか」(Pi0、RT-2、OpenVLAなど)に集まっていた。だがモデルが大きくても、動かせなければ意味がない。InstinctFlashのようなserving frameworkがデプロイのハードルを一桁下げることの価値は、次の7Bモデルより大きいかもしれない。ベンチマークをまた一つ塗り替えるだけでなく、on-deviceデプロイを直接アンロックするからだ。

これまでのVLAモデル発表との違いは、 「モデル発表」から「サービススタック発表」への転換シグナル だ。これまでの発表は重み+論文だった。InstinctFlashの発表形態は、framework + 蒸留scheduler + ライセンス戦略をワンパッケージにしたものだ。ロボット分野の焦点が「学習」から「実運用」へと移っていることを示している。

まだ見えていない点: エッジ5Bが複雑なマルチタスク環境で安定して動くか 。単一タスクで90.5%なら信じる。だがfew-shotでのタスク切替、マルチタスク並列、長時間シーケンスの累積誤差。これらをfew-step diffusionがエッジで耐えられるかは、現時点でデータがない。今後もper-task breakdownとgeneralization testを注視し続ける理由がここにある。

出典: https://github.com/General-Instinct/InstinctFlash