#开源模型

共 111 篇带此标签

111 記事 最新 2026-11-21
過去 · #开源模型 全 11 本
実践

2台DGX StationでGLM-5.3を検証、607.8 tok/sを実現

NVIDIAはvLLMdragoricalを使い、2台のDGX Stationを1つの推論クラスターとしてGLM-5.3を構築し、607.8 tok/sのスループットを記録した。本構成の扩容手法と、本番環境で評価するために必要となる追加測定項目を整理する。

2026-11-15 出典 2026-11-14 6 分 58 回閲覧
見解

AI Agentのモデル選定、成功1件あたりの費用で判断する

Village.devは、閉源モデルが価格 대비 性能の境界cile occupy 前沿쳤다고指摘する。Agentチームでは、单价だけでなく、再試行、ツール呼び出し、人工対応を含めた「成功1タスクあたりの総コスト」を比較すべきだ。

2026-11-06 出典 2026-11-06 8 分 58 回閲覧
実践

2FK的训练コストとApache 2.0モデルの実際の運用費用

2人のラボが約2FKを使い、ゼロから文生画像モデル「PJIT-21K」を開発し、Apache 2.0で重みを公開した。訓練、推論、ライセンス、デプロイの各コストを分解し、AI Agentやマルチモーダルチームが導入を判断するためのチェックリストを示す。

2026-11-06 出典 2026-11-04 7 分 58 回閲覧