#RAG

共 21 篇带此标签

21 記事 最新 2026-08-22
過去 · #RAG 全 8 本
ツール

Unsloth が GitHub で 7.4 万星——ローカル LLM 微調整を“ダウンロード即実行”レベルまで引き下げた実力を検証

Llama、Qwen、DeepSeek の微調整をワンクリックで済ませるデスクトップアプリ。手書きの CUDA kernel と 4/8-bit GGUF 量子化により、VRAM を 40〜70% 削減、速度は 2〜5 倍。4090 上で Qwen2.5-7B LoRA を実測し、1 ステップを 2.3 秒から 1.1 秒に短縮した。

2026-08-22 3 分 487 回閲覧