Open WebUI 拆解:149k stars 的本地 AI 工作台,到底强在哪
能跑在笔记本上的 ChatGPT 替代品,支持 Ollama、OpenAI API、RAG、插件和团队协作。自托管 AI 前端里体量最大的一个,本文从部署到架构拆开看。
GitHub 上最火的浏览器 Agent 框架之一。给一段任务描述,它自己开浏览器、点按钮、填表单。本文拆解它怎么把网页变成 LLM 能操作的玩具。
能跑在笔记本上的 ChatGPT 替代品,支持 Ollama、OpenAI API、RAG、插件和团队协作。自托管 AI 前端里体量最大的一个,本文从部署到架构拆开看。
把任意 URL 变成干净 Markdown,专治 JS 渲染和反爬。聊聊它的代理池、headless 编排和 Agent 友好设计。
微软开源的 MarkItDown,能把 PDF、Word、PPT、图片、音频、YouTube 链接统一转成适合 LLM 消费的 Markdown,定位在 RAG / Agent 数据预处理的最前端。
Sebastian Raschka 的开源仓库,用纯 PyTorch 把 GPT 从 token embedding 写到 SFT/DPO 全部实现,目前覆盖最完整的 LLM 教学项目之一。
GitHub 89.5k Star 的推理框架,把显存当内存管,把请求当流式作业调度。实测 H100 单卡 4200 tok/s,比默认配置快 133%。
通用 benchmark 测的是"会不会说话",FinSkillBench 测的是"会不会算账"。组合构建、风险管理和基本面分析三套题,直接考 Agent 能不能调对数据、跑对模型、出对报表。
arXiv 一篇 position paper 把 MAS 失败模式重新框定为并发问题。LLM 推理窗口长 = 长事务,stale read、lost update 全部复现。
Latent Space 播客把 Baseten Series F 估值写成 $13B,这个数字明显不对。把这事讲清楚,顺便拆解推理工程到底卷在哪儿。
FraudBench 测的不是诈骗话术本身,而是攻击者在多轮对话里反复适应 Agent 防御的能力——能不能守住联系方式、PIN、转账权限这三道闸。
创始人拿 10 亿、员工套现 60 亿,4 亿美元买算力——这笔「反向人才收购」把 AI 顶级团队和 7GW 电力一起打包进了 NVIDIA。
高质量基准早已存在,问题出在治理——全球排行榜从不强制纳入南方数据集,而商业压力只够修正结果,不够修正规则。