LLM 自我改寫權重:真正的難題在評估與復現
arXiv 論文 2611.21885 探索 LLM 直接修改自身權重的方法,但一次基準測試提升並不等於模型完成自我進化。評估器設計、checkpoint 篩選、回滾機制與實驗復現性,才是決定這項技術能否落地的主要因素。
OpenAI 拆解對抗性蒸餾的攻擊鏈:駭客如何透過誘導請求提取模型行為,以及辨識、阻擾與追蹤三層防線將如何影響 API 開發者。
arXiv 論文 2611.21885 探索 LLM 直接修改自身權重的方法,但一次基準測試提升並不等於模型完成自我進化。評估器設計、checkpoint 篩選、回滾機制與實驗復現性,才是決定這項技術能否落地的主要因素。
Palo Alto Networks 以 45 億美元收購 Applied Compute,藉此把安全策略延伸至 Agent 的執行環境。本文分析交易策略、Agent 安全的四層架構,以及產品整合、定價與多雲相容性等後續課題。
哈佛研究指出,AI coding agents 雖提升程式碼生成效率,審查卻成為研發流程的新瓶頸。團隊需要重新設計風險分流、提交粒度、獨立驗證與責任鏈,而非單純增加另一個審查 Agent。
Windows 11 被指可能蒐集 Claude Code、Codex 等 AI 編碼工具的使用資訊,引發外界對 AI Agent 工作內容能否被作業系統掌握的高度關注。本文整理現有證據、尚未確認的範圍,以及企業端點可採取的檢查步驟。
Google 據報將限制明確拒絕或限制使用 AI 的學校出現在搜尋結果中。這場爭議的核心,不只是 AI 能否用於教學,而是平台能否藉搜尋排序影響學校的採購與政策決定。
AI 能加速挖掘並解讀漏洞,卻無法取代企業盤點資產、驗證測試與追蹤部署的工作。PHP2Shell 引發的討論顯示,安全修復的瓶頸不在模型能力,而在多年累積的技術債與缺失資料。
Brave Search API 支援以 x402 進行機器支付,讓 AI Agent 能依任務需求即時購買搜尋服務。開發者仍須建立預算、冪等處理與人工審核機制,才能控制支出與風險。
惡意模式可能藏入模型權重,並在模型下載、轉換、量化與微調後持續傳播。現階段仍缺乏完整證據,但生產團隊應固定模型來源、保存雜湊值,並針對最終部署的權重進行安全審計。
Lovable 生成的應用被揭露可能暴露使用者護照資料與逾 20 萬則私人訊息。事件凸顯 AI 程式工具在預覽環境、部署流程與預設權限上的安全風險。
Unemployment Labs 研究如何從 LLM checkpoint 的數值特徵辨識訓練環境中的 GPU。這類方法可為出口管制與 AI 合規審查提供模型端的輔助證據,但目前仍不足以取代完整的硬體與供應鏈查核。
Pomerado 嘗試將缺乏 API 的網站封裝成可供 Agent 呼叫的 MCP 介面。本文分析其運作原理、整合方式,以及投入生產環境前必須考量風險。