Hugging Face

開源模型工程實踐與課程，偏動手復現

本站已深讀3 / 13 集

更新節奏約 1.4 天一集

最新一集2026-10-19

分類AI / 技術

優先級T3

瀏覽器 AI 提速：200+ GPU 內核不預編譯、按設備現生成

瀏覽器裡跑 AI 沒有「通用最優內核」：kernel 是算子在具體硬件上的實現，設備不同、最優就不同。200+ 內核不是寫死的程序，而是按你的設備在瀏覽器裡現生成的模板。

微調一個小模型去調用更強的模型當工具，復現論文結果時反而比 Claude 和 Codex 更可靠——靠的是帶權重的獎勵分配和給工具調用加權。

LLM 無狀態，記住你不能靠拉長聊天歷史。長期記憶要外置於會話：MEM0 用三個存儲、每輪抽取，檢索時把向量、關鍵詞、實體分加權，只取最相關的幾十條。