主權模型
以工程能力決定專業度
端側可承載的參數規模有限，專業度依靠工程方法實現：向下對主流基座做 Day0+ 適配（新版本發佈當日即可接入），向上面向崗位任務微調專項小模型，以投機解碼提升端側推理速度，再由場景選型確定每項任務的模型與運行位置。模型在企業自身設備上運行，專業能力作為企業資產積累。
模型適配優化
- Day0+
多基座快速適配支持 Qwen、DeepSeek、GLM 等主流基座，不綁定單一基座，基座更新可及時接入專業鏈路。
- SFT
垂域微調與 LoRA 高效適配以法稅財專項語料與專家標註做領域微調，派生崗位專項小模型；LoRA（低秩適配）降低微調的算力成本。
- 4/8bit
量化部署以 4bit / 8bit 精度壓縮模型體積，在端側算力與內存預算內完成專業推理。
- SPEC
投機解碼加速支持 MTP、DFlash、DSpark：草稿機制一次提出多個候選詞元，主模型並行驗證，輸出一致、速度成倍提升。
- RAG
私域增強與長期記憶私域語料清洗注入（RAG，檢索增強生成），以 MCP（模型上下文協議）接入業務系統，項目上下文沉澱為長期記憶。
場景選型
選型的四項依據數據敏感度時延要求模型規模成本
三類投機解碼技術的支持
端側解碼受內存帶寬限制：模型逐個詞元生成，每一步都要讀取全部權重。投機解碼（Speculative Decoding）先由輕量草稿機制一次提出多個候選詞元，再由主模型一次並行驗證，只保留與主模型一致的部分；輸出不變，速度可獲數倍提升。羅拉模型體系支持三類主流方案。
MTP多令牌預測Multi-Token Prediction
以與主模型聯合訓練的預測頭，基於當前隱藏狀態提前起草後續詞元；預測頭隨權重內置時幾乎不增加顯存佔用。
適用：內置 MTP 頭的基座 · 顯存緊張的端側設備
DFlash塊擴散草稿Block Diffusion Drafting
輕量塊擴散草稿模型以主模型上下文特徵為條件，一次前向並行生成整塊草稿；草稿模型可針對不同目標模型分別訓練。
適用：多種基座與推理框架 · 長文本生成
DSpark置信度調度投機解碼Confidence-Scheduled · Semi-Autoregressive
半自迴歸草稿器保持塊內詞元依賴；驗證階段按每個請求的置信度動態決定驗證長度，及早終止低質量草稿。
適用：高併發服務 · 部門級與機構級節點
三者均為無損加速，最終輸出由主模型驗證決定；LoLR.AI OS 依據基座特性、部署框架與節點併發自動選用。
