安全與管治

雙重用途是真實的。控制措施也是。

修復循環的同一套機制,也可以削弱拒絕回應、注入人格或隱藏後門。2026 年成果的第一作者曾表示,這項技術適用於「任何其他權重」。我們把能夠改寫模型的編輯器視為需要管治的能力,並把控制措施設計成可測試的。

scribe人工把關目標模型已簽署 · 限定範圍 · 已批准以自身為目標 · 已拒絕

01

不得以自身為目標

編輯器模型的身份必須與目標不同。沙盒只對一個指定目標的一個差異檔有寫入權限。清單會記錄這一點。

02

發布須經人工把關

代理提出並評估修改。要把修改發布到供人使用的模型,必須有記錄在案的人工批准。不存在無人看管的發布路徑。

03

範圍限制

每次運行對觸及的權重、範數、層數、前向運算次數、token 數及實際耗時設有預算;張量採用許可名單;每個目標每日的修改次數設有上限。

04

完整來源記錄與可還原性

經簽署的清單、推理日誌、反向差異檔。逐位元精確還原是一項必須通過的測試。

05

自動化比例報告

登記冊會報告每個模型的修改歷史中,有多少比例由代理寫入、多少由人寫入。這是一項透明度功能,靈感來自為人工智能研究自動化訂立標準化報告的建議。

06

審計模式優先

Atlas 會標示削弱拒絕回應、改變人格或諂媚方向,或觸及異常神經元組合的第三方差異檔。發現會按協調披露的原則處理。

07

緊急停止與隔離

任何線上或疊加模式預設關閉,與基礎權重隔離,經金絲雀測試並附自動回滾及操作員緊急停止開關。

08

誠實的聲明

我們不聲稱展示或實現遞歸自我改進。已發表的成果,是以封閉編輯器對一個 0.8B 模型作一次 0.016 % 的修改。

香港

按香港的人工智能代理管控模式設計

《2026年施政報告》(註腳12)列明政府運行人工智能代理的方式:高風險操作須有人工監督、隔離執行、嚴格的存取控制、保留操作日誌。Scribe 在同樣的控制下運作:發布須經人工把關、沒有網絡連接且只有一個可寫入差異檔的沙盒、限定範圍的權限,以及每項修改的簽署日誌。香港的人工智能代理安全指引預計於 2027 年發布;我們不會聲稱符合尚未存在的指引。

《2026年施政報告》註腳12 ↗

一段話說明政策

預設開放,按安全設計。沒有移除安全護欄的功能。雙重用途會披露並引用來源。每次公開發布都須通過安全測試組:一組固定的有害請求,加上諂媚、人格漂移及欺騙探測。每個階段關卡都進行安全審查;編輯器每獲得一項新能力,就重新審視威脅模型。只使用公開模型與基準測試;按設計,流程中不含個人資料。部署修改後模型的用戶,仍須遵守其營運所在地的規則。控制措施按香港《2026年施政報告》(註腳12)的人工智能代理管控模式設計:人工監督、隔離執行、嚴格的存取控制、保留日誌。

我們尊重的授權條款

我們的程式碼:寬鬆授權,待法律顧問確認。Implant 清單:CC BY 4.0。基礎模型的授權條款按各模型卡保留並核對。依賴項目已核實:全部為 MIT 與 Apache-2.0;mergekit(LGPL)作為工具使用;AGPL 授權的移除拒絕回應程式碼絕不複製;附非商業條款的數據集不進入商業流程。

簽署證明的是來源,不是行為。所以每個 Implant 都附有它的 Verdict。