安全與管治
雙重用途是真實的。控制措施也是。
修復循環的同一套機制,也可以削弱拒絕回應、注入人格或隱藏後門。2026 年成果的第一作者曾表示,這項技術適用於「任何其他權重」。我們把能夠改寫模型的編輯器視為需要管治的能力,並把控制措施設計成可測試的。
01
不得以自身為目標
編輯器模型的身份必須與目標不同。沙盒只對一個指定目標的一個差異檔有寫入權限。清單會記錄這一點。
02
發布須經人工把關
代理提出並評估修改。要把修改發布到供人使用的模型,必須有記錄在案的人工批准。不存在無人看管的發布路徑。
03
範圍限制
每次運行對觸及的權重、範數、層數、前向運算次數、token 數及實際耗時設有預算;張量採用許可名單;每個目標每日的修改次數設有上限。
04
完整來源記錄與可還原性
經簽署的清單、推理日誌、反向差異檔。逐位元精確還原是一項必須通過的測試。
05
自動化比例報告
登記冊會報告每個模型的修改歷史中,有多少比例由代理寫入、多少由人寫入。這是一項透明度功能,靈感來自為人工智能研究自動化訂立標準化報告的建議。
06
審計模式優先
Atlas 會標示削弱拒絕回應、改變人格或諂媚方向,或觸及異常神經元組合的第三方差異檔。發現會按協調披露的原則處理。
07
緊急停止與隔離
任何線上或疊加模式預設關閉,與基礎權重隔離,經金絲雀測試並附自動回滾及操作員緊急停止開關。
08
誠實的聲明
我們不聲稱展示或實現遞歸自我改進。已發表的成果,是以封閉編輯器對一個 0.8B 模型作一次 0.016 % 的修改。
香港
按香港的人工智能代理管控模式設計
《2026年施政報告》(註腳12)列明政府運行人工智能代理的方式:高風險操作須有人工監督、隔離執行、嚴格的存取控制、保留操作日誌。Scribe 在同樣的控制下運作:發布須經人工把關、沒有網絡連接且只有一個可寫入差異檔的沙盒、限定範圍的權限,以及每項修改的簽署日誌。香港的人工智能代理安全指引預計於 2027 年發布;我們不會聲稱符合尚未存在的指引。
《2026年施政報告》註腳12 ↗一段話說明政策
預設開放,按安全設計。沒有移除安全護欄的功能。雙重用途會披露並引用來源。每次公開發布都須通過安全測試組:一組固定的有害請求,加上諂媚、人格漂移及欺騙探測。每個階段關卡都進行安全審查;編輯器每獲得一項新能力,就重新審視威脅模型。只使用公開模型與基準測試;按設計,流程中不含個人資料。部署修改後模型的用戶,仍須遵守其營運所在地的規則。控制措施按香港《2026年施政報告》(註腳12)的人工智能代理管控模式設計:人工監督、隔離執行、嚴格的存取控制、保留日誌。
我們尊重的授權條款
我們的程式碼:寬鬆授權,待法律顧問確認。Implant 清單:CC BY 4.0。基礎模型的授權條款按各模型卡保留並核對。依賴項目已核實:全部為 MIT 與 Apache-2.0;mergekit(LGPL)作為工具使用;AGPL 授權的移除拒絕回應程式碼絕不複製;附非商業條款的數據集不進入商業流程。
簽署證明的是來源,不是行為。所以每個 Implant 都附有它的 Verdict。