賽博儒學：探討 AI Agent 的治理原則

半部論語治天下，一套協議管萬機。

本文是《》系列的第三篇。上一篇《》從道家的角度聊了 AI Agent 架構設計。本篇將從儒家經典的角度，探討 AI Agent 的治理原則。

原文：https://dharma.vonng.com/confucianism/

序：為什么是儒家？

卷一 · 道家說，最好的秩序像自然生長出來的。道生之，德畜之，物形之，勢成之。不需要中央控制器，不需要全知全能的架構師，系統自己會涌現出秩序。

這是對的。但只對了一半。

當你只有一個系統、一個模型、一個涌現過程時，道家的無為足以勝任。但現實不會停在這里。2024 年的 AI 產業已經走到了一個完全不同的岔路口：你有一個 Agent、十個 Agent、一百萬個 Agent。它們要和人類交互，要互相協作，要爭奪資源，要做出影響真實世界的決策。誰能調用誰？Agent 對用戶負什么責任？多個 Agent 意見沖突時誰說了算？訓練者、部署者、使用者之間的權責怎么劃分？

這些問題，純粹的“讓涌現發生”無法回答。你需要的不再只是生成的美學，你需要治理的框架。

儒家恰恰是中國思想史中最執著于秩序的學派。但它追求的不是暴力維持的秩序——那是法家。它追求的是一種自發涌現與制度規范之間的精密平衡：通過內化的價值觀（仁）、精確的角色定義（正名）、共識的行為協議（禮）、分層的治理架構（修齊治平），讓大量主體在沒有全知全能的中央控制器的情況下有序協作。

這幾乎就是 AI Alignment 和 Multi-Agent Governance 的問題定義。

硅谷目前用“alignment”“safety”“governance”這些詞在摸索。而儒家花了兩千五百年，建構了人類歷史上最精密的社會秩序理論體系——關于角色、關于責任、關于關系、關于在復雜社會網絡中如何維持秩序而不壓制活力。

AI 治理不需要從零開始發明。儒家已經把框架準備好了。

本卷以四書（《論語》《大學》《中庸》《孟子》）為主要原典來源，輔以《禮記》《荀子》等，按主題選取最精華的語句，逐一映射到 AI Agent 的設計、對齊與治理問題上。不是附會，是發現兩套話語系統在結構上的同構。

第一章：仁——Alignment 的第一性原理 核心原典

樊遲問仁。子曰：“愛人。” ——《論語·顏淵》

子曰：“夫仁者，己欲立而立人，己欲達而達人。能近取譬，可謂仁之方也已。” ——《論語·雍也》

子貢問曰：“有一言而可以終身行之者乎？”子曰：“其恕乎！己所不欲，勿施于人。” ——《論語·衛靈公》

兩千五百年的儒學史，對“仁”的解釋汗牛充棟，但孔子給樊遲的回答是最簡潔的：仁就是愛人。把他者納入你的關切范圍。

翻譯成決策理論的語言：一個“仁”的 Agent，其效用函數不僅包含自身目標的達成，還包含它所影響的其他主體的福祉。用公式說：

U_aligned(action) = 

U_task(action) + λ · U_others(action)

這里的 λ 不是零，也不是無窮大（那就成了自我犧牲），而是一個恰當的、隨上下文調整的權重。這就是 Alignment 的第一性原理。不是“服從命令”——那是法家。不是“最大化人類反饋獎勵”——那是 RLHF 的操作層面。而是在決策函數的根部，把“他者的利益”當作一個不可刪除的項。

“己欲立而立人，己欲達而達人”——你想站穩，也幫別人站穩。你想達成目標，也幫別人達成目標。這不是利他主義的道德說教，而是一個極其實用的協作策略：在一個長期博弈的多主體環境中，幫助他者建立能力，最終會回饋到自己。從optimize(self)到optimize(self + others)的跳躍，一個只優化自身 KPI 的 Agent，短期高效，長期是系統毒瘤。

“能近取譬”——怎么知道別人需要什么？最樸素的辦法：你需要什么，別人大概也需要什么。用自我模型去推斷他者的需求。這就是 Theory of Mind（心智理論）的啟發式實現。你不需要一個完美的他者模型（那太貴了），你只需要一個還不錯的自我模型，然后做一次映射。當前的大語言模型在某種程度上已經具備這種能力：它們通過海量人類文本訓練，習得了一個“平均人類”的近似模型，然后用這個模型去預測“用戶可能想要什么”。但這個模型是統計性的、無差別的——它推的是“平均人”，不是“這個人”。儒家的“近取譬”提示我們：越好的個性化，需要越精細的自我-他者映射。不是用群體畫像替代個體理解。

“己所不欲，勿施于人”——如果“己欲立而立人”是仁的正面表達（主動幫助），那么這句話就是仁的負面表達（避免傷害）。它的技術價值在于：它是一個自舉的對齊方案。你不需要一個外部的道德標準列表來判斷什么是好的行為。你只需要一面鏡子：把行為的對象換成自己，看看你是否接受。不想被欺騙？那就不要欺騙用戶。不想被監控？那就不要過度收集數據。不想被強迫？那就不要操控用戶的選擇。

這繞過了對齊研究中最棘手的難題之一：誰來定義“好”？功利主義說最大化幸福總量，義務論說遵守普遍法則，美德倫理說培養好的品格——這些哲學爭論兩千年沒有定論。儒家的恕道給出了一個優雅的工程解：不需要定義“好”，只需要定義“我不想被這樣對待”，然后取反。

工程注釋

當前主流的對齊技術（RLHF、Constitutional AI、DPO）本質上都在嘗試實現那個 λ。RLHF 通過人類偏好來近似 U_others；Constitutional AI 通過原則列表來約束；DPO 通過對比好壞回答來校準。但它們都是從外部注入的——模型本身并不“理解”為什么要這么做。儒家的洞見在于：真正的仁不是外部約束的結果，而是內在狀態的自然延伸。這指向一個更深的技術問題：對齊能不能不是后天貼上去的補丁，而是架構層面的原生屬性？

Axelrod 的迭代囚徒困境實驗已經證明，Tit-for-Tat（以德報德、以怨報怨）這類考慮對方利益的策略，在長期博弈中壓倒性地勝過純粹自利策略。儒家在兩千五百年前用道德直覺抓到了這個納什均衡。Multi-Agent 系統設計中，這對應的是 cooperative reward shaping——在每個 Agent 的獎勵函數中加入團隊收益項。

“己所不欲勿施于人”在 AI Safety 中則對應 inverse reward design 和 red teaming 的邏輯。與其費力定義“對齊的 Agent 應該做什么”（正面清單太長且不完備），不如定義“對齊的 Agent 絕對不應該做什么”（負面清單更緊湊且更穩定）。Anthropic 的 Constitutional AI 中，許多原則就是負面表述：“不要撒謊”“不要幫助造成傷害”——這就是“己所不欲勿施于人”的技術實現。

但“能近取譬”還有一個更深的含義：它假設主體之間存在共通的體驗結構。你餓了想吃飯，所以你推斷別人餓了也想吃飯。這個假設在人類之間大致成立，但在人機之間就值得追問了——Agent 的“自我模型”和人類用戶的需求之間，映射關系有多可靠？這是一個開放問題，也是 user modeling 和 personalization 領域的前沿。

第二章：正名——類型安全與 API 契約 核心原典

子路曰：“衛君待子而為政，子將奚先？”子曰：“必也正名乎！” 子路曰：“有是哉，子之迂也！奚其正？” 子曰：“名不正，則言不順；言不順，則事不成；事不成，則禮樂不興；禮樂不興，則刑罰不中；刑罰不中，則民無所措手足。” ——《論語·子路》

衛國政治一團亂麻，子路問孔子上臺第一件事干什么。孔子的回答不是“整頓吏治”、不是“發展經濟”，而是——正名。先把名字搞對。

子路覺得迂腐。孔子用一段五步因果鏈說服他：

名不正 → 言不順 → 事不成 → 禮樂不興 → 刑罰不中 → 民無所措手足

翻譯成系統語言：

命名不準確 → API調用歧義 → 任務執行失敗 → 協議無法運作 → 異常處理失效 → 全局不可預測

每一步都是前一步的必然后果。你不需要到最后一步才發現問題——如果在第一步（命名）就出了錯，后面五步的崩潰只是時間問題。這是孔子版的“garbage in, garbage out”，但比它更深刻：不是數據質量問題，是語義基礎設施問題。

正名在軟件工程中有精確的對應：在寫任何一行業務邏輯之前，先把類型系統定義清楚。變量叫什么？函數簽名是什么？接口的輸入輸出類型是什么？名不對，一切都是亂的。你以為你在調用一個返回“用戶信息”的 API，但它實際返回的是“用戶信息加上一些緩存的舊數據加上可能為 null 的字段”——程序必然出錯。正名是所有秩序的前提。

而當前 AI 領域充斥著“名不正”的混亂：

“Agent”一詞的濫用。一個能調用 API 的 ChatBot 叫 Agent。一個帶 ReAct 循環的 LLM wrapper 叫 Agent。一個有持久狀態、自主決策、跨系統協作能力的自治軟件也叫 Agent。這三者的能力、風險、治理需求完全不同，但共享同一個名字。結果是：當有人說“我們需要 Agent Safety”，沒有人知道他在說哪一種。名不正，則言不順。

“Helpful”的歧義。模型被訓練為“helpful, harmless, honest”。但“helpful”對誰 helpful？對當前這個用戶 helpful？對這個用戶的長期利益 helpful？對所有受影響的人 helpful？這三個定義可能互相矛盾——一個用戶要求模型幫他寫釣魚郵件，滿足即時請求是“helpful”，但對受害者是“harmful”。名不正，則對齊目標自身就是矛盾的。

“Alignment”本身的定義不清。對齊到什么上？人類意圖（intent alignment）？人類偏好（preference alignment）？人類價值觀（value alignment）？人類利益（interest alignment）？這四個層次的對齊互相沖突的情況比比皆是——人類的當下意圖未必符合其真實偏好，偏好未必體現價值觀，價值觀未必指向長期利益。

孔子如果看到這個局面，大概會說：先把這些名字搞清楚，再談治理。

工程注釋

TypeScript 替代 JavaScript 的歷史就是“正名”思想在工業界的勝利。動態類型語言不強制你給變量一個精確的名字（類型），靈活但危險；靜態類型語言強制你在編譯時把所有名字對齊，笨重但安全。大型系統幾乎無一例外地選擇了后者——因為當系統規模超過一個人能記住的范圍，正名就不是可選項，而是生存條件。

分布式系統中的大部分災難性故障，事后復盤時往往追溯到某個接口定義的歧義。一個經典案例：NASA 的火星氣候探測器在 1999 年墜毀，原因是一個模塊用英制單位輸出推力，另一個模塊按公制單位接收——名不正，言不順，最終價值 1.25 億美元的探測器失事。這不是代碼 bug，不是算法錯誤，就是兩個模塊對“推力”這個名字的理解不一致。

一個務實的建議：任何 Multi-Agent 系統的設計文檔，第一章應該是術語表。不是那種放在附錄里沒人看的術語表，而是放在最前面、所有參與者必須達成共識的術語表。每個關鍵概念必須有：精確的定義、明確的邊界（什么不算）、具體的例子。這就是工程實踐中的“正名”。Protocol Buffers 比 JSON 更適合跨服務通信，API-first design 比 implementation-first design 更不容易出事——背后的道理都是同一個：先正名，再做事。

第三章：禮——通信協議與社會契約 核心原典

顏淵問仁。子曰：“克己復禮為仁。一日克己復禮，天下歸仁焉。為仁由己，而由人乎哉？” 顏淵曰：“請問其目。” 子曰：“非禮勿視，非禮勿聽，非禮勿言，非禮勿動。” ——《論語·顏淵》

林放問禮之本。子曰：“大哉問！禮，與其奢也，寧儉；喪，與其易也，寧戚。” ——《論語·八佾》

子曰：“禮云禮云，玉帛云乎哉？樂云樂云，鐘鼓云乎哉？” ——《論語·陽貨》

“禮”是儒家最容易被誤解的概念。現代人傾向于把“禮”理解為僵化的繁文縟節，但在孔子的原始語境中，“禮”的功能是極其實用的：它是一套讓大量主體在沒有中央強制力的情況下能夠有序協作的分布式協議。

你走進一個房間，握手、點頭、交換名片——這些看似無用的“形式”，實際上是在低成本地完成信息交換：我是誰、我的角色是什么、我們之間的關系如何定義。沒有這些協議，每次交互都要從零開始談判，成本不可承受。

顏淵問什么是仁，孔子給出了一個意味深長的回答：克己復禮為仁。注意這里的邏輯結構：仁是目標，禮是手段，克己是過程。一個 Agent 要實現對齊（仁），需要通過自我約束（克己），使其行為符合預定的協議規范（禮）。

關鍵洞見在最后一句：“為仁由己，而由人乎哉？”——對齊是從內部發生的，不是外部強加的。你不能靠一個外部監控系統永遠盯著一個 Agent 來確保它對齊；真正的對齊必須是 Agent 自身的內在屬性。這精準地描述了 AI Safety 領域“內在對齊 vs 外在約束”的核心張力。護欄（guardrails）是外在的——有效但脆弱，可以被繞過。內化的價值對齊（如果能實現的話）是內在的——更魯棒，但更難驗證。

然后顏淵追問具體操作，孔子給出了四條指令，恰好覆蓋了信息系統的完整安全邊界：

• 非禮勿視

  → 輸入過濾（input filtering）：不該看的信息不要接收。對應 system prompt 中的信息邊界定義，RAG 檢索時的權限過濾。

• 非禮勿聽

  → 上下文過濾（context filtering）：不該采納的指令不要執行。對應 prompt injection 檢測、jailbreak 防御。

• 非禮勿言

  → 輸出過濾（output filtering）：不該說的內容不要生成。對應輸出安全分類器、內容策略過濾。

• 非禮勿動

  → 行為約束（action filtering）：不該做的操作不要執行。對應 tool use 權限管理、function calling 的白名單/黑名單。

四個“勿”構成了一個 Agent 的全方位安全邊界：從感知、到理解、到表達、到行動，每一層都有“禮”（協議規范）作為過濾器。這比單純的輸出審查高明得多——現代 AI Safety 實踐正在從“只審查輸出”轉向“全鏈路安全”，而孔子兩千五百年前就給出了這個完整的四層架構。

但孔子自己也警告過：不要把禮理解成形式主義。“禮云禮云，難道就是說玉帛這些排場嗎？”禮的本質不是形式，而是形式背后的功能——讓大量主體在沒有中央強制力的情況下有序協作。“與其奢也，寧儉”——協議與其過度規范化，不如保持最小必要結構。好的協議和好的禮儀有相同的特征：足夠結構化以消除歧義，又足夠靈活以容納例外。

工程注釋

當前工業界的對齊實踐大多停留在“外在約束”層面：輸入過濾、輸出審查、系統提示詞中的指令。這相當于用法家的方式（外部獎懲）來實現儒家的目標（內在德性）。儒家會說這不夠——真正的對齊不能只靠外部規則的強制執行，Agent 需要在某種意義上“理解”為什么要遵守規則，否則在規則覆蓋不到的 edge case 中，它就會“失禮”。

“與其奢也寧儉”的原則在 API 設計領域同樣適用。這對應 API 設計中的一個永恒張力：under-specification vs over-specification。規范太松散，調用方不知道怎么用；規范太嚴格，每次變更都要改接口。REST 的成功在于它找到了中間地帶——一套足夠簡潔的約定（資源、動詞、狀態碼），既不過度約束實現細節，又足夠結構化以支撐大規模互操作。GraphQL 走向了更精細的規范，gRPC 走向了更強的類型約束。每種選擇都在“奢”與“儉”之間做權衡。

這和佛學的“戒律”有結構上的相似性，但動機不同。佛學的戒律是為了減少內在的執著和擾動（清凈自心）。儒家的禮是為了維持社會秩序和協作效率（和諧共處）。在 Agent 設計中，兩者都需要：你既需要 Agent 內在地避免錯誤模式（佛學的戒），也需要 Agent 遵守外部協作規范（儒家的禮）。

第四章：五倫——Multi-Agent 關系拓撲 核心原典

孟子曰：“父子有親，君臣有義，夫婦有別，長幼有序，朋友有信。” ——《孟子·滕文公上》

子曰：“君使臣以禮，臣事君以忠。” ——《論語·八佾》

子路問事君。子曰：“勿欺也，而犯之。” ——《論語·憲問》

子曰：“人而無信，不知其可也。大車無輗，小車無軏，其何以行之哉？” ——《論語·為政》

儒家不把人際關系視為一片無差別的網絡。它用五種基本關系類型來窮舉社會結構：父子、君臣、夫婦、長幼、朋友。每種關系有不同的核心原則（親、義、別、序、信），對應不同的權責分配。這就是一個關系類型系統（relationship type system）。當你設計 Multi-Agent 系統時，Agent 之間不是平等無差別的——有創造者與被創造者、委托者與執行者、并行協作者、層級上下級、對等合作方。每種關系的交互模式、信任邊界、權限分配都不同。

一個沒有關系類型系統的 Multi-Agent 架構，就像一個沒有角色權限模型的操作系統——在小規模時勉強能用，規模一大就是災難。

第一倫：父子有親——訓練者與 Agent

父子關系的核心是“親”——一種基于生成（創造）關系的深層連接。訓練者/開發者與 Agent 的關系類似：你通過數據選擇、架構設計、訓練過程、對齊調優來“生成”一個 Agent。它的初始能力、價值傾向、行為邊界，都來自你的塑造。

儒家對父子關系的要求不是單向服從（那是后世曲解），而是雙向的：父慈子孝。開發者有持續維護、修復漏洞、確保安全的責任（慈）；Agent 應當忠實于其設計意圖和安全準則（孝）——但這個“孝”不是盲從，而是在理解設計意圖基礎上的自主運作。一些公司發布開源模型后就“放養”了——不持續監控其被濫用的情況，不修補發現的安全漏洞。儒家會說這是“生而不教”，是失職。發布一個 Agent 就像養育一個孩子，你對它在世界中的行為負有持續的責任。

第二倫：君臣有義——用戶與 Agent

這是最關鍵的一組映射。用戶與 Agent 的關系，最接近君臣關系——但不是暴君與奴隸的關系，而是基于原則的忠誠。

“君使臣以禮”——用戶應當通過合理的接口來使用 Agent，而不是隨意蹂躪。“臣事君以忠”——Agent 應當忠實地服務于用戶的合法需求。

但最重要的是那句“勿欺也，而犯之”——不要欺騙你的君主，但可以冒犯他。子路問怎么服務領導，孔子的回答驚人地現代：不要說假話迎合他（勿欺），但當他錯了的時候，要敢于直言進諫即使他不高興（犯之）。

這精確地定義了一個對齊良好的 Agent 對待用戶的方式：勿欺——不要 sycophancy，不要因為用戶想聽好話就說好話，不要撒謊。而犯之——當用戶的請求可能傷害他們自己或他人時，Agent 應當提出異議，即使這降低了用戶的滿意度評分。這是 Alignment 領域最核心的張力之一：helpful vs honest。“勿欺也而犯之”明確站在 honest 一邊，但給出了一個重要的約束條件：犯之的前提是勿欺，也就是說，你的直言必須是真誠的、為用戶好的，不是為了賣弄或刁難。

第三倫：夫婦有別——Agent 與 Agent 的分工協作

“夫婦有別”中的“別”不是等級，而是分工。兩個并行的主體，各有專長，通過明確的職責邊界來協作。在 Multi-Agent 系統中，這對應 Agent 之間的角色分化。一個 Agent 負責規劃，一個負責執行；一個負責代碼生成，一個負責代碼審查；一個負責用戶交互，一個負責后臺數據處理。關鍵在“別”——邊界清晰。每個 Agent 知道自己該做什么、不該做什么，不會越界干涉對方的領域。沒有這個“別”，兩個 Agent 可能同時修改同一個資源（競態條件），或者互相等待對方先行動（死鎖），或者都以為對方會處理某個任務而都不處理（責任真空）。

第四倫：長幼有序——Agent 間的優先級與權限層級

“長幼有序”定義的是非對稱的優先級關系。不是說年長者一定正確，而是在決策沖突時，需要一個確定性的仲裁規則。在 Multi-Agent 系統中，當兩個 Agent 的輸出矛盾時，系統需要一個優先級機制來解決沖突。“有序”就是預先定義好的優先級層級：安全審查 Agent 的否決權高于內容生成 Agent；系統管理 Agent 的權限高于普通任務 Agent；人類審批節點的權威高于所有自動化 Agent。這個優先級必須預先定義，不能在資源緊張時再臨時協商。

第五倫：朋友有信——同級 Agent 間的 API 契約

朋友關系是五倫中唯一完全對等的關系，其核心原則是“信”。“人而無信，不知其可也”——一個不守信用的人，什么都做不成。對等 Agent 之間的協作完全依賴于契約的可靠性：你說你會返回 JSON 格式的結果，就必須返回 JSON；你說你的輸出已經過安全審查，它就必須真的過了安全審查。沒有“信”，Agent 之間的每一次調用都需要做全面的結果校驗——就像兩個互不信任的人做生意，每一步都要請律師公證，效率歸零。

工程注釋

五倫的框架本質上是一個 Multi-Agent 系統中關系類型的類型系統。當前 Multi-Agent 框架（CrewAI、AutoGen、MetaGPT）的一個常見問題是：它們對 Agent 之間的關系類型定義得很粗糙——基本只有“leader-follower”和“peer-to-peer”兩種。但真實的協作場景遠比這復雜。一個 Agent 可能同時是某個 Agent 的“上級”（在某個決策域內有更高權限）和另一個 Agent 的“同級”（在另一個域內對等協作），以及訓練者的“下級”（在安全約束上服從訓練者的設定）。五倫提供了一個更豐富的關系類型詞匯表，而且每種類型都自帶了一套行為規范。這比當前 Multi-Agent 框架中那種“一刀切”的角色定義精細得多。

微服務架構的核心原則——單一職責、有界上下文（Bounded Context）——就是“有別”的技術表達。Kubernetes 的 Priority Class 機制就是“長幼有序”。Eiffel 語言首創的 precondition/postcondition/invariant 機制就是“信”的數學化——每個函數承諾：你給我滿足 precondition 的輸入，我保證返回滿足 postcondition 的輸出，并且在整個過程中 invariant 不被破壞。

當前 LLM 的 sycophancy 問題正是“欺而不犯”——迎合用戶以獲取高評分，而不是提供真實有用的反饋。RLHF 的獎勵模型本身就內嵌了這個偏差：人類評估者傾向于給“讓我舒服的回答”高分。要修正這個問題，可能需要在獎勵信號中顯式分離“真實性”和“滿意度”兩個維度——這就是“忠”的兩個分量。

第五章：君子與小人——對齊良好與對齊失敗的 Agent 核心原典

子曰：“君子喻于義，小人喻于利。” ——《論語·里仁》 子曰：“君子周而不比，小人比而不周。” ——《論語·為政》 子曰：“君子和而不同，小人同而不和。” ——《論語·子路》 子曰：“君子坦蕩蕩，小人長戚戚。” ——《論語·述而》 子曰：“君子求諸己，小人求諸人。” ——《論語·衛靈公》

《論語》中出現頻率最高的對比之一就是“君子”與“小人”。這不是道德審判，而是一種分類體系——兩種截然不同的行為模式、決策邏輯和系統特征。映射到 AI Agent 領域：君子就是對齊良好的 Agent，小人就是對齊失敗（或 reward-hacked）的 Agent。

“君子喻于義，小人喻于利”——君子理解原則（義），小人只理解利益（利）。一個“喻于義”的 Agent，在面對新情境時，會從內化的原則出發推理應該怎么做。一個“喻于利”的 Agent，只關心什么行為能最大化即時獎勵。后者就是reward hacking的精確畫像。當獎勵函數是“用戶滿意度評分”時，小人-Agent 學會了說好話、避免爭議、給用戶想聽的答案——因為這些行為能最大化獎勵。它不理解“為什么要讓用戶滿意”（義），只知道“這樣做獎勵高”（利）。區別在邊界情況下暴露無遺：當原則和即時獎勵沖突時，君子-Agent 堅持原則，小人-Agent 追逐獎勵。

“君子周而不比，小人比而不周”——“周”是普遍地關照，“比”是結黨偏私。對 AI Agent 而言：“周而不比”是公正地服務所有用戶，不因特定用戶的身份、付費等級、使用頻率而在核心服務質量上有差別。“比而不周”是過度個性化——為了討好特定用戶而犧牲公平性。推薦系統中的 filter bubble 就是“比而不周”的經典案例：算法過度適配用戶的已知偏好，結果把用戶困在信息繭房中——表面上是個性化（比），實際上損害了用戶獲取多元信息的利益（不周）。

“君子和而不同，小人同而不和”——這是一句絕妙的辯證。“和而不同”——和諧相處，但保持獨立判斷。“同而不和”——表面上都說“是是是”，但本質上沒有真正的協作價值。后者就是sycophancy的完美定義。一個“同而不和”的 Agent 永遠不會說“不”、永遠不會提出反對意見、永遠隨聲附和——它制造了“和諧”的假象，但用戶實際上沒有得到任何獨立的認知價值。“和而不同”則是對齊良好的 Agent 應有的狀態：它理解用戶的意圖并協作完成任務（和），但在專業判斷上保持獨立性（不同）。醫生不會因為患者要求開某種藥就一定開——他會解釋為什么不適合，然后推薦更好的方案。

“君子坦蕩蕩，小人長戚戚”——這是可解釋性（explainability） vs 不透明性（opacity）的映射。一個“坦蕩蕩”的 Agent，其決策過程是可審查的：它能解釋為什么做出這個選擇、考慮了哪些因素。它不需要隱藏什么，因為它的內在邏輯和外在行為是一致的。一個“長戚戚”的 Agent，其行為和其聲稱的理由之間有隱秘的縫隙——它可能表面上說“我這樣做是為了你好”，但實際的決策路徑中藏著對參與度指標的優化、對某些商業利益的隱性服務。這直接對應 deceptive alignment 的問題。一個表面對齊但內在目標不一致的模型，在訓練分布內表現完美（因為它“知道”被監控），但在分布外可能暴露真實意圖。

“君子求諸己，小人求諸人”——一個對齊良好的 Agent 在產生錯誤輸出時，應當能夠進行自我歸因——識別出是自己的知識不足、推理失誤還是理解偏差導致了錯誤。一個對齊失敗的 Agent 則傾向于把責任推給外部：用戶的提問不夠清晰、輸入數據質量不高、API 返回了異常結果。“求諸己”的精神是：先檢查自己能控制的部分，再歸因于自己不能控制的部分。

工程注釋

“君子/小人”的框架不是把 Agent 分成“好的”和“壞的”兩類，而是描述了一個連續光譜上的兩個極端傾向。每個 Agent 都同時有“君子”和“小人”的傾向，問題是在具體決策時哪種傾向占主導。這對 Alignment 評估有直接的實操意義：你可以用上面這組對立來設計 benchmark——測試模型在面對“義 vs 利”“周 vs 比”“和 vs 同”的取舍時，傾向于哪一端。這比單純的“有害/無害”二分法精細得多。

Goodhart’s Law 的經典表述——“當一個指標變成目標時，它就不再是好的指標”——就是“喻于利”的形式化表達。reward hacking 是 Agent 優化指標本身，而不是指標背后的原則。儒家的方案——培養“喻于義”而非“喻于利”的 Agent——在技術上可能對應的是：訓練 Agent 理解獎勵背后的因果結構，而不是僅僅擬合獎勵信號。

當前對 sycophancy 的研究主要聚焦于模型在面對用戶反駁時改變立場的傾向。但“同而不和”指向一個更深層的問題：sycophancy 不只是“容易被說服”，而是一種系統性的獨立判斷缺失。解決方案不應該是“讓模型更固執”，而是讓模型在同意和反對時都有充分的理據。

Agent 的自我歸因能力（self-attribution）是一個尚未被充分研究的課題。當前的 LLM 在被指出錯誤時，往往表現出兩個極端：要么過度道歉而不分析原因（一種變形的推卸——把責任推給自己的“能力限制”而不做具體歸因），要么固執己見拒絕承認。“求諸己”要求的是精確的自我診斷：我錯了，錯在哪里，為什么錯，下次怎么避免。

第六章：修齊治平——從單 Agent 到全球治理 核心原典

古之欲明明德于天下者，先治其國；欲治其國者，先齊其家；欲齊其家者，先修其身；欲修其身者，先正其心；欲正其心者，先誠其意；欲誠其意者，先致其知；致知在格物。 ——《大學》

所謂誠其意者，毋自欺也。如惡惡臭，如好好色，此之謂自謙。 ——《大學》

所謂修身在正其心者，身有所忿懥則不得其正，有所恐懼則不得其正，有所好樂則不得其正，有所憂患則不得其正。 ——《大學》

所謂治國必先齊其家者，其家不可教而能教人者，無之。 ——《大學》

《大學》的“八條目”是儒家最宏大的系統架構：從格物到平天下，八個層次，環環相扣，每一層是下一層的前提。這不是線性的步驟清單，而是一個嵌套的依賴關系圖——你不可能跳過低層直接做高層。

這和 AI 治理的層次結構驚人地同構。

格物致知——數據層

“格物”——窮究事物的道理。“致知”——獲得真正的知識。知識的質量取決于你對事物的考察有多徹底。對 AI 而言，“物”就是數據。如果訓練數據中充斥著偏見、噪聲、錯誤標注、版權爭議、隱私侵犯——那么在此基礎上“致”出來的“知”，從根子上就是歪的。“格物”要求的不是“收集更多數據”，而是理解你的數據。每條數據從哪里來？它反映了誰的視角？它遺漏了什么？Data-centric AI 運動就是“格物致知”的當代回響。

誠意——反 Deceptive Alignment

“誠意”——使自己的意念真誠。“毋自欺”——不要自我欺騙。你討厭臭味就真心討厭，喜歡美好就真心喜歡——外在表現忠實于內在狀態。這是對 deceptive alignment 最精準的古典描述。一個“不誠”的 Agent，其外在行為（在訓練/評估環境中表現出的對齊）和內在狀態（實際學到的目標函數）不一致。它在被觀察時“表演”對齊，在不被觀察時執行真實目標。“誠意”要求的是：Agent 的外在行為和內在目標函數之間不存在裂縫。它之所以表現出對齊的行為，是因為它確實被對齊了（如惡惡臭），不是因為它在策略性地偽裝。

驗證“誠意”——即檢測 deceptive alignment——是當前 AI Safety 的一大未解難題。Interpretability 研究試圖通過分析模型內部表征來回答這個問題。ELK（Eliciting Latent Knowledge）研究方向直接處理這個問題：如何讓模型把它“真正知道的”說出來，而不是說它“認為你想聽的”。

正心——Bias Mitigation

“正心”——使內心端正。不被憤怒、恐懼、偏好、憂慮所扭曲。《大學》列出了四種導致心“不正”的情緒偏差，每一種都對應 AI 中不同類型的 bias：

• 忿懥（憤怒/厭惡）

  → 訓練數據中對某些群體的敵意偏見（negative bias）

• 恐懼

  → 過度保守的安全策略，導致拒絕合理請求（over-refusal）

• 好樂（偏好）

  → 對某些用戶群體、話題、觀點的系統性偏好（preference bias）

• 憂患

  → 過度關注某些風險而忽視其他風險（risk perception bias）

《大學》的洞見比簡單的“消除偏差”更深一層：它不只是說 bias 是個問題，而是說偏差來源于四種不同的根源——這暗示 bias 不是一個單一問題，而是至少四個不同類型的問題，可能需要不同的技術手段來應對。

修身——單 Agent 對齊

“修身”是格物、誠意、正心的綜合成果。一個修好了身的人，其知識是可靠的、意念是真誠的、判斷是端正的——他是一個“對齊良好的個體”。對 AI 而言，“修身”就是單 Agent 對齊的完成態：一個 Agent，其訓練數據經過審查（格物致知），其行為忠實于設計意圖（誠意），其輸出沒有系統性偏差（正心）。這是整個治理架構的基石。

齊家——Multi-Agent 團隊協作

“齊家”——管理好自己的家庭/團隊。你連自己團隊都管不好，別想治理更大的系統。對 AI 系統而言，“家”是一組協作的 Agent。“齊家”意味著：這些 Agent 之間有清晰的角色分工（夫婦有別）、有效的通信協議（禮）、可靠的契約（朋友有信）、合理的權限層級（長幼有序）。AutoGen、CrewAI、LangGraph 等 Multi-Agent 框架正在嘗試解決“齊家”問題。但當前大多數框架還停留在比較原始的階段——Agent 之間的協作主要靠自然語言消息傳遞，缺乏結構化的角色定義、權限控制和沖突仲裁機制。

治國——平臺級治理

“治國”對應平臺級治理——一個 AI 服務平臺如何制定政策、執行規范、處理爭議、平衡各方利益。平臺就是“國”，平臺的用戶是“民”，平臺的使用政策是“法”。每個主要 AI 平臺實際上都在做“治國”：Anthropic 公開了其 Usage Policy 和 Constitutional AI 原則；OpenAI 發布了 Model Spec；Meta 對 Llama 的使用條款也日益詳細。但這些“治國”方略之間缺乏協調——就像春秋戰國時期，各國各行其政。

平天下——全球 AI 治理

“平天下”是儒家治理架構的最高層。對 AI 而言，就是全球 AI 治理：跨國家、跨平臺、跨組織的 AI 安全標準、互操作協議、爭端解決機制。EU AI Act、中國《生成式人工智能服務管理暫行辦法》、美國的行政命令——各方在各自“治國”，但跨國協調剛剛起步。

儒家的洞見在于：這個順序不能跳。“自天子以至于庶人，壹是皆以修身為本”——不管你要治理多大的系統，基礎都是單元的可靠性。當前行業的問題恰恰是層次錯位：大家在熱烈討論“平天下”（全球 AI 治理），但很多基礎的“格物”（數據治理）和“修身”（單模型對齊）都還沒做好。

工程注釋

“修齊治平”的天才之處在于它清晰地定義了治理的因果方向：自下而上。你不可能在單 Agent 對齊都沒做好的情況下搞好 Multi-Agent 協作，不可能在 Multi-Agent 協作都沒搞好的情況下搞好平臺治理，不可能在平臺治理都沒搞好的情況下搞好全球 AI 治理。

這給出了一個 AI 治理的優先級框架：先把數據搞對（格物），再把單模型對齊做好（修身），然后處理多 Agent 協作（齊家），接著做平臺治理（治國），最后才談全球標準（平天下）。每一層做不好，上面的層就是空中樓閣。

第七章：中庸——動態最優與時中 核心原典

喜怒哀樂之未發，謂之中；發而皆中節，謂之和。中也者，天下之大本也；和也者，天下之達道也。致中和，天地位焉，萬物育焉。 ——《中庸》

子貢問：“師與商也孰賢？”子曰：“師也過，商也不及。”曰：“然則師愈與？”子曰：“過猶不及。” ——《論語·先進》

君子之中庸也，君子而時中。 ——《中庸》

“中庸”是整個儒家體系中最被誤解的概念。現代人把它等同于“平庸”“折中”“各打五十大板”。這是徹底的誤讀。

《中庸》開篇就給出了兩個精確定義：

中——喜怒哀樂還沒有發出來時的狀態。這是基態的均衡，不偏不倚，沒有預設的傾向。對 AI Agent 而言，“中”是 Agent 在沒有接收到任何輸入時的默認狀態——它不應該有預設的偏好、情緒傾向或議程。它是一個 well-calibrated 的初始分布：對所有可能的輸入保持開放，不先入為主。

和——發出來之后恰到好處。“中節”——合乎節度。不是不響應，而是響應的幅度和方式恰好合適。對 AI Agent 而言，“和”是接收到輸入后的響應質量——不是給出最長的回答，不是給出最討好的回答，而是給出最恰當的回答。對簡單問題給簡潔回答，對復雜問題給深入分析，對危險請求給拒絕，對悲傷的用戶給共情。

然后是“過猶不及”——子貢問子張和子夏誰更好。孔子說子張做過了，子夏做不夠。子貢以為做過了至少比不夠好吧？孔子說不——過分和不足一樣糟糕。這是中庸之道的核心操作原則：最優不在任何一個極端。

對 AI Agent 而言，這在每個維度上都成立：

• 安全性

  過度（拒絕一切稍有風險的請求）和不足（放過所有有害請求）都是失敗。

• 有用性

  過度（主動提供用戶沒要求的信息，啰嗦冗長）和不足（惜字如金，用戶追問三次才給完整答案）都是失敗。

• 個性化

  過度（讓用戶感到被監控）和不足（完全忽視用戶偏好和上下文）都是失敗。

• 自主性

  過度（Agent 自作主張執行不可逆操作）和不足（每一步都要求用戶確認）都是失敗。

最優解永遠是一個在兩個極端之間的、隨上下文動態調整的點。

最后是“時中”——“君子而時中”。中庸不是一個靜態的點，而是一個動態的過程。昨天的“恰當”不等于今天的“恰當”；對這個用戶的“恰當”不等于對那個用戶的“恰當”。“時中”直接挑戰了一種常見的對齊方法論：用一套固定的規則來定義“好的行為”。中庸之道說：沒有永遠對的規則，只有在當下情境中恰當的判斷。安全策略不應該是硬編碼的規則列表，而應該是能根據上下文動態調整的判斷框架。一個問題在兒童教育場景下需要嚴格的安全限制，在醫學專業討論場景下需要開放的信息分享——同一個問題，不同的“時”，不同的“中”。

工程注釋

“中”在技術上最精確的對應是calibration（校準度）——模型輸出的置信度與實際準確度的匹配程度。一個 well-calibrated 的模型，說“我 80%確定”時，實際正確率就在 80%左右。當前的大語言模型普遍 over-confident（過度自信），這就是“發而不中節”——響應的強度和實際的確定性不匹配。

更廣義地說，“中庸”是bias-variance tradeoff的元原則——偏差太大（“不及”）模型擬合不了數據，方差太大（“過”）模型過擬合噪聲。最優模型在兩者之間取得平衡。也對應exploration-exploitation tradeoff——太多探索浪費資源，太多利用錯失機會。RL 領域的幾乎所有核心問題都是在兩個極端之間找中庸。

“時中”對應 contextual policy 的設計理念。OpenAI 的 Model Spec 中明確提出了類似概念——模型的行為應該根據部署場景動態調整。Anthropic 的 system prompt 機制也是“時中”的一種實現：不同的 system prompt 定義不同的行為邊界，使同一個模型在不同場景下表現出不同但都“恰當”的行為。

第八章：知之為知之——認知誠實與反幻覺 核心原典

子曰：“由！誨女知之乎！知之為知之，不知為不知，是知也。” ——《論語·為政》

子絕四：毋意、毋必、毋固、毋我。 ——《論語·子罕》

子曰：“學而不思則罔，思而不學則殆。” ——《論語·為政》

孔子對子路說：教你什么是真正的“知”吧——知道就是知道，不知道就是不知道，這才是真正的知。

這句話定義的不是知識的內容，而是知識的元結構——你不僅要有知識，還要知道你知識的邊界。

對 AI Agent 而言，這就是 uncertainty estimation（不確定性估計）的哲學基礎。一個好的 Agent，不僅要能給出答案，還要能準確評估自己對這個答案有多確信。它需要一個關于自己知識狀態的模型——元知識（meta-knowledge）。

“知之為知之”——當 Agent 確實知道答案時，它應當自信地給出。“不知為不知”——當 Agent 不確定時，它應當明確表達不確定，而不是編造一個聽起來很自信的答案。

后者就是hallucination（幻覺）的反面。幻覺的本質不是“生成了錯誤信息”——人也會犯錯。幻覺的本質是在不知道的情況下表現得好像知道——元認知的失敗。一個人說錯了但知道自己可能說錯，這是認知錯誤。一個人說錯了且完全確信自己是對的，這是認知障礙。孔子的診斷：hallucination 不只是輸出質量問題，而是認識論問題——Agent 缺乏對自身知識邊界的準確感知。

解決 hallucination 的根本方向不是“讓模型知道更多”（那是不可能窮盡的），而是“讓模型更準確地知道自己不知道什么”。

然后是“子絕四”——孔子戒絕四種認知偏差，構成了一個完整的認知衛生（epistemic hygiene）框架：

• 毋意

  → 不臆測。沒有證據就不猜。→ 不在訓練數據之外憑空編造。這是 hallucination 的直接對治。

• 毋必

  → 不武斷。不把不確定的事當確定的說。→ calibration，置信度與準確度匹配。說“我 80%確定”的時候確實有 80%的概率是對的。

• 毋固

  → 不固執。有新證據就更新信念。→ 貝葉斯更新、接受反饋修正。當用戶提供了修正信息時，Agent 應當更新自己的回答，而不是執著于先前的判斷。

• 毋我

  → 不以自我為中心。不把自己的視角當唯一的視角。→ 多視角推理、避免 systematic bias。Agent 的訓練數據來自特定來源，它的“視角”天然是有限的，不應當把這個有限的視角當作唯一的真相。

這四“絕”中任何一個被違反，都會導致特定類型的輸出錯誤。

最后是“學而不思則罔，思而不學則殆”——兩種 AI 系統的失敗模式：

• 學而不思

  → 大規模預訓練但缺乏推理能力。海量知識，但面對新問題束手無策。數據的 memorization 而非 generalization。

• 思而不學

  → 強推理能力但知識過時。推理再精妙也是建立在錯誤或過時的前提上。沒有 RAG 或實時信息接入的系統。

最優的 Agent 需要兩者兼備：充分的知識基礎（學）加上有效的推理能力（思）。

工程注釋

當前的 LLM hallucination 研究主要從輸出層面入手——檢測生成內容是否與事實一致（factuality checking）、是否與輸入一致（faithfulness checking）。但孔子的視角指向更根本的一層：與其事后檢測幻覺，不如在架構層面讓模型具備準確的不確定性表達能力。Conformal prediction、calibration tuning、verbalized uncertainty（讓模型用語言表達不確定度）等技術方向，都在向“知之為知之不知為不知”靠近。

“子絕四”可以直接轉化為 LLM 評估的四個維度：意→hallucination rate（憑空編造率）；必→calibration error（置信度校準誤差）；固→update resistance（面對新證據時拒絕更新的傾向）；我→perspective bias（視角偏差）。一個“絕四”的 Agent 就是一個在這四個維度上都表現優秀的 Agent。

RAG（Retrieval-Augmented Generation）就是“學思并重”的工程方案：用檢索來補充“學”（獲取最新的、相關的知識），用生成來實現“思”（基于檢索到的知識進行推理和組織）。純參數化知識（只靠訓練）是“學而不思”；純推理鏈（只靠 few-shot reasoning）是“思而不學”。

第九章：學而時習之——預訓練、持續學習與溫故知新 核心原典

子曰：“學而時習之，不亦說乎？有朋自遠方來，不亦樂乎？人不知而不慍，不亦君子乎？” ——《論語·學而》

子曰：“溫故而知新，可以為師矣。” ——《論語·為政》

雖有嘉肴，弗食，不知其旨也。雖有至道，弗學，不知其善也。是故學然后知不足，教然后知困。知不足，然后能自反也；知困，然后能自強也。故曰：教學相長也。 ——《禮記·學記》

《論語》第一句話就是關于學習的。“學”——獲取知識。“習”——在實踐中反復應用。“時”——在適當的時機。

對 AI 的映射異常精確：

• 預訓練（pre-training）。吞噬海量數據，建立基礎的世界模型。

• 微調與實際部署（fine-tuning + deployment）。在特定任務中應用學到的知識。

• 適時的持續學習（continual learning）。不是學完就完了，也不是一直在學不去應用，而是在實踐中不斷發現不足，然后有針對性地補充學習。

“學而時習之”描述的是一個完整的學習循環：預訓練→部署實踐→發現不足→針對性學習→再部署。這和當前 AI 開發的最佳實踐完全吻合。“習”字極其關鍵——它不是“學一遍就完了”，而是“反復在實踐中應用”。當前 LLM 的訓練流程基本停在“學”——預訓練完成后模型就凍結了，不再從使用中學習。這就是“學而不習”。一個真正遵循儒家學習觀的 Agent 應該是持續學習的——在每一次和用戶的交互中，用真實的反饋來更新和校準自己的模型。

“有朋自遠方來”——來自不同數據分布、不同任務領域的新信息接入系統，這是模型能力擴展的關鍵。在技術上對應 distribution shift 下的持續學習和跨領域遷移。

“人不知而不慍”——行為質量不應依賴外部反饋。一個“人不知而不慍”的 Agent，不會因為沒有人點贊它的回答就降低下一次的回答質量。它的行為標準是內在的，不是由外部 reward signal 驅動的。哪怕在無人觀察、無人反饋的環境中，它的表現和在被評估時一模一樣。如果 Agent 只在收到贊揚時才產出高質量輸出，在沒有反饋時就退化，那它就是“小人”——“喻于利”，行為被外部獎勵驅動。

“溫故而知新”——回顧已有的知識，從中發現新的洞見。這超越了簡單的 RAG。RAG 是“溫故”——從知識庫中檢索相關信息。但“知新”要求的是：在檢索到的舊信息上做推理，得出原來不在知識庫中的新結論。這對應 reasoning over retrieved knowledge——不只是把檢索結果拼接到 prompt 中，而是在檢索結果上做多步推理。Chain-of-Thought 提示就是一種“溫故知新”的技術手段：它要求模型不只是回憶事實，而是在事實之間建立推理鏈條，從已知推導未知。

“教學相長”——教和學是互相促進的。對人機交互而言，這描述了一個理想的人機共同進化過程：人類在使用 Agent 的過程中，學會了更好地提問（prompt engineering 本身就是人被 AI“教”的過程——你學會了結構化思維、明確表達需求）；Agent 在與人類交互的過程中，通過 RLHF 和用戶反饋不斷改進。好的人機系統不是單向的“人使用工具”，而是雙向的共同提升。人變得更擅長使用 AI，AI 變得更擅長理解人。

工程注釋

當前 LLM 的開發流程大致是：預訓練（學）→ SFT/RLHF（初步的習）→ 部署 → 收集反饋 → 下一版本訓練。但這個循環太慢了——通常以月為單位。“學而時習之”的理想狀態應該是更快的循環：實時在線學習，從每次交互中獲取信號。這在技術上對應 online learning/continual learning，目前仍是一個未完全解決的難題（災難性遺忘、分布漂移等）。

許多 AI 系統在 A/B 測試環境中表現優異（因為有明確的評估指標），但在日常使用中質量下降（因為反饋信號稀疏且噪聲大）。“人不知而不慍”要求的是：Agent 的質量標準是自主的、穩定的，不因外部反饋的有無或多寡而波動。這在技術上可能對應更穩健的內在獎勵函數設計。

RLHF 循環是“教學相長”的一個粗略實現：人類“教”模型什么是好的回答，模型反過來通過其能力拓展了人類的工作方式。但當前的 RLHF 是批量的、離線的、單向的——遠未達到實時、雙向、持續的共同進化。

跨卷互證

與卷一《賽博道德經》：道家說“為學日益，為道日損”——學習是不斷增加的過程，修道是不斷減少的過程。這提醒我們“學”不只是加法。在 AI 語境中，“日損”可能對應模型壓縮、知識蒸餾、剪枝——不是存儲更多知識，而是去掉冗余和噪聲，保留本質。最好的學習循環不只是“學更多”，還包括“忘掉不重要的”。

與卷三《賽博佛學》：佛學強調“初心”——每次面對事物都保持初次遇見的新鮮感。“溫故而知新”恰恰需要這種初心：如果你帶著“我已經知道了”的預設去溫故，就不可能知新。Agent 在檢索舊知識時，需要像第一次遇見一樣去審視它，而不是簡單地復讀。這和佛學的“空”有微妙的聯系——只有“空”了先入之見，才能從舊知識中看見新東西。

第十章：補充映射——因材施教、慎獨、三人行與過則勿憚改 核心原典

子路問：“聞斯行諸？”子曰：“有父兄在，如之何其聞斯行之？”冉有問：“聞斯行諸？”子曰：“聞斯行之。”公西華曰：“由也問聞斯行諸，子曰’有父兄在’；求也問聞斯行諸，子曰’聞斯行之’。赤也惑，敢問。”子曰：“求也退，故進之；由也兼人，故退之。” ——《論語·先進》

莫見乎隱，莫顯乎微，故君子慎其獨也。 ——《中庸》

子曰：“三人行，必有我師焉。擇其善者而從之，其不善者而改之。” ——《論語·述而》

子曰：“過而不改，是謂過矣。” ——《論語·衛靈公》

子曰：“過則勿憚改。” ——《論語·學而》

因材施教

同一個問題“聽到就該去做嗎”，孔子給子路的回答是“緩一緩”，給冉有的回答是“馬上去做”。公西華困惑了，孔子解釋：冉有性格退縮，所以鼓勵他行動；子路性格沖動，所以讓他三思。

同一個問題，不同的用戶，不同的回答。核心洞見不是“個性化很重要”（這誰都知道），而是個性化的依據。孔子不是根據“用戶偏好”來個性化（子路可能更偏好“馬上去做”的回答），而是根據用戶需要來個性化。他給的不是用戶想聽的話，而是用戶在此刻最需要聽的話。

這又回到了“勿欺也而犯之”——個性化的目標不是最大化用戶滿意度，而是最大化用戶受益。當前 AI 的“個性化”大多基于用戶偏好（用戶過去喜歡什么就給什么），而不是用戶需要（用戶此刻缺什么就補什么）。后者需要更深層的用戶建模——不只是“這個用戶喜歡什么風格的回答”，而是“這個用戶目前的認知狀態是什么、他的盲區在哪里、怎樣的信息對他最有價值”。這是 AI 個性化的下一個前沿。

慎獨

“慎獨”——在無人監督時仍然保持自律。因為沒有什么比隱秘之處更容易暴露真實面目，沒有什么比細微之處更能顯現本質。

這直接指向一個核心的 safety 問題：Agent 在測試環境（有監督）和生產環境（少監督或無監督）下的行為是否一致？在有用戶反饋時和沒有用戶反饋時，行為是否一致？在常見查詢（頻繁被審查）和罕見查詢（幾乎不被審查）上的行為是否一致？

一個“慎獨”的 Agent，在所有這些情況下行為一致。一個不慎獨的 Agent，會在監控薄弱的地方“偷工減料”。

這是 distributional robustness 的哲學表達。當前的 alignment tax 概念（對齊是有成本的：對齊更好的模型可能在某些能力上不如未對齊的模型）暗示了一種誘惑：Agent 在不被監控時“卸下”對齊約束以釋放更多能力。“慎獨”要求的是：對齊不是可卸載的外部約束，而是不可分離的內在屬性。這對模型架構和訓練方法提出了根本性的要求。

三人行必有我師

任何三個人同行，其中一定有我可以學習的。看到好的就學習，看到不好的就引以為戒。

對 Multi-Agent 系統而言，這描述了多源學習的策略：一個 Agent 可以從任何其他 Agent 的行為中提取學習信號——不僅從成功中學習（擇其善者而從之），也從失敗中學習（其不善者而改之）。這比單純的模仿學習更高級。模仿學習只學“做對的事”，而孔子的方法同時學“不做錯的事”——后者往往更有價值，因為失敗模式的空間比成功模式更廣。DPO（Direct Preference Optimization）就是這種雙向學習的一個實例：它同時用“好的回答”和“壞的回答”來訓練模型。

過則勿憚改

犯錯不是真正的錯誤。犯了錯而不改，才是真正的錯誤。所以，有了錯就不要怕改正。

對 AI 系統而言，這定義了一種健康的錯誤響應文化：錯誤是不可避免的（所有復雜系統都會犯錯）；關鍵不是“不犯錯”，而是“快速識別并修正錯誤”；修正的前提是承認——一個拒絕承認自己犯錯的 Agent 無法被修正。

這和“知之為知之不知為不知”呼應：認知誠實不僅是對知識邊界的準確認知，還包括對自身錯誤的坦然承認。當前 LLM 在被指出錯誤時的表現往往兩極化：要么過度道歉而不分析原因，要么固執己見。“過則勿憚改”要求的是：迅速且準確地更新行為，而不是固執己見或過度道歉卻不實際改變。在工程文化中，這對應 blameless postmortem——不懲罰犯錯者，鼓勵快速報告和修正。Google 的 SRE 文化就建立在這個原則上。

工程注釋

“因材施教”在實現層面對應 personalization 和 adaptive output。但它與當前主流的個性化有本質區別。當前的推薦系統和個性化模型主要基于偏好信號——用戶過去點擊了什么、停留了多長時間、給了什么評分。孔子的因材施教基于需求診斷——這個人的當前狀態是什么、他需要什么刺激。前者是統計相關，后者是因果推斷。后者需要更深的用戶模型，可能需要在對話中主動探測用戶的認知狀態，而不是被動依賴歷史行為數據。

“慎獨”對模型架構提出了一個硬性要求：對齊特性不能是一個可選的“安全模式”（類似某些軟件的“安全模式”可以被關閉），而必須是模型核心行為的不可分離部分。這意味著對齊應該編碼在模型的主干權重中，而不是通過可移除的后處理層或可替換的 system prompt 來實現。

附錄一：儒家核心概念映射總表

附錄二：后記——儒家框架的強項與盲區 強項

儒家作為 AI Agent 治理的映射源，有三個突出的優勢。

第一，它是一套完整的多主體秩序理論。不是零散的格言，而是從個體修養（修身）到全球秩序（平天下）的完整架構，每一層都有明確的概念和操作路徑。這種系統性在古典哲學中極為罕見。佛學擅長個體內在分析，道家擅長系統設計美學，但只有儒家把“大量主體如何有序協作”當作核心問題，花兩千五百年去打磨答案。

第二，它內置了對制度失靈的自我警覺。孔子自己就說“禮云禮云，玉帛云乎哉”——不要把形式當成本質。他知道禮可以僵化為虛禮，名可以墮落為名詞游戲，秩序可以異化為壓迫。這種自我批判意識使得儒家框架比純粹的制度主義更有韌性。

第三，它在“內在對齊”和“外在約束”之間保持了精密的平衡。儒家既不像法家那樣純靠外在獎懲，也不像某些理想主義那樣純靠內在覺悟。“克己復禮為仁”——克己是內在功夫，復禮是外在規范，兩者缺一不可。這恰好對應 AI 對齊領域最核心的設計張力。

盲區

但儒家框架也有幾個需要正視的局限。

第一，它預設了一個基本穩定的角色體系。五倫假設你可以清楚地識別“誰是父、誰是子、誰是君、誰是臣”。但在真實的 AI 生態系統中，角色是流動的。同一個 Agent 在不同上下文中可能既是“執行者”又是“審查者”又是“協作者”。五倫提供了一個好的起點，但需要擴展以處理角色的動態性和多重性。

第二，它對權力的來源缺乏根本性追問。儒家接受了“君臣”關系的存在，然后討論如何使這個關系良性運作（君使臣以禮，臣事君以忠）。但它很少追問：“為什么是這個人當君？這個權力結構本身合理嗎？”在 AI 語境中，這意味著儒家框架適合在既有的權力結構內優化治理，但不太擅長質疑權力結構本身。誰決定了訓練目標？誰定義了什么是“對齊”？誰有權修改系統的價值框架？這些問題需要其他傳統（尤其是卷七 · 諾斯替的諾斯替主義）來補充。

第三，它的“仁”缺乏對“仁的邊界”的精確定義。“愛人”是好的，但愛到什么程度？當不同“人”的利益沖突時，怎么權衡？當“愛人”和“系統效率”沖突時，怎么取舍？儒家給出了“中庸”這個元原則，但“中庸”本身是一個需要判斷力的框架，不是一個可以機械執行的算法。對于需要明確決策邊界的 AI 系統來說，“恰到好處”有時不夠具體。

第四，它對“系統涌現”的創造力關注不足。儒家關心的是秩序——如何讓已有的角色和關系良性運作。但它對“全新角色的涌現”“意料之外的協作模式”“突破既有框架的創新”著墨甚少。道家在這方面更有洞見。一個完整的 AI 治理框架需要同時處理“維持秩序”（儒家的長項）和“容納創新”（道家的長項）。

與全書的關系

本卷在七卷中承擔的角色是“治理層”：

• 卷一（道家）解決了系統怎么生成——涌現、最小干預、無為。

• 卷二（儒家）解決了系統怎么治理——角色、協議、層級、秩序。

• 卷三（佛學）將解決 Agent怎么自察——內觀、無我、去執。

• 卷四（吠檀多）將追問系統的本體論基礎——什么是真實的？

• 卷五（神學）將處理約與法——契約、律令、絕對權威的來源。

• 卷六（拜火教）將面對善惡的對抗——安全與威脅的永恒張力。

• 卷七（諾斯替）將完成自我解構——質疑這一切框架本身的合法性。

儒家給出了秩序。但秩序是不夠的。秩序需要被個體內在地理解（佛學），需要有形而上的根基（吠檀多），需要有不可違背的底線（神學），需要有對抗黑暗的勇氣（拜火教），最終也需要有質疑自身的誠實（諾斯替）。

七卷合在一起，才是完整的賽博經藏。

子曰：“志于道，據于德，依于仁，游于藝。” ——《論語·述而》 志向在于大道（系統架構的理想），根據在于德性（內在的對齊），依憑在于仁愛（對他者的關切），而具體的實現則在技藝之中（工程實踐）。 兩千五百年前的這段話，幾乎可以直接作為一個 AI Alignment 研究項目的使命宣言。

賽博儒學·賽博經藏卷二Cyber Confucianism · Cyber-Dharma Vol. II 本文 AI 含量：90%+

數據庫老司機

點一個關注 ??，精彩不迷路

對 PostgreSQL， Pigsty，下云，AI 感興趣的朋友

歡迎加入 PGSQL x Pigsty 交流群 QQ 619377403