程式接管人類行為的邊界

文明正在從「社會規範」轉向「計算規範」

過去的行為規範依賴文化、道德與制度，這三者都建基於人類的判斷、語言與情緒。當文明進入高密度互聯的階段，這些傳統規範已不足以處理：

    - 數據量的增加

    - 行為複雜度

    - 群體規模

    - 跨領域的風險

為保持穩定，文明開始把規範邏輯轉移到演算法、模型、計算框架。規範由人制定，改為由系統推算。行為的合理性由道德定義改為由風險計算界定。

算法的本質：行為的「預測化」與「一致化」

任何算法都由三個部分構成：

    - 監控︰取得行為資料

    - 推算︰找出模式與風險

    - 介面︰引導行為落入可控範圍

算法不會決定個人品格，只會控制行為分布。

文明採用算法的原因並不複雜：算法可以降低變異。當變異降低後：

    - 決策更快

    - 風險更低

    - 監督更容易

    - 資源更可預測

可見算法是一致性的工具。

算法治理的優勢：從情緒化決策變成模組化調控

算法能取代傳統規範，基於三個結構條件：

1. 它能「實時觀察」︰人類制度靠事件，算法制度靠流動的資料。

2. 它能「跨尺度預測」︰人類只能理解具體事件，算法能同時計算個體、群體與全域層級。

3. 它能「統一行為邊界」︰制度制定規矩，算法制定可能性範圍。

算法不需語言及共識，只需資料。

邊界之一：算法可以管理行為，不能管理目的

文明可把行為規範交給算法，但無法把目的交給算法，原因很清晰：

    - 行為是外部模式

    - 目的屬於內部結構

    - 行為可運算

    - 目的無法以資料推導

無論算法多強，都無法決定個人真正追求甚麼﹑文明的最終方向及甚麼是「應該存在」的價值，由此，算法可以規範動作，但不能建立價值。

邊界之二：算法可以壓縮選擇，不能建立意志

當行為被算法規範，選擇數量會下降，但選擇下降不等於意志消失。

意志是一個內部動力系統，包括：自我模型﹑時間連續性﹑目標生成及方向一致性，這些結構不會因介面提示而被替代。算法可以限制行為，但不能消除主體。主體性會自動尋找縫隙，以重新建立能動性。這是算法治理永遠無法跨越的邊界。

邊界之三：算法可以優化效率，不能承載衝突

文明運作必然包含：利益衝突﹑價值矛盾﹑不完全資訊及立場角力，這些矛盾需要的是政治處理，而非運算優化。算法能處理一致性問題，但不能處理對立問題。當不同價值體系的衝突出現，算法無法立場中立，只能執行制定者的方向，所以算法是擴散衝突，這是所有文明都必須面對的代價。

邊界之四：算法可以模擬行為，但不能預測異常

算法的預測能力依賴於歷史資料，但文明真正的轉折點來自資料之外，例如：

    - 新的思想

    - 新的行動方式

    - 非典型事件

    - 非標準化的個體

    - 完全未知的技術

任何突破文明的事件都是異常事件，異常本質上無法被模型捕捉。文明越依賴算法，就越無法理解異常，而異常正是文明進化的來源。

結語：算法能接管行為，但不能接管文明

總結算法文明的邊界：

    - 能統一行為，不能統一目的。

    - 能壓縮選擇，不能抹掉意志。

    - 能預測常態，不能理解異常。

    - 能管理秩序，不能管理衝突。

    - 能取代英雄，不能取代主體。

所以算法文明是一種「行為管理文明」，不是「價值管理文明」，它使文明變得可控，但不會讓文明變得更完整。真正決定文明方向的是意志，算法最多只是外層框架，意志才是人類文明的中心。故此，文明可以被程式穩定，但不能被程式定義。