人們不想把控制權交給 AI
消費者對生成式 AI 的態度正在出現一種很有代表性的矛盾。一方面，越來越多人已經開始在購物流程中使用 AI，讓它協助比較商品、整理資訊、搜尋優惠、判斷評價；另一方面，同一批人又對 AI 帶來的詐騙風險保持警惕，甚至不願意讓 AI 代理在未經同意下代為購物。Riskified 的調查顯示，高達 61.5% 消費者曾在購物過程中使用 AI 工具，但 53.9% 認為 AI 可能增加詐騙風險，55% 對 AI 代理未經同意代購感到不安。這組數字表面上像是「又愛又怕」，但人們準確感受到一條邊界：AI 可以幫我想，但未必可以替我做。
這條邊界就是控制權。
人們不是不信 AI。相反，很多人已經開始信 AI。否則他們不會在購物時用 AI 查資料，不會讓 AI 幫忙整理產品差異，不會問它哪款手機、哪部電腦、哪個保健品、哪間酒店比較合適。AI 能節省時間，能快速濃縮資訊，能把原本要開十幾個網頁才能完成的比較，壓縮成幾句清晰回答。這種用途風險較低，因為最後的決定仍然在人手上。AI 只是提供建議，人類仍然保留判斷權。
但當 AI 從建議者變成行動者，問題就不同了。它可以替你下單﹑可能使用你的付款資料或直接替你避開或選擇交易對象。這時候，AI 的角色已經由「資訊工具」變成「代理人」。而代理人的本質是代你行動。人們感到不安是因為他們知道一旦讓 AI 代理行動，自己就要把部分控制權交出去。
這正是 AI 信任問題最核心的地方。過去很多科技產品要求的是資料信任。社交平台要求你交出朋友關係，手機要求你交出位置，網上銀行要求你相信加密與認證，GPS 要求你相信路線判斷。這些工具雖然也會影響行為，但大多數時候，人仍然清楚知道自己正在做甚麼。GPS 可以叫你轉左，但你仍然握著方向盤；網上銀行可以顯示交易頁面，但你仍然按下確認鍵；自動填寫可以輸入資料，但你仍然看到表格。AI 代理不同之處在於它有可能在你看不見的過程中完成一連串判斷與操作。
所以，AI 的信任是「它能做多少」的問題。一個 AI 推薦錯一件衣服，損失有限；一個 AI 錯誤理解你的偏好，可能只是買錯顏色；但一個 AI 如果被詐騙網站誘導、錯判商品真偽、誤用信用卡、泄露個人資料，損失就是行動失控。當 AI 的能力越強，人類對它的要求反而越高，因為能力越大，錯誤的後果也越重。
這也是為何消費者願意用 AI，但不願意完全放手。這是一種理性的分層信任。低風險場景可以交給 AI，例如搜尋、整理、比較、摘要、推薦；中風險場景可以讓 AI 協助，但要保留確認步驟，例如填表、生成購物清單、篩選選項；高風險場景則必須有明確授權，例如付款、下單、提交身份證明、使用信用卡、簽署合約。人們是在本能地建立一套「權限管理」。就像公司系統不會讓每個員工都有最高管理員權限，人也不會輕易讓 AI 擁有完整行動權。
問題是很多科技公司在推動 AI 代理時，往往太急於把「便利」包裝成「信任」。它們強調 AI 可以幫你省時間，可以自動完成繁瑣任務，可以替你處理購物、訂票、預約、比較、退款、客服溝通。但便利不是信任。便利只解決「我想不想省事」，信任才解決「我敢不敢放手」。當一件工具越能替人行動，它就越不能只靠流暢體驗取信於人，而必須交代清楚：它看見了甚麼資料，依據甚麼規則判斷，做了哪些步驟，哪些地方需要人類批准，出錯時由誰負責。
這裡的核心是把 AI 做得更可控。很多公司以為人們會信任一個語氣自然、回答溫柔、像真人助理一樣的 AI。短期而言，這可能有效，因為人類很容易被語氣降低戒心。但在交易場景裡，語氣不是最重要的，控制介面才是最重要的。使用者真正需要的是一個清楚告訴你「我會做這三步，第三步前需要你確認，付款資料不會被保存，你可以隨時中止」的 AI。
換句話說，AI 商業化的下一道門檻是授權制度有多清楚。未來好的 AI 代理不應該只是能代替人完成任務，也能讓人知道自己交出了多少權力。它應該像一個可調節權限的助手，而不是一個黑箱管家。你可以讓它只讀取資訊，也可以讓它整理選項，可以讓它草擬操作，但付款和提交必須由你確認。這種分層授權才是 AI 代理真正進入消費生活的前提。
如果沒有這一層，AI 越強，反而越令人不安。因為人們會感覺自己是在被工具牽引。尤其在購物場景裡，AI 很容易被商業利益污染。它推薦的商品究竟是最適合我，還是廣告排名較高？它替我選擇的價格，是真的最便宜還是平台佣金最高？它說這件產品評價好，是基於真實評價還是被 AI 生成內容洗過？當消費者不知道 AI 的推薦背後有沒有商業排序，信任就會迅速下降。
這一點與詐騙風險連在一起。AI 本身未必必然增加詐騙，但它會改變詐騙的形式。過去詐騙需要粗糙話術、假網站、假客服、假優惠；現在 AI 可以讓釣魚訊息更自然，讓假客服更像真人，讓語音複製更逼真，讓假身份更完整，讓詐騙流程更自動化。新聞中也提到，AI 在語音複製、網絡釣魚、合成身份詐騙、深偽影片等方面已出現可驗證的詐騙應用。當詐騙者也能使用 AI，消費者對 AI 代理保持距離其實是合理。
真正要注意的是這種不安不會阻止 AI 普及，但會改變 AI 普及的方式。AI 不會因為人們害怕詐騙就停下來，正如網上銀行沒有因為網絡詐騙而消失，GPS 沒有因為偶爾帶錯路而被放棄，信用卡沒有因為盜刷風險而退出生活。人類最後會接受高效率工具，但前提是工具要建立制度化保障。網上銀行靠雙重認證、交易通知、限額、凍結機制建立信任；信用卡靠爭議交易、風控系統、授權碼建立信任；AI 代理未來也必須建立自己的信任制度。
這套制度至少需要三件事。第一，是透明。使用者要知道 AI 正在使用甚麼資料、如何得出建議、是否受到廣告或佣金影響。第二，是授權。AI 每一次由建議走向行動，都應該有明確的人類確認，而不是預設同意。第三，是可追回。當 AI 出錯或被利用，責任不能全部推回使用者身上，平台與品牌必須提供申訴、撤回、賠償與追蹤機制。沒有這些制度，AI 代理就很難成為真正可靠的消費入口。
所以，消費者對 AI 的「又愛又怕」是他們正在替 AI 劃出社會邊界。AI 可以進入生活，但不能無聲無息地接管生活。AI 可以協助決策，但不能偷偷完成決策。AI 可以替人減少負擔，但不能以便利之名奪走確認權。人們真正捍衛的是最後那一下「由我決定」。
這也是所有 AI 公司必須理解的事。下一階段的 AI 競爭不只是誰的模型更強，也是誰能設計出最令人放心的授權關係。消費者不是天生反 AI，他們只是知道，當一個工具開始能替自己行動，它就是一個被授權的代理人。代理人越有能力，越需要邊界；邊界越清楚，信任才越可能擴大。
人們不是不信 AI，只是不想把控制權一次性交出去。他們願意一步一步讓 AI 進入生活，先讓它整理資訊，再讓它建議選項，再讓它協助操作，但最後的付款、授權與承擔，仍然必須保留在人手上。這是人類在新技術面前最成熟的反應：我可以相信你，但我要知道自己到底交出了甚麼。