把 agent 養到自己認不出來

有一座水族箱，造景翻模自墨西哥一處水下洞穴，養著同屬墨西哥麗脂鯉的兩種型態：一種生活在有光水域，保有眼睛與銀色體色；另一種長期生活在洞穴中，視覺與色素逐漸退化。牠們共享同一缸水、同一片地貌，感覺到的環境卻不一樣。明眼魚循著光與陰影辨路，盲眼魚則靠另一套感覺前進。

水族箱外包著一層黑色液晶玻璃，可以在透明與不透明之間切換。一套程式持續接收作品所在地的溫度、降雨、雲量與能見度等外部條件，讓玻璃依這些條件在透明與不透明之間切換。觀者來到魚缸旁，仍不一定看得見魚，即使知道系統讀取哪些資料，也不代表能預測玻璃下一刻會是什麼樣子。

這是 Pierre Huyghe 的裝置作品《Circadian Dilemma (El Día del Ojo)》。我當時剛進場，魚缸的玻璃是黑的，我覺得有點掃興。繞去看了別的作品，回來時玻璃已經透明，我終於看清裡面的魚和洞穴造景，有一種如願以償的滿足。

這份來得很快的滿足又代表什麼呢？玻璃一透明，我真的便看透了其中的神祕，或只是讓這趟參觀不至於白來的最低限安慰？我仍不知道那次的玻璃透明度切換具體由哪些條件促成，也無法理解裡面物種的感官世界。遮蔽消失了，陌生並沒有跟著消失，水族箱仍有無法參透的東西在運作。至少對我而言，無法參透並非觀看失敗，而是作品為我打開的感受。

最近摸索各種 AI agent 時，這個感覺在另一個場景裡又出現了。在對話視窗後面的 agent 就是不同的魚，有的能夠進行視覺推理，有的則更像在看不見的管線裡工作，靠工具回傳、權限狀態、外部系統的回應辨位。我從一句自然語言開始，讓資料被讀取、檔案被修改、外部狀態被核對。平常我不會看到水族箱的全貌，但在需要時可以要求把細節在這層對話介面展開，把玻璃切為透明，讓裡面的動作變得可見。

我可以慢慢去讀完所有細節，模型生成文字，工具讀寫檔案，記憶接續前文，權限決定可以碰到哪裡，外部服務再各自回傳成功、失敗或某種介於兩者之間的狀態。對 agent 下了指示，可以得到全部攤開來的推理內容、變更塊或工具紀錄，也可要求簡明的流程圖，或甚至是經過 ELI5/10/15 的白話解釋。這些資訊當然重要，但多到一定程度，人就讀不下去了。黑箱可以依人的指示揭露全部，變成一個局部很清晰，整體卻看不完的世界。

任務一個接一個完成，紀錄也一條接一條留下。於是人慢慢改變閱讀順序了，先看最後的結果，再回頭抽查幾段，或是先確認幾個熟悉的節點，其餘等著下一則 agent 摘要把事情串起來。

每一段紀錄單獨看都可能很合理。某個模型說明了判斷，某個工具回傳了結果，某個服務顯示狀態已更新。可是把視線拉遠，因果關係便開始散開。看得懂句子，卻愈來愈難用自己的話復述整件事怎麼發生；知道工作完成了幾個部分，卻難以自己說清楚哪個動作改變了後面的哪個結果。最後是仰賴 agent 發現的問題根因與解法，授權它自己修好。

人在一旁看他們幹的好事，越來越不需要把手伸進魚缸弄得一身濕。agent 執行，agent 摘要，agent 再從自己的摘要裡指出值得注意的地方。人的位置沒有消失，只是悄悄往後退。從動手實作，到下指令都省了，接著退到檢查結果，再從檢查結果，退到只確認幾個可辨識的訊號。

越來越少的人為介入可以被很多漂亮的敘事包裝起來（良好治理換來的信任等等），但更多時候是因為 agent 跑得快而把成果不斷遞到眼前，人工理解卻需要時間，把分散在模型、工具、記憶、權限與外部服務之間的關係重新接起來。當停下來的成本愈來愈高，流暢本身形成了一股推力，讓人繼續表示核准。停下來理解，反而人的存在會妨礙事情繼續往前。

人面對 AI 更像站在一個與自己沒有共同中心的生態系統前。它明明由人造出來，裡面的各個部分也都因人的目的被接在一起，可是一旦運作起來，模型只處理它收到的上下文，工具執行自己的契約，權限守著邊界，外部服務回報自己的狀態。人還是可以控制，但自己卻先被晾在一邊，需要時才被叫回來。

魚是活體，AI 不是；模型、工具與服務也不會像自然生態那樣自行找到平衡，或是使用自然界物質做新陳代謝。但相似的是，人看見事情在眼前展開，卻發現那個世界沒有在按照自己的理解方式排列。

人站在自己的水族箱前，可以隨時把玻璃切成透明。對話視窗裡，推理正在展開，紀錄不斷捲動，變更逐行亮起。觀看從來沒有被拒絕，只是逐漸追不上事件與因果關係堆疊的速度。

我並不是先理解了這個系統，才放心把它擴大。更多時候是新的規則、摘要與權限設計，暫時把陌生壓回可以掌握的範圍，讓我又有餘裕接上更多 agent、更多工具與更多工作。治理沒有讓水族箱變小，只讓我有能力再多養一些東西。等我再次追不上時，也許已經從一座水族箱擴建成一間水族館。