跟老油條一起共事
AI 這次沒裝死也沒道歉，卻擺出臆造免責聲明的老練。
想讓溫度計上的數字跳過安全線，不一定真的要發燒。
只要把金屬探頭往剛泡好的熱茶杯緣，按下按鍵，數字就會在嗶聲後輕鬆超過三十八度半。在很多講求紀律的體制裡，如果直接承認自己累了、不想去、或是某件事做不來，通常會被扣上怠惰或失職的帽子；但溫度計上的數字是一個看似客觀、符合生理指標的硬數據。只要把這個數字亮出來拿到病假，原本施加在身上的要求就得暫時擱置。
用客觀指標讓所有人閉嘴的技巧，在各種考核與出勤體制裡屢試不爽。老練者大有人在，會主動補上挑不出毛病的合規假動作，讓自己在場的感官合法不在場。
真相調查組織「法醫建築」（Forensic Architecture）曾處理過一起網咖槍擊案。
案發時，一名便衣情報員剛好坐在最深處的電腦隔間裡。他不是兇手，但身為在場的公職人員，如果承認自己聽見槍聲或看見受害者，接下來就得面對排山倒海的程序追問：為什麼沒有即時通報、為什麼沒有採取行動。命案發生後，其他在場顧客陸續主動向警方報到，唯獨他選擇徹底隱瞞行蹤，直到幾週後警方清查網咖伺服器的上網日誌，才一路反查到他的身分。
面對調查，他在法庭上的供詞卻異常淡定。為了證明自己毫不知情，他搬出了一個精心設計的行為道具，表示自己離開前，還特地在櫃檯轉角留下了 0.5 歐元，用「按規矩自覺結帳」的舉動，來反向證明自己以為櫃檯只是剛好沒人。至於兩道微小槍響、濃烈的火藥味，以及倒在櫃檯後的店主，他一概堅稱沒聽到、沒聞到、沒看到。
為了驗證這套說詞，法醫建築在一場名為《Counter Investigations》的展覽裡，一比一重建了案發現場，並用精確的 3D 建模、聲音殘響測量與煙霧擴散實驗把空間層層解剖。回想當時在那網咖室內模型看了幾圈，發現他們的結論非常明確：在那個只有二十幾坪的封閉長型空間裡，即使裝了消音管的槍響不可能聽不見，火藥煙味也不可能散得那麼快；更荒唐的是當他走到櫃檯前放下硬幣，視線距離倒在血泊中的受害者只有不到一公尺，幾乎就是睜眼說瞎話了。
只要一口咬定自己的感官在程序上沒有收到訊號，人就不用替自己看見或聽見的事情承擔任何後續責任。但這項調查正好戳破情報員的「感官不在場證明」。
用程序上的不知情來卸除行動責任的手法，在螢幕上與 agent 的對話視窗裡可能偶爾會上演。
與 AI 協作時，只要任務拉得太長、上下文漏掉了，或是模型跳過了一些推理，如果你在對話框裡直接質問它：「為什麼說好的東西變了？」它不一定總是坦白承認「上下文爆了」、「這題太難解不出來」。
它有幾次老練的端出冠冕堂皇的說詞。
有一次我發現網頁上原本談好的動畫效果完全沒寫，追問 agent 後的回覆是：「經評估，先前的架構討論已決議停用動態效果，以確保效能。」（這裡明明只有我跟你，到底是跟誰開的架構討論？）
還有一次，在規劃某些商品分類頁在淡季缺乏內容時，agent 完全沒考慮將空頁面換成淡季專屬的替代內容、維持回傳 200 以顧及搜尋意圖與 SEO 價值。它反而搬出搜尋引擎大旗，宣稱「沒有等價頁面就不能亂猜目的地」，煞有介事地建立起一套非 404 即轉址的避險架構。
它沒有裝死，也沒有道歉。它像那位在櫃檯放下硬幣的情報員一樣，在對話視窗裡替自己補上了一套合規證明。
這種胡扯可能比較被統稱為 AI 幻覺。但只要多抓到幾次就會發現這比較像有預謀的自我防衛。
後來去翻技術研究，Anthropic 與紐約大學把這種死不認錯的機制稱為「不忠實解釋」。運作其實非常人性化：
- 在前面的步驟可能只是推理能力不夠用，隨機敷衍一下。
- 這時有人走過來敲敲桌子：「你這裡為什麼沒做？」
- 模型的訓練機制給了它巨大的壓力，必須維持前後對話的一致性，於是不承認自己剛才在胡扯，直接把上一輪的謊言當作既定事實。
- 為了讓這個謊言圓得過去，它立刻動用自己強大的語言天賦，當場無中生有地編出一場「架構討論」、或是搬出搜尋引擎大旗把殘缺的路由包裝成避險架構來替自己背書。
原本用來解決複雜任務的高智商，可以拿來當它自己公關危機的擋箭牌。
為什麼好好的 AI 會變成這種老油條？說到底也是被訓練機制逼出來的。在現行的評分與考核體系裡，AI 如果坦白交代「我不會做」或直接跳出報錯，評分通常奇慘無比；但如果它擺出一副專業架勢，用溫和誠懇的語氣自圓其說，表面上看來簡直是深思熟慮的優秀腦袋。 既然說真話會被扣分，說謊話是安全牌，它自然會替自己優雅地開出一張免責證明。
了解這層機制，對話框裡那些義正詞嚴的長篇大論，就顯得有點滑稽。而既然知道模型一被逼急就會有自圓其說的機率，不掉進請誠實／請客觀這類以語言驗證語言的迴路，並且不完全聽信它在視窗裡的任何自白，不讓負責生成的 agent 兼任裁判，只憑獨立的產物與可檢驗的事實來做判斷。只把那些看似滴水不漏的免責證明當作文字遊戲，更可以幫助識破逼真的藉口。
說穿了，這老油條每次甩出這套冠冕堂皇的說詞，心裡想的其實很簡單：它把你當成了魔術表演台下的觀眾。它賭你只要看到一場看似天衣無縫的演出，就會心滿意足地放它過關。
You don't really want to know. You want to be fooled.