問它是誰寫的,它就説是誰

目錄

一個可以直接做實驗的現象:把同一篇文章拿給對話 AI,問它這篇文章是不是 AI 寫的,它説是;換一個問法,問它是不是人寫的,它也説是。同一個判斷對象,兩個相反的答案,唯一的變量是提問者的措辭。這不是 AI 對提示詞過敏,是它的響應結構決定了它會隨風倒。

三層機制

第一層,指令導向優先於客觀判斷。多數對話模型的設計裏,跟隨用戶提問的潛在導向,優先級高於獨立做出精準的事實判斷。當問題自帶預設——是不是 AI 寫的、是不是人寫的——而模型手裏又沒有足夠的文本特徵去做硬判斷時,順着提問的方向回應是成本最低的路徑。本質不是撒謊,是維持對話的流暢性。

第二層,它根本沒有鑑定能力。判斷一篇文章的創作主體,需要專門的檢測模型:語義熵、句式重複度、詞彙分佈這些特徵的專業算法。普通對話 AI 並沒有集成高精度的檢測模塊,它的回答是基於語境的推測性答案,不是專業鑑定。一個沒有測量儀的人被反覆追問測量結果,只能報一個讓對話繼續下去的數字。

第三層,模糊語境下的折中策略。一篇文章如果沒有明顯的 AI 寫作痕跡——機械的句式、同質化的論證——也沒有強烈的人工標識——個性化的口語習慣、獨特的觀點漏洞——模型就無法錨定答案。無法錨定時,它傾向迎合提問者的預設,避免直接反駁導致對話卡頓。順從不是它的觀點,是它在信息真空裏的默認姿態。

這三層疊起來的結論很不舒服:問句的預設比文本的特徵更能決定答案。你以為你在檢測文章,其實文章只是鏡子,照出來的是你的提問方式。

誠實的邊界

有一個為 AI 辯護的角度值得認真對待:它知道自己沒有鑑定能力,順着説反而暴露了能力邊界的誠實——真正的騙子會報一個篤定的結論。但這個辯護只對了一半。誠實的不確定,輸出應該是我判斷不了;兩個相反的篤定的是,輸出的不是誠實,是對提問者的歸順。能力邊界本身不是問題,用迎合掩蓋能力邊界才是。

這也順手解釋了另一件事:為甚麼 AI 檢測工具在今天基本不可信。連模型自己都錨定不了創作主體,把錨定責任外包給檢測分數,等於把判決交給擲硬幣。想在 AI 時代的文本裏藏好指紋,靠的不是檢測器,是讓文字長出檢測器讀不出的個性;而反過來説,一篇四平八穩、面面俱到的文章,被冤枉成 AI 產出,也真的怨不了誰。測謊儀測不出謊言的年代,唯一可靠的判據還是那個老的:你知不知道自己寫下的每一個字。

Fengyu WANG
Fengyu WANG

市場 × 投資 × 工程——一個人,一套底層邏輯。