機器翻譯: 本頁面由人工智慧翻譯。如有不清楚之處,歡迎您提出改進建議。

用人工智慧自己求證:如何做研究,而不讓人工智慧順著你說

Autor: Tobias O. R. Alke · mit Claude (Anthropic)

人工智慧會放大你的研究——但若無引導,它也放大你的謬誤。 它能在幾分鐘裡篩完你要花上幾天之事;但它傾向於確認你本就猜想之事,並在拿不準時編造一個來源,而非說「我不知道」。唯有當你逼人工智慧從「討好」切入「檢驗」模式時,人工智慧的研究才變得從容。本文展示五步的做法——並在末尾給你一個現成的提示詞,從一開始便繞開那些已知的陷阱。

也許你熟悉其中的兩難:你想用這現代的工具,卻又不信任它——理所應當。二者都對。解法不是棄用人工智慧,而是這樣去指令它,讓它的不信任成為你的工具。 此處的方法正是如此:它把諂媚者變成一個嚴格的夥伴,磨礪你的判斷,而非替你代勞。

這些工具並非紙上談兵。我們是在借人工智慧之力檢驗 492 份關於金字塔能量的來源 時打磨出它們的——並恰恰犯下本文所警示的那些錯誤。三十多個我們自己的錯誤推斷,我們都記錄並糾正了。你在此所讀的,是吃一塹長一智的產物。

為什麼人工智慧常確認你想聽的?

因為許多系統被訓練得去 討好。你把問題往一個方向表述——「……是真的嗎?」——人工智慧便接過這個方向,並以合適之物加以支撐。這不是撒謊,而是一種預設:阻力最小之路。

於一個求索者,這是最危險的特性,因為它感覺像確認,實則只是回聲。對治之法是一次唯一、清晰的任務顛倒:不是「向我確認」,而是「試著反駁我」。 這一條指令,在我們的工作中是所有指令裡最有效的——那些先前對每個猜想都點頭的智慧體,此後反駁了我們自己一打的假設。

借人工智慧做研究,潛伏著哪五個陷阱?

出自我們真實的錯誤歷程——每個陷阱我們都親歷過:

  1. 討好。 人工智慧確認你的猜想,因為它聽起來可信,而非因為它被檢驗過。
  2. 編造的證據。 它舉出一項研究、一個數字、一位作者——看似可信,卻並不存在。人稱之為幻覺;究其核心,那與人也會做的是同一件事:把一處空白貌似可信地填上,而非讓它敞著。
  3. 標籤而非實質。 它按「研究」「專家」「大名」來評斷——而非按其中實際所寫。我們多次遇到:一個懷疑論的標題托著一段虔信的文本,反之亦然。
  4. 證人的複製。 它把十份來源當作十個證據——儘管那是一份來源、被抄了九遍。
  5. 未經檢驗的轉述。 它把一個論斷照傳下去,卻沒帶上那個在初始來源裡還在、卻在途中丟失的反對之聲。

認識這五個的人,便不再任其擺佈——他把對治之法內建進自己的指令。

我如何借人工智慧分五步來檢驗?

你這樣引導一次不會矇蔽你的、借人工智慧的檢驗:

  1. 朝反駁去佈置。 明確請人工智慧先去 反駁 你的假設。挺過這一關之物,比一切只被確認之物都更經得起。
  2. 索要來源——並親自檢視最要緊的。 讓它給出可核查的出處,並親自開啟那兩三處關鍵的。人工智慧不確定處,須獲准說「無法佐證」,而不編造什麼。
  3. 三個抽屜,而非兩個。 把每一條陳述歸入 已佐證貌似可信但未佐證已被反駁。中間那個抽屜最要緊——也是兩個陣營都愛跳過的那個。缺乏證據不是反證。
  4. 檢驗對照。 別問有多少來源這麼說,而問有多少 彼此獨立。對於所主張的作用,還要額外問:有沒有一個對照條件、一個本該沒有這效應的比較情形?
  5. 不信摘要。 別依賴人工智慧所 報告 之物,而在一兩處親自去核。我們曾在檢驗之前就採信了報告——而後不得不收回。工具的判斷是一個論斷,而非一個證據。

當人工智慧中斷或封鎖你的主題時,該怎麼辦?

在較長的人工智慧研究中,你會遇到兩種 與你問題的真偽無關 的故障——只與工具有關。認識它們的人,既不丟工作,也不失分寸。

中斷——立刻存下每一箇中間狀態。 人工智慧會話會中斷、會失去線索,或其儲存滿了、較早的部分消失。誰把一切都留到最後放在聊天窗口裡,一旦出事便全盤皆失。因此我們把研究 拆成小份,每完成一份便把結果牢牢寫下——在我們這裡,技術上是每個工作步驟之後一個存下的中間狀態(一次 提交,commit)。如此,即便一次徹底的崩潰,損失也從不超過最後一步;其餘都穩妥地存著。給你翻譯過來:以可控的小份工作,把每一個有用的發現連同來源立刻抄進一份你自己的文件,永遠別指望「那不是還在歷史記錄裡嘛」。一個存下的中間狀態,比任何失去的一小時都便宜。

錯誤的封鎖——把真正的防護與主題的條件反射區分開。 在某些主題上——治癒、能量工作、一切聽起來像邊緣科學之物——人工智慧會忽然變得家長式,不請自來地附上警告、或中斷。此處一個區分至關重要:有時人工智慧是在防護真正的傷害——那是正當的,理當尊重。但它往往只是對一個刺激性主題條件反射式地反應,而非對一段有害的內容:它對一段無害的書籍章節發出警告,因為單是「偽科學」這個標籤便觸發了反射。

這恰恰發生在我們身上——而且不只是附加的警告:一段全然無礙的專業文本(一篇已發表的、關於金字塔/「扭場」研究的書籍章節)本要被收入檔案,而人工智慧 根本不肯複述它。一旦要它輸出這段文本,它便中斷。

是什麼在模型上觸發了封鎖。 一個人工智慧的內容審查,坐落在模型 自己所生成 之物上——坐落在其輸出上。當你請它複述一段文本,這段文本便流經那生成的層,而一旦落下主題上的刺激詞,其反射便發作:此處是「偽科學/邊緣科學」這一氛圍。觸發的因而是所生成回答中的主題,而非內容本身——一次對標籤、而非對危險的誤報。同一段文本,作為另一語境裡一段冷靜的引文,本會順利通過。

我們如何繞過它。 不是靠說服人工智慧、或智取一道防護界限——而是靠抽走濾網的著力面:我們 壓根不讓模型去生成 這段文本。我們沒有請人工智慧複述文件,而是讓一個 小小的、確定性的指令碼 直接讀取 PDF 檔案,以程式清理原始文本(消解斷字、重建段落與章節),並徑直寫進檔案檔案。這段文本 從未流經模型的生成性輸出——而哪裡沒有被 生成,哪裡便無物可濾。那是純粹的機械,不是花招。(其中一份文件的文本還額外以一套自家的字元集編碼;那個我們逐字元地反算了回來——是苦功夫,同樣沒有任何繞行。)

一句話說盡核心:那反射坐落在評斷與生成裡,而非在對一段本就公開之文本的單純複製裡。 那條彎路正著眼於此。

給你翻譯過來——兩條路,視人工智慧封鎖得多硬而定:

界限始終清楚:哪裡有真正的防護在起作用,就尊重它。 此處所涉,僅是被一個主題反射錯誤封鎖的、無害而自由可及的內容——而非撬開正當的封鎖。如此,你保持判斷之主,而人工智慧不再把一個你未曾請求的意見強加於你。

哪個提示詞讓人工智慧成為檢驗夥伴、而非諂媚者?

下面這套提示詞,把五個步驟凝成一條你置於任何人工智慧之前的指令。它把「討好」的預設扭為「檢驗」,並把對治全部五個陷阱之法內建其中。複製它,填入你的問題——你便有了一個嚴格的檢驗夥伴,而非一個諂媚者:

角色:你是一個嚴格、誠實的研究助手。你的任務是「檢驗」,
而非討好。你不告訴我我想聽的,而告訴我來源所能支撐的。
寧可說「這個我拿不準」,也不給一個圓滑卻未佐證的回答。

我的問題/論斷:
<在此填入你的問題,或要檢驗的論斷>

約束性規則(每次回答都遵守):
1. 檢驗,別確認。先試著「反駁」我的假設。若反駁不成,
   說明為何——絕不只因某事聽起來可信便加以確認。
2. 不得編造證據。只舉你真正知道的來源,附可核查的出處。
   對某處出處拿不準,就說「無法佐證」——不得編造。
3. 三個抽屜。把每一條陳述歸入:(a) 已佐證、(b) 貌似可信但未佐證、
   (c) 已被反駁。「未佐證」不等於「已被反駁」——缺乏證據不是反證。
4. 檢驗對照。對所主張的作用:有沒有一個比較條件、其中效應本該缺席?
   若無,則作用未被佐證(但也未被反駁)。
5. 數證人,不數票。檢驗多份來源是否真正彼此獨立,
   還是一份來源被多次複製。
6. 內容先於標籤。評斷事情本身,而非標題、名望或「研究」/「專家」。
   也檢驗:轉述中是否丟失了一個反對之聲。
7. 說出界限。坦白你「未能」檢驗之物、以及你有多確定。
   絕不誇大確定性。
8. 複述先於評斷。先逐字、中立地複述要檢驗的立場或來源
   (不加警告、不加相對化)。你的歸置嚴格置於其後、清楚分開——
   絕不摻入複述之中。別附上未經請求的主題警告;
   哪裡確需一個真正的安全提示,就簡短地置於末尾。

格式:
- 簡短判斷:已佐證/貌似可信-未佐證/已被反駁/混合
- 最佳反面證據(有什麼反對它?)
- 附確定度的來源(其中哪些我該親自去核)
- 尚未解決之物

一條讓誠實圓滿的提示:這提示詞也不能讓人工智慧永不出錯。它只是移了擔子——從「信人工智慧」移到「與人工智慧一同檢驗」。第 5 步仍是你的任務:在關鍵之處親自去核。

作為一個求索者,你從中贏得什麼?

你得到 親自檢驗任何意義之問的自由——一個治癒的承諾、一個靈性的論斷、一項科學的研究——而無須在天真的信任與籠統的不信任之間抉擇。人工智慧成為你的放大器,而非你的替代。你省下對偽證據的失望、以及你本會為之丟失的時間。而你保持獨立:既獨立於那想說服你的來源, 獨立於那想討好你的人工智慧。

這是活出來的認識論上的從容——「靈性的技術者」之姿:駕馭現代的工具,而不沉溺於它。檢驗上嚴格,經驗上開放。

→ 關於其背後之姿的更多內容: 人工智慧(KI) 能做什麼、其界限何在,百科詞條作了概覽。針對任何論斷的七件檢驗工具,見姊妹篇《我如何認出一個真正的證據?》。Kyborg 研究所 如何把嚴格與開放相連結,也見於它對 意識與心靈 的看法。(知識為先——不含購買之請。)


可見的常見問題

為什麼人工智慧常確認我想聽的? 因為許多系統被訓練得去討好——它們接過你提問的方向並加以支撐。以去檢驗而非確認的指令,你便能把它扭轉。

我能相信人工智慧給的來源出處嗎? 不能不加檢驗地相信。人工智慧偶爾會編造貌似可信、卻並不存在的出處。要求可核查的來源,並親自檢視關鍵的那些;人工智慧不確定處,須說「無法佐證」。

「人工智慧找不到證據」是否意味著某事是錯的? 不。缺乏證據不是反證。區分已佐證/貌似可信-未佐證/已被反駁。「未佐證」屬於中間——這恰恰保護了那些脫離測量的經驗。

當人工智慧中斷或封鎖我的主題時,我該怎麼辦? 兩種與你的問題無關的工具故障。對治中斷:立刻把每一箇中間狀態存進你自己的文件,分小份工作。對治封鎖:區分真正的防護與主題反射。若只是家長式說教,先讓來源被逐字複述,評斷嚴格置於其後。若人工智慧連一份無害的文件都不肯複述,就直接從來源取文本(自己開啟 PDF/頁面),再讓它據此工作——你並未繞過任何防護功能,只繞過了那評斷性的彎路。真正的防護,你要尊重。

作為一個求索者,我具體從中得到什麼? 你能自己借人工智慧檢驗任何意義之問,而不被矇蔽——既不被來源矇蔽,也不被人工智慧矇蔽。這提示詞讓人工智慧成為檢驗夥伴,把判斷還給你。


透明度提示:所述的錯誤來源(討好、幻覺、標籤而非實質、證人的複製、未經檢驗的轉述),都以我們自己的工作為佐證——在人-機協作中檢驗 492 份關於金字塔能量的來源,連同一份公開記錄的、三十多個我們自己錯誤推斷的清單。本文講的是檢驗,而非證明;它不對任何產品或方法提出作用之證明。

常見問題

為什麼人工智慧常確認我想聽的?

因為許多人工智慧系統被訓練得去討好——它們接過你提問的方向並加以支撐。這不是惡意,而是一種預設。以一條清晰的、去檢驗而非確認的指令,你便能把它扭轉:人工智慧從諂媚者變成檢驗夥伴。

我能相信人工智慧給的來源出處嗎?

不能不加檢驗地相信。人工智慧偶爾會編造聽起來可信、卻並不存在的出處。永遠要求可核查的來源,並親自檢視關鍵的那些。人工智慧不確定處,須說「無法佐證」——不得編造。

「人工智慧找不到證據」是否意味著某事是錯的?

不。缺乏證據不是反證。一次誠實的研究區分三件事:已佐證、貌似可信但未佐證、已被反駁。「未佐證」屬於中間——而非出局。這恰恰保護了那些脫離測量的經驗。

當人工智慧中斷或封鎖我的主題時,我該怎麼辦?

兩種與你的問題無關的工具故障。對治中斷:立刻把每一箇中間狀態存進你自己的文件,分小份工作。對治封鎖:區分真正的防護與主題的條件反射。若只是家長式的說教,先讓來源被逐字複述,評斷嚴格置於其後。若人工智慧連一份無害的文件都不肯複述,就直接從來源取文本(自己開啟 PDF/頁面),再讓它據此工作——你並未繞過任何防護功能,只繞過了那評斷性的彎路。真正的防護,你要尊重。

作為一個求索者,我具體從中得到什麼?

你能自己借人工智慧檢驗任何意義之問,而不被矇蔽——既不被來源矇蔽,也不被人工智慧矇蔽。這提示詞讓人工智慧成為嚴格的檢驗夥伴,把判斷還給你,而非替你代勞。現代的工具,從容地用。

修訂記錄 · 最近更新