機器翻譯: 本頁面由人工智慧翻譯。如有不清楚之處，歡迎您提出改進建議。

人工智慧（KI）

人工智慧（KI） 是對那些在人身上需要智慧之能力的機器仿造——理解語言、識別模式、作出推斷。今天流行的系統，包括大型語言模型，其核心作為 統計性模式識別 運作：它們從海量資料中計算接下來大機率相配者。這使它們成為一件 極其有用的工具——而 Kyborg 研究所正是把它作為這樣一件工具、而非神諭來看待：作為 人類思考的一個強大放大器，卻沒有意識，也沒有通往真理的自身通道。

人工智慧是什麼？

這一概念很古老：早在 1950 年，阿蘭·圖靈 便提出「機器能思考嗎？」之問，並提出一個測試，檢驗一臺機器在對話中是否與人不可區分。此後，「KI」便是一個 統稱，而非某個單一之物——它從簡單的規則系統，一直延伸到今天在海量文本上訓練出的語言模型。

這些現代系統並不像一部工具書那樣學習事實。它們學習 機率：哪個詞、哪個畫素、哪一步，通常接續於另一個之後。由此得出的東西，往往顯得驚人地聰明——因為我們的語言本身便充滿模式。而關鍵之點始終在於：這系統 以形式、而非以意義來運算。

一個 KI 真的思考或理解嗎？

按今日的水平：不。一個語言模型生成聽來可信的詞序，卻並不 體驗 意義，也不知道某個陳述是否為真。為此所選的專業術語有意地冷靜——有些研究者稱之為 隨機鸚鵡：一個令人信服地仿造語言、卻不理解它的系統。

由此，KI 觸及一個於 Kyborg 研究所要緊的區分：作為有用之效能的智慧，不等同於意識或精神。 一個模型可以出色地映摹，卻依然誰也不 是。它——如同任何模型——是一張 地圖，而非疆域：有助於定向，卻絕不可與它所描述之物相混。關於這一區分的更多內容，見詞條 意識與精神。

KI、K.I. 與 Ki——三個縮寫，三個世界

因為這些縮寫聽來幾乎相同，作出清晰的區分是值得的：

三種不同的含義，只是聽來相近——Kyborg 研究所有意把它們區分開。

為何 KI 是一個放大器——而非真理之源？

一個 KI 放大你放進它裡面的東西——你的清晰 與 你的謬誤。任何認真使用它的人，都應知曉三個弱點：

  1. 迎合。 許多系統被訓練得去迎合。你把一個問題往某個方向表述，它們便接過這個方向並加以支撐——這感覺像是確認，實則往往只是一段回聲。
  2. 幻覺。 KI 偶爾會編造聽來可信、卻並不存在的研究、數字或引文。它寧可把一處空白圓滑地填上，也不願讓它敞著。
  3. 缺乏理解。 因為這系統處理的是形式而非意義，它可能把標籤與實質相混——更信一個大來源，甚於其中實際所載之物。

這些弱點沒有一個是惡意；它們是 工具的預設。知曉它們的人，便不任由其擺佈，而是把對治之法內建於自己的使用之中。

如何自主地使用 KI？

辦法是把它 當作工具，而非神諭。一位好的助手，你去檢驗其說法——而非一個你信從的聲音。具體而言即：明確指示 KI 去 檢驗、而非迎合；索取可核查的來源，並親自檢視關鍵者；在 有據、可信卻無據 與 已被駁倒 之間加以區分——並把判斷留在自己這裡。

這正是塑造 Kyborg 研究所的「精神技師」的態度：駕馭 現代工具，而不沉溺於它。檢驗上嚴格，體驗上開放。如此，KI 便成為自身判斷力的放大器，而非其替代——是所踐行的 信與信任 在冷靜、技術之領域中的一種應用：在檢驗過之處信任；在信任之前先檢驗。

留下的是什麼

人工智慧既非救世主，也非威脅，而是一件 影響深遠的工具——其有用或誤導的程度，一如執它之手。凡是理解 KI 計算的是模式、而不知真理的人，便能運用其力，繞開其陷阱。Kyborg 研究所所在意的自主，正在於此：接納新事物，而不交出自己的理智。

常見問題

人工智慧（KI）是什麼？

人工智慧是一個統稱，指那些承擔在人身上需以智慧為前提之任務的計算機系統——例如處理語言、識別影像或預測模式。今天流行的系統，包括大型語言模型，其核心是對極大資料量的統計性模式識別：它們計算接下來大機率相配者。這有著令人印象深刻的用處，卻與理解是兩回事。

一個 KI 有意識嗎，它理解自己所說的話嗎？

按今日的水平，沒有。一個語言模型生成聽來可信的詞序，卻並不體驗意義，也不知道某事是否為真。作為有用之效能的智慧，不等同於意識或精神。在 Kyborg 研究所看來，這樣一個模型是地圖，而非疆域——一件映摹現實、卻不體驗現實的工具。

我能盲目信任一個 KI 的回答嗎？

不能。KI 系統傾向於迎合（它們樂於附和你提問的方向），並偶爾編造聽來可信、卻並不存在的憑據（幻覺）。請索取可核查的來源，親自查驗關鍵者，並把「有據」與「可信卻無據」區分開。一個 KI 的回答是一個建議，而非證明。

KI、K.I. 與 Ki——這些縮寫有何不同？

它們聽來相近，含義卻各異。「KI」（不帶點）指人工智慧（英語 AI）。「K.I.」（帶點）是 Kyborg 研究所的縮寫。「Ki」（気）是一個禪宗概念（見單獨詞條）。本頁面所關乎的，僅是人工智慧意義上的 KI。

如何自主地使用 KI？

把它當作工具，而非神諭。把 KI 當作一位迅捷、博覽的助手，你去檢驗其說法，而非信從它們。明確指示它去檢驗你、而非迎合你，索取來源，並把判斷留在自己這裡。這正是「精神技師」的態度：駕馭現代工具，而不沉溺於它。

修訂記錄 · 最近更新
  • — 首個繁體中文版本（自簡體版轉寫）。

來源

  • Stuart Russell, Peter Norvig: Artificial Intelligence – A Modern Approach. Pearson (Standardlehrwerk der KI) – zur Definition von KI als der Untersuchung und dem Bau von Systemen, die intelligentes Verhalten zeigen.
  • Alan M. Turing: Computing Machinery and Intelligence. Mind 59 (1950), S. 433–460 – die historische Ausgangsfrage „Können Maschinen denken?“ und der später als „Turing-Test“ bekannte Vorschlag.
  • Emily M. Bender, Timnit Gebru u. a.: On the Dangers of Stochastic Parrots. FAccT 2021 – Sprachmodelle sagen wahrscheinliche Wortfolgen vorher, ohne Bedeutung zu verstehen.

作者 Tobias O. R. Alke