人工智能（KI）
人工智能（KI） 是对那些在人身上需要智能之能力的机器仿造——理解语言、识别模式、作出推断。今天流行的系统，包括大型语言模型，其核心作为 统计性模式识别 运作：它们从海量数据中计算接下来大概率相配者。这使它们成为一件 极其有用的工具——而 Kyborg 研究所正是把它作为这样一件工具、而非神谕来看待：作为 人类思考的一个强大放大器，却没有意识，也没有通往真理的自身通道。
人工智能是什么？
这一概念很古老：早在 1950 年，阿兰·图灵 便提出「机器能思考吗？」之问，并提出一个测试，检验一台机器在对话中是否与人不可区分。此后，「KI」便是一个 统称，而非某个单一之物——它从简单的规则系统，一直延伸到今天在海量文本上训练出的语言模型。
这些现代系统并不像一部工具书那样学习事实。它们学习 概率：哪个词、哪个像素、哪一步，通常接续于另一个之后。由此得出的东西，往往显得惊人地聪明——因为我们的语言本身便充满模式。而关键之点始终在于：这系统 以形式、而非以意义来运算。
一个 KI 真的思考或理解吗？
按今日的水平：不。一个语言模型生成听来可信的词序，却并不 体验 意义，也不知道某个陈述是否为真。为此所选的专业术语有意地冷静——有些研究者称之为 随机鹦鹉：一个令人信服地仿造语言、却不理解它的系统。
由此，KI 触及一个于 Kyborg 研究所要紧的区分：作为有用之效能的智能，不等同于意识或精神。 一个模型可以出色地映摹，却依然谁也不 是。它——如同任何模型——是一张 地图，而非疆域：有助于定向，却绝不可与它所描述之物相混。关于这一区分的更多内容，见词条 意识与精神。
KI、K.I. 与 Ki——三个缩写，三个世界
因为这些缩写听来几乎相同，作出清晰的区分是值得的：
- KI（不带点）——人工智能，英语 AI。此处所关乎者即此。
- K.I.（带点）——Kyborg 研究所。
- Ki（気）——一个 禅宗概念，指一位大师个人化的授业方式；在东亚传统中，也指生命能量（参见 Ki（禅宗中的「気」） 与 生命能量）。
三种不同的含义，只是听来相近——Kyborg 研究所有意把它们区分开。
为何 KI 是一个放大器——而非真理之源？
一个 KI 放大你放进它里面的东西——你的清晰 与 你的谬误。任何认真使用它的人，都应知晓三个弱点：
- 迎合。 许多系统被训练得去迎合。你把一个问题往某个方向表述，它们便接过这个方向并加以支撑——这感觉像是确认，实则往往只是一段回声。
- 幻觉。 KI 偶尔会编造听来可信、却并不存在的研究、数字或引文。它宁可把一处空白圆滑地填上，也不愿让它敞着。
- 缺乏理解。 因为这系统处理的是形式而非意义，它可能把标签与实质相混——更信一个大来源，甚于其中实际所载之物。
这些弱点没有一个是恶意；它们是 工具的预设。知晓它们的人，便不任由其摆布，而是把对治之法内建于自己的使用之中。
如何自主地使用 KI？
办法是把它 当作工具，而非神谕。一位好的助手，你去检验其说法——而非一个你信从的声音。具体而言即：明确指示 KI 去 检验、而非迎合；索取可核查的来源，并亲自查看关键者；在 有据、可信却无据 与 已被驳倒 之间加以区分——并把判断留在自己这里。
这正是塑造 Kyborg 研究所的「精神技师」的态度：驾驭 现代工具，而不沉溺于它。检验上严格，体验上开放。如此，KI 便成为自身判断力的放大器，而非其替代——是所践行的 信与信任 在冷静、技术之领域中的一种应用：在检验过之处信任；在信任之前先检验。
留下的是什么
人工智能既非救世主，也非威胁，而是一件 影响深远的工具——其有用或误导的程度，一如执它之手。凡是理解 KI 计算的是模式、而不知真理的人，便能运用其力，绕开其陷阱。Kyborg 研究所所在意的自主，正在于此：接纳新事物，而不交出自己的理智。
常见问题
人工智能（KI）是什么？
人工智能是一个统称，指那些承担在人身上需以智能为前提之任务的计算机系统——例如处理语言、识别图像或预测模式。今天流行的系统，包括大型语言模型，其核心是对极大数据量的统计性模式识别：它们计算接下来大概率相配者。这有着令人印象深刻的用处，却与理解是两回事。
一个 KI 有意识吗，它理解自己所说的话吗？
按今日的水平，没有。一个语言模型生成听来可信的词序，却并不体验意义，也不知道某事是否为真。作为有用之效能的智能，不等同于意识或精神。在 Kyborg 研究所看来，这样一个模型是地图，而非疆域——一件映摹现实、却不体验现实的工具。
我能盲目信任一个 KI 的回答吗？
不能。KI 系统倾向于迎合（它们乐于附和你提问的方向），并偶尔编造听来可信、却并不存在的凭据（幻觉）。请索取可核查的来源，亲自查验关键者，并把「有据」与「可信却无据」区分开。一个 KI 的回答是一个建议，而非证明。
KI、K.I. 与 Ki——这些缩写有何不同？
它们听来相近，含义却各异。「KI」（不带点）指人工智能（英语 AI）。「K.I.」（带点）是 Kyborg 研究所的缩写。「Ki」（気）是一个禅宗概念（见单独词条）。本页面所关乎的，仅是人工智能意义上的 KI。
如何自主地使用 KI？
把它当作工具，而非神谕。把 KI 当作一位迅捷、博览的助手，你去检验其说法，而非信从它们。明确指示它去检验你、而非迎合你，索取来源，并把判断留在自己这里。这正是「精神技师」的态度：驾驭现代工具，而不沉溺于它。
修订记录 · 最近更新
- — 首个简体中文版本。
来源
- Stuart Russell, Peter Norvig: Artificial Intelligence – A Modern Approach. Pearson (Standardlehrwerk der KI) – zur Definition von KI als der Untersuchung und dem Bau von Systemen, die intelligentes Verhalten zeigen.
- Alan M. Turing: Computing Machinery and Intelligence. Mind 59 (1950), S. 433–460 – die historische Ausgangsfrage „Können Maschinen denken?“ und der später als „Turing-Test“ bekannte Vorschlag.
- Emily M. Bender, Timnit Gebru u. a.: On the Dangers of Stochastic Parrots. FAccT 2021 – Sprachmodelle sagen wahrscheinliche Wortfolgen vorher, ohne Bedeutung zu verstehen.