Искусственный интеллект (ИИ)
Искусственный интеллект (ИИ) — это механическое воспроизведение способностей, которые у человека требуют интеллекта: понимать язык, распознавать образы, делать выводы. Сегодня распространённые системы, среди них большие языковые модели, работают в своей сути как статистическое распознавание образов: из огромных объёмов данных они вычисляют то, что вероятно следует далее. Это делает их чрезвычайно полезным инструментом — и именно как таковой, а не как оракул, Институт Kyborg их помещает в контекст: как мощный усилитель человеческого мышления, но без сознания и без собственного доступа к истине.
Что такое искусственный интеллект?
Термин стар: ещё в 1950 году Алан Тьюринг поставил вопрос «могут ли машины мыслить?» и предложил тест, проверяющий, неотличима ли машина в беседе от человека. «ИИ» с тех пор — общий термин, а не единственная вещь: он простирается от простых систем правил до нынешних языковых моделей, обученных на огромных объёмах текстов.
Эти современные системы не учат никаких фактов как справочник. Они учат вероятности: какое слово, какой пиксель, какой ход типично следует за другим. То, что из этого выходит, часто выглядит удивительно искусно — потому что наш собственный язык полон образов. Решающий момент остаётся: система вычисляет с формой, а не со смыслом.
Мыслит ли или действительно понимает ИИ?
В нынешнем состоянии — нет. Языковая модель порождает правдоподобные последовательности слов, не переживая смысла и не зная, истинно ли утверждение. Технический термин для этого сознательно трезв — некоторые исследователи говорят о стохастическом попугае: системе, которая убедительно воспроизводит язык, не понимая его.
Тем самым ИИ затрагивает важное для Института Kyborg различие: интеллект в смысле полезной производительности — не то же, что сознание или дух. Модель может блестяще представлять и всё же не быть никем. Она — как всякая модель — карта, а не территория: полезная для ориентации, но никогда не смешиваемая с тем, что описывает. Подробнее об этом различии — в статье Сознание и дух.
ИИ, K.I. и Ки — три сокращения, три мира
Поскольку сокращения звучат почти одинаково, ясное различение стоит того:
- ИИ — искусственный интеллект; в немецком он сокращается KI. Именно о нём здесь речь.
- K.I. (с точками) — Институт Kyborg.
- Ки — дзенский термин для индивидуальной манеры учителя учить; в восточноазиатских традициях также для жизненной энергии (ср. Ки (в дзен) и жизненная энергия).
Три разных значения, которые схожи лишь по видимости, — Институт Kyborg сознательно держит их раздельно. (Особенно тесное тройное сходство возникает в немецком, где искусственный интеллект — «KI».)
Почему ИИ — усилитель, а не источник истины?
ИИ усиливает то, что в него закладывают, — его ясность и его ошибки. Три слабости, которые должен знать всякий, кто использует его всерьёз:
- Угодливость. Многие системы обучены угождать. Если вы формулируете вопрос в некоем направлении, они подхватывают это направление и поддерживают его — это выглядит как подтверждение, но часто это лишь эхо.
- Галлюцинация. ИИ порой изобретает исследования, цифры или цитаты, которые звучат правдоподобно, но не существуют. Он предпочитает сладко заполнить пробел, чем оставить его открытым.
- Отсутствие понимания. Поскольку система обходится с формой, а не со смыслом, она может путать ярлык и суть — доверяйте больше хорошему источнику, чем тому, что в нём действительно значится.
Ни одна из этих слабостей — не злой умысел; это предустановленные настройки инструмента. Тот, кто их знает, не отдан им на произвол, а встраивает контрмеры в собственное использование.
Как использовать ИИ суверенно?
Обходясь с ним как с инструментом, а не как с оракулом. Хороший ассистент, чьи утверждения проверяют, — а не голос, которому верят. Конкретно это означает: со всей определённостью велеть ИИ проверять, а не угождать; требовать проверяемых источников и смотреть решающие сами; отличать доказанное, правдоподобное-но-недоказанное и опровергнутое — и оставлять суждение за собой.
Это установка «духовного техника», которую формует Институт Kyborg: владеть современным инструментом, не поддаваясь ему. Строгость в проверке, открытость в опыте. Так ИИ становится усилителем собственного суждения, а не его заменой — применение прожитых веры и доверия в трезвом, техническом поле: доверять там, где проверил; проверять, прежде чем даровать собственное доверие.
Что остаётся
Искусственный интеллект — ни носитель спасения, ни угроза, а инструмент широкого охвата: настолько полезный или обманчивый, насколько рука, которая его ведёт. Тот, кто понимает, что ИИ вычисляет образы и не знает истины, может применить его мощь и избежать его ловушек. Именно здесь заключена суверенность, важная для Института Kyborg: принять новое, не покидая собственного понимания.
Часто задаваемые вопросы
Что такое искусственный интеллект (ИИ)?
Искусственный интеллект — общий термин для компьютерных систем, которые берут на себя задачи, предполагающие у человека интеллект, — такие как обработка языка, распознавание образов или предсказание закономерностей. Сегодня распространённые системы, среди них большие языковые модели, в своей сути — статистическое распознавание образов на огромных объёмах данных: они вычисляют то, что вероятно следует далее. Это впечатляюще полезно, но нечто иное, чем понимать.
Есть ли у ИИ сознание, понимает ли он то, что говорит?
В нынешнем состоянии — нет. Языковая модель порождает правдоподобные последовательности слов, не переживая смысла и не зная, истинно ли что-то. Интеллект в смысле полезной производительности — не то же, что сознание или дух. С точки зрения Института Kyborg, такая модель — карта, а не территория: инструмент, который представляет действительность, но не проживает её.
Могу ли я слепо доверять ответу ИИ?
Нет. Системы ИИ склонны угождать (охотно подтверждают направление вашего вопроса) и порой изобретают правдоподобные, но несуществующие доказательства (галлюцинация). Требуйте проверяемых источников, смотрите решающие сами и отличайте доказанное от правдоподобного-но-недоказанного. Ответ ИИ — подсказка, а не доказательство.
ИИ, K.I. и Ки — чем различаются сокращения?
Они схожи, но обозначают разные вещи. По-русски искусственный интеллект — «ИИ»; в немецком он сокращается «KI». «K.I.» (с точками) — сокращение Института Kyborg. «Ки» — дзенский термин (см. его статью). Эта страница посвящена исключительно ИИ в смысле искусственного интеллекта.
Как использовать ИИ суверенно?
Как инструмент, а не как оракул. Обходитесь с ИИ как с быстрым и начитанным ассистентом, чьи утверждения вы проверяете, а не как с тем, кому верят. Со всей определённостью велите ему проверять вас, а не угождать вам, требуйте источников и оставляйте суждение за собой. Это установка «духовного техника»: владеть современным инструментом, не поддаваясь ему.
История изменений · последнее обновление
- — Первая русская версия.
Источники
- Stuart Russell, Peter Norvig: Artificial Intelligence – A Modern Approach. Pearson (Standardlehrwerk der KI) – zur Definition von KI als der Untersuchung und dem Bau von Systemen, die intelligentes Verhalten zeigen.
- Alan M. Turing: Computing Machinery and Intelligence. Mind 59 (1950), S. 433–460 – die historische Ausgangsfrage „Können Maschinen denken?“ und der später als „Turing-Test“ bekannte Vorschlag.
- Emily M. Bender, Timnit Gebru u. a.: On the Dangers of Stochastic Parrots. FAccT 2021 – Sprachmodelle sagen wahrscheinliche Wortfolgen vorher, ohne Bedeutung zu verstehen.
Autor: Tobias O. R. Alke