Скрытые системы: Об интеллекте больших языковых моделей

В свете последних достижений в области искусственного интеллекта, в особенности развития больших языковых моделей, рассматривается вопрос о том, можно ли утверждать, что машины мыслят. Эта проблема уже ставилась Аланом Тьюрингом в 1950-х годах и заложила основу для аргументации. В тексте опровергаются четыре распространённых возражения. Во-первых, оспаривается утверждение Ады Лавлейс о неспособности компьютеров создавать подлинно оригинальное содержание: демонстрируется, что нейронные сети, такие как модели трансформеры, самостоятельно порождают новые структуры. Во-вторых, обсуждается утверждение, что большие языковые модели лишь статистически предсказывают следующее слово. Показывается, что они способны строить сжатые внутренние репрезентации входных данных посредством нелинейных операций, что отличает их от статистических моделей. Третий аргумент касается отсутствия у ИИ сенсорного доступа к миру. Однако, как показал Тьюринг, для развития мыслительных способностей достаточно коммуникации между учителем и учеником, а сенсорный опыт может быть технически воспроизведён в любой момент. Мысленный эксперимент «Китайская комната», согласно которому алгоритмы лишь имитируют интеллект посредством формальной манипуляции символами, уже предвосхищается тестом Тьюринга, утверждающим, что любая машина, успешно имитирующая мыслительные функции, должна считаться обладающей ими. В тексте исследуется, как большие языковые модели создают идеальное сжатие входных данных, что приводит к точной модели мира, убедительной имитации человеческого интеллекта и владению языком. Обсуждается феномен «эмерджентности» — появления когнитивных способностей высшего порядка по мере увеличения объёма обучающих данных. Хотя успехи во внедрении интеллекта значительны, применяемая методология нейронных сетей приводит к загадочности лежащей в основе базы, не позволяя прояснить истинную природу разума, как изначально предполагалось. Эта непрозрачность была уже очевидна в основополагающих работах Курта Гёделя и Алана Тьюринга, подчёркивая сложности, присущие пониманию как человеческого, так и машинного интеллекта.