Джон Сёрл и его "китайская комната" против гипотезы сильного искусственного интеллекта

Американский философ Джон Сёрл
(род. 1932)

Сильный ИИ -- гипотеза, согласно которой машина приобретет способность мыслить ТАК ЖЕ, как и человек. Противник гипотезы философ Дж. Сёрл предложил мысленный эксперимент, вошедший в историю под названием "Китайской комнаты".

Предположим, есть компьютер, который может отвечать на вопросы человека на китайском языке так хорошо, что проходит тьюринг-тест. Компьютер это делает, получая последовательность символов китайского алфавита на вход и выдавая некую последовательность символов на выход, причем, как мы сказали, это делается столь хорошо, что китаец уверен, что говорит не с машиной, а с человеком. Теперь приходит другой человек, не говорящий по-китайски, и повторяет шаг за шагом все инструкции программы, исполняемой компьютером. Он это вполне может сделать, но при этом он не понимает ни слова по-китайски. Следовательно, заключает Дж. Сёрл, компьютер не мыслит так же, как человек, но лишь механически выполняет инструкции. Различие между действиями человека и машины, по мысли философа, состоит в том, что человеку присуща интенциональность (понимание контекста), а машине нет. Алгоритм и смысл вообще никак не пересекаются. Смыслом свои артефакты наделяет разум человека. Алгоритму совершенно всё равно, зачем его запускают и кто это делает. Некоторые предшественники Дж. Сёрла:

• Дж. Лукас. Minds, Machines and Goedel, 1959.
• Г. Лейбниц. Аргумент против механицизма в обсуждении проблемы мозг-разум. Cм. мою запись.

Вот ещё две ссылки по теме:

• Моя записка "Интересное: Можно ли из машины синтезировать разум?"
• Eric Larson, In an Apocalyptic Mood, Stephen Hawking Overestimates the Evolutionary Future of Smart Machines (автор -- это лектор из моей записки выше, специалист по AI, работавший совместно с DARPA и основавший свою компанию).