Farkhad N. Iliassov. Intelligence artificial and natural. Izvestiya AN Turkmenskoi SSR. Seriya obshchestvennykh nauk [Proceedings of the Academy of Sciences of the Turkmen SSR. A series of social sciences]. 1986, no. 6, p. 46-54.

При оценке перспектив и возможных достижений в исследованиях по созданию искусственного разума учеными высказываются противоположные точки зрения: от принципиальной невозможности до очень скорого создания полноценно работающей системы [3]. Писатели-фантасты, раскрывая перспективы указанных исследований, делают мрачные прогнозы, описывая роботоцивилизации, подчинившие себе человечество.

Что же такое искусственный разум (ИР) и насколько человечество приблизилось к его созданию? Рассмотрение вопроса, пожалуй, необходимо начать с общего определения разума. Это позволит представить модель человеческого разума, что в свою очередь даст возможность показать, в какой мере уровень современных разработок приближен к созданию ИР.

Разум — это способность некоторой системы обладать сознанием, подсознанием, памятью, интеллектом и на основе этих составляющих направлять собственную деятельность в соответствии с ведущими законами и принципами своего существования. Поясним смысл терминов «сознание», «подсознание», «память», «интеллект».

Руководство системой осуществляется посредством управляющего информационного центра, который состоит из двух подсистем — сознания и подсознания. Информационный центр активно объединяет всю память системы, способен: воспринимать поступающую информацию о состоянии самой системы, а также об изменениях в окружающей среде и на основе всей совокупной информации управлять функционированием системы. Сознание системы — та часть управляющего информационного центра, посредством которой она воспринимает себя как некоторую целостность, отделенную от окружающего мира, и это восприятие существует в виде ощущения-представления «Я». Память — это способность системы хранить важную информацию и при необходимости пользоваться ею. Интеллект — способность системы создавать в ходе самообучения программы (в первую очередь эвристические) для решения задач определенного класса сложности и решать эти задачи.

Представим модель человеческого разума в виде блока-схемы (рис.)¹ в соответствии с приведенными выше определениями и покажем, какие из его элементов существуют в современных ЭВМ.

[¹ В блок-схему внесены изменения послё ее обсуждения с Д. А. Поспеловым, в частности, включен блок 5 — подсознание (планировщик). Автор выражает глубокую признательность Д. А. Поспелову за советы и замечания.]

Сознание представлено на схеме блоком № 2, подсознание — блоком № 5, эти блоки имеют двухстороннюю связь, посредством которой они управляют деятельностью разума. Интеллект состоит из блока создания программ для решения задач (8), программной памяти (7), блока решения задач (6). Сознание, как видно из схемы, не имеет непосредственной связи с интеллектом и памятью (базой знаний), эта связь опосредована блоком подсознания (5). Вследствие этого сознание имеет некоторые ограничения в управлении указанными подструктурами и не может прямо управлять и участвовать в составлении программ и решении задач. Мы не совсем понятным нам образом способны на интеллектуальные усилия, однако сущность и содержание их от нас скрыты. Поэтому в человеческом сознании отсутствует информация о том, как происходят процессы составления программ и решения задач, туда через блок (3) поступает уже готовое решение, и человек не может объяснить, как оно появилось.

Рис.

Отсутствием непосредственной связи между сознанием и памятью обусловлен тот факт, что мы не представляем, что такое память. Память не дана нашему сознанию в непосредственном опыте, ощущениях. Мы не способны воспринимать прямо структуру и содержание нашей памяти, не знаём, как она устроена, где, в какой форме хранится информация. Сознание не может «проникать» в память, подобно тому, как мы способны войти в библиотеку, взять с полки книгу и получить 'необходимую информацию, Связь сознания с памятью опосредована блоками (5) и (3). В процессе восприятия новая информация поступает из блока ввода (1) одновременно в блоки сознания и подсознания — (2) и (5). В соответствии с состоянием управляющего центра, поступающая информация актуализирует определенные связи подсознания с памятью. В итоге почти одновременно с новой информацией в сознание из блока (3) поступает информация и из памяти. В простейшем случае это могут быть ассоциации.

Имея непосредственную двухстороннюю связь с блоком ввода и вывода информации, сознание с наибольшим совершенством владеет им. Мы всегда можем контролировать выводимую информацию, наряду с этим, что вероятно более важно, способны избирательно (переключая при ^:необходимости модальность восприятия) вводить в себя информацию, благодаря чему увеличивается возможность адекватного реагирования на изменения в окружающей среде.

Рассмотрим, как происходит функционирование системы, представленной на рис. Как отмечалось, через блок ввода (1) информация может одновременно поступать в блоки сознания и подсознания. Если поступившая информация требует каких-либо нестандартных ответных действий², сознание дает команду через блок (5) в блок (8) составить программу для решения этой задачи.

[² То есть такого поведения, которое не включено в рефлекторную и инстинктивную деятельность, стереотипы и установки.]

Если уже есть готовая программа (то есть, составлена раньше), то сигнал передается в базу программной памяти (7), где подбирается нужная программа, если готовой программы нет, то она составляется.

Затем программа поступает в блок решения, куда из базы знаний через блок (5) подается необходимая информация (данные для решения). После решения готовый результат через блок (3) подается в сознание. Итак, разница между базой знаний и базой программной памяти обусловлена тем, что в первом блоке хранится информация системы о различных фактах и программах, освоенных сознанием, а блок (7) содержит программы, о которых сознание не имеет сколько-нибудь полного представления. Следовательно, программная память ЭВМ (математическое обеспечение) — это часть совокупной программной памяти человеческого разума, освоенная сознанием.

Какие существуют различия между человеческим разумом и современной ЭВМ? Естественно, первое, что бросается в глаза, это отсутствие у ЭВМ блока (2) «сознания». Отсутствием сознания обусловлена неспособность всей системы к самоуправлению. Блок ввода не в состоянии функционировать избирательно. Выводимая информация строго предопределена вводимой. Значит, основное различие в функциях между человеком и ЭВМ заключается в том, что вычислительная машина не способна к самоуправлению и имеет очень ограниченные возможности в составлении программ.

В настоящее время ведутся интенсивные работы, направленные на совершенствование в ЭВМ структурных компонентов, выполняющих некоторые функции блоков (5) и (8). Так, уже созданы программы, которые могут составлять программы, в результате этого ЭВМ способна решать задачи, специальной программы для решения которой у нее нет. Намечены определенные шаги и по созданию ЭВМ, частично способных к самоуправлению. Так, выдвинутый Японией проект 5-го поколения ЭВМ предусматривает создание подсистемы, названной «интеллектуальным интерфейсом» (прообраз блока 2) и предназначенной для обеспечения прямого диалога пользователя с машиной. Результаты «общения» передаются «планировщику» (блок 5), организующему выполнение задания. В нежестко формализованном общении ЭВМ сама «поймет», какие задачи нужно решить клиенту, и подберет из блока (7) необходимые программы.

К концу этого [20-го] века 5-е поколение ЭВМ станет реальностью, в них уже будут существовать подсистемы, способные частично уменьшить указанную выше разницу между ЭВМ и человеком [8]. Но как определить, создан ИР или нет? Одним из первых ответ на этот вопрос попытался дать А. Тьюринг. В 1950 г. была опубликована его статья³, где он предложил тест для определения создания ИР, известный под названием «критерий Тьюринга».

[³ На русском языке в 1960г. вышла отдельной книгой [7]]

Суть этого критерия понимается следующим образом: сможет ли человек, общаясь с ЭВМ (например, с помощью печатного устройства), определить, с кем он разговаривает — с машиной или с другим человеком. Было проведено много экспериментов, которые показали, что ЭВМ, работающие по специально созданным диалоговым программам, в общении не отличимы от человека. Анализируя эти эксперименты, А. Войскунский пришел к выводу, что нынешние апробации критерия Тьюринга направлены на тестирование коммуникативных, а не интеллектуальных способностей [2].

Сейчас невозможно решить, что будут представлять в качественном отношении машины последующих поколений. Однако критический анализ проблемы не позволяет найти достаточно веских оснований против возможности создания полноценного ИР [3]. Здесь возникает проблема: если необходимость создания полноценно работающего блока формирования программ (интеллекта) очевидна, то непонятно, понадобится ли создание у ЭВМ целостного блока сознания.⁴

[⁴ Возможно существует достаточно жесткое соответствие между развитостью сознания и уровнем интеллекта системы, поэтому дальнейшее их раздельное рассмотрение носит условный характер.]

А ведь именно c ним связаны «ужасы» фантастов — у ЭВМ возникает чувство «Я» и во имя его она стремится подчинить себе человека. Но это возможно только в том случае, если ЭВМ будет обладать аналогом того, что мы называем эмоционально-волевой сферой. Однако возможно ли это, если мы создаем «чистый» ИР? С. Л. Рубинштейн, исследуя соотношение интеллектуального и эмоционального, пришел к выводу, что человеческая мысль всегда имеет эмоциональную окраску [6, с. 264]. Что же произойдет с ИР, ведь в рассмотренной нами схеме нет блока эмоций? Выше нами среди прочих свойств сознания упоминалась способность воспринимать информацию о состоянии всей системы. Так вот, восприятие искусственным сознанием степени оптимальности состояния материально-энергетической основы ИР и будет аналогом нашей чувственно-эмоциональной сферы. При этом следует учитывать, что представление о собственной исключительности — атрибутивное свойство всякого сознания. Поэтому при условии наличия у системы чувства «Я» логично предположить существование у нее стремления к сохранению как этого «Я», так и оптимальности состояния ее материальной основы.

Как известно, воля — это способность системы ставить перед собой цель и прилагать усилия для ее достижения. Следовательно, ИР будет иметь как минимум одну цель — сохранить свое «Я». Соответственно определенная часть деятельности системы будет подчинена этому, то есть она будет стремиться прикладывать усилия для достижения указанной цели. Следовательно, ИР хотя бы и в неразвитой степени, но будет обладать аналогом того человеческого свойства, которое мы называем волей. Исходя из изложенного, можно предположить, что в случае, если возникнут препятствия на пути к достижению описанной цели (сохранению «Я»), то система будет иметь предрасположенность предпринимать действия, направленные на устранение этих препятствий. Поэтому практическая реализация «трех правил роботехники» А. Азимова, по-видимому, со временем станет реальной научной проблемой.

Таким образом, мы пришли к выводу, что любая система, обладающая разумом, будь то гипотетический бог или ИР, имеет аналог нашим эмоциям. Причем, надо заметить, что у бога (первый «донаучный проект супер-ИР» — библейская версия) по причине его «всесильности», а у ИР, возможно, для оптимальности его функционирования блок (2) будет иметь непосредственную двухстороннюю связь со всеми остальными блоками, что увеличивает «эмоциональность» этих систем, так как на состояние блока (2) будет влиять состояние всех блоков.

Человек в этом смысле находится в более выгодном положении: если блоки 6+7+8 (интеллект) плохо работают, это не влияет на его настроение (в большинстве случаев). Иногда, правда, тень на эмоциональное состояние может бросить факт пустоты в блоке выдачи решения, но отсутствующее решение, как правило, можно получить через избирательно действующий блок ввода информации.

Интересное подтверждение этому мы находим в патопсихологии. Дебильные⁵ дети в возрасте, например, 7 лет резко выделяются своим отставанием от других учеников в школе.

[⁵ Дебильность — легкая степень олигофрении, слабоумия, следствие психического недоразвития.]

Однако через 20 лет эти люди не так резко отличаются от своих сверстников. Их дебильность не так заметна и может не бросаться в глаза — в большинстве случаев в разговоре группы людей об этом никто не догадывается. Почему же это происходит? Начнем с вопроса: «Что такое учеба?» Обучение в широком смысле — это, в сущности, развитие блоков 1, 4, 5 и создание блоков 6, 7, 8. Так вот, у дебильных людей хуже всего обстоит дело с блоками 6, 7, 8. Но в силу того, что блок (2) работает, они в течение жизни «собирают» готовые решения — стереотипы поведения и «складывают» их в блок (4).

Они опытным путем определили, что надо говорить или как надо действовать в стандартной ситуации, и потому в рамках обычного, повседневного поведения слабо отличимы от других. То есть здесь работает принцип, схожий с тем, что и при построении диалоговых программ, предназначенных для проверки критерия Тьюринга. Разум этих людей функционирует преимущественно за счет работы блоков 1, 2, 4 при соответствующем ограниченном участии блока (5).

С ИР в этом случае проще, плохо работающие блоки могут быть заменены или отремонтированы. Возможно, будут созданы саморемонтирующиеся системы, а может быть, и самосовершенствующиеся. В связи с этим возникает следующий вопрос: «Сможет ли ИР по своим интеллектуальным возможностям превосходить человеческий разум?» Быстродействие и объемы памяти современных ЭВМ стремительно возрастают и пока этому не видно реальных ограничений⁶.

[⁶ Предполагаются некоторые пределы быстродействия. Как показал Дж. Бремерман «ни одна система переработки данных, будь то искусственная или естественная, не может переработать более (20?10⁴⁷) бит/сек на грамм своей. массы» — (цит. по 3, с. 152). Однако до этого предела еще очень далеко.]

Но может ли неограниченно расти интеллектуальность ИР, во всяком случае, сможет ли она превзойти человеческий разум? Функционирование любой разумной системы реализуется через целеполагания [5]. С точки зрения системного подхода смыслом существования всякой системы является реализация основных законов ее функционирования, в рамках такого специфического взаимодействия этой системы с внешней средой, которое придает ей заданную качественную определенность. Вместе с тем всякая разумная система стремится к познанию этих законов, собственно это есть решение некоторой задачи — то есть работа интеллекта. Если мощность последнего позволяет системе перейти от понимания принципов и условий собственного целеполагания к их осознанию.⁷ то есть, если разум всей своей сущностью проникается идеей того, что в абсолюте система целеполагания — это некоторая совокупность факторов, отражающая фундаментальные законы бытия, а они сами по себе лишены телеологичности, то это, в сущности — упразднение основного механизма существования системы. Вследствие этого она, возможно, будет склонна к самораспаду.

[⁷ В терминах прерывной-непрерывной информации понимание можно определить как процесс представления информации в дискретном виде, а осознание — в непрерывном. В этом смысле понимание — прерогатива сознания b эволюционно явление более позднее, чем осознание.]

Изложенный довод позволяет предположить, что развитие интеллекта имеет фундаментальное ограничение, исходящее из его особенностей. По-видимому человеческий разум в своих наиболее выраженных проявлениях достигает описываемой границы и, значит, в этом отношении видовое развитие достигло предела. Тогда получается, что ни ИР, сколько бы совершенен он не был, и никакое, даже мифическое существо не могут решать задачи более высокого класса сложности, чем человек. Иными словами, мощность супер ИР, если он будет создан, сможет превосходить человеческий разум только за счет параметров скорости и объема переработки информации.

В прикладных работах по искусственному интеллекту выделяют основное направление, включающее такие вопросы, как решение задач, распознавание образов, программирование игр, создание экспертных систем и машинный перевод. Другое направление — «нейронная кибернетика» и «самоорганизующиеся системы». Сравним человека и ЭВМ с целью выявления основных различий в сфере работы с информацией, опираясь на современные достижения, сложившиеся в русле основного направления.

В табл. приведены главные различия между человеком и ЭВМ по ведущим параметрам. Сравниваемые позиции изложены последовательно от ввода до вывода информации. Принципиальная разница возникает с самого начала — cо степени зависимости вводимой информации от системы. У человека происходит непроизвольное и избирательное введение информации с переключением модальности восприятия. Вводимая же в ЭВМ информация совершенно от нее не зависит. Следующее существенное различие заключается в том, что человек воспринимает непрерывную (синкретную) и прерывную (дискретную) информацию, машина — только дискретную⁸ (см. строку 2 в табл.).

[⁸ Дискретной является информация, существующая в виде дискретных, относительно статичных фрагментов (цифра, слово, изображение). Непрерывная (синкретная) информация та, которая может существовать только в виде некоторого непрерывного процесса, явления (звук, ощущение, мысль). Синкретная информация может быть описана с необходимой степенью точности в дискретной форме. Однако это будет уже не сама непрерывная информация как таковая, а «информация о ней». По дискретной записи может быть воспроизведена синкретная информация, это воспроизведение осуществляется по принципу работы аналоговых машин. Например, музыка (звук — синкретная информация) может быть представлена в виде нотных знаков (дискретная форма), но это, понятно, не сама музыка, а информация о ней. Она может быть воспроизведена на музыкальном инструменте, но это будет не точно та музыка, с которой производилась нотная запись, а аналогичная ей. Указанное отличие между двумя «воспроизведениями» одной записи и обусловливает феномен авторского, индивидуального исполнения музыки.]

В соответствии с характером вводимой информации организована и память системы (см. строку 3 табл.). Пока нет данных, указывающих на то, существует ли разница у человека в носителях памяти. В зависимости от того, синкретная или дискретная информация запоминается⁹.

[⁹ О носителях человеческой памяти нет сколько-нибудь законченных представлений, поэтому дальнейшее изложение очень предположительное.]

Можно допустить, что данное различие существует: непрерывная информация хранится в системе нейронных связей, а дискретная записывается на носителях, имеющих химическую природу (атомно-молекулярная организация). В рамках такой схемы феномен кратковременной памяти в отношении дискретной информации объясняется процессом перевода информации из начальных импульсов в химический эквивалент. При этом объяснении становится понятным, почему дискретная информация хранится лучше и дольше непрерывной — химическая запись устойчивее нейронных связей. Основная часть информации памяти, которой мы пользуемся, дискретна. Комбинированная нейронно-химическая организация памяти позволяет осуществлять моментальное подключение к базе знаний — через сеть нейронных связей к химической записи. У ЭВМ же память организована только на механических носителях (лента, диск), чему соответствует длительный механический поиск необходимой информации. Соответствующее различие складывается и при обработке информации. Человек работает с непрерывной информацией как аналоговая¹⁰, а с дискретной — как цифровая система, ЭВМ — только как цифровая (см. строку 5 табл.)

[¹⁰ Аналоговые системы моделируют некоторый процесс, суть которого аналогична изучаемому явлению.]

Табл. Различие между человеком и ЭВМ по основным параметрам

В человеке информация обрабатывается и последовательно, и параллельно с очень высокой степенью параллелизма, тогда как в машине—только последовательно или с низким параллелизмом (строка 6 табл.). Сопоставляя в указанном отношении эти две системы, С. Лавров предлагает «взглянуть на центральную нервную систему... как на подобие большого сильно, распараллеленного компьютера» [4, с. 42].

Перечисленные выше факторы — восприятие непрерывной (синкретной) и дискретной информации, комбинированная нейронно-химическая организация памяти, параллельная и последовательная обработка по принципу аналоговой и цифровой системы, позволяют человеку осуществлять одновременно аналитическое (на основе логического анализа признаков субъекта) и синтетическое (целостное, мгновенное восприятие совокупности признаков) распознавание образов, в то время как ЭВМ способна только к аналитическому (строка 7 табл.). Последнее различие в свою очередь формирует следующее: человек воспринимает эти образы (знаки, символы) в терминах глобального контекста (контекст ситуации, смысловой, хронологической и т. д.), тогда как восприятие ЭВМ происходит вне контекста или в очень ограниченном контексте (строка 8 табл.).

Другое существенное различие заключается в том, что человек обладает способностью составлять в ходе самообучения собственные программы с высокими эвристическими возможностями¹¹, а в ЭВМ вводят извне готовые программы, основанные на полном переборе вариантов, или в лучшем случае со слабыми эвристиками (строка 9 табл.).

[¹¹ Под эвристикой (эвристическим методом) понимают некоторую совокупность средств, которые позволяют ограничить объем поиска решений в крупных проблемных пространствах [9, с. 47]].

Как отметил А. Эндрю, «программы искусственного интеллекта ограничены потому, что они не способны порождать свои собственные эвристики» [9, с. 238].

Дальнейшие различия связаны с особенностями детерминации деятельности. Система ценностей, основанная на соответствующих потребностях и интересах, является главной детерминацией человеческой деятельности. ЭВМ же в своей работе «руководствуется» списком конкретных целей, вложенных в задание на обработку (строка 10 табл.). И если человеческая деятельность реализуется через сложную систему целеполагания, то вычислительная машина имеет одну заданную извне цель — результат вычисления (строка 11 табл.).

Список приведенных а табл. различий можно рассматривать как кумулятивную шкалу — от позиции к позиции идет «накопление качества», последующий параметр увеличивает разницу между человеком и ЭВМ. В итоге вся совокупность отличий приводит к тому, что человек является вероятностной, а ЭВМ — полностью детерминированной системой (строка 12 табл.). Последнее высказывание надо понимать так: вводя в ЭВМ некоторую информацию, на выходе мы получаем строго определенный, заданный результат. То есть зависимость того, что мы получаем на выходе, жестко детерминирована вводимой информацией и программным обеспечением машины. В противоположность этому поведение человека в ответ на определенное внешнее воздействие бывает различным, и можно лишь с некоторой (экспериментально определяемой) вероятностью прогнозировать его поведение.

При знакомстве со списком различий, приведенном в табл., обращает внимание тот факт, что ЭВМ способна выполнять только те функции, которые выполняет сознание. Оно также всегда работает с дискретной информацией путем проведения последовательных операций и с очень слабым уровнем параллелизма. При восприятии сознанием даже непрерывная информация квантуется — преображается в дискретную¹².

[¹² Психофизические эксперименты позволили установить, что сознание человека не способно улавливать постепенное изменение силы сигналов, имеющих непрерывную природу. Изменение температуры, силы звука и так далее воспринимается скачками, так минимальное изменение силы звука обнаруживается при увеличении (уменьшении) его на 1/10 первоначальной величины. Указанный феномен носит название закона Вебера.]

Вообще процесс понимания — это процесс квантования, благодаря чему мы можем понятое нами изложить в виде слов (квантов). В процессе функционирования интеллекта психика человека работает как аналоговое устройство и, следовательно, мысль в начальном своем виде — это информация, представленная в непрерывной форме, а изложение ее — соответственно процесс квантования. В последнем сложно добиться адекватности, поэтому и появилось наблюдение «мысль изреченная есть ложь».

Итак, сознание, подобно вычислительной машине, работает как цифровое устройство. Оно способно только на аналитическое распознавание образов, при решении задач демонстрирует слабые эвристические возможности. Современные ЭВМ в своем функционировании воспроизводят только отдельные проявления сознания, а не интеллекта, то есть работа вычислительной машины — имитация некоторых операций, выполняемых сознанием.

Из описания различий и современного уровня разработок невозможно представить, когда и каким образом в ЭВМ зажжется «лампадка сознания». Анализируя эту проблему, С. Лавров отметил: «Есть веские основания сравнивать сознание с пультом или терминалом компьютера» [4, с. 43]. Приведенное сравнение сегодня во многом может показаться метафоричным, но оно, безусловно, отражает основные реальные соотношения и может быть весьма плодотворным.

Анализ проблемы, как нам кажется, позволяет сделать вывод о том, что вероятней всего успех в работе по созданию ИР будет достигнут в рамках направлений «нейронная кибернетика» и «самоорганизующиеся системы» (с использованием, конечно, результатов, достигнутых в рамках основного направления). Главным аргументом в пользу сделанного вывода служит то, что начальные теоретические позиции, на которых зиждятся эти подходы, позволяют увидеть возможность преодоления различий, описанных в табл., начиная с такого основополагающего, как способность оперировать дискретной и непрерывной информацией [1].

ЛИТЕРАТУРА

1. Амосов Н. М. Алгоритмы разума. Киев: Наукова думка, 1979.

2. Войскунский А. Е. Критерий Тьюринга, мышление и обобщение. — В кн.: Интеллект человека и программы ЭВМ. М.: Наука, 1979.

3. Дрейфус X. Чего не могут вычислительные машины. (Критика искусственного разума). М.: Прогресс, 1978.

4. Лавров С. Творчество и алгоритм. Наука и жизнь, 1985, № 3.

5. Наумова Н. Ф. Целеполагание как системный процесс. М.: изд. ВНИИСИ, 1982.

6. Рубинштейн С. Л. Бытие и сознание. М., 1957.

7. Тьюринг А. Может ли машина мыслить? М.: Физматгиз, 1960.

8. ЭВМ пятого поколения: концепции, проблемы, перспективы. М.: Финансы и статистика, 1984.       

9. Эндрю А. Искусственный интеллект. М.: Мир, 1985.

Отдел философии и права Академии наук Туркменской ССР
Дата поступления: 14 июля 1986 г .