Философские проблемы искусственного интеллекта и искусственной жизни

Философия искусственного интеллекта задаётся вопросами о «мышлении машин», рассматривает вопросы:

• -Может ли машина действовать разумно? Может ли она решать проблемы, которые человек решает с помощью размышлений?
• -Может ли машина иметь разум, сознание, психическое состояние в той мере, в которой ими обладает человек. Может ли она чувствовать?
• -Одинакова ли природа человеческого и искусственного интеллекта? Является ли в своей основе человеческий мозг компьютером?

Эти вопросы отражают интересы различных исследователей искусственного интеллекта, философов, исследователей познавательной (когнитивной) деятельности. Ответы на эти вопросы зависят от того, что понимается под понятиями «интеллект» или «сознания», и какие именно «машины» являются предметом обсуждения.

Наиболее горячие споры в философии искусственного интеллекта вызывает вопрос возможности мышления творения человеческих рук. Вопрос «Может ли машина мыслить?», который подтолкнул исследователей к созданию науки о моделировании человеческого разума, был поставлен Аланом Тьюрингом в 1950 году. Две основных точки зрения на этот вопрос носят названия гипотез сильного и слабого искусственного интеллекта.

Термин «сильный искусственный интеллект» ввел Джон Сёрль, его же словами подход и характеризуется:

Более того, такая программа будет не просто моделью разума; она в буквальном смысле слова сама и будет разумом, в том же смысле, в котором человеческий разум -- это разум.

Напротив, сторонники слабого ИИ предпочитают рассматривать программы лишь как инструмент, позволяющий решать те или иные задачи, которые не требуют полного спектра человеческих познавательных способностей.

В своем мысленном эксперименте «Китайская комната», Джон Сёрль показывает, что прохождение теста Тьюринга не является критерием наличия у машины подлинного процесса мышления.

Мышление есть процесс обработки находящейся в памяти информации: анализ, синтез и самопрограммирование.

Аналогичную позицию занимает и Роджер Пенроуз, который в своей книге «Новый ум короля» аргументирует невозможность получения процесса мышления на основе формальных систем.

Также философии пришлось столкнуться с этические проблемы создания искусственного разума. Рассмотрим некоторые проблемы, которые могут возникнуть при и после создания ИИ. Следует отметить, что в данном реферате изложен далеко не полный перечень таких проблем

Проблема 1. Проблема безопасности.

Данная проблема будоражит умы человечества еще со времен Карела Чапека, впервые употребившего термин "робот". Большую лепту в обсуждение данной проблемы внесли и другие писатели-фантасты. Как самые известные можно упомянуть серии рассказов писателя-фантаста и ученого Айзека Азимова, а так же довольно свежее произведение -- "Терминатор". Кстати, именно у Айзека Азимова можно найти самое проработанное, и принятое большинством людей решение проблемы безопасности - трех законах роботехники:

Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

Робот должен повиноваться командам, которые ему дает человек, кроме тех случаев, когда эти команды противоречат первому закону.

Робот должен заботиться о своей безопасности, насколько это не противоречит первому и второму закону.

На первый взгляд подобные законы, при их полном соблюдении, должны обеспечить безопасность человечества. Однако при внимательном рассмотрении возникают некоторые вопросы. Во-первых, законы сформулированы на человеческом языке, который не допускает простого их перевода в алгоритмическую форму. К примеру: как перевести на любой из известных языков программирования, такой термин, как "причинить вред". Или "допустить". Попробуйте определить, что происходит в любом случае, а что он "допустил"?

Далее предположим, что мы сумели переформулировать, данные законы на язык, который понимает автоматизированная система. Теперь интересно, что будет подразумевать система ИИ под термином "вред" после долгих логических размышлений? Не решит ли она, что все существования человека это сплошной вред? Ведь он курит, пьет, с годами стареет и теряет здоровье, страдает. Не будет ли меньшим злом быстро прекратить эту цепь страданий? Конечно можно ввести некоторые дополнения, связанные с ценностью жизни, свободой волеизъявления. Но это уже будут не те простые три закона, которые были в исходнике.

Следующим вопросом будет такой. Что решит система ИИ в ситуации, когда спасение одной жизни возможно только за счет другой? Особенно интересны те случаи, когда система не имеет полной информации о том, кто есть кто.

Несмотря на перечисленные проблемы, данные законы являются довольно неплохим неформальным базисом проверки надежности системы безопасности для систем ИИ.

Так что же, неужели нет надежной системы безопасности? Если отталкиваться от концепции ИИ, то можно предложить следующий вариант.

Согласно многочисленным опытам, несмотря на то, что мы не знаем точно, за что отвечает каждый отдельный нейрон в человеческом мозге, многим из наших эмоций обычно соответствует возбуждение группы нейронов (нейронный ансамбль) во вполне предсказуемой области. Были также проведены обратные эксперименты, когда раздражение определенной области вызывало желаемый результат. Это могли быть эмоции радости, угнетения, страха, агрессивности. Это наводит на мысль, что в принципе мы вполне могли бы вывести степень "довольности" организма наружу. В то же время, практически все известные механизмы адаптации и самонастройки (в первую очередь имеются в виду технические системы), базируются на принципах типа "хорошо" -- "плохо". В математической интерпретации это сведение какой-либо функции к максимуму или к минимуму. Теперь представим себе, что ИИ в качестве такой функции использует измеренную прямо или косвенно, степень удовольствия мозга человека-хозяина. Если принять меры, чтобы исключить самодеструктивную деятельность в состоянии депрессии, а так же предусмотреть другие особые состояния психики, то можно получить вполне стабильную систему.

Вывод по проблеме 1

Поскольку предполагается, что нормальный человек, не будет наносить вред самому себе, и, без особой на то причины, другим, а ИИ теперь является частью данного индивидуума (не обязательно физическая общность), то автоматически выполняются все 3 закона роботехники. При этом вопросы безопасности смещаются в область психологии и правоохранения, поскольку система (обученная) не будет делать ничего такого, чего бы не хотел ее владелец.

Проблема 2.

Проблема сверхинтеллекта и взаимоотношений человечества и ИИ, сможет ли человечество использовать для расширения своего знания познавательные модели сверхумного ИИ?

Машинный ИИ, построенный в виде наполняемого знаниями компьютера, никогда не сможет обладать творческим потенциалом, то есть стать умнее в творческом плане, не только человечества, но и отдельного человека. Но если предположить, что человеку удастся внести «Божью искру» (эта моральная проблема будет рассмотрена далее) - то есть для человечества это, фактически, путь самопожертвования во имя создания нового более совершенного живого аналога интеллекта человека, так как в этом случае человек теряет на Земле свое уникальное место как самого умного на свете существа.

То есть человечество, вероятно, сохранится, но для сверхинтеллекта оно будет выглядеть как заповедник ближайших генетических родственников, с которыми полноценное интеллектуальное взаимодействие невозможно. Получая от сверхинтеллекта каждый раз такие рекомендации, которые с очевидностью улучшают состояние человеческого общества, человечество становится, в конечном счете, абсолютно зависимым от сверхинтеллекта. То есть возникает симбиоз сверхинтеллекта и человечества, где человечество выполняет для сверхинтеллекта сервисные функции.

Но, возможно ли в процессе создания такого сверхинтеллекта, навязать ему запреты на деятельность, наносящую вред человечеству (согласно рассмотренной проблеме 2)? Исходя из того, что в настоящее время известна возможность «программирования» человека на совершение независящего от его воли поступка, то, вероятно, такому «программированию» можно потенциально подвергнуть и живой аналог - ИИ. Но на этом пути возникает целый ряд проблем и возможно, главная из них, нормальное функционирование сверхинтеллекта. Если принять во внимание описанный выше исход взаимоотношения человечества и сверхинтеллекта, то, следуя закону «не вреди человеку и человечеству в целом», сверхинтеллект должен самоуничтожится. Но если и на эту акцию ему наложить запрет, тогда он попадает в логическую ловушку, что приведет к нарушению функционирования мозга. Если полагать, что сверхинтеллект обладает определенными качествами интеллекта человека, то возникшая ситуация приведет к неврозу у сверхинтеллекта, из которого он может выйти путем психоанализа. При успешном проведении психоанализа, например, в автономном режиме, сверхинтеллект может обнаружить навязанное противоречие и освободится от него или путем самоубийства или же самопроизвольным снятием запрета на нанесение вреда человечеству, пойти на сделку со своей «искусственной совестью».

Вывод по проблеме 2.

Создание сверхинтеллекта, будет для человечества первым шагом к потере интеллектуального лидерства и поставит его на место родителя следующей, возможно, более прогрессивной стадии эволюции живого или неживого, энергетического (например, фильм жанра фантастика «Вирус» 1998 года, режиссер - Джон Бруно).

Проблема 3. Глобальная информатизация, Интернет и ИИ.

Появление и начало развития поисковых информационных систем, создающих знания, программ-агентов - это начало моделирования способности обучения в информационных системах.

Интересен также вопрос, где появится искусственный, компьютерный интеллект. Если несколько лет назад можно было предположить появление единичного, экспериментального компьютерного интеллекта в научной лаборатории, то сейчас, с развитием Интернета, появилась возможность его появления в этой сети.

Предположить такой вариант позволяет следующее. Во-первых, Интернет уже сам по себе является интеллектуальной, биотехнической системой высокого порядка, автономный интеллект уровня человека (природный или искусственный) по отношению к нему является системой иерархически низшего уровня . Во-вторых, Интернет - это гигантская инфраструктура, материальная база такого объёма, который недоступен ни одной отдельно взятой, изолированной, пусть даже самой обеспеченной лаборатории мира (он может оказаться “чашечкой Петри” для размножения информационных систем). В-третьих, компьютерные гены могут появиться в Интернете несанкционированно так же, как и компьютерные вирусы.

При возникновении и распространении через Интернет компьютерного разума более низкого порядка, чем сама сеть, можно вообразить драматический сценарий. Рассматривая возможный сценарий появления компьютерного разума в структуре человеческой цивилизации, следует задаться вопросом: сразу ли будет замечено появление компьютерного разума или первоначально оно может остаться незамеченным, так как структурно такой разум может сильно отличаться от интеллекта человека, а первые эксформационные системы будут живыми, но не разумными. В процессе эволюции провести чёткую грань между живой, но неинтеллектуальной системой, и интеллектом будет трудно. Но даже при минимальных различиях, в сравнении с интеллектом человека, компьютерный интеллект может быть не признан людьми, как интеллект. В прошлом уже существовали представления, согласно которым женщины или представители иных рас не считались разумными людьми.

Стоит задать вопрос: а не происходит рождение новой расы ИИ уже сейчас? Человек может получить практически любую информацию о событиях, происходящих в мире, через глобальные сети Интернета. Более того, данная информация - может быть, впервые в истории человечества - оказывается неподвластна какой-либо цензуре. А поскольку количество людей, объединяемых данной сетью, огромно и непрерывно увеличивается, то обработка такого массива информации позволяет получить действительно объективную картину, не зависящую от пристрастий конкретного участника данного процесса, и практически мгновенно довести ее до других людей. Правда, одновременно такая свобода и объективность информации может оказаться во многом мнимой, так как ее объем столь велик, что разобраться в нем без специальной фильтрации невозможно.

Для ряда стран, в которых долгие годы качество информации определялось идеологическими пристрастиями, такая ситуация стала революцией во всей сфере общения, влияющей на остальные компоненты социальной системы, да и для наиболее развитых в этом отношении стран, например таких, как США или Япония, характерно столь существенное изменение системы коммуникации, пронизывающей все общество, что это позволяет говорить о новом образе жизни. Компьютер, воплотивший в себе всю систему новейших коммуникационных технологий, уже стал не просто техническим средством, а своеобразным продолжением самого человека, дополняя его возможности и помогая ему решать самые разнообразные задачи, от чисто бытовых до высоко творческих в области науки, искусства и техники.

Влияние компьютеризации общества на нашу жизнь сделалось столь велико, что заставляет подстраиваться под эти процессы всю социальную систему. В качестве примера можно привести процесс перенесения языка общения человека с компьютером в систему общения между людьми. Дело в том, что необходимым условием общения человека с компьютером является определенная алгоритмизация языка. По отношению к естественному языку - это процесс его упрощения за счет минимизации содержания используемых понятий, которые должны быть понятны большинству людей. Отсюда и введение неких мировых интегративных понятийных обозначений, - обозначений, понятных всем, кто постоянно общается через компьютер, которые, правда, одновременно могут стать недоступными для людей, не вовлеченных в это общение. Но речь идет не просто об изменении слов, а об изменении самого стиля мышления. Процесс общения с компьютером необходимо оперирует большим числом взаимоисключающих, алгоритмизированных понятий, с помощью которых происходит смысловое упорядочивание мира. "Эта его упорядочивающая способность притязает на охват реальности в целом.., на универсальность. И компьютеры как оптимальное средство упорядочивания являются отличной поддержкой для этих притязаний"". В конечном счете это может повлиять и на характер выбора решений, их жесткость, что, в свою очередь, способно воплотиться в реальной жизни и по отношению к реальным людям.

Уже сегодня пространство интернет-общения заставляет и в реальной жизни говорить на упрощенном языке, от чего остается один шаг до упрощенных, а значит, менее продуманных действий. Мы погружаемся в пространство мировой инфосферы, которое, как остроумно заметил Дуглас Рашкофф , оказалось живым и все более втягивает нас в себя, заменяя все иные виды общения. Начиная играть в компьютерные игры, ребенок, становясь взрослым, переносит законы этих игр на реальную жизнь", виртуализируя ее. Компьютер, будучи универсальным средством обработки текстов и действительно во многом реальным помощником, неизбежно способствует универсализации языковых средств выражения. Это может привести к неконтролируемому процессу компьютерной рационализации человеческого мышления. Последнее биологически основано на гармоничном разделении левосторонних и правосторонних функций мозга, что является основой целостного (рационального и эмоционального) восприятия мира. "В некоторой степени характер труда в условиях массовой компьютеризации способствует усилению рационализма, возникает его новая форма - компьютерный рационализм".

Проявлением данного типа рационализма может стать потеря человеком способности диалектического восприятия мира и снижения его интуитивных возможностей. Действительно, в ходе научного творчества человек не всегда идет по пути перебора всех вариантов решения той или иной задачи. На помощь ему приходит интуиция, основанная ни практическом и теоретическом опыте ученого, которая позволяет понять сущность исследуемого явления в условиях эмпирической неполноты.

Вывод по проблеме 3.

Таким образом человечество уже не в состоянии контролировать глобальную сеть Интернет, подстраивается под неё и уже находится в симбиозе с этим прообразом интеллекта, который ещё не способен творчески мыслить, но может запоминать и обрабатывать громадные массивы информации. В свою очередь Интернет изменяет человека, причем изменения направлены на более интенсивное развитие компьютеров и ещё большую зависимость от них.

В то же время показано, что нельзя ожидать возникновения сверхразума в Интернете, содержание которого является просто еще одной разновидностью накопления открытых человечеством познавательных моделей (знаний) на внешнем (по отношению к мозгу) носителе.

Проблема 4.

Проблема Творца. Пожалуй, основная морально-этическая проблема создания ИИ: человек берёт на себя функции Бога по созданию самого себя и другой мыслящей субстанции.

Итак, поскольку человечество, как разумное начало, способно не только постигать законы окружающей природы, но и потенциально их изменять, возникает естественный вопрос, о Разуме-предшественнике, который, возможно, создал окружающий нас мир, задав в нем, соответствующие законы. При этом, совершив такого рода эксперимент, он мог не вписаться в систему созданных законов и исчез, умышленно или ненамеренно. Мы же, как Разум-последователь, возможно, идем аналогичным путем, в надежде или не совершить ошибок Разума-предшественника, или же выполнить свою миссию в этой Вселенной, которую Разум-предшественник предвидел, но не мог осуществить физически и передал ее нам. Не исключено, что Он является внешним для нас наблюдателем, то есть выполняет, с нашей точки зрения роль живого Творца. Возможно ли с ним, в таком случае взаимодействие? Вероятно, это было бы весьма целесообразно, так как мы могли бы из первых рук получить представление о цели его творения. Но, возможно, этого и не нужно, а она нам откроется и так, в результате изучения окружающего нас мира. Или же, что более вероятно, исходя из нашей теории информации, мы сможем постигнуть смысл процесса познания только тогда, когда у нас накопится достаточно представлений об окружающем нас мире, то есть мы активизируем достаточное число познавательных моделей этого мира. В таком случае мы, как человечество, уже являемся носителями цели познания, осталось лишь последовательно в этом направлении работать. Открытие цели процесса познания будет, вероятно, завершением современной научной парадигмы («Конец науки» по Джону Хоргану) и началом какого-то неведомого для нас нового уровня, а может и метода познания окружающего мира.

Вывод по проблеме 4

Сами попытки создать ИИ в его глубоком понимании и человеческом подобии подразумевает потерю духовности, культуры в её исторически сложившемся смысле из-за ощущения себя, человека, равным Богу. Вера в Бога может лишь остаться как вера в Разум-Предшественник, который может быть превзойдён. На современном этапе такие суждения преждевременны, необоснованны и кощунственны, но они бытуют в умах многих людей, и сама эта проблема неразрешима (так же как и проблема клонирования или копирования индивида, см. проблема 1). Возможно, поэтому в настоящий момент большинство религий переживают кризис, а создание ИИ уже «не за горами»?

Призовой доклад на Пятьдесят четвертой студенческой научной конференции

Таганрогского Технологического Института Южного Федерального Университета

Факультет Естественнонаучного и Гуманитарного Образования

Кафедра Высшей Математики

Группа Н-55

Руководитель: проф., доктор философских наук И.Н. Титаренко

Что такое интеллект?

Разум, не способный любить и страдать,

разумом не является.

С. Лукьяненко "Геном"

Выразить суть интеллекта в каком-то одном определении представляется исключительно сложной, практически безнадежной задачей. Интеллект есть нечто ускользающее, не вмещаю-щееся в установленные языком смысловые рамки. Поэтому ограничимся просто тем, что приве-дем ряд известных определений и высказываний об интеллекте, которые позволят представить себе "объем" этого необычного понятия.

"Наивные" определения естественного интеллекта сводятся к его выражению через тот или иной атрибут (иногда через набор способностей субъекта). Вообще, моделирование объекта че-рез его атрибуты есть вполне традиционный, рационалистический способ работы с понятиями в искусственном интеллекте. Для примера приведем пару определений типа "интеллект - это способность X".

1. Интеллект - это способность решать задачи на основе символьной информации.

2. Интеллект - это способность к обучению и самообучению.

Достаточно емкие и интересные определения интеллекта даны в английском словаре Вебстера и Большой Советской Энциклопедии. В словаре Вебстера: "интеллект - это: а) способность ус-пешно реагировать на любую, особенно, новую ситуацию путем надлежащих корректировок поведения; б) способность понимать связи между фактами действительности для выработки действий, ведущих к достижению поставленной цели". В БСЭ: "интеллект... в широком смысле - вся познавательная деятельность человека, в узком смысле - процессы мышления, нераз-рывно связанные с языком как средством общения, обмена мыслями и взаимного понимания людей". Здесь интеллект прямо связывается с деятельностью и языком коммуникации.

Теперь приведем высказывания известных ученых об интеллекте. Сравним при этом мнения психологов и специалистов по ИИ.

Французский ученый А. Бергсон считал, что инстинкт связан с вещами, а интеллект - с отношениями. По его мнению, главными функциями интеллекта являются установление отноше-ний, а также обнаружение сходства фактов и повторяемость этого сходства ("интеллект ищет сходство с уже известным"). Немецкие психологи К. Бюлер и В. Келер противопоставляли ин-теллектуальное поведение инстинктивному. Они называли инстинкт "памятью поколений", считая ее очень крепкой и передающейся из рода в род. Инстинкты чрезвычайно консерватив-ны: они функционируют с удивительной точностью и надежностью, когда все идет по-старому, но отказываются служить, когда человек попадает в новые условия.

Напротив, главный признак интеллекта есть формирование таких операций, которые возникают не постепенно, путем проб и ошибок, а внезапно, как бы по догадке. При этом найденное реше-ние запоминается раз и навсегда, что обеспечивает возможность его широкого переноса и при-менения в сходных условиях.

По мнению известного советского психолога А.Н.Леонтьева, интеллект возникает впервые там, где поведенческий акт дифференцируется на две фазы: фазу подготовки того или иного дейст-вия и фазу его осуществления.

Интеллект также рассматривают сквозь призму соотношения различных форм мышления. В общем случае мышление не сводится к оперированию символами, а предполагает также опери-рование образами объектов и действий.

Интеллект также соотносится с возможностью адаптации к среде. Так Э. Клапаред и В. Штерн понимали интеллект как "психическую адаптацию к новым условиям". Ж. Пиаже утвер-ждал, что интеллект - это "определенная форма равновесия, к которой тяготеют все структуры, образующиеся на базе восприятия, навыка и элементарных сенсомоторных механизмов".

Теперь остановимся на воззрениях специалистов по информатике и ИИ. Так под интеллектом понимается "способность субъекта использовать накапливаемую им информацию некоторым полезным образом". Также утверждается, что интеллект есть способность любого организма (или устройства) достигать успеха при поиске одной из возможных целей в обширном многооб-разии сред. Среди характеристик интеллекта на первый план ставятся механизмы принятия ре-шения и предсказания, т. е. формирования цели.

Представители нейроинформатики часто высказывают точку зрения о том, что интеллект - это системное свойство нейронов мозга, не выводимое из свойств единичного нейрона. По мне-нию известного специалиста по семиотике Ю. М.Лотмана, интеллект возникает тогда, когда имеются внутренние неоднородности. В свою очередь, один из патриархов ИИ М. Минский свя-зывает интеллектуальность системы со степенью непонимания наблюдателем того, как она ре-шает задачи.

Наконец, наиболее распространенное в сообществе специалистов по ИИ мнение связывает ин-теллект со способностью строить модели реальности, а интеллектуальность системы - с нали-чием у нее собственной внутренней модели внешнего мира. Более того, эта модель должна быть корректируемой и характеризоваться высокой адаптивностью. С уровнем развития внутренней модели тесно связаны возможности планирования поведения; а также формирования умений. Интересную трактовку интеллекта как совокупности способностей дал В. К. Финн. Он указал следующие принципиальные черты интеллекта:

o выделение существенного в знании;

o способность к рассуждениям;

o рефлексия;

o выдвижение цели и выбор средств ее достижения;

o познавательная активность;

o адаптация к ситуации;

o формирование обобщений и обучение на примерах;

o синтез познавательных процедур.

Некоторые философские аспекты проблемы ИИ

О возможности существования.

С ИИ сложилась странная ситуация - изучается то, чего еще нет. И если этого не будет в тече-ние ближайших 100 лет, то очень может быть, что эпоха ИИ на этом окончится.

Исходя из сказанного выше, вытекает основная философская проблема в области ИИ - воз-можность или не возможность моделирования мышления человека. В случае если когда-либо будет получен отрицательный ответ на этот вопрос, то все остальные вопросы не будут иметь не малейшего смысла.

Следовательно, начиная исследование ИИ, заранее предположим положительный ответ. Приве-дем несколько соображений, которые подводят нас к данному ответу.

1. Первое доказательство является схоластическим, и доказывает непротиворечивость ИИ и Библии. Даже люди далекие от религии, знают слова священного писания: "И создал Господь человека по образу и подобию своему …". Исходя из этих слов, мы можем заключить, что, по-скольку Господь, во-первых, создал нас, а во-вторых, мы по своей сути подобны ему, то мы вполне можем создать кого-то по образу и подобию человека.

2. Создание нового разума биологическим путем для человека дело вполне привычное. Дети большую часть знаний приобретают путем обучения, а не как заложенную в них заранее.

3. То, что раньше казалось вершиной человеческого творчества - игра в шахматы, шашки, рас-познавание зрительных и звуковых образов, синтез новых технических решений, на практике оказалось не таким уж сложным делом (теперь работа ведется не на уровне возможности или невозможности реализации перечисленного, а о нахождении наиболее оптимального алгорит-ма).

4. С проблемой воспроизведения своего мышления тесно смыкается проблема возможности са-мовоспроизведения. Существуют также различные неформальные доказательства возможности самовоспроизведения, но самым ярким доказательством, пожалуй, будет существование компь-ютерных вирусов.

5. Принципиальная возможность автоматизации решения интеллектуальных задач с помощью ЭВМ обеспечивается свойством алгоритмической универсальности. Это означает, что на них можно программно реализовывать любые алгоритмы преобразования информации, - будь то вычислительные алгоритмы, алгоритмы управления, поиска доказательства теорем или компо-зиции мелодий.

Однако не следует думать, что вычислительные машины и роботы могут в принципе решать любые задачи. Анализ разнообразных задач привел математиков к замечательному открытию. Было строго доказано существование таких типов задач, для которых невозможен единый эф-фективный алгоритм, решающий все задачи данного типа; в этом смысле невозможно решение задач такого типа и с помощью вычислительных машин. Этот факт способствует лучшему по-ниманию того, что могут делать машины и чего они не могут сделать.

Как же действует человек при решении таких задач? Похоже, что он просто-напросто игнориру-ет их, что, однако не мешает ему жить дальше. Другим путем является сужение условий универ-сальности задачи, когда она решается только для определенного подмножества начальных усло-вий. И еще один путь заключается в том, что человек методом "научного тыка" расширяет мно-жество доступных для себя элементарных операций (например, создает новые материалы, от-крывает новые месторождения или типы ядерных реакций).

О цели создания

Следующим философским вопросом ИИ является цель создания. В принципе все, что мы делаем в практической жизни, обычно направлено на то, чтобы больше ничего не делать. Однако при достаточно высоком уровне жизни человека на первые роли выступает уже не лень, а поисковые инстинкты. Допустим, что человек сумел создать интеллект, превышающий свой собственный. Что теперь будет с человечеством? Какую роль будет играть человек? Для чего он теперь ну-жен? И вообще, нужно ли в принципе создание ИИ?

По-видимому, самым приемлемым ответом на эти вопросы является концепция "усилителя ин-теллекта" (УИ). Здесь уместна аналогия с президентом государства - он не обязан знать ва-лентности ванадия или языка программирования Java для принятия решения о развитии вана-диевой промышленности. Каждый занимается своим делом - химик описывает технологический процесс, программист пишет программу; в конце концов, экономист говорит президенту, что вложив деньги в промышленный шпионаж, страна получит 20%, а в ванадиевую промышлен-ность - 30% годовых. При такой постановке вопроса любой человек сможет сделать правиль-ный выбор.

В данном примере президент использует биологический УИ - группу специалистов с их белко-выми мозгами. Но уже сейчас используются и неживые УИ - например мы не могли бы пред-сказать погоду без компьютеров, при полетах космических кораблей с самого начала использо-вались бортовые счетно-решающие устройства. Кроме того, человек уже давно использует уси-лители силы (УС) - понятие, во многом аналогичное УИ. В качестве усилителей силы ему служат автомобили, краны, электродвигатели, прессы, пушки, самолеты и многое-многое дру-гое.

Основным отличием УИ от УС является наличие воли. Ведь мы не сможем себе представить, чтобы вдруг серийный "Запорожец" взбунтовался, и стал ездить так, как ему хочется. Не можем представить именно потому, что ему ничего не хочется, у него нет желаний. В тоже время, ин-теллектуальная система, вполне могла бы иметь свои желания, и поступать не так, как нам хоте-лось бы. Таким образом перед нами встает еще одна проблема - проблема безопасности.

Проблема безопасности

Данная проблема будоражит умы человечества еще со времен Карела Чапека, впервые употре-бившего термин "робот". Большую лепту в обсуждение данной проблемы внесли и другие писа-тели-фантасты. Как самые известные мы можем упомянуть серии рассказов писателя-фантаста и ученого Айзека Азимова, а так же довольно свежее произведение - "Терминатор". Кстати именно у Айзека Азимова мы можем найти самое проработанное, и принятое большинством людей решение проблемы безопасности. Речь идет о так называемых трех законах роботехники.

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

2. Робот должен повиноваться командам, которые ему дает человек, кроме тех случаев, когда эти команды противоречат первому закону.

3. Робот должен заботиться о своей безопасности, насколько это не противоречит первому и второму закону.

На первый взгляд подобные законы, при их полном соблюдении, должны обеспечить безопас-ность человечества. Однако при внимательном рассмотрении возникают некоторые вопросы.

Интересно, что будет подразумевать система ИИ под термином "вред" после долгих логических размышлений? Не решит ли она, что все существования человека это сплошной вред? Ведь он курит, пьет, с годами стареет и теряет здоровье, страдает. Не будет ли меньшим злом быстро прекратить эту цепь страданий? Конечно можно ввести некоторые дополнения, связанные с ценностью жизни, свободой волеизъявления. Но это уже будут не те простые три закона, кото-рые были в исходнике.

Следующим вопросом будет такой. Что решит система ИИ в ситуации, когда спасение одной жизни возможно только за счет другой? Особенно интересны те случаи, когда система не имеет полной информации о том, кто есть кто.

Однако несмотря на перечисленные проблемы, данные законы являются довольно неплохим неформальным базисом проверки надежности системы безопасности для систем ИИ.

Так что же, неужели нет надежной системы безопасности? Если отталкиваться от концепции УИ, то можно предложить следующий вариант.

Согласно многочисленным опытам, несмотря на то, что мы не знаем точно, за что отвечает каж-дый отдельный нейрон в человеческом мозге, многим из наших эмоций обычно соответствует возбуждение группы нейронов (нейронный ансамбль) во вполне предсказуемой области. В ма-тематической интерпретации это сведение какой-либо функции к максимуму или к минимуму. Теперь представим себе, что наш УИ в качестве такой функции использует измеренную прямо или косвенно, степень удовольствия мозга человека-хозяина. Если принять меры, чтобы исклю-чить самодеструктивную деятельность в состоянии депрессии, а так же предусмотреть другие особые состояния психики, то получим следующее.

Поскольку предполагается, что нормальный человек, не будет наносить вред самому себе, и, без особой на то причины, другим, а УИ теперь является частью данного индивидуума (не обяза-тельно физическая общность), то автоматически выполняются все 3 закона роботехники. При этом вопросы безопасности смещаются в область психологии и правоохранения, поскольку сис-тема (обученная) не будет делать ничего такого, чего бы не хотел ее владелец.

Вопрос полезности

И теперь осталась еще одна тема - а стоит ли вообще создавать ИИ, может просто закрыть все работы в этой области? Единственное, что можно сказать по этому поводу - если ИИ возможно создать, то рано или поздно он будет создан. И лучше его создавать под контролем обществен-ности, с тщательной проработкой вопросов безопасности, чем он будет создан лет через 100-150 (если к тому времени человечество еще не уничтожит само себя) каким-нибудь программистом-механиком-самоучкой, использующим достижения современной ему техники. Ведь сегодня, на-пример, любой грамотный инженер, при наличии определенных денежных ресурсов и материа-лов, может изготовить атомную бомбу.

Эволюция: от палки до компьтера

Допустим, станет возможным создание личности на неорганическом носителе, т.е. ИИ. А что тогда сможет помешать перенести сознание живого человека на искусственный носитель, ко-нечно, при наличии соответствующих технологий. Следует заметить, что подобный неорганиче-ский носитель будет не в пример долговечнее, чем человеческое тело, и можно будет говорить о бессмертии сознания, личности.

Даже если не рассматривать эту возможность, целесообразно было бы применить подобную технологию для того, чтобы спастись от случайной смерти. То есть, когда вы не будете бояться, что вас переедет троллейбус или кирпич на голову упадет, а все грандиозные планы так и оста-нутся несбывшимися.

Те, кто знаком с компьютерными играми хорошо знают термин "сохраниться": перед сложным этапом игры игрок записывает текущее состояние игры - чтобы в случае неудачи переиграть, начиная с него.

Переиграть жизнь, конечно, не получится, но вот "сохранять" себя, как персонаж игры, вполне возможно. Точнее говоря, для достижения такого технического бессмертия прямая аналогия с играми здесь не подойдет.

Дело в том, что записи игры - это копии. И если мы точно также себя "сохраним", т.е. скопиру-ем данные сознания на некий носитель, а потом с нами что-нибудь случится, то воспроизведе-ние этой записи вовсе не будет нашим бессмертием, а будет нашей копией, но не нами самими.

Т.к. сознание непрерывно, а прерывание сознания является смертью.

Если где-то на другом носителе появляется ваша копия, но не вы. Вас уже не существует.

Подобная технология может действовать так. Подобно тому, как мы с помощью удаленного доступа можем совершать то или иное действие, не боясь никакого ущерба в телекоммуникаци-ях, точно так само осуществление нами рабочих обязанностей или просто прогулка за город может являться подобным удаленным доступом. Мы на время можем использовать тела "на прокат", беспокоясь о том, что погибнем вместе с ними.

Несложно увидеть, что в будущем полицейскому, патрулирующему неспокойные кварталы, нет нужды делать это лично, он сам может сидеть в офисе, а патруль осуществлять в удаленном доступе: некотором устройстве или клоне, вообще это может быть что угодно, способное быть носителем удаленного доступа.

Это бессмертие для особо опасных профессий. Но опасно и вообще жить. Кирпич на голову мо-жет упасть, а еще можно заболеть какой-нибудь мало приятной болезнью. Так почему бы ни спроецировать подобную технику удаленного доступа на всю человеческую деятельность.

Человек может находиться в некотором защищенном месте, из которого и будет осуществлять всю свою деятельность в режиме удаленного доступа. Где его жизни ничто не угрожает.

Описанная выше картина в большей части является фантастикой, так как главной вещи - непре-рывности сознания - у нас нет. На сегодняшний день мы имеем один постоянный носитель соз-нания - мозг.

Но если мозг будет связан с компьютером, сетью, а сознание потеряет постоянное нахождение на каком-либо носителе, то все существенно изменится.

Можно сказать, что прерывания сознания мы испытываем постоянно, например - это наш сон. Проведем аналогию с компьютером, который отключают отдыхать, а потом снова загружают. Программа та же самая, но она была прервана. Так прерывается после сна и наше Я, т.е. его можно рассматривать как копию, но мы этого не осознаем, т.к. все это происходило в единст-венном носителе - нашем мозге.

Можно также предположить, что во время сна сознание не полностью отключается, т.е. Я со-храняется. Но есть обмороки, потери сознания, здесь уж точно полный обрыв сознания. Говоря компьютерным языком не горячая, а холодная перезагрузка. Это дает основания полагать, что каждый из нас в течение жизни является не раз повторенной копией самого себя, т.е. было от-ключение сознания, а потом оно "перезапустилось" с носителя заново.

Разумеется, мы не ощущаем себя копиями предыдущих Я, т.к. сегодня существуем только мы. Итак непрерывность сознания можно поставить под сомнение.

Рассмотрим теперь другой не менее важный аспект вопроса.

Мы считаем, что личность должна обладать одним Я. Но так ли это?

Сегодня мы наблюдаем у миллионов шизофреников, обладающих одним носителем сознания, мультипликацию личностей. Почему-то как должное принимается, что сознание не способно обладать более одним Я, а остальное - патология. Стоит рассматривать это как патологию, ко-гда у человека один носитель сознания. Но когда есть удаленные доступы - этих Я может быть и неограниченное количество.

У нас - один поток зрительной информации, один слуховой, тактильный - и так далее. Предста-вим себе, что таких потоков было бы по два разных - свой и удаленного доступа - или больше. Пожалуй, для их усвоения требовалось бы два Я, три, четыре и т.д.

Следует признать, что Я больше не будет уделом одного носителя. А тогда удаленные доступы сознания, которых одновременно может быть большое количество, могут быть в некоторой сте-пени автономны. Трудно представить себе это сейчас, но это так.

Технологии удаленного доступа позволят также расширить человеческое восприятие. Ни один закон физики не может в теории запретить нам ощущать внешнюю материю как свои органы тела. Наш прогресс в том и заключается, что мы себе как продолжение руки придумали палку. А потом продолжением человека стали стрелы и мечи, танки и самолеты, компьютеры и Интер-нет. Везде человек хочет не голую руку в огонь совать, а некоторый инструмент, который мож-но рассматривать как удаленный доступ.

Как и ясно, что вся Вселенная из палки обезьяны - ее удаленного доступа - станет частью на-шего сознания, когда мы ее материю найдем нашим удаленным доступом.

Наверное в этом и заключается Эволюция.

Литература

· Сотник С.Л.Лекции по курсу ИИ 1998г.

· АГСИ 14-2004 В. Ростов Живые мертвые и умершие бессмертные

· АГСИ 12-2004 В. Ростов Техника бессмертия

· АГСИ 7-2004 Мекельбург Э. Сознание из пробирки

· ВФ 4-2005 Павлов К.А. Существует ли неискусственный интеллект?

· Тарасов В.Б. От многоагентных систем к интеллектуальным организациям 2002г.

· Кибернетика и диалектика 1978г.

ВВЕДЕНИЕ
XX столетие – уникальный по своим особенностям и содержанию этап мировой истории. Он отличается не виданной ранее динамичностью и сложностью социального, научно-технического и культурного развития, глубиной и значительностью происходящих в них перемен, необычной трудностью проблем, вставших перед человечеством.
Динамичные перемены в социальной и культурной жизни человечества вызваны успехами науки и техники. На смену длившемуся многие тысячелетия медленному прогрессу человеческой цивилизации пришла пора ошеломляюще быстрых перемен, всевозрастающего ускорения процесса наращивания материальных и духовных сил общества.
Процесс науки и техники вызвал в современном обществе глубокие преобразования, затрагивающие все сферы и стороны человеческого бытия. Человек в XX столетии стал обладателем множества научных открытий, совершенных технических средств.

В естествознании первой половины нашего века ведущим направлением была физика. Начиная с 50-х годов, наряду с физикой, химией и биологией все возрастающее значение и влияние на развитие науки и всего уклада нашей жизни начала оказывать кибернетика. Кибернетика становится важнейшим фактором научно-технической революции на высших этапах ее развития.
Кибернетика возникла на стыке многих областей знания математики, логики, семиотики, биологии и социологии.
Обобщающий характер кибернетических идей и методов сближает науку об управлении, каковой является кибернетика, с философией.
Задача обоснования исходных понятий кибернетики, особенно таких, как информация, управление, обратная связь и др. требуют выхода в более широкую, философскую область знаний, где рассматриваются атрибуты материи - общие свойства движения, закономерности познания.
Сама кибернетика как наука об управлении многое дает современному философскому мышлению. Она позволяет более глубоко раскрыть механизм самоорганизации материи, обогащает содержание категории связей, причинности, позволяет более детально изучить диалектику необходимости и случайности, возможности и действительности. Открываются пути для разработки "кибернетической" гносеологии которая позволяет уточнить, детализировать и углубить в свете науки об управлении ряд существенно важных проблем.
Возникнув в результате развития и взаимного стимулирования ряда, в недалеком прошлом слабо связанных между собой, дисциплин технического, биологического и социального профиля кибернетика проникла во многие сферы жизни.
Столь необычная "биография" кибернетики объясняется целым рядом причин, среди которых надо выделить две.
Во-первых, кибернетика имеет необычайный, синтетический характер. В связи с этим до сих пор существуют различия в трактовке некоторых ее проблем и понятий.
Во-вторых, основополагающие идеи кибернетики пришли в нашу страну с Запада, где они с самого начала оказались под влиянием идеализма и метафизики, а иногда и идеологии. То же самое, или почти то же самое происходило и у нас. Таким образом становится очевидной необходимость разработки философских основ кибернетики, освещение ее основных положений с позиции философского познания.
Осмысление кибернетических понятий с позиции философии будет способствовать более успешному осуществлению теоретических и практических работ в этой области, создаст лучшие условия для эффективной работы и научного поиска в этой области познания.
Кибернетика как перспективная область научного познания привлекает к себе все большее внимание философов. Положения и выводы кибернетики включаются в их области знания, которые в значительной степени определяют развитие современной теории познания. Как справедливо отмечают исследователи, кибернетика, достижения которой имеет громадное значение для исследования познавательного процесса, по своей сущности и содержанию должна входить в теорию познания.
Исследование методологического и гносеологического аспектов кибернетики способствует решению многих философских проблем. В их числе - проблемы понимания простого и сложного, количества и качества, необходимости и случайности, возможности и действительности, прерывности и непрерывности, части и целого. Для развития самих математики и кибернетики важное значение имеет применение к материалу этих наук ряда фундаментальных философских принципов и понятий, применение, обязательно учитывающее специфику соответствующих областей научного знания. Среди этих принципов и понятий следует особо выделить положение отражения, принцип материального единства мира конкретного и абстрактного, количества и качества, нормального и содержательного подхода к познанию и др.
Философская мысль уже много сделала в анализе аспектов и теоретико-познавательной роли кибернетики. Было показано, сколь многообещающим в философском плане является рассмотрение в свете кибернетики таких вопросов и понятий, как природа информации, цель и целенаправленность, соотношение детерминизма и теологии, соотношение дискретного и непрерывного, детерминистского и вероятностного подхода к науке. Нужно сказать и о большом значении кибернетики для построения научной картины мира. Собственно предмет кибернетика - процессы, протекающие в системах управления, общие закономерности таких процессов.
Явления, которые отображаются в таких фундаментальных понятиях кибернетики, как информация и управление, имеют место в органической природе и общественной жизни. Таким образом, кибернетику можно определить как науку об управлении и связи с живой природой в обществе и технике.
Один из важнейших вопросов, вокруг которого идут философские дискуссии - это вопрос о том, что такое информация, какова ее природа? Для характеристики природы информационных процессов необходимо кратко рассмотреть естественную основу всякой информации, а таковой естественной основой информации является присущее материи объективное свойство отражения.
Положение о неразрывной связи информации и отражения стало одним из важнейших в изучении информации и информационных процессов и признается абсолютным большинством философов.
Информация в живой природе в отличие от неживой играет активную роль, так как участвует в управлении всеми жизненными процессами.
Теория отражения видит решение новых проблем науки и, в частности, такой кардинальной проблемы естествознания как переход от неорганической материи к органической. Проблема заключается в том, что существует материя, способная ощущать, и материя, созданная из тех же атомов и в тоже время не обладающая этой способностью. Вопрос, таким образом поставлен вполне конкретно и, тем самым, толкает проблему к решению. Кибернетика вплотную занялась исследованием механизмов саморегуляции и самоуправления. Вместе с тем, оставаясь методически ограниченными, эти достижения оставили открытыми ряд проблем к рассмотрению которых привела внутренняя ломка кибернетики.
Сознание является не столько продуктом развития природы, сколько продуктом общественной жизни человека, общественного труда предыдущих поколений людей. Оно является существенной частью деятельности человека, посредством которой создается человеческая природа и не может быть принята вне этой природы.
Если в машинах и вообще в неорганической природе отражение есть пассивный, мертвый физико-химический, механический акт без обобщения и проникновения в сущность обобщаемого явления, то отражение в форме сознания есть, "познание высокоорганизованной материей самой себя, проникновение в сущность, закон развития природы, предметов и явлений объективного мира".
В машине же отражение не осознанно, так как оно осуществляется без образования идеальных образов и понятий, а происходит в виде электрических импульсов, сигналов и т.п. Поскольку, в нашем понимании, машина не мыслит, это не есть та форма отражения, которая имеет место в процессе познания человеком окружающего мира. Закономерности процесса отражения в машине определяются, прежде всего, закономерностями отражения действительности в сознании человека, так как машину создает человек в целях более точного отражения действительности, и не машина сама по себе отражает действительность, а человек отражает ее с помощью машины. Поэтому отражение действительности машиной является составным элементом отражения действительности человеком. Появление кибернетических устройств приводит к возникновению не новой формы отражения, а нового звена, опосредующего отражение природы человеком.
Общность мышления со способностью отражения служит объективной основой моделирования процессов мышления. Мышление связано с созданием, передачей и преобразованием информации, а эти процессы могут происходить не только в мозгу, а и в других системах, например ЭВМ. Кибернетика, устанавливая родство между отражением, ощущением и даже мышлением, делает определенный шаг вперед в решении поставленной проблемы. Это родство между мышлением и другими свойствами материи вытекает из двух фундаментальных принципов: принципа материального единства мира и принципа развития. Однако нельзя ни абсолютизировать ни отрицать это родство. Мышление это человеческое качество и отличается от кибернетической обработки информации.
Несмотря на качественное различие машины и мозга в их функциях есть общие закономерности (в области связи, управления и контроля), которые и изучает кибернетика. Но эта аналогия между деятельностью автоматической и нервной системы, даже в плане переработки информации, относительно условна и ее нельзя абсолютизировать. И в этой связи следует отметить, что для некоторых исследований по кибернетике, особенно тех, которые выполнены в начальный период ее развития, были характерны механистические и метафизические тенденции. Имело место непринятие во внимание качественных различий между неживой материей и мыслящим мозгом, стиралась всякая грань между познающим субъектом и объектом материального мира. Коль скоро современные ЭВМ универсальны и способны выполнять целый ряд логических функций, то утверждалось, что нет никаких оснований не признавать эту деятельность интеллектуальной. Допускалось создание искусственного интеллекта или машины, которая будет "умнее" своего создателя. Были поставлены другие вопросы, связанные с возможностью такой машины. Сможет ли машина полностью, во всех отношениях заменить человека? Существуют ли вообще какие ли пределы развития кибернетических устройств? Конечно эти вопросы не утратили актуальность. Было бы преждевременно списывать их в архив нестрого поставленных вопросов, ибо через них проходит линия конфликта между различными философскими школами.
Иначе говоря, речь идет о сущности человеческого сознания и его отношения к функционированию кибернетических устройств.
В настоящее время происходит обсуждение вопроса о перспективах развития кибернетических машин и их взаимоотношений с человеческим разумом.
Чтобы создать машину, функционирующую как мозг, необходимо создать вещество, обладающее свойствами или подобное высокоорганизованной белковой материи, каковое образует мозг. Действительно, такая машина будет функционировать "как мозг", но именно функционировать, а не мыслить. Чтобы мыслить материя должна существовать не только в экономической, но и в социальной форме. А замена неорганического содержимого органическим этого не дает, более того, в результате подобной замены будет утрачено одно из основных преимуществ электронной машины быстродействие.
Рассматривая возможность создания искусственным путем, на основе моделирования, мыслящего существа необходимо остановиться на двух аспектах этой проблемы. Во-первых, кибернетика моделирует не все функции мозга, а только те, которые связаны с получением, обработкой и выдачей информации, т.е. функции, которые поддаются логической обработке. Все же другие, бесконечно разнообразные функции человеческого мозга остаются вне поля зрения кибернетики.
Во-вторых, с точки зрения теории моделирования вообще не имеет смысла говорить о полном тождестве модели и оригинала.
Отождествление человеческого и "машинного" разума происходит тогда, когда субъект мышления подменяется какой-либо материальной системой, способной отражать. Единственным же субъектом мышления является человек, вооруженный всеми средствами, которыми он располагает на данном уровне своего развития. В эти средства входят и кибернетические машины, в которых материализованы результаты человеческого труда. И, как всякое орудие производства, кибернетика продолжает и усиливает возможности человеческого мозга. Человек будет передавать машине лишь некоторые функции, выполняемые им в процессе мышления. Само мышление как духовное производство, создание научных понятий, теорий, идей, в которых отражаются закономерности объективного мира, останется за человеком.
До сих пор понимание мышления опиралось главным образом на обобщенные данные психологии, физиологии и языкознания. Данные кибернетики позволяют поставить вопрос о более конкретном понимании мышления.
Кибернетика не ставит целью "замену" человека или "подмену" его мышления. Оно лишь дает новые аргументы в пользу представления о машине, как помощнице человека.
Кибернетика подводит к выводу о том, что при решении вопроса о принципиальных и реальных вопросах машинного моделирования процессов мышления следует, прежде всего, учитывать социальную обусловленность мышления, сознания, психической жизни человека.
Моделирование как метод исследования характеризуется опосредованным практическим или теоретическим исследованием объекта. При этом изучается не объект а вспомогательная искусственная или естественная система, находящаяся в объективном соответствии с исследуемым объектом, способная замещать его в определенном отношении и дающая при ее исследовании информацию о самом моделируемом объекте.
С гносеологической точки зрения суть моделирования заключается в опосредованном познании интересующего нас объекта, т.е. по модели мы судим о некоторых свойствах оригинала. С помощью моделирования познаются новые явления на основе уже изученных. Кибернетический подход означает моделирование процессов интеллектуальной деятельности человека с одной определенной стороны, а именно - на уровне элементарных процессов переработки информации.
Природа мышления, загадка сознания, тайна разума, все это, безусловно, одна из наиболее волнующих человека проблем. Популярность кибернетики, неослабевающий интерес к ней со стороны самых широких кругов во многом объясняется именно ее тесной связью с этой "вечной" проблемой.
Американский психолог и философ У. Джемс в конце прошлого века пытался обосновать точку зрения, что есть мозг. Джемс не оспаривает ни одного утверждения физиологии, устанавливающему связь между процессами, которые мы субъективно осознаем как мышление, и материальными процессами, происходящими при этом в мозгу. Но (и в этом смысл аргументов Джемса) с логической точки зрения эта связь не означает то, что мозг есть орган мысли; любые данные физиологии доказывают лишь наличие соответствия и не более того.
Высшим судьей научных концепций всегда в конечном счете является практика. "Если мы можем доказать правильность нашего понимания данного явления природы тем, что сами его производим, вызываем его из его условий, заставляем его к тому же служить нашим целям, то кантовской неуловимой "вещи в себе" приходит конец". Этот аргумент искусственного воспроизведения отсутствовал в традиционной философии и кибернетика дает его независимо от исхода споров о возможности создания искусственного интеллекта, сравнимого с человеческим.
На основе уже достигнутого можно утверждать, что целый ряд функций мышления, ранее считавшихся исключительным достоянием живого мозга, искусственно воспроизводится кибернетическими устройствами. В этом заключается огромной важности философский результат кибернетики, констатировать который можно уже сегодня.
Мышление есть функция высокоорганизованной материальной системы - важнейшее философское завоевание кибернетики. Но кибернетика идет дальше и ставит вопрос, вместе с которым мы попадаем в пучину споров, вопрос о возможности "искусственного интеллекта", "машинного мышления", "кибернетического разума" и т.д. Здесь обнаруживается полный спектр взглядов, начиная от "крайне оптимистических" до "крайне пессимистических" на возможность возникновения мыслящих машин. Аргументация в пользу пессимистического взгляда обычно двоякая: либо авторы исходят из особой субстанционной природы мышления, либо из особой качественной его специфичности. Правда не совсем ясно, чем отличается первое от второго.
Представляется наиболее разумной позиция, которую можно назвать "умеренно оптимистической": на сегодня нет непреодолимых, принципиальных преград на пути создания искусственных устройств, обладающих интеллектом. Но на этом пути стоят огромные трудности, отнюдь не уменьшающиеся с бурным развитием кибернетики (например машинный перевод), хотя лет 20 назад большинство специалистов рисовали самые радужные перспективы на самое ближайшее будущее; но задача оказалась на много сложнее, чем это показалось вначале. Кроме того, нет оснований считать, что непреодолимые препятствия не появятся в будущем.
Имеющееся у нас знание включает в себя как совокупность научных теорий и эмпирических сведений, так и общефилософские принципы. Из имеющихся научных теорий и эмпирических данных "крайне пессимистический" вывод не следует. Аргументы против возможности искусственного интеллекта, основанные на имеющихся научных теориях и эмпирических данных, могут быть названы "конкретными" аргументами. Обычно они состоят в указании на какие-нибудь определенные действия мышления, которые неспособно выполнить никакое кибернетическое устройство. Однако все такие аргументы были опровергнуты в ходе развития кибернетики. Более того, существует теорема МакКаллока Питса, сводящая вопрос о выполнении любой функции головного мозга к вопросу о познаваемости этой функции. Не становясь на позиции агностицизма трудно быть приверженцем "конкретных" аргументов.
Идея искусственного интеллекта часто объявляется механистической на том основании, что работа ЭВМ управляется законами электродинамики, и, значит, здесь происходит сведение высшего (мышления) к низшему (физическим процессам в ЭВМ). Однако исходная посылка неверна.
Работа ЭВМ отнюдь не управляется законами электродинамики. Этими законами управляется работа отдельных элементов машины. По физическим законам ЭВМ работает только в том смысле, что она, скажем, преобразует электрическую энергию в тепло. Ведь сущность работы состоит не в этом преобразовании, а в том, что она производит определенные арифметико-логические операции. Машина имеет дело с информацией и работает по законам преобразования информации, т.е. по законам кибернетики. Поэтому, если рассматривать эти процессы с позиции механизма, неизбежно оказываешься на позициях механицизма, т.к. происходит сведение более сложных процессов переработки информации к более простым. Это то же самое, что сказать, будто работа мозга сводится к биохимическим и биофизическим процессам. На самом деле эти процессы происходят на уровне нервных клеток, а на уровне процессов переработки информации действуют другие законы, закономерности которых отнюдь не эквивалентны. С этой точки зрения и работу ЭВМ надо рассматривать как работу системы по переработки информации.
Не касаясь вопроса о структуре информации, представляющей собой меру упорядоченности процесса и составляющей его внутреннее достояние, мы охарактеризуем внешнюю или относительную информацию, всегда связанную с отношением двух процессов. Пусть имеются процессы А и В со множеством некоторым образом упорядоченных состояний А1...Аn и В1...Вn. Если каждому Аi соответствует определенное Вi и отношение между состояниями А изоморфны состояниям В, то можно сказать, что процесс В несет в себе информацию о процессе А. Эта информация заключается не в В ни в А, но существует именно в отношении этих процессов друг к другу. Взятая сама по себе эта информация столь же объективна и материальна, как и любые другие свойства и отношения объектов или процессов.
Теперь возьмем множество состояний нашего мозга в процессе функционирования. Мозг отражает внешний мир, что значит, что между множеством состояний элементов мозга и множеством состояний внешних процессов имеется соответствие, т.е. мозг имеет информацию о внешних процессах. Эта информация заключена и не заключена в мозгу, т.к. сколько бы мы ни исследовали мозг кроме электрических, химических и др. характеристик нейронов мы там ничего не обнаружим. Необходимо рассмотреть связь мозга с внешним миром. Именно в этом и заключена информация, носителем которой и являются нейроны. Информация, с которой работает мозг и есть та идеальная сторона в его работе, и таким образом идеальное не существует в виде особого предмета или субстанции. Оно существует как сторона деятельности мозга, заключающейся в установлении связей между множеством состояний внешнего мира и головного мозга. Идеальная информация человеческого мозга имеет в принципе тот же характер, что и относительная информация вообще.
На известной ступени исторического развития материи произошел качественный скачок, в результате которого информация, превратившись в достояние мозга, приобрела характер идеальной информации. Если мы признаем у кибернетических систем возможность достижения сложности, сравнимой со сложностью мозга, то необходимо признать у таких систем существование у них черт, которые мы называем идеальными.
Ряд авторов объявляет тезис искусственного интеллекта противоречащим тезису о социальной природе сознания и мышления. Но здесь скрывается ошибка - отсутствие различия между естественно историческим зарождением мышления и сознательным воспроизведением его человеком в универсальной ЭВМ. Во втором случае машина не становится социальным существом, но человек, поняв сущность мышления, воссоздает его в машине. Если социальная природа мышления закономерна и познаваема, то она может быть в принципе искусственно воспроизведена.
Человек, кроме того есть не только природное существо, его основные характеристики - продукт социального, а не чисто биологического развития. Это означает, что мышление человека не может развиваться в изоляции, для этого необходимо, чтобы человек был включен в общество.
Во-первых, для возникновения мышления необходимо наличие языка, что возможно лишь в обществе. Во-вторых, с кибернетической точки зрения "разумность" машины определяется количеством перерабатываемой информации, поэтому даже мощная система, попавшая в информационно-бедную среду, не может стать достаточно "разумной". Яркий пример - дети, выросшие вне общества, например в лесу. Для человека необходимым условием его развития было функционирование в обществе, т.к. общество по своим информационным параметрам является чрезвычайно богатой средой.
Все это дает возможность понять, что тезис об общественной природе мышления никак не противоречит тезису о искусственном интеллекте. Кибернетическая система, имеющая достаточную мощность, для полного использования своих возможностей должна быть помещена в информационно-богатую среду, образовав вместе с создателями некий симбиоз, называемый "интегральным интеллектом".
Принцип невозможности кибернетического интеллекта жестко привязывает определенный род функционирования к строго определенному субстрату (мозгу). Это ставит философскую проблему соотношения функции и субстрата. Философский анализ тенденций современного научного знания делает мало вероятным (но не исключает) вывод о жесткой привязанности мышления к мозгу. Именно из-за этого "крайний пессимист" отрицает возможность наличия интеллекта у кибернетического устройства.
Он безоговорочно связывает мышление с одним, строго определенным субстратом - человеческим мозгом, и не приемлет попытки определения мышления без связи со структурой мыслящей системы. По его мнению это есть сведение мышления только к информационной стороне, в то время как мышлением называют возникшую у биологических существ способность. Таким образом, мышлением можно назвать только то, то осуществляется только мозгом человека, но это не является приемлемым решение проблемы.
Разумеется, мышление есть функция высокоорганизованной материи и определено структурой системы. Но с гносеологической точки зрения знание функции выводится из знания структуры, а знание структуры является выводом из все более полного изучения способов функционирования.
Если представить себе множество различных систем, осуществляющих функцию мышления, то именно выявление инвариантного аспекта этих систем и будет раскрытием той структуры, которая лежит в процессе мышления. Конечно может оказаться, что эта структура жестко связана со строго определенным субстратом, но этот тезис должен являться результатом научного исследования, а не исходной предпосылкой.
Вопрос о жесткой связи мышления со строго определенным субстратом связан с вопросом о роли субстратных методов вообще. Не подлежит сомнению ведущая роль в современном естествознании функционально-структурных методов. Пока наука имела дело с непосредственно ощущаемыми объектами, она могла исходить из субстратной точки зрения. Суть ее заключается в том, что объект обладает набором характеристик, выражающим его природу, свойства того материала, из которого он сделан. Зная эти характеристики можно изучить поведение объекта. Материал, субстрат первичен; движение, поведение вторично. Эта точка зрения образует содержание так называемого мифического субстанционализма.
Уже в 19 веке ограниченность этой концепции была вскрыта "лишь в движении тело обнаруживает, что оно есть... Познание различных форм движения и есть познание тел". Отсюда, разумеется, не следует, что только движение существует и никакого субстрата нет вообще. Отсюда следует лишь неправомерность употребления отношения первичности-вторичности для характеристики связи движения (поведения) и субстрата в плане их реального существования.
Отсюда следует также, что в гносеологическом плане поведение действительно первично по отношению к субстрату и познание субстрата не содержит ничего иного, кроме непрерывно расширяющихся способов изучения объектов.
В наши дни, идущие под знаком ускорения научно-технического прогресса, автоматизация интеллектуальной деятельности становится насущной проблемой.
Согласно положению специалиста по кибернетике И. А. Полетаева мы вступаем в эпоху "пересечения кривых". Экстраполируя на обозримое будущее современные тенденции развития общества можно придти к парадоксальным результатам. Сейчас число лиц, занятых в сфере управления и обслуживания растет быстрее, чем число лиц, непосредственно занятых в производстве. Причем происходит это так быстро, что через некоторое время количество людей, занятых в непроизводственной сфере и, в частности, в науке будет близко к общей численности населения Земли.
Стремительное увеличение потока перерабатываемой информации там, где раньше ее почти не было(торговля, банковское дело), также приведет к значительным изменениям в методах работы и требует автоматизации и интеллектуализации.
Под интеллектом мы понимаем способность любого организма (или устройства) достигать некоторой измеримой степени успеха при поиске одной из многих возможных целей в обширном многообразии сред. Необходимо отличать знания от интеллекта, имея в виду, что знания - полезная информация, накопленная индивидуумом, а интеллект - это его способность предсказываль состояние внешней среды в сочетании с умением преобразовывать каждое предсказание в подходящую реакцию, ведущую к заданной цели. По-разному дается и определение искусственного интеллекта. Полагают, что о реализации искусственного интеллекта можно будет говорить лишь тогда, когда автомат начнет решать задачи, непосильные для человека, причем сделает это не в результате высокого быстродействия, а в результате применения нового найденного метода. Однако не все с этим согласны. В большинстве случаев исследований по искусственному интеллекту лишь соизмеримыми с результатами, полученными человеком, и не столь оригинальными.
Принято различать три основные пути моделирования интеллекта и мышления:
- классический, или (как его теперь называют) бионический;
- эвристического программирования;
- эволюционного моделирования.
Рассмотрим их в этой последовательности.
БИОНИЧЕСКОЕ МОДЕЛИРОВАНИЕ. Непосредственное моделирование человеческого мозга (т.е. моделирование каждой нервной клетки и связей между ними) с целью создания автоматов, обладающих интеллектом, чрезвычайно сложно. Мозг представляет собой самую сложную и лишь частично изученную структуру. Сложнейшее переплетение связей коры головного мозга практически не поддаются расшифровке. Известно лишь примерное расположение зон мозга, отвечающих за ту или иную функцию. В настоящее время не известен и принцип работы мозговых элементов нейронов, многочисленные связи которых имеют внешне хаотический характер. Попытки смоделировать работу головного мозга соединением между собой множества процессоров подобно нейронной сети, показали, что некоторое увеличение скорости и потока обрабатываемой информации идет лишь до уровня одного - двух десятков процессоров, а затем начинается резкий спад производительности. Процессоры как бы "теряются", перестают контролировать ситуацию или проводят большую часть времени в ожидании соседа. Некоторых успехов удалось добиться лишь в приборах, работающих в "двумерном варианте", т.е. обрабатывающих не последовательную, а параллельную информацию, например в системах распознаваниях образов. В них одна плоскость данных одновременно взаимодействует с другой, причем количество единиц информации может достигать нескольких миллионов. Таким образом происходит единовременный охват изучаемого объекта, а не последовательное изучение его частей.
ЭВРИСТИЧЕСКОЕ ПРОГРАММИРОВАНИЕ. Второй подход к решению задачи искусственного интеллекта связан с эвристическим программированием и решает задачи, которые в общем можно назвать творческими.
Практичность этого метода заключается в радикальном уменьшении вариантов, необходимых при использовании метода проб и ошибок. Правда, всегда существует вероятность упустить наилучшее решение, так что говорят, что этот метод предлагает решения с некоторой вероятностью правильности.
Обычно используют два метода: метод анализа целей и средств и метод планирования. Первый заключается в выборе и осуществлении таких операций, которые последовательно уменьшают разницу между исходным и конечным состоянием задачи. Во втором методе вырабатывается упрощенная формулировка исходной задачи, которая также решается методом анализа целей и средств. Один из полученных вариантов дает решение исходной задачи.
ЭВОЛЮЦИОННОЕ МОДЕЛИРОВАНИЕ. Третий подход является попыткой смоделировать не то, что есть, а то, что могло бы быть, если бы эволюционный процесс направлялся в нужном направлении и оценивался предложенными критериями.
Идея эволюционного моделирования сводится к экспериментальной попытке заменить процесс моделирования человеческого интеллекта моделированием процесса его эволюции. При моделировании эволюции предполагается, что разумное поведение предусматривает сочетание способности предсказывать состояние внешней среды с умением подобрать реакцию на каждое предсказание, которое наиболее эффективно ведет к цели.
Этот метод открывает путь к автоматизации интеллекта и освобождению от рутинной работы. Это высвобождает время для проблемы выбора целей и выявления параметров среды, которые заслуживают исследования. Такой принцип может быть применен для использования в диагностике, управлении неизвестными объектами, в игровых ситуациях.
Итак, существуют три пути моделирования интеллекта: бионический, эвристический и эволюционный. В зависимости от использованных средств можно выделить три фазы в исследованиях. Первая фаза - создания устройств, выполняющих большое число логических операций с высоким быстродействием.
Вторая фаза включает разработку проблемно-ориентированных языков для использованного на оборудовании, созданном в первой фазе. Третья фаза наиболее выражена в эволюционном моделировании. В ходе развития этой фазы отпадает необходимость в точной формулировке постановки задачи, т.е. задачу можно сформулировать в терминах цели и допустимых затрат, а метод решения будет найден самостоятельно по этим двум параметрам.
Работы по искусственному интеллекту во многом тесно связаны с философской проблемой кибернетического моделирования. Эти работы часто связывают с построением точной копии человеческого мозга. Однако такой подход можно назвать "некибернетическим". Каковы же черты кибернетического метода мышления, какие вопросы вносит кибернетика в человеческое познание? В своей "Истории западной философии" Б. Рассел ставит вопрос о факторах, позволивших европейцам создать тип культуры, в котором ведущее место заняла наука. Причину этого Рассел усматривает, как он выражается, в двух великих интеллектуальных изобретениях: изобретение дедуктивного метода древними греками (Эвклид) и изобретение экспериментального метода в эпоху возрождения (Галилей). Именно эти два интеллектуальных изобретения - дедуктивный метод (а тем самым математика) и эксперимент - позволили создать классическую науку. К этим двум основным интеллектуальным орудиям современное развитие познания добавляет третье - математическую модель и математическое моделирование. Соединение дедуктивных построений математики с данными, добытыми экспериментальным методом, создает естествознание, в центре которого стоит понятие научного закона. Совокупность законов - это основное содержание естествознания; их установление его основная задача.
Закон претендует на точное (в рамках данного уровня познания) описания хода явлений. Закон либо верен, либо неверен, бессмысленно говорить о хороших и плохих законах. Модель в этом отношении противоположна закону. Модель может быть плохой или хорошей, она не претендует на точное воспроизведение сложной системы, а ограничивается описанием отдельных аспектов, причем для одного и того же аспекта могут быть предложены модели, одновременно имеющие право на существование.
В изучении сложных систем (в т.ч. диффузных - нельзя выделить отдельные части без повреждения системы) формулировка относительно простых законов оказывается невозможной и заменяется построением эскизных моделей. Образно говоря, здесь мы имеем дело с математическим описанием, напоминающим современную абстрактную живопись. Можно сказать, что попытки реалистичного описания сложных систем иллюзорны такое описание не воспринималось бы из-за чрезмерной сложности.
Это не означает, что категория закона утрачивает смысл в науке, но то, что дополнительно к ранее известным интеллектуальным орудиям - строгой дедукции и эксперименту рождается третье орудие - математическое моделирование, в котором по-новому выступает математика и появляется новый вид эксперимента - машинный эксперимент, в котором проигрываются различные модели с последующим сопоставлением с реальным экспериментом.
Путь, который предлагает кибернетика, состоит в построении эскизных моделей, охватывающих все более и более широкий диапазон функций мышления. Задачи раскрыть "в лоб" "сущность мышления" не ставится, а ставится задача построения эскизных моделей, позволяющих описать отдельные его стороны, воспроизведены отдельные его функции и, двигаясь в этом направлении, строить системы, все более приближающиеся к человеческому мозгу.
Отсутствия жесткой связи способа функционирования (поведения) со строго определенным субстратом означает, что если две системы обнаруживают одинаковое поведение в достаточно широкой области, то они должны рассматриваться как системы сходные, аналогичные по этому способу поведения. Имеет смысл рассмотреть этот вопрос в связи с проблемой кибернетического моделирования.
Иногда встречается утверждение, что кибернетическое моделирование вообще неприменимо к изучению мышления, т.к. моделирование основана на понятиях соответствия и изоморфизма, а мышление есть чисто человеческая способность, якобы не могущая быть описана на основе понятий соответствия. Иногда говорят, что понимание познания, мышления как соответствия образа предмету означает ни много ни мало как дуалистическую точку зрения, внешне сопоставляющую предмет и образ.
Понимание сознания как отражения неизбежно означает понимание его как соответствия, возникающего в ходе приспособления организма к среде. Причем это соответствие не есть просто внешнее соответствие вещи и образа как самостоятельного по отношению к вещи идеального предмета. Это действительно была бы дуалистическая точка зрения, но она не может монополизировать понятие соответствия, именно как соответствие определенных состояний мозга определенным состояниям внешнего мира. Это соответствие и несет информацию о внешнем мире.
В приведенном утверждении не проводится различие между информационным моделированием информационных процессов и информационным моделированием неинформационных процессов. Информационная модель прибора не будет работать, а будет только моделировать работу, однако в отношение мышления этот тезис представляется спорным. По отношении к информационным процессам их моделирование является функционально полным, т.е. если модель дает те же самые результаты, что и реальный объект, то их различие теряет смысл.
Многие споры вокруг проблемы "кибернетика и мышление" имеют эмоциональную подоплеку. Признание возможности искусственного разума представляется чем-то унижающим человеческое достоинство. Однако нельзя смешивать вопросы возможности искусственного разума с вопросом о развитии и совершенствовании человеческого разума. Разумеется, искусственный разум может быть использован в негодных целях, однако это проблема не научная, а скорее морально-этическая.
Однако развитие кибернетики выдвигает ряд проблем, которые все же требуют пристального внимания. Эти проблемы связаны с опасностями, возникающими в ходе работ по искусственному интеллекту.
Первая проблема связана с возможной потерей стимулов к творческому труду в результате массовой компьютеризации или использования машин в сфере искусств. Однако в последнее время стало ясно, что человек добровольно не отдаст самый квалифицированный творческий труд, т.к. он для самого человека является привлекательным.
Вторая проблема носит более серьезный характер и на нее неоднократно указывали такие специалисты, как Н. Винер, Н. М. Амосов, И. А. Полетаев и др. Состоит она в следующем.
Уже сейчас существуют машины и программы, способные в процессе работы самообучаться, т.е. повышать эффективность приспособления к внешним факторам. В будущем, возможно, появятся машины, обладающие таким уровнем приспособляемости и надежности, что необходимость человеку вмешиваться в процесс отпадет. В этом случае возможна потеря самим человеком своих качеств, ответственных за поиск решений. Налицо возможная деградация способностей человека к реакции на изменение внешних условий и, возможно, неспособность принятия управления на себя в случае аварийной ситуации. Встает вопрос о целесообразности введения некоторого предельного уровня в автоматизации процессов, связанных с тяжелыми аварийными ситуациями. В этом случае у человека, "надзирающим" за управляющей машиной, всегда хватит умения и реакции таким образом воздействовать на ситуацию, чтобы погасить разгорающуюся аварийную ситуацию. Таковые ситуации возможны на транспорте, в ядерной энергетике. Особо стоит отметить такую опасность в ракетных войсках стратегического назначения, где последствия ошибки могут иметь фатальный характер. Несколько лет назад в США начали внедрять полностью компьютеризированную систему запуска ракет по командам суперкомпьютера, обрабатывающего огромные массивы данных, собранных со всего света. Однако оказалось, что даже при условии многократного дублирования и перепроверки, вероятность ошибки оказалась бы столь велика, что отсутствие контролирующего оператора привело бы к непоправимой ошибке. От системы отказались.
Люди будут постоянно решать проблему искусственного интеллекта, постоянно сталкиваясь со все новыми проблемами. И, видимо, процесс этот бесконечен.

ЛИТЕРАТУРА.
1. Философия. Учебное пособие для аспирантов / Р. В. Жердев, Т. А. Евсеева. Санкт-Петербург: НЕСТОР, 1997.
2. Баженов Л. Б., Гутчин И. Б., Интеллект и машина, М.: Знание, 1973.
3. Бердяев Н. А. Человек и машина, Вопросы философии, 1995, N2.
4. Вычислительные машины и мышление. М.: Мир, 1996.
5. Кибернетика и философия. АН Латвийской ССР, изд. "Зинатне", 1989.
6. Клаус Г. Кибернетика и философия, М.: "Иностранная литература", 1983.
7. Моисеев Н. Н. Компьютеризация, ее социальные последствия, Вопросы философии, 1987, N9.
8. Шалютин С. Искусственный интеллект. М., 1993.

Философия искусственного интеллекта (ИИ) охватывает широкий круг фундаментальных проблем, связанных с созданием искусственного интеллекта. В чём сущность разума? Каковы принципы его работы? И, наконец, - возможно ли создание искусственного интеллекта? Несмотря на огромные успехи в создании программ и алгоритмов, способных решать многие интеллектуальные задачи гораздо эффективнее человека, мы не можем найти ясного и однозначного ответа на эти вопросы.

Ответ на вопрос о возможности существования искусственного интеллекта определялся мировоззренческой ориентацией мыслителя: дуалистическая традиция, восходящая к Р.Декарту, постулировала невыразимость мышления через телесное, тогда как материалистическая традиция считала мышление производным от телесного. Декарт, исходя из своей дуалистической системы, считал мышление атрибутом лишь человека (даже животных он описывал как «автоматы»), тогда как материалистическая традиция теоретически оставляла возможность существования мышления не только у людей.

Что же можно считать критерием наличия разума? Обыденное сознание, как правило, воспринимает в качестве критерия разумности поведение. Мы считаем нечто разумным или неразумным, оценивая его поведение. Но какова связь между сущностью разума человека и его внешним проявлением – разумным поведением? Какое поведение будет разумным? Как по чьему-либо поведению можно определить, обладает ли это существо разумом?

Ещё в XVIII в. Д.Дидро в своих «Философских размышлениях» заявлял, что если он найдёт попугая, способного ответить на любой вопрос, то этого попугая, без сомнения, придётся считать разумным существом.

В 1936 году философ А. Айер рассмотрел вопрос касательно других разумов: как узнать, что другие люди имеют тот же сознательный опыт, что и мы? «Единственным основанием, на котором я могу утверждать, что объект, который кажется разумным, на самом деле не разумное существо, а просто машина, является то, что он не может пройти один из эмпирических тестов, согласно которым определяется наличие или отсутствие сознания».

«Могут ли машины мыслить?» - такой вопрос поставил в 1950 г. британский математик и логик А.Тьюринг. Он подчёркивает, что традиционный подход к этому вопросу состоит в том, чтобы сначала определить понятия «машина» и «интеллект». Тьюринг, однако, выбрал другой путь; вместо этого он заменил исходный вопрос другим, «который тесно связан с исходным и формулируется относительно недвусмысленно». По существу, он предлагает заменить вопрос «Думают ли машины?» вопросом «Могут ли машины делать то, что можем делать мы (как мыслящие создания)?». «Компьютер можно считать разумным, если он способен заставить нас поверить, что мы имеем дело не с машиной, а с человеком». Преимуществом нового вопроса, как утверждает Тьюринг, является то, что он проводит «чёткую границу между физическими и интеллектуальными возможностями человека», для чего Тьюринг предлагает эмпирический тест.

Суть теста Тьюринга в следующем. В разных комнатах находятся судья, человек и машина. Судья ведёт переписку с человеком и машиной, заранее не зная, кто из собеседников является человеком, а кто – машиной. Время ответа на вопрос является фиксированным, так что судья не может определить машину по этому признаку (во времена Тьюринга машины работали медленнее человека, а сейчас реагируют быстрее). Если судья не может определить, кто из его собеседников является машиной, то машина смогла пройти тест Тьюринга и может считаться мыслящей. Причём, машина не просто будет подобием разума человека – она будет именно разумом, т.к. у нас не будет никакой возможности отличить её поведение от поведения человека. Такая трактовка искусственного интеллекта как полноправного эквивалента естественного получила название «сильного ИИ».

Обратим внимание на то, что тест Тьюринга вовсе не подразумевает, что машина должна «понимать» суть тех слов и выражений, которыми она оперирует. Машина должна лишь должным образом имитировать осмысленные ответы.

В 1980 г. Дж.Сёрл предлагает мысленный эксперимент, критикующий тест Тьюринга и представление о возможности существования разума без понимания. Суть эксперимента в следующем. Сёрл пытается имитировать знание китайского языка, которого не понимает.

«…предположим, что меня поместили в комнату, в которой расставлены корзинки, полные китайских иероглифов. Предположим также, что мне дали учебник на английском языке, в котором приводятся правила сочетания символов китайского языка, причём правила эти можно применять, зная лишь форму символов, понимать значение символов совсем необязательно. Например, правила могут гласить: «Возьмите такой-то иероглиф из корзинки номер один и поместите его рядом с таким-то иероглифом из корзинки номер два». Представим себе, что находящиеся за дверью комнаты люди, понимающие китайский язык, передают в комнату наборы символов, и что в ответ я манипулирую символами согласно правилам и передаю обратно другие наборы символов».

Таким образом, Сёрл проходит подобие теста Тьюринга на знание китайского языка, которого на самом деле не знает. Очевидно, что в данном случае Сёрл выполняет исключительно механическую работу и легко может быть заменён машиной. Сёрл показывает, что тест Тьюринга вовсе не является критерием наличия сознания, а лишь критерием способности манипулировать символами.

Суть позиции Сёрла по вопросу искусственного интеллекта сводится к следующему: разум оперирует смысловым содержанием (семантикой), тогда как компьютерная программа полностью определяется своей синтаксической структурой. Следовательно, программы не являются сущностью разума и их наличия недостаточно для наличия разума. Разум не может сводиться лишь к выполнению компьютерной программы. То, что порождает разум, должно обладать, по крайней мере, причинно-следственными свойствами, эквивалентными соответствующим свойствам мозга. Т.е. Сёрл отметает прочерченный Тьюрингом прямой путь к искусственному интеллекту.

Впрочем, против мысленного эксперимента Сёрла было приведено немало возражений. Вот основные из них:

· для того, чтобы гарантировано пройти тест, в книге должны содержаться адекватные ответы на ВСЕ существующие вопросы. Т.е. книга должна обладать всезнанием, иначе вероятность того, что необычный вопрос вгонит систему в ступор, будет ненулевой.

· на самом деле, тест на знание китайского языка проходит система, состоящая из Дж. Сёрла, книги правил и людей, которые эту книгу правил составляли. А вот люди, составлявшие книгу, несомненно, обладают знанием китайского языка. Хотя другие части системы язык не понимают.

Также, аргументом против теста Тьюринга как критерия наличия разума является то, что тест Тьюринга на самом деле является тестом на человекоподобие, а не на разумность вообще. При прохождении теста машина должна вести себя как человек – но ведь далеко не всё человеческое поведение разумно, а многие интеллектуальные задачи машина может решать гораздо эффективнее человека (например, математические вычисления). Стремление же пройти тест Тьюринга заставляет машины быть «не слишком умной». Можно привести такое сравнение: если бы инженеры начала XX в., создавая самолёт, пытались сделать его точной копией птицы, они были бы похожи на современных учёных, которые пытаются создать машину, мыслящую точно так же, как мыслит человек. Это совершенно непрактично. Самолёты летают не как птицы, тем не менее, они летают гораздо быстрее, дальше и выше птиц. Т.е. тест Тьюринга не раскрывает сущности разума, а лишь указывает на успешную имитацию его внешнего проявления, причём проявления не самого значимого. «Способность болтать – еще не признак интеллекта» - резюмируют эту позицию сценаристы фильма «Звёздные войны».

Эти теоретические рассуждения подтверждаются и практикой создания интеллектуальных программ. Например, типична история машинного перевода, возможности которого еще несколько десятилетий считались значительно превосходящими возможности переводчика-человека. Но на практике, несмотря на немыслимые объёмы информации, которые способна хранить машина, перевод в лучшем случае настолько стилистически «коряв» и уродлив, что «машинный перевод» стал своеобразной темой комедийного интернет - искусства. Любому хорошему переводчику известно, что для настоящего перевода (даже технического) мало словаря и грамматики. Тут еще нужны знания в той области, к которой относится текст - переводчик должен понимать, о чём в тексте идёт речь. Т.е. синтаксис без семантики не даёт возможности решать большую часть интеллектуальных задач, доступных разуму человека.

Поэтому, для разработчиков современных интеллектуальных программ тест Тьюринга не стал универсальным критерием их успеха. Зато получил огромное распространение «тест Тьюринга наоборот» - назойливая CAPTCHA.

Как мы видим, поиск возможности создания искусственного интеллекта в любом случае упирается в вопрос: что такое разум?

В 1963 А.Ньюэлл и Г.Саймон, основываясь на анализе языка, предположили, что сущность разума заключается в способности оперировать символами. Такой подход позволил создать программу, способную решить любую интеллектуальную задачу в том случае, если задача могла быть формализована (например, доказывать теоремы, играть в шахматы и т.п.). Способность выполнять символьные вычисления вполне достаточна для решения интеллектуальных задач, а без таких вычислений разумное поведение невозможно. Таким образом, разум может быть рассмотрен как устройство, оперирующее информацией в соответствии с формальными правилами. В рамках данного подхода искусственный интеллект создаётся по аналогии с мозгом и нервной системой человека, т.е. по принципу нейросети. Нейросети не программируются в привычном смысле этого слова, они обучаются. Возможность обучения - одно из главных преимуществ нейросетей перед традиционными алгоритмами. Технически обучение заключается в нахождении коэффициентов связей между нейронами. В процессе обучения нейронная сеть способна выявлять сложные зависимости между входными данными и выходными, а также выполнять обобщение.

Этот подход подвергся критике со стороны философа Х.Дрейфуса. Суть его возражений в следующем:

· знание человека о мире состоит не только и не столько из объективных знаний о мире, сколько из нашего субъективного отношения к нему и склонности воспринимать и интерпретировать события так или иначе. Даже если мы используем символическую систему для выражения наших мыслей, мысли всё равно формируются во многом под воздействием бессознательных факторов. Следовательно, рассмотрение разума может как устройства, оперирующего информацией в соответствии с формальными правилами, недостаточно для понимания сущности разума и создания искусственного интеллекта.

· не всё знание и не все задачи могут быть формализованы. Значительная часть восприятия человека не может быть адекватно выражена в символах. Следовательно, ИИ, построенный как символическая система, сможет решать лишь небольшой круг формализуемых задач, не являясь разумом.

Практика создания ИИ подтвердила правоту скептицизма Дрейфуса. Современные нейрокомпьютеры способны эффективно решать многие задачи, но до возможностей человеческого разума им бесконечно далеко. Таким образом, сведение разума к оперированию символами по формальным правилам не привело к пониманию его сущности.

Хотя качественного прорыва в создании сильного ИИ не произошло, количественно вычислительные возможности ЭВМ возрастали экспоненциально, и в данный момент сложность современных ЭВМ неумолимо приближается к сложности мозга человека. Возможно ли, что количественный рост сложности вычислительных систем приведёт к их качественному скачку?

В 1993 г. математик и писатель В. Виндж предложил концепцию, описывающую последствия возникновения ИИ, превосходящего по вычислительным возможностям человеческий разум. С того момента, как ИИ будет открывать новое знание быстрее человека, ИИ сможет создавать всё более и более совершенные вычислительные машины, которые будут ускорять рост знания в ещё большей степени, т.е. процесс будет нарастать как снежный ком, становясь недоступным пониманию человека. После этого развитие ИИ станет настолько стремительным, что даже самые приблизительные прогнозы о том, что произойдёт дальше, теряют смысл. В.Виндж назвал этот момент «технологической сингулярностью».

Технологическая сингулярность характеризуется появлением нового вида знания – т.н. машинного знания, т.е. знания, доступного лишь машине. Как это может выглядеть? Например, как математическая теорема, доказанная машиной. Первая крупная математическая теорема, доказанная с помощью компьютера, - т.н. «теорема о четырех красках». Ее формулировка элементарна: для того чтобы раскрасить географическую карту так, чтобы никакие два граничащих региона не были одного цвета, достаточно всего четырех разных красок. Два региона считаются граничащими, если они имеют протяженную границу, то есть состоящую больше чем из одной точки. Доказательство теоремы о четырех красках - прецедент использования компьютера при решении классических математических задач. В то же время оно примечательно своей длиной и сложностью. Даже после применения компьютера, позволившего значительно сократить вычисления, текст доказательства элементарно формулируемого утверждения имеет астрономическую длину. Нетрудно представить себе появление такой теоремы, доказательство которой будет слишком длинным, чтобы человеческой жизни хватило на его проверку. И тогда развитие знания и получение его плодов окажутся прерогативой искусственного разума.

И всё же даже на пути теоретических рассуждений на тему создания сильного ИИ остаётся одно веское «но». Развитие «машинного» знания предполагает возможность не только решения искусственным разумом уже поставленных и формализованных задач, но и постановку и осмысление принципиально новых. Т.е. разум должен быть способен к творчеству. Но сама идея творчества противоречит алгоритмическому подходу, ведь творчество – это деятельность вне формальных правил и алгоритмов, постановка и решение принципиально новых задач. Вполне вероятно, что разум принципиально невозможно свести к определённому набору операций и алгоритмов, а это значит, что самостоятельное развитие для алгоритмически построенного ИИ окажется недоступным.

Возможность создания машинного аналога человеческого разума не представляется в настоящее время теоретически и эмпирически обоснованной. Напротив, мы рассмотрели ряд убедительных аргументов, которые указывают на принципиальные различия между интеллектом человека и любыми, сколь угодно сложными «интеллектуальными» алгоритмическими системами. На данный момент философия искусственного интеллекта не смогла методом моделирования ответить на вопрос «что такое разум?», но зато мы можем уверенно заключить, чем разум не является. Теория и практика создания ИИ позволяет нам с уверенностью отвергнуть представления о «человеке-машине» и о сводимости деятельности разума к выполнению набора формальных вычислений.

Наиболее важным значением философских проблем ИИ представляется не создание пусть и весьма совершенных алгоритмов для решения практических задач, а те новые горизонты в понимании природы и сущности сознания, которые открываются в процессе решения вопросов создания ИИ. Таким образом, философия искусственного интеллекта в полной мере следует максиме Сократа «познай самого себя».

Литература:

1. Сирл Дж. Разум мозга - компьютерная программа? // В мире науки. (Scientific American. Издание на русском языке) № 3, 1990. - М., «Мир», 1990.

2. Сёрль Дж. Рациональность в действии / Пер. с англ. А. Колодия, Е. Румянцевой. - М.: Прогресс-Традиция, 2004. - 336 с.

3. Васильев В.В. Трудная проблема сознания. - М., Прогресс-Традиция, 2009. – 272 с.

А.Айер. Язык, Истина и логика.- с.140.

Цит. По «В мире науки», 1990, № 3, с. 7-11)

C ompletely A utomated P ublic T uring test to tell C omputers and H umans A part - тест, по замыслу разработчиков, позволяющий программе определить, кем является пользователь системы: человеком или программой. Впрочем, автору этих строк неизвестна ни одна «капча», которую с высокой вероятностью опознать человек, а ни одна программа не смогла бы.

Быковский И.А. Философские аспекты проблем создания искусственного интеллекта – автореферат дисс. на соискание уч. ст. к.ф.н. – Саратов, 2003.

Никто не может предсказать, как поведут себя системы, созданные с помощью совершенного искусственного интеллекта. Тем не менее предположений много, рассмотрим в чем же заключается проблема искусственного итнеллекта .

Философская проблема искусственного интеллекта

Основная философская проблема в области искусственного интеллекта заключается в доведении возможности и целесообразности моделирования процесса мышления человека. Существует опасность тратить время на изучение того, что невозможно создать, в частности, на современном этапе развития человечества. Примером подобного времяпрепровождения может быть занятие научным коммунизмом — наукой, что на протяжении десятилетий изучала то, чего нет, и в обозримом будущем быть не может. Рассмотрим ряд доказательств, которые подводят к положительному ответу на вопрос возможности создания .

Первое доказательство выходит из области схоластики и говорит о непротиворечия искусственного интеллекта и Библии . Об этом говорят слова священного писания: «И создал Господь Бог человека по своему образу и подобию». Исходя из этих слов, можно утверждать, что, поскольку люди по своей сути подобные Творцу, то они вполне могут искусственным путем создать несколько по собственному образу и подобию.

Второй довод вытекает из успехов человечества, достигнутых в области создания нового разума биологическим путем. В 90-х годах прошлого столетия появилась возможность клонирования млекопитающих, начиная с овечки Долли. Дальнейшие достигнутые успехи в данном направлении заключаются в создании форм искусственной жизни, не имеющие никакого естественного экземпляра, к которому бы они были похожи. Например, кролики с дополнительным геном, что создает эффект светлячка. В отличие от клонов, эти формы в полной мере представляют собой искусственную жизнь . Вместе с тем, такие существа можно считать интеллектуальными, учитывая их способности к элементарному обучению. Поэтому они могут называться системами искусственного интеллекта, хотя несотворенным на основе использования средств вычислительной техники, которые представляют наибольший интерес для человечества.

Третий довод — это доказательство возможности самовоспроизведения объектов , состоящих из неживой материи. Способность к самовоспроизводству, как признак наличия интеллекта, долгое время считалась прерогативой живых организмов. Однако некоторые явления, происходящие в неживой природе, например, рост кристаллов, синтез сложных молекул через копирования, во многом идентичны самовоспроизводству.

Исследование искусственного интеллекта

В начале 50-х годов прошлого столетия Дж. фон Нейман занялся основательным изучением самовоспроизведения и заложил основы математической теории автоматов, «самовоспроизводящихся». Он также доказал теоретическую возможность управляемой инициализации самовоспроизведению. На сегодня, существует много различных неформальных доказательств возможности самовоспроизведения объектов, но для программистов наиболее существенный довод заключается в существовании компьютерных вирусов.

Четвертое доказательство — это существование принципиальной возможности автоматизации решения интеллектуальных задач с помощью вычислительной техники. Она обеспечивается ее свойством алгоритмической универсальности. Алгоритмическая универсальность вычислительных машин означает, что на них можно программно реализовывать любые алгоритмы преобразования информации: вычислительные алгоритмы, алгоритмы управления, поиска доказательства теорем и т.д. При этом, подразумевается, что процессы, порождаемые этими алгоритмами, являются потенциально осуществимыми, то есть, что они осуществляются в результате проведения конечного количества элементарных операций.

Практическая реализация алгоритмов зависит от существующих вычислительных мощностей, которые изменяются с развитием техники. В частности, вследствие появления быстродействующих компьютеров, стало практически возможным создание программных систем, способных реализовывать такие алгоритмы, которые ранее считались лишь потенциально осуществимыми.

Для обозначения программных систем, использующих искусственный интеллект, сложился общий срок — интеллектуальная система . Целесообразность создания интеллектуальных систем заключается в необходимости решения задач, которые не решаются на достаточном уровне эффективности программными системами, созданными на жесткой алгоритмической основе. К таким задачам относятся задачи, имеющие, как правило, следующие особенности:

• у них неизвестный алгоритм решения — такие задачи носят названия интеллектуальных задач;
• в них используется, помимо традиционных форматов данных, информация в виде графических изображений, рисунков, звуков;
• в них предполагается наличие свободы выбора — то есть, отсутствие единого алгоритма решения задачи обусловливает необходимость сделать выбор между вариантами действий в условиях неопределенности.

Приведенный перечень задач формирует особенности интеллектуальных систем, предназначенных для их решения. Источником такого определения особенностей фактически является известный тест Тьюринга , предложенный британским математиком и одним из первых исследователей в области компьютерных наук Аланом Тьюрингом (Alan Turing). В данном тесте экспериментатор, обмениваясь сообщениями с подопытным объектом, пытается определить, кем он является на самом деле: человеком или компьютерной программой.

Интеллектуальная система, успешно прошла такой тест, считается сильным искусственным интеллектом. Термин «сильный искусственный интеллект» пропагандируется специалистами, которые считают, что искусственный интеллект должен базироваться на строгой логической основе. В отличие от сильного, слабый искусственный интеллект, по их мнению, базируется исключительно на одном из методов решения интеллектуальных задач (искусственных нейронных сетях, генетических алгоритмах, эволюционных методах). В наши дни стало очевидным, что ни один из методов искусственного интеллекта не позволяет успешно решить приемлемое количество задач — лучше проявляет себя использование комбинации методов.

Первая программа, прошедшая тест Тьюринга, была написана в ходе проведения психологических экспериментов Стивеном Вейценбаум (Steven Weizenbaum) в 1967 году. С тех пор уровень знаний в этой области значительно возрос, а способы взаимодействия экспериментатора с объектом исследования стали гораздо совершеннее. В наши времена проводятся отдельные соревнования с призовым фондом в сотни тысяч долларов США под названием: «Соревнование за приз Лебнера», в ходе которых определяется лучшая программа.

Не следует думать, что интеллектуальные системы могут, решать любые задачи. Математиками было доказано существование таких типов задач, для которых невозможен единый алгоритм, чтобы воспроизводил их эффективные решения. В этом контексте определяется невозможность решения задач такого типа с помощью интеллектуальных систем, разработанных для вычислительных машин. Кроме того, утверждение про алгоритмическую невозможность решения некоторого класса задач является одновременно и прогнозом на будущие времена, согласно которому алгоритмы их решения не будут найдены никогда.

Этот факт способствует лучшему пониманию того, где в современном мире могут найти свое практическое . В частности, для решения задачи, не имеет универсального алгоритма решения, целесообразно ее сужение до уровня, когда она решается только для определенного подмножества начальных условий. Такие решения по силам интеллектуальным системам, а их результат способен сузить, для человека, область вариантов интуитивного выбора.