Компьютеризация банковской сети, часто приводимая в качестве примера превосходства машины над человеком, позволяет последнему быстрее производить операции и тем самым лучше справляться с текущей ситуацией. При этом слово «лучше» относится не к машине, а к человеку, в интересах которого производится анализ.
Увлечение термином «лучше» привело к тому, что некоторые ученые высказали опасение о возможности появления машины, обладающей более совершенным, более высоким интеллектом, чем человек, что приведет к возникновению борьбы за господство над миром между машиной и человеком, которая неминуемо окончится поражением человека. Там самым центр тяжести в экологическом аспекте проблемы «человек и машина» с вопросов вреда, связанного с воздействием машины на природу, переносится на угрозу самому существованию человека.
Теоретически эта проблема поднималась и ранее в виде «бунта машин» в некоторых произведениях писателей-фантастов, но сейчас она стала объектом и научного изучения, в процессе которого ряд серьезных ученых, специалистов по кибернетике, например уже упоминавшийся К.Уорвик, приходят к выводу о неминуемом проигрыше человечества в таком соревновании, о грядущем мире, в котором будет править не человек, а новое поколение роботов.
Попробуем более внимательно разобраться в ситуации, рассмотрев ряд вопросов, на которые попытаемся дать ответ.
Вспомним известные нам элементарные психические функции, которые лежат в основе работы мозга, например функции сенсорики, внимания, памяти, и попытаемся ответить на вопросы: можно ли создать электронный мозг с более низким порогом восприятия звуковых колебаний или электромагнитных колебаний в области инфракрасного диапазона, можно ли создать электронный мозг с более тонким избирательным вниманием или с более емкой памятью?
Ответы на эти вопросы кажутся бесспорными - да, теоретически это возможно. Такая уверенность, однако, касается только индивидуального мозга, но если рассматривать коллективный мозг человечества, его коллективный разум, то очевидность исчезает, поскольку в потенциальном распоряжении человечества имеются возможности усиливать до бесконечности свои интеллектуальные функции. Так, электронный мозг можно снабдить огромным объемом памяти, но она будет лишь равна объему памяти человечества, запечатленному в книгах, музеях, легендах и т. п. При этом память человечества будет постоянно расширяться благодаря индивидуальномуопы-ту, и скорость и объем такого расширения будут зависеть не от быстродействия, а от разнообразия интересов и целей.
Все это позволяет нам считать, что самый совершенный электронный мозг по сравнению с коллективным мозгом человека по элементарным функциям может лишь достичь его уровня, поскольку в противоборстве с «взбунтовавшимся» компьютером человек будет использовать такие же компьютеры с целью противодействовать этому компьютеру, посягнувшему на функции человека в структуре мира.
Поэтому даже неоспоримое преимущество машины в быстроте действия может быть использовано человеком в теоретической борьбе с роботами, претендующими на господство.
Рассмотрим следующий вопрос: можно ли создать искусственный интеллект, обладающий более совершенными, чем у человека, психическими функциями, например ассоциациями, эмоциями, мышлением и, наконец, рефлексией?
Ответ на этот вопрос менее очевиден, чем в предыдущем случае, поскольку он находится, по нашему мнению, не в сфере технических возможностей, а в области психологии.
Вероятно, можно создать аналоговую модель и этих функций. Например, такая функция, как озабоченность, моделируется несложным датчиком в современном автомобиле, зажигающем табло «бензин на исходе» или «падает давление масла». Можно, задав компьютеру вопрос, «что будет, если ...», промоделировать ассоциативные связи причинно-следственного характера, разработав соответствующую программу Это позволяет прийти к выводу о теоретической возможности создания электронного мозга, в котором действующие механизмы будут полностью аналогичны тем, которые существуют в мозге человека.
Однако аналогичные еще не значит такие же. Проблема заключается в том, что мозг человека - продукт эволюционного развития и критерием, стимулом его эволюции является адекватность тем проблемам, с которыми сталкивается человек, живя на земле, т. е. он совершенен для земных условий.
Если изменить закономерности внешнего мира, то совершенство мозга может исчезнуть. Классическим примером этого является эксперимент с так называемым перевернутым миром, когда испытуемый носит специальные очки, дающие перевернутое изображение. Должно пройти немало времени, чтобы мозг смог внести соответствующую поправку в воспринимаемый образ.
Итак, можно считать, что мозг человека, вооруженный машинами-помощниками, является тем идеалом, к которому будут стремиться создатели искусственного интеллекта, а проблемой станет моделирование не процессов, а целей и объектов, на которые будет направлена работа этого интеллекта. Это означает, что ответ на главный вопрос - о сосуществовании человека и искусственного интеллекта - относится не к технике, а к психологии, и в первую очередь к экологическому сознанию, его направленности, объему и развитию.
Было бы неверно, пытаясь создать искусственный интеллект, по тем или иным параметрам превосходящий интеллект человека, рассматривать сознание человека как нечто застывшее; мозг не останавливается в своем развитии, и чем стремительнее идет научно-технический прогресс, тем совершеннее становится мозг. Это не морфологическое совершенство, мозг не увеличивается и не формирует в себе новые структуры - совершенствуется то, что И.П.Павлов называл функциональной мозаикой мозга, лежащей в основе психологических процессов. В этом отношении интересно высказывание К.Уорвика «В Рединге мы... стараемся с каждым разом создавать все более \"умные\" машины. Интересно, что результат при этом отражается и на нашем собственном интеллекте» (с. 58).
Анализируя экологическое сознание, мы исходили из положения о том, что в его основе лежат потребности и обусловленные им цели, среди которых есть постоянные и временные. Попробуем подойти к проблеме сосуществования человека и машины с искусственным интеллектом с этих позиций, приняв допущение о возможности моделирования всех механизмов, лежащих в основе психических процессов*.
Создавая думающую машину, человек закладывает в нее определенный целевой принцип, исходя из своих, человеческих целей, среди которых можно выделить одну глобальную - преобразование отношений человека и среды для оптимизации жизни человека. Из этого следует, что и «потребности» структуры с искусственным интеллектом будут связаны с этими общими для нее и для человека целями, хотя и отличными от человека по своему набору, исходя из различий работы биоорганических и электрических элементов.
Принципиальным выводом из этого является совместимость человека и машины. Это важное положение проводит резкую границу между искусственным интеллектом как экологическим фактором и теми факторами среды, наличие которых обусловлено разрушением жизни человека. Такими отношениями характеризуются, например, связи человека и вируса.
Возникает теоретический вопрос: возможно ли возникновение ситуации, когда машина, ориентированная на обеспечение удовлетворения потребности человека и наделенная искусственным интеллектом, может по каким-либо причинам изменить свою целевую функцию на обратную и действовать против человека. В принципе такая возможность не исключена, поскольку подобные изменения возникают и в интеллекте человека (в психиатрии известно большое число заболеваний, где ведущими симптомами являются асоциальное поведение, социально ориентированные маниакальные состояния или состояние самообвинения с тенденцией к суициду).
Опасность искусственного интеллекта-маньяка, вероятно, при достаточно надежной технологии создания интеллекта не будет превышать опасности, создаваемой человеком в таком же состоянии, и, как и в человеческом обществе, может быть скорректирована введением соответствующих правил, установок в интеллект взаимодействующих с ним думающих компьютеров.
Более сложна проблема в том случае, когда между человеком и машиной возникает конфликт решений, т. е. ситуация, когда предлагаются разные варианты достижения одной и той же цели, поставленной во имя человека, причем решение машины основано не на программе, вложенной человеком, а выработанной в результате способности искусственного интеллекта к самопрограммированию. В случае, когда способности к самопрограммированию нет, ситуация разрешается довольно спокойно, о чем свидетельствуют многочисленные данные, полученные военными авиационными психологами, изучавшими взаимодействие летчика с высокоавтоматизированным боевым самолетом, при котором устанавливается высокая степень доверия человека к машине, выражающаяся в близости принимаемых человеком и компьютером решений, поскольку правила принятия решения и имеющиеся исходные данные в принципе одни и те же.