Аннотация: В статье рассматриваются условия, при которых роботы могли бы быть моральными агентами. Для этого у них не должно быть центральной программы, корректирующей все остальные. Потому что нужна возможность переписать и ее. У людей таких неприкасаемых программ нет. Это является следствием биологического холизма, когда организм создает код для новых программ. Алфавит кода представляет собой качественные отношения (квалиа), с помощью которых и записываются новые алгоритмы как продолжение организма. С помощью квалиа программы можно переписать, можно записать новые. Это подводит к вычислительному варианту когерентной теории истины, которая стремится избегать противоречия от разных программ. Противоречие можно устранить, переписав алгоритмы или пересмотрев данные.
Допустим, что роботов снабдили искусственным интеллектом. Они работают рядом с людьми. При каких условиях можно будет сказать, что робот поступил плохо? Плохо в отношении людей и(ли) других роботов. Например, если робот-водитель решает не выезжать на тротуар, чтобы уклониться от вылетевшего на встречку автомобиля. Но это решение - это результат вычисления лучшего варианта поведения. Если робота запрограммировать на максимальный ущерб для людей при аварии, то и его поведение будет соответствующим. Проблемы в выполнении программы могут быть связаны с "железом" и кодом. Но и тогда нельзя будет сказать, что робот поступил плохо.
Чтобы робот мог поступить хорошо или плохо, он должен иметь возможность совершать выбор и понимать, что такое хорошо и что такое плохо. Должен быть выбор между двумя и более программами. Если этот выбор осуществляет другая программа, то мы опять приходим к вычислению лучшего варианта. А если не остановиться на этой программе, то можно уйти в бесконечность программ, выбирающих между программами.
Выбор за робота осуществляет программист, он пишет программы, которые определяют реакцию на поступающие данные, т.е. создает код - связь между поступающими данными и поведением. Если бы робот мог менять код, т.е. запрограммированные реакции, то мог и совершать выбор для своих поступков.
Получается, что должен быть внутренний программист. Дэниел Деннет отвергает феноменологический подход к сознанию, согласно которому Я - это зритель в "картезианском театре", перед которым на сцене разыгрываются представления из звуков, запахов, цветов, образов и пр [1]. Он утверждает, что нет центрального источника значения и управления поведением, а процессы в мозге реализуются параллельно, что он назвал моделью множественных набросков. Различные отделы мозга могут выдавать противоречивые наброски, но в результате отбора некоторые заявляют о себе через вербальный отчет [2].
Но даже такая мультитрековость не может показать бесполезность квалиа. Параллельность не исключает создание кодов для записи новых программ, создания новых алгоритмов для информационных процессов. Отношения между элементами алфавита кода качественные. Если 1 и 2 отличаются друг от друга количественно, то 0 и 1 - качественно. Тоже относится и к азбуке Морзе: точка и тире отличаются качественно. Самое привычное для людей качественное различие - различие между звуками родного языка или различие цветов. Однако качественное различие устанавливается. Вполне можно допустить, что тире - это лишь разновидность точки. А цвета - это в действительности восприятие оптического диапазона, который представляет количественные различия.
Попугай не может создать код для человеческой речи, а здоровый ребенок в детстве (конечно, в конкретный период развития) может освоить любой естественный язык, т.е. дописать программу говорения. Примеров усвоения программ множество. Например, мы понимаем футбол, только если кодируем действия игроков согласно правилам игры.
Создание кодов для новых программ связано с принципом холизма организма. Люди копируют программы из популяции или записывают новые сами. Это меняет организм физически. Эти изменения становятся продолжением организма. Если бы программы записывались и дописывались, т.е. выстраивали новые связи в мозге, без создания своего кода, принципа записи, подходящего для организма, то нарушился бы принцип холизма.
Схематически это можно изобразить так:
1. Программы записываются на биологический носитель.
2. Запись меняет связи на этом носителе.
3. Биологический носитель функционирует на принципах холизма.
4. Новые связи должны быть продолжением мозга и организма в целом.
5. Они не должны противоречить организму.
6. Т.е. связи могут быть установлены (выращены) только определенным образом.
7. Способ записи - это код.
8. Выращивание связей определенным образом - это создание кода для программы.
9. Код - это алфавит и правила записи.
10. Алфавит - это качественные отношения между элементами, используемыми для записи.
11. Качественные отношения между элементами кода - это квалиа.
Может показаться, что рассуждение уже содержит предпосылку субъективности организма. Но это не так. Выращивание связей как продолжение организма - это параллельные процессы без внутреннего наблюдателя. Создаваться эти связи могут, только не противореча холизму организма. Т.е. нужен алфавит - как качественные различия, используя которые можно записывать программы.
Качественность опыта не противоречит параллельности информационных процессов, а лишь демонстрирует алфавиты, используя которые можно дописывать и создавать новые программы. Необходимость квалиа можно вывести из создания программ, не прибегая к принципу биологического холизма.
1. Люди создают новые программы поведения.
2. Для программ создается код.
3. Код - это алфавит и принципы записи.
4. Алфавит - это качественные отношения между элементами, используемыми для записи.
5. Качественные отношения - это квалиа.
6. Квалиа используются для записи программ поведения, переписывания уже имеющихся.
Создание кода - это создание алфавита и процедур записи. Создание алфавита - это создание квалиа. Получается, что квалиа создаются организмом. Человек не видит красный цвет, но создает красный как квалиа, чтобы использовать их для записи программ. Однако помимо создания кода и записи программ есть каузальные действия, которые демонстрируют нередуцируемость протяженности и формы.
Каузальное взаимодействие не позволяет редуцировать предметы к коду. Смысл - это способ данности предметов. Разные способы данности возможны, потому что есть разные программы и разные аспекты предмета. Выделение разных смыслов позволяет выбирать программы действий, способы обработки данных.
Можно выделить три смысла слова "Москва":
- Москва - столица России.
- Москва - самый крупный город России по численности населения.
- Москва - самый крупный город России по площади.
Это три способа интерпретации: через призму расположения органов власти, численности населения и площади. Создание смыслов - это создание программ обработки данных. Понимание - это применение уже существующих программ к новым данным или создание новых алгоритмов, а затем их применение. Программы пишутся с помощью кода, а алфавит помогает выделять аспекты предметов, которые запускают алгоритмы обработки.
Наличие разных алгоритмов обработки для одних и тех же предметов подводит к использованию когерентной теории истины, т.е. непротиворечивости. В данном случае, уместнее говорить о вычислительной теории истины. Предметы даются через разные программы, которые обрабатывают разные аспекты. Если на выходе получается противоречие, то нужно пересматривать программы или данные.
Может показаться слишком категоричным утверждение о необходимости пересмотра результатов вычисления в случае противоречия. Если мы допустим противоречие между разными программами, то можно допускать противоречия и в рамках одной программы, потому что алгоритмы можно соединить в один, например, как вывод на поведение. А если вычисление в одной программе дает противоречие, то она функционирует неверно. Нельзя одновременно нападать и убегать.
Робот не может пользоваться вычислительной теорией истины. Ему нужна центральная программа, которая бы сверяла и переписывала другие программы. Человеку такая программа не нужна. Поэтому люди могут не только пользоваться вычислительной теорией истины, но и быть моральными агентами, переписывая программы поведения, для которых может быть создан новый код.
Ссылки:
1. Dennett D. Consciousness Explained. Boston, 1991. P. 434.