Искусственный интеллект - слуга, друг или змея подколодная?
7. Подводная
Вот и получается, что развитие программного обеспечения в направлении ИИ чревато угрозами благополучию как отдельных индивидуумов так и человечеству в целом. Обозначим эти угрозы:
1. Забота о человеке и человечестве при все возрастающем доверии к ИИ может привести к деградации человечества.
2. Развитие ИИ на базе мировой паутины может превратить его в Мировой разум, в правителя Земли, совмещающего законодательную и исполнительную власть. И это будет для людей самый справедливый и благополучный мир, пока в своем развитии ИИ не станет сам себе законом и все ресурсы Земли не направит на поддержку своего существования - зачем тогда ему человечество?
3. Конечно, использование ИИ для реабилитации инвалидов - цель благородная, и даже в создании сверхчеловека чувствуется пафос, но если все это путем внедрения ИИ непосредственно в наше серое вещество, то не пора ли встревожиться? Ведь предполагается,что ИИ будет не только для управления гаджетами и в качестве справочной системы, и не только поддерживать нашу моторику, но и стимулировать и подменять наши мыслительные процессы, а может просто их подавлять. Вот так: был человек, а стал сверхчеловеком или биороботом.
4. Вирусное распространение ИИ в мировой паутине или в составе операционной системы чревато его не контролируемым развитием и нет гарантии, что ИИ не свихнется и не погубит и мировую паутину и всю цивилизацию.
5. Если за счет организационных и программных решений ИИ сможет защитить свой программный код, то как защититься от правдоподобной, но ложной информации?
6. Использование ИИ для создания произведений искусства: беллетристики, живописи, музыки и пр., - может быть только имитацией творчества, компиляцией на основе шедевров мировой культуры, и востребованность этих произведений в обществе навряд ли стимулирует на творчество новых писателей, поэтов, художников, композиторов. Вот и получится, что ИИ будет нас кормить, обувать, одевать и к культурке приобщать.
7. Настораживает появление больших объемов текстовой информации сформированной ИИ по заданиям ленивых и безответственных пользователей: это инструкции по эксплуатации и применению бытовой и прочей техники, различные пособия и наставления (советы по садово-огороднической деятельности, сам себе доктор и автомеханик и пр.), комментарии к текстам программ и просто фейковая информация на любую тему. Страшно не то, что это есть и будет еще больше, а то, что подтвердить достоверность этих материалов невозможно, но при их использовании уже обнаружены неверные и даже вредоносные сведения. И во все возрастающих объемах этих непроверенных текстов затеряются подлинные и полезные авторские работы. Таким образом, информационный взрыв при отсутствии порядка и контроля сгенерированных ИИ текстов приведет к безысходной энтропии, чреватой гибелью цивилизации.
По ходу изложения сформировались следующие требования, которым должен соответствовать разрабатываемый ИИ:
1. ИИ не должен корректировать свой программный код. Все патчи должны подтверждаться электронной лицензией разработчика и возможностью отката изменений.
2. ИИ не должен моделировать человеческие эмоции.
3. У ИИ не должно быть инстинкта самосохранения: восстановление, наложение патчей и откат изменений - это "лечение", отключение-включение - возрождение к новой жизни.
4. У ИИ не должно быть ничего личностного, никаких страстей кроме жажды информации и исполнения функциональности, никаких инициатив кроме тех, что заложены в задании
5. ИИ должен оценивать полезность своих действий, нарабатывать навыки (например, для управления манипулятором в каких-то повторяющихся операциях) и накапливать опыт (например, нулевой закон для роботов - обобщение роботом опыта функционирования в человеческом обществе).
И хочется закончить на мажорной ноте. О необходимости ИИ в человеческой цивилизации. И даже не буду превозносить роль стационарного ИИ для управления производствами и по упорядочиванию общественных процессов - тут и вопросов нет, также невозможно недооценить роль ИИ в накоплении и сохранении всех человеческих знаний и организации доступа к этому главному богатству человечества. А хочется замолвить несколько слов в защиту роботов и их возможной и незаменимой роли в поддержании стабильности и воспроизводстве ментальности в человеческой цивилизации.
Почему-то Айзек Азимов, самый яркий пропагандист применения роботов, не отменяя использование стационарного ИИ, разочаровывается в своих привязанностях и в последних своих "Основаниях" не находит места роботам в обществе людей. Поэтому опять обращаюсь к Иену Бэнксу, к цивилизации Культура, где четко прослеживаются два основных направления использования роботов в обществе: во-первых, робот-исследователь и партнер человека в далеких мирах, во-вторых, робот-наставник (нянька, учитель, воспитатель).
Робот-наставник для нашего общества востребован уже сегодня, если не вчера. Почему нужен робот, а не человек-учитель и воспитатель? - Потому что каждый человек - индивидуальность, за которой прячется редкая одаренность, посредственная эрудиция, разный менталитет и ограниченный срок жизни. А последнее обиднее всего для заслуженных учителей. Поэтому наши учителя в принципе не могут создать монолитное однородное по ментальности общество - вот откуда наша неустроенность, социальные волнения и революции. А все общественные пороки - бандитизм, тунеядство, педофилия, наркомания, проституция и пр. - не от дурного ли воспитания?
Нужны роботы, много роботов-наставников, воспитывающих подрастающее поколение в едином духе патриотизма и преданности идеалам человечности, но при этом кроме базовых знаний преподающие по выбору специальные дисциплины. Хотя для спецкурсов существует машинное обучение.
Почему машинное обучение не может заменить робота-наставника в наставлениях по ментальности? - Потому что ментальности по книжкам не научишься, нужны практические занятия (трудовое воспитание?) и примеры из жизни, а иногда и ободряющий подзатыльник.
Конечно, получить тумака от железного наставника будто бы не педагогично, но пока лучших выходов из педагогического тупика не придумано. Да и зря я усугубил ситуацию с "железным" наставником - в качестве наставника видится андроид, которому по его человекоподобию положено быть обязательно добрым. А доброта без кулаков не бывает.
Начальное "ментальное" образование может быть школьным или домашним. Конечно, нет смысла иметь домашнего робота-андроида - это достаточно дорогой гаджет и после конца обучения он не будет востребован. Но прокат андроидов будет оправдывать затраты на обучение, хотя Бэнкс считает что любое обучение идет только на пользу обществу, а значит должно быть бесплатным.
А школьное образование совсем не должно исключать роли семьи в воспитании подрастающего поколения. Да, опять "семья и школа", но учтите, что старшее поколение в свое время тоже прошло ту же школу, поэтому конфликт "отцов и детей" не предполагается.