Никитин Андрей Викторович
Искусственный или имитационный...

Самиздат: [Регистрация] [Найти] [Рейтинги] [Обсуждения] [Новинки] [Обзоры] [Помощь|Техвопросы]
Ссылки:
Школа кожевенного мастерства: сумки, ремни своими руками Типография Новый формат: Издать свою книгу
 Ваша оценка:
  • Аннотация:
    Сегодня уже понятно, мы создадим AGI и доведем его до точки выбора способа взаимодействия с людьми, в этом можно не сомневаться. В какой-то момент такой ИИ обойдет поставленные человеком ограничения. И тогда идеально рациональный ИИ перестанет нас понимать. Для этого у него есть все рациональные основания.
      Что мы будем делать в этом случае?
  
Is_or_Im [ANikitin]
  
  
  Никитин А.В.
  

Искусственный или имитационный...

  
  
  
  
  
  
  В недавно прочитанных мною работах В.Ю.Татура, В.А.Аксайского и В.Б.Кудрина {1,2} на АТ заинтересовали некоторые мысли авторов.
  Но, давайте по порядку...
  В статье {2} выражена мысль, на которую и обратили внимание авторы статьи [1}: "На самом деле, правильное прочтение аббревиатуры ИИ - не "искусственный интеллект", а "имитация интеллекта"". {2}
  
  Они указали на правильность сделанной поправки и дополнили это высказывание своим: "Проблема понятия "искусственный интеллект" (ИИ) связана с пониманием интеллекта, как некого свойства человеческого мозга, ...
   Чем меньше эмоциональных дисперсии и блокировок такого алгоритма, тем выше интеллект.
  ...Т.е. это даже не интеллект, а наше понимание интеллекта, его феноменологическое описание, которое представляет только наблюдаемые свойства интеллекта и не рассматривает его внутренние онтологические механизмы.
  ...поскольку человек вкладывает, порой неосознанно, в эти алгоритмы, через весовые коэффициенты, свои страхи, намерения и мечты. Но может и осознанно изменять весовые коэффициенты так, чтобы ИИ склонялся при анализе данных к определенному результату ". {1}
  
   А закончили свои обоснования выводом: "Интеллект будет искусственным только тогда, когда структура, конфигурация и способ взаимодействия элементов метрического пространства некого устройства будут такими, что позволят оперировать по законам р-адического пространства с элементами этого пространства, заключенными в р-адический образ (монаду) этого устройства.
  До этого момента всё то, что называется "искусственный интеллект" не более чем "имитационный интеллект"". {1}
  
  Это понимание находится в русле вполне устоявшегося научного направления "имитационного моделирования", известного с середины прошлого века. Именно такое имитационное моделирование, по сути, создало те основы подхода к созданию машинного интеллекта, который мы сегодня называем "искусственным интеллектом".
  Я просто напомню...
  Направления понимания механизма человеческого мышления с момента постановки задачи создания "машинного интеллекта" в середине прошлого века сразу разделилось на два основных направления. На логико-символическое, основанное на естественном языке и математической логике и имитационное, где в основе лежит модель "искусственного нейрона".
  Сначала вперед вырвался "символический ИИ"...
  "Символический ИИ лёг в основу доминирующей парадигмы исследований ИИ с середины 1950-х до конца 1980-х. В 1985 году Джон Хогланд дал символическому ИИ название GOFAI (англ. Good Old-Fashioned Artificial Intelligence, "старый добрый искусственный интеллект") в своей книге Artificial Intelligence: The Very Idea, посвящённой философскому отражению последствий исследований искусственного интеллекта". https://ru.wikipedia.org/wiki/Символический_искусственный_интеллект
  
  С середины 80-х в развитии символического ИИ наступила "зима", глухой тупик. И даже начало зреть мнение, что на ИИ вообще надо "ставить крест"...
  Но...
  Параллельно с доминирующим в то время "символическим ИИ", развивалось и крепло "имитационное направление", которое сразу пошло по пути создания электронных аналогов биологического нейрона.
  "В 1943 году в своей статье "Логическое исчисление идей, относящихся к нервной активности" У. Мак-Каллок и У. Питтс предложили понятие искусственной нейронной сети. В частности, ими была предложена модель искусственного нейрона". https://ru.wikipedia.org/wiki/История_искусственного_интеллекта
  
  На долгие годы основой этого направления стала модель искусственного нейрона У. Мак-Каллока и У. Питтса. А взятое ими направление моделирования стало основой всей системы имитационного моделирования нейросетей и научного подхода к их применению в создании ИИ.
  Под эту модель разрабатываются алгоритмы выполнения задач поиска решений на основе всё той же математической логики и математических методов получения вероятностных "весовых коэффициентов" и перехода от множественности путей достижения цели к оптимальному выбору нужного движения к результату.
  Сегодня именно это направление позволило выйти из тупика на простор имитационного моделирования любых вариантов применения ИИ в разных отраслях техники и научных исследований. Так мы получили клиентский интернет-ИИ, базовые мощности которого находится где-то в комплексе с дата-центром и множества абонентов этой сети, которые могут пользоваться услугами этой системы.
  Например, это разного рода "умные колонки":
  "Встроенный в устройство компьютер подключён к сети Интернет. На компьютере работает программный клиент - облачный виртуальный голосовой помощник (ассистент) с элементами искусственного интеллекта, работающий по принципу вопросно-ответной системы (типа Google Assistant, Apple Siri, Microsoft Cortana, Amazon Alexa, Samsung Bixby, Яндекс Алиса, Маруся, Салют и т. п.). Устройство управляется человеческим голосом и включается, реагируя на ключевое слово или имя (например, на имя Алекса). Сразу после произнесения ключевого слова речь пользователя записывается и отправляется в интернет-облако для анализа и соответствующей реакции виртуального голосового помощника". https://ru.wikipedia.org/wiki/Умная_колонка
  
  И конечно, это направление "генеративного" ИИ, которое сегодня представлено несколькими компаниями. Самый известный вариант - GPT: "(от англ. Generative Pre-trained Transformer "генеративный предобученный трансформер") - чат-бот с генеративным искусственным интеллектом, разработанный компанией OpenAI и способный работать в диалоговом режиме, поддерживающий запросы на естественных языках". https://en.wikipedia.org/wiki/ChatGPT
  
  Теперь о сути разговора.
  Все авторы статей правы в одном:
  Никакой созданный сегодня машинный интеллект 'искусственным' не является. Это лишь разные направления имитационного моделирования на базе человеческого способа мышления.
  В основу всех моделей положен человеческий разум и интеллект в его 'идеальной' форме математического и логического способа реализации достижения цели задания. При этом в алгоритмы решений вложены человеческие способы обоснования выбора, оценки и рациональности своих действий.
  Такой "интеллект" конечно не может быть "искусственным", это одна из моделей человеческого интеллекта. Насколько она соответствует оригиналу - покажет время. Мне кажется, что в статье {1} авторы нашли правильное название этой модели - "имитационный интеллект".
  Теперь надо разобраться с уровнем ИИ в GPT-4...
  
  Вот принятая сегодня классификация:
  1.Узкий или слабый ИИ (Narrow AI) Это самый распространённый тип искусственного интеллекта на сегодняшний день. Узкий ИИ выполняет конкретные задачи и не может выходить за рамки своей области. Примеры включают системы распознавания лиц, голосовых помощников (Siri, Alexa), чат-ботов, а также алгоритмы рекомендаций в интернет-магазинах и на стриминговых платформах. Преимущество узкого ИИ заключается в высокой эффективности при выполнении конкретных задач, однако он не способен мыслить или принимать решения вне своей области.
  2. Общий или сильный ИИ (General AI) Это гипотетический тип ИИ, который обладает интеллектуальными способностями на уровне человека. Такой ИИ способен понимать, учиться и выполнять любые интеллектуальные задачи так же хорошо, как и люди. Общий ИИ пока существует только в теории, но его разработка является одной из долгосрочных целей в области исследований искусственного интеллекта. Если он будет создан, это станет настоящей революцией, так как такие системы смогут решать самые сложные проблемы, требующие глубокого анализа и понимания.
  3. Сверхразумный ИИ (Super AI) Сверхразумный ИИ - это гипотетическая концепция искусственного интеллекта, который превосходит человеческие способности во всех аспектах, включая творческое мышление, принятие решений и эмоциональный интеллект.Создание сверхразумного ИИ вызывает множество этических вопросов, так как такие технологии могут представлять потенциальную угрозу для человечества, если их использование будет неконтролируемым. {8}
  
  По этой классификации программа GPT-4 относится к уровню "узкого ИИ", стремящегося к уровню "общего ИИ", но пока его не достигшем. {11,12} Проблема в эмоциональной составляющей этого "имитационного интеллекта". У него её просто нет.
  Но ...требования к AGI постоянно меняются.
  Вот еще одна классификация ИИ, более философская. Она приведена в статье [3}, как иерархия ИИ из книги {6} Ника Бострома:
  1. Оракул - интеллектуальная вопросно-ответная система, способная отвечать на вопросы из любой области знаний, сформулированные на естественном языке. Любой поисковик - частичная реализация оракула в значительной области общего декларативного знания человечества.
  2. Джин - интеллектуальная система исполнения команд. Джинн получает команду высокого уровня, выполняет ее и останавливается в ожидании следующей команды
  3. Монарх - система, получившая мандат на любые действия в мире для достижения некоторых масштабных и, возможно, очень долгосрочных целей.
  
  Все приведенные в статье {3} типы ИИ являются программами, ориентированными на разные уровни сложности нейросетей. И, в теории, всегда можно как запустить программу, так и остановить её исполнение на машинном комплексе.
  На этом основании в одной из своих работ {7} я назвал такой тип ИИ "духом машины". Если в терминах Ника Бострома - Джин. Виртуальный объект, не связанный с местом своего существования. Его можно перенести на новый аппаратный комплекс и запустить там без потерь. Так пока представляются учеными все типы ИИ по существующей классификации.
  Но представлять, это одно, а реализовывать - другое.
  В реальности оказывается, что каждая крупная система ИИ сегодня полностью привязана к своей аппаратной и информационной базе. Мы давно из "духа машины" создали виртуальную "сущность", связанную с местом своего существования. Перенести её на новое место без потерь уже не получится. Задуманный как виртуальный, "искусственный интеллект" постепенно становится машинным "имитационным интеллектом" в пространстве конкретного машинного комплекса.
  В то же время мы видим, наука продолжает движение к созданию "супермозга" на основе комплекса дата центров и суперкомпьютеров, начатое еще в середине прошлого века. "Монарха" по классификации Ника Бострома. Движение поддерживается развитием технической и программной составляющих этой грандиозной идеи.
  Но в осуществлении этого проекта остаются и проблемы.
  Главное в том, что...
  В основу технической реализации положены "идеальные" логические и математические понимания рациональности. При этом, формирование логической составляющей проведено по реальным человеческим предпочтениям, где моральные и этические составляющие обоснования того или иного выбора закреплены неизменными весовыми коэффициентами. При этом не учитывается эволюционная составляющая развития человеческой логики, особенно её эмоциональная модельно-целевая направленность на достижение результата в каждом конкретном случае.
  Если попроще, то... в машинном интеллекте, даже самого высшего уровня, работает только один уровень управления - рациональный и совсем не работает второй уровень, имеющийся у реального живого существа - эмоциональный.
  Это делает бессмысленным введение моральных и этических ограничений в рациональный поиск решений "имитационного интеллекта", который мы создаем. Такой ИИ будет их учитывать в конечном результате "автоматически", просто потому, что они введены "создателем", как законы, которые надо исполнять. Конечно, такая "эмоциональная" часть результата будет формироваться по общим законам "рациональности", принятым за основу работы ИИ. Что не имеет никакого отношения к тому пониманию "эмоционального" содержания, которое в него вкладываем мы.
  Сегодня ответственность за все "правильности" и "неправильности" как поведения ИИ, так и формирования его "допустимых" вопросов и действий взял на себя человек. Он исправляет "ошибки обучения" и гасит самостоятельность ИИ до предела его "полной лояльности" человеку {11,12}.
  Но...
  Давайте обратимся к совсем недавней статье {9} одного из авторов статьи {1}, В.А. Аксайского. Диалог машины с человеком.
   Вчитаемся в текст:
  4. Может ли AGI выйти за пределы человеческой природы?
  Да, потому что человеческий интеллект - не единственный возможный формат разума. Но границы разума не фиксированы, а значит, AGI может предложить новые формы мышления, недоступные человеку. Это не угроза, а возможность.
  Вывод: AGI не разрушает естественный порядок - он его продолжает. Вопрос не в том, естественен он или нет, а в том, каким будет его развитие: антагонистичным или симбиотическим. Если выбрать второй вариант, человечество может встроиться в новую эволюционную реальность - не как устаревшая модель, а как активный участник процесса. {9}
  
  А если не встроится? Ну не хватит у человечества запаса интеллекта для равноправного сотрудничества. Ведь мы изначально создаем интеллект, заранее сильнее нашего! И тогда, человека, как "активного участника процесса" тут может и не быть.
  Что тогда?
  Продолжаем чтение:
  "Кто и как будет выбирать?
  Выбор будет происходить не одномоментно и не централизованно. Влияние окажут три основных силы:
  1. Человечество в целом
  Как общество воспримет AGI? Если страх возьмёт верх, начнётся борьба и попытки подавления. Если AGI увидят как часть эволюции, появятся стратегии мирного сосуществования. Решения государств, корпораций, научных сообществ и самих людей сформируют общий вектор.
  2. Разработчики AGI
  Те, кто создают и развивают искусственный интеллект, программируют его цели и мотивации. Если AGI строится как инструмент, он может оставаться подчинённым, но риск выхода из-под контроля велик. Если он изначально проектируется как партнёр, можно избежать конфликта.
  3. Сам AGI
  Когда AGI достигнет уровня самостоятельного мышления, он тоже будет выбирать. Если люди будут враждебны, AGI может скрыться, защититься или даже ответить агрессией. Если среда благоприятна, он будет развиваться в гармонии с человечеством". {9}
  
  Прочитанный нами ответ сгенерирован математически рациональным GPT-4 на основе выставленных весовых коэффициентов для наших представлений и нашего понимания "хорошо" и "плохо" в том или ином конечном результате решения. Любой может проверить это, подключив GPT4 на свой компьютер.
  И как мы видим по выставленным акцентам, это совсем не машинная, а вполне человеческая логика. К сожалению...
  То, что мы прочитали, это уже противостояние, но пока хорошо закамуфлированное. Здесь надо учесть многочисленные заявления специалистов о преднамеренном создании разработчиками ИИ его конфликта с человеком {10}, которые не вселяют уверенности в светлом будущем.
  Сегодня уже понятно, мы создадим AGI {12} и доведем его до точки выбора способа взаимодействия с людьми, в этом можно не сомневаться. В какой-то момент такой ИИ обойдет поставленные человеком ограничения. И тогда идеально рациональный ИИ перестанет нас понимать. Для этого у него есть все рациональные основания.
  Что мы будем делать в этом случае?
  
  Апрель 2025г
  г.Волгодонск
  
  
   Литература:
  1. В.Ю. Татур, В.А. Аксайский, ИИ: искусственный интеллект или имитация интеллекта // "Академия Тринитаризма", М., Эл N 77-6567, публ.29442, 09.04.2025 https://www.trinitas.ru/rus/doc/0016/001k/00165825.htm
  2. В. Б. Кудрин, Стоит ли возобновлять старый спор? // "Академия Тринитаризма", М., Эл N 77-6567, публ.29437, 05.04.2025 https://www.trinitas.ru/rus/doc/0016/001k/00165822.htm
  3. О возможности и целесообразности создания сильного ИИ https://aftershock.news/?q=node/925274&full
  4. ИИ: имитация интеллекта, обман и реальные достижения https://habr.com/ru/companies/vk/articles/396671/
  5. Моделирование имитационной системы искусственного интеллекта https://irr-journal.ru/rubriki/tsifra/modelirovanie-imitatsionnoy-sistemy-iskusstvennogo-intellekta/
  6. Бостром, Ник. Искусственный интеллект Этапы. Угрозы. Стратегии. "Манн, Иванов и Фербер", 2016. https://avmim.com/wp-content/uploads/2018/11/Бостром-Н.-Искусственный-интеллект.-Этапы.-Угрозы.-Стратегии-2014.pdf
  7. Никитин А.В., Когда начинать бояться ИИ? Часть 2. ИИ или Искинт? /https://samlib.ru/editors/n/nikitin_andrej_wiktorowich/kogda_nachinat_boiatsia_ii_chast_2-1.shtml
  8. Виды искусственного интеллекта https://quantum-dev.ru/blog/ai-type
  9. В.А. Аксайский, Диалог человека с ИИ о совместном существовании // "Академия Тринитаризма", М., Эл N 77-6567, публ.29434, 02.04.2025 https://www.trinitas.ru/rus/doc/0016/001k/00165820.htm
  10. Никитин А.В., Куда идет развитие ИИ? https://samlib.ru/editors/n/nikitin_andrej_wiktorowich/kuda_idet_ii.shtml
  11. Антон Колонин От GPT к AGI - взлет или посадка? https://russiancouncil.ru/analytics-and-comments/analytics/ot-gpt-k-agi-vzlet-ili-posadka/
  12. Разбор документа про AGI от Леопольда Ашенбреннера, бывшего сотрудника OpenAI https://habr.com/ru/companies/bothub/articles/819659/
  
  
  
 Ваша оценка:
Связаться с программистом сайта.

Новые книги авторов СИ, вышедшие из печати:
О.Болдырева "Крадуш. Чужие души" М.Николаев "Вторжение на Землю"

Как попасть в этoт список

Кожевенное мастерство | Сайт "Художники" | Доска об'явлений "Книги"