Никитин Андрей Викторович
Автокибернетика. Часть 2

Самиздат: [Регистрация] [Найти] [Рейтинги] [Обсуждения] [Новинки] [Обзоры] [Помощь|Техвопросы]
Ссылки:
Школа кожевенного мастерства: сумки, ремни своими руками Типография Новый формат: Издать свою книгу
 Ваша оценка:
  
2avtociber [ANikitin]
  
  
  
  Никитин А.В.
      

Автокибернетика. Часть 2.

  

Самоуправление сложного автомата.

  
  
  
  Оглавление
  
  НАЧНЕМ С НАЧАЛА.
    Многообразие воздействий.
    Зоны и характер воздействий.
    Иерархия уровней автомата.
  
  СИСТЕМЫ РЕГУЛИРОВАНИЯ И УПРАВЛЕНИЯ
    Регулирование.
    Управление.
    Управляемое регулирование.
    Выбор - это важно.
  
  ОДНОКЛЕТОЧНЫЕ УРОВНИ САМОУПРАВЛЕНИЯ
    Лидер.
    Системный лидер.
    Коллективный лидер.
    Субъект.
  
  МНОГОКЛЕТОЧНЫЙ УРОВЕНЬ САМОУПРАВЛЕНИЯ.
    Многоклеточный субъект.
    Информационный субъект.
    Личность Я.
    Личность МЫ.
  
  УРОВНИ ЧУВСТВ.
    Что такое чувства?
    Ощущения.
    Эмоции.
    Логика живого существа.
  
  ТАМ ЗА ГОРИЗОНТОМ...
  
  ЛИТЕРАТУРА
  
  
  
  
  
  
  
  
   
  "Человечество подобно ребёнку, который не осознаёт, насколько опасную игрушку он конструирует."
Владимир Прохватилов https://fondsk.ru/news/2023/10/27/vosstanie-mashin-uzhe-nachalos.html
  
  "Более полувека назад советские фантасты придумали киберов, машин, работающих рядом с людьми. И чем-то они сразу стали отличаться даже от сегодняшних роботов. Может быть свой самостоятельностью, своими машинными "мозгами" и проблесками разумности?
  Когда на Земле появятся киберы?
  Для этого мы должны понять, как строить их машинные мозги.
  И четко представлять себе, что реально ждет нас на этом пути и чем это нам может грозить!" [1]
  
  Сегодня у нас появляется возможность дать более конкретное техническое определение понятию "кибер", рожденному советской фантастикой. И как-то отделить его от понятия "робот".
   Сегодня мы не можем всерьез разговаривать о самовоспроизведении автоматов, основной функции живого, отделяющей живых существ от машин человека. Это проблемы завтрашнего дня.
  По этой причине мы начинаем разговор только о самоуправлении машины.
  Но...
  Как сегодня выясняется, разговор о машинах невозможно начинать, не зная, как устроены биологические автоматы. Просто потому, что машины еще не прошли в своем развитии и десятой части пути, пройденного биологическими автоматами от простейших клеток до сложных многоклеточных организмов.
  Приходится признать, что существующие биологические автоматы далеко обогнали все мечты человека. Похоже, что человеку тут ничего другого и не остается, как сначала разобраться в том, что сделала природа. А уж потом, с накопленным опытом, делать и свои шаги в этом направлении.
  И нам придется очень быстро перейти с автоматов, созданных человеком, на функциональные, а потом и биологические автоматы созданные природой.
  Случайность и естественный отбор за миллиарды лет создали непрерывную цепь развития самостоятельных функциональных автоматов, которую человек носит в себе как основу своего самостоятельного существования.
  Сегодня нас интересует линейка самоуправляемых автоматов, ставших продолжением сигнальных автоматов. От простейших до самых совершенных.
  Да-да, до человека!
  Начинаем...
  
  
  

Начнем с начала.

  Давайте начнем с того, что у нас есть какое-то множество элементарных объектов, которые как-то взаимодействуют друг с другом. Примерно вот так, как на рис.1. Хаотично и беспорядочно.
2avtociber [ANikitin]
Рис.1. Клубок взаимодействий
  Мы уже когда-то назвали такой вариант - клубок взаимодействий [2], когда непонятно что на что и чем воздействует...
  Каждый объект этого "клубка" как-то связан через цепочки связей с многими объектами, находящимися порой совсем не рядом, а на расстоянии. В данном случае "связь", это передача энергии любым способом, возможным в этом мире.
  Сколько объектов может быть связано каналами передачи энергии?
  Да сколько угодно.
  Но минимальное количество взаимодействующих объектов - два. И они оба оказывают друг на друга какое-то воздействие, как-то изменяя состояние соседа. Между этими объектами возникает "кольцо взаимодействий".
  Это состояние на рис.2.
  Мы рассматриваем начальный вариант, когда оба объекта примерно равны, воздействия какие-то есть, но пока ничего не происходит...
  Что будет дальше?
  Просто исходя из случайности такого состояния можно предположить, что уже в следующий момент состояние изменится. Первичное воздействие достигнет цели и состояние соседа изменится. Это немедленно отразится на характере его воздействия. Или уменьшит его или увеличит. Что приведет или к усилению общего взаимодействия или к разрыву.
  В мире простого и постоянного "равновесия" не бывает. Точнее, в реальности любое простое равновесие неустойчиво. Когда-то обязательно возникнет фактор, изменяющий равновесие. Чаще всего - случайность.
  Тут теория уже знает, что делать. Возникнет какая-то связь между взаимными воздействиями объектов. Если
2avtociber [ANikitin]
Рис. 2. Кольцо взаимодействия объектов.
ответ уменьшится, то связь отрицательная, если станет больше - положительная. Но в любом случае, контролируемый объект будет принят за "источник воздействий", а второй станет "приемником воздействий"... и начальное равновесие схемы исчезнет.
  
  
  

Многообразие воздействий.

  Если мы вернемся к "кольцу" автоматов на рис.2. и более внимательно посмотрим на линии воздействия, то сразу увидим, что они замыкают круг взаимодействий.
  Есть два объекта и каждый проводит какое-то воздействие на соседа. Исполняет какую-то функцию, в общем круге взаимодействий.
  Нам пока все равно, но мы нарушим теоретическое равновесие системы и определим один объект воздействующим, а второй - отвечающим на воздействие. И таким образом первый объект у нас обладает воздействующей функцией, а второй - контрольной, отвечающей на внешнее воздействие своим воздействием.
  Тут нас интересует несколько аспектов взаимодействия...
  Если объектов два, то система их взаимодействий имеет только один вид. Кольцо взаимодействий. Но, что представляют собой объекты и варианты взаимодействий в графическом понимании? На графике.
  Примерно, вот это... на рис.3.
  
2avtociber [ANikitin]
Рис.3. Оценка условий воздействий объекта в паре.
  
  Что же мы увидели?
  Сначала то, что увидела теория:
     Система из двух объектов, связанных взаимодействиями составляет один из видов автоматов.
     Направление воздействия любого объекта и его контроль по линии обратного воздействия в составе системы объектов могут находиться как в согласии, так и в противодействии.
     От взаимного направления воздействий объектов зависит устойчивость их системы. При согласии (ПОС) она минимальна, при противодействии (ООС) максимальна.
  
  Пока мы рассказываем азы теории обратных связей.
  Здесь нет ничего такого, что бы нас насторожило?
  Есть.
  Мы стали рассматривать объекты как систему, как Целое и части.
  Видим полярности при сравнении направления воздействий объектов друг на друга, как согласие и противодействие.
  Соединение воздействий определяют устойчивость системы взаимодействующих объектов. Противодействие
2avtociber [ANikitin]
Рис. 4. Сеть взаимодействующих объектов.
усиливает устойчивость, согласие - ослабляет.
  А что теория не рассматривает?
  Мы уже вспоминали сложные системы взаимодействующих объектов. Первым в этом списке идет клубок из хаотично запутанных каналов воздействий одного объекта системы на другие. Но это не единственный вариант, хоть и самый распространенный, видимо и конечный. Есть еще варианты, промежуточные.
  Вот они сейчас нам наиболее интересны.
  Вот первая самостоятельно возникающая последовательность усложнения простого "кольца взаимодействий":
  
кольцо - сеть - клубок;   1)  
  
  Так происходит, когда кольцо "растягивается" включением в него новых "звеньев" по линиям воздействия с образованием цепи взаимодействующих объектов, охваченных прямыми и обратными связями. Дальнейшее увеличение количества объектов неизбежно приведет к запутыванию каналов воздействий в "сеть" из множества взаимодействующих объектов, как на рис.4. Сеть может представлять одномерную структуру, а может стать многомерной... и превратиться в хаотический "клубок".
  Есть и второй вариант усложнения структуры взаимодействующих объектов:
  
кольцо - сеть - куст - клубок;   2)  
  
2avtociber [ANikitin]
Рис. 5. "Кустовое" взаимодействие.
  В этом случае "сеть", образуемая из нескольких взаимодействующих объектов когда-то "ломается" с образованием "иерархии". Например, в виде "кустовых" структур, как на рис.5.
  Конечно, дальнейшее хаотическое увеличение количества объектов множества опять приведет к запутыванию их связей в "клубок".
  В чем основное различие этих преобразований?
  Выделим системные образования множества объектов кроме хаотического "клубка" в 1) и 2).
  Это - "куст" и "сеть".
  В чём их различия?
  "Сеть", даже многомерная не имеет иерархии объектов, а "куст"..., это и есть начало иерархии объектов системы.
  Но теперь мы запомним, что...
  Cтруктуры "сеть" и "куст" состоят их простейших автоматов типа "кольцо". Это "единицы" состава любой сложной схемы взаимодействий.
  Любая большая "сеть" взаимодействий состоит из "колец", в них основа поддержания стабильности всей системы объектов. "Кольцо", как единица системы, вводит в систему функции регулирования и контроля.
  Эти функции и составляют основу любой системы саморегулирования.
  
  
  

Зоны и характер воздействий.

  Любое взаимодействие автоматов состоит из воздействия и реакции на него. Воздействие и ответная реакция могут работать согласованно с образованием ПОС и создавать противоположность, образуя ООС.
   Различия взаимодействий создают зоны различий их результатов на рис.3.
  В зоне стабильности работает "сеть". Она своми связями обеспечивает стабилизацию системы на основе ООС.
  В зоне изменений работают ПОС. Они усиливают начальное воздействие своей реакцией и делают изменение необратимым.
  Но нас осталось огромное свободное пространство между полярностями воздействий. Что будет с системой, если они будут происходить там?
  Это пространство можно представить примерно так, как рис 6.
  
2avtociber [ANikitin]
Рис.6. Зоны саморегулирования и самоуправления.
  
  Вот теперь видно, что зона саморегулирования системы охватывает режимы взаимодействий с направлением ООС, не ухудшающие устойчивость существования системы объектов. Правда теория учитывает и регулирование в зоне ПОС, но это скорее зона самоблокирования системы в определенном положении.
  А вот между этими крайними зонами расположена...
  Зона самоуправления, которая находится в зоне нестабильности существования системы объектов, но не выходит в зону изменений или блокирования состояния системы. При этом режимы взаимодействия могут изменяться от ООС до ПОС и обратно.
  Здесь я вынужден указать, что по всей вероятности саморегулирование формально является логической противоположностью самоуправления. Саморегулирование, в общем случае, ведет систему к стабилизации, а управление наоборот, выводит систему из зоны стабильности в зону нестабильности.
  Только в зоне нестабильности у системы появляется возможность выбора действий, достижения целей, движения и т.д.
  Как мы понимаем, в зоне нестабильности работает "куст" из объектов в виде иерархии объектов системы. Здесь мы встречаем как уже известные нам функцию контроля, так и новую - функцию управления.
  Теперь основные функции в системе взаимодействий нам известны.
  Это функции:
    1. Контроля
    2. Регулирования;
    3. Управления.
  
  Все функции могут выполняться как совместно, так и раздельно.
  Где тут регулирование, а где управление?
  В автоматах горизонтальные кольца связей создают автомат, а вертикальные?
  Тут лучше сразу указывать создаваемую ими функцию.
  Горизонтальные кольца связей между автоматами создают функцию регулирования, а вертикальные между автоматами разных уровней иерархии - функцию управления.
  
2avtociber [ANikitin]
Рис.7. Различие между функциями регулирования и управления.
  
  Здесь возникает очевидный вопрос...
  Если кольца ОС горизонтального уровня, это функция регулирования, внутренняя для этого уровня, то функция управления, это переход с одного уровня на другой?
  Да.Для верхнего уровня функция управления внутренняя, а для нижнего - внешняя.
  Запомним это важное отличие функции управления от регулирования.
  
  
  

Иерархия уровней автомата.

  Функция управления выполняется во взаимодействии автоматов типа "куст". Автомат, это как минимум два объекта, охваченных взаимными связями. По отношению любому из них одна связь считается прямой, а другая обратной связью.
  
2avtociber [ANikitin]
Рис. 8. Иерархическая структура автоматов.
  
  Но если связи взаимодействий образуются между автоматами разных уровней, тогда надо учитывать уровень в иерархии взаимодействующих объектов?
  У нас возникает иерархия объектов, а связи между объектами разных уровнями в ней образуют вертикальные кольца связей. И тут сразу же устанавливается неравнозначность объектов, составляющих кольцо связей.
  Верхний по иерархии объект автоматически становится управляющим, а нижний - управляемым в вертикальном кольце связей.
  Так возникает... структура "куст"
   Иерархия автоматов, это универсальная структура, которая в зависимости от условий применения может стать как системой управления, так и системой регулирования.
  Почему так?
  
  
  

Системы регулирования и управления

  А это мы сейчас о чем? О регулировании или управлении?
  ????
  Да. Так обычно диалог по этой теме и заканчивается. Полным непониманием сторонами определения того процесса, о котором они говорили.
  Это происходит потому, что наука вообще не разделяет техническое управление и регулирование, как разные функции. Для неё это одно и то же. Это можно легко проверить, заглянув в любой учебник по теории автоматического управления или автоматического регулирования.
  В них материал изложен одинаково. Различия лишь в специализации направления изложения.
  Можно ли разделить эти функции четко и понятно?
  Можно.
  
2avtociber [ANikitin]
Рис.9. Стандартная система саморегулирования.
  
  

Регулирование.

  Любая система автоматического регулирования локальна по определению и исходно самостоятельная. Она всегда контролирует параметры внутреннего состояния локального объекта.
  Составим из универсальной иерархии автоматов систему регулирования.
  Вот она, на рис.9.
  Синий контур на рисунке ограничивает локальный объект контроля системы автоматического регулирования. Система имеет какой-то набор регистраторов изменения состояния контролируемого объекта и блок воздействий на регулятор состояния.
  Уровень воздействия контролируется регистратором исполнения команд регулирования. Если параметры контролируемого объекта вернулись к норме, то по его сигналу воздействия прекращаются.
  Для нас главное...
  Регулирующая система контролирует и поддерживает стабильность параметров внутреннего объема объекта контроля.
  Вот это мы запомним.
  А что тогда такое - управление?
  Давайте смотреть...
  
  
2avtociber [ANikitin]
Рис.10. Простое внешнее управление.
  

Управление.

  На рис. 10. мы видим красный контур объекта и систему управления этим объектов на основе иерархии автоматов, такой же, как и в системе регулирования. Различия в каналах воздействий.
  Регистраторы системы управления контролируют только внешние воздействия и реагирует на них своей исполняемой функцией.
  Если сравнить функции регулирования и управления, то они оказываются противоположными по отношению к внутреннему объему контролируемого объекта.
   Можно ли совместить функции управления и регулирования в одном объекте?
  Да. Смотрим...
  
  
  

Управляемое регулирование.

  Соберем такую систему из систем регулирования и управления.
  И посмотрим, что получится... на рис.11.
2avtociber [ANikitin]
Рис. 11. Система регулирования с внешним управлением.
  Вот вроде завели в общую систему всю схему управления и регулирования, а получили только... систему регулирования с внешним управлением. Она будет поддерживать в каких-то пределах параметры, задаваемые внешним управлением. И может быть, будет контролировать эти пределы.
  А можно, что бы система как-то "поумнела", что ли?
  Давайте попробуем...
  
  
  

Выбор - это важно.

  Введем в систему блок выбора моделей реакции на управляющие воздействия. Что получим?
  Мы получим упрощенную модель "живого организма", как его понимает сегодня наука.
  Я напомню:
  "Организмы представляют собой саморегулирующиеся, адаптивные системы, способные к самовоспроизведению". Т.Г.Уотерман, Теория систем и биология: точка зрения биолога [3].
2avtociber [ANikitin]
Рис. 12. Система регулирования с выбором модели реакции.
  В эту схему укладывается и все гипотезы человека, напрямую управляемого Богом или Космосом.
  А как на самом деле?
  Функциональная схема автомата по своему исходному уровню самостоятельности вряд ли выше уровня сегодняшних бытовых приборов с цифровым управлением. Можно ли такой автомат назвать живым?
  Нет, даже приблизительно...
  Скорее всего, такая схема, даже со всеми возможными "компьютерными" "наворотами", может соответствовать уровню хорошего производственного робота. У него есть возможность ограниченной автономии в выполнении некоторых действий и возможность телеуправления оператором.
  На большее этот автомат не способен.
  
  ***
  Дальнейшая систематика сложности в автоматах, созданных человеком отсутствует. Видимо цели такой не было. Потому и задача такая не ставилась.
  А вот природа и эволюция не могли остановиться на этом.
  Биологическая клетка стала естественной лабораторией эволюции систем самостоятельного регулирования и управления сложного автомата.
  Развитие систем самоуправления продолжилось...
  
  
  

Одноклеточные уровни самоуправления

  Первые простейшие известные сегодня клетки - археи и представляют собой автоматы с уровнем самоуправления как на рис.12.
  Но уже следующий вид клеток - прокариоты, бактерии, стали обладателями уникального способа самоуправления, который и позволил им развиваться от биологического автомата до живой клетки.
  Что же это за уникальное изобретение природы?
  Сегодня оно известно как "наблюдающее управление".
  Полвека назад был предложен такой вариант управления:
  "Хейнц фон Фёрстер в статье "Cybernetics of Cybernetics" 1974 года, провёл различие между кибернетикой первого порядка - кибернетикой наблюдаемых систем, и кибернетикой второго порядка - кибернетикой наблюдающих систем." https://ru.wikipedia.org/?curid=1612319&oldid=114903800
  
  На этот новый уровень управления можно завести какую-то обратную связь и создать новый фундамент для развития системы реального самоуправления.
  В чем его уникальность?
  Этот уровень управления формально отделен от непосредственного управления всеми процессами управления и регулирования, происходящими в организме или внутреннем объеме кибера. Он имеет свои цели и задачи управления и выполняет их исполнительными командами нижнему уровню с контролем исполнения.
  Строительство иерархии управления вверх показало свою эффективность на всех этапах эволюции клетки.
  С чего же начинается самоуправление?
  
  
  

Лидер

  Этот первый уровень самоуправления я назвал "Лидер".
  Первый уровень "лидера" выглядит примерно на рис. 13.
  В систему управления сложного автомата введен второй уровень управления - "наблюдающий". Он не занят в непосредственном процессе управления. У него другие задачи. Он выбирает цели и модели их достижения... с учетом сигналов внешней и внутренней реальности. После этого он начинает сдвигать характеристики управления нижнего уровня в сторону достижения своих целей.
  
2avtociber [ANikitin]
Рис. 13. Простейший "лидер" первого уровня.
  
  В свою очередь, нижний уровень управления начинает сдвигать характеристики и параметры системы автоматического саморегулирования для достижения целей первого уровня наблюдающего управления. Так достигается согласование смены уровня стабилизации системы с требованиями системы управления. Этот уровень самоуправления реализован на уровне простейших прокариот или бактерий.
  В процессе эволюционных изменений появился более сложный вариант "Лидера"
  
  
  

Системный лидер.

  Новая надстройка самоуправления произвела глубокую перестройку своей работы. Она ввела общие внутренние системные сигналы. И теперь все входящие в систему сигналы преобразуются в новый формат представления и отображения.
  Но и этого не хватило.
  И сигналы в "чистом виде" перестали поступать в систему вообще. Теперь они систематизированы и по моделям представления. Мне пока не очень понятно то, что произошло, но в системе самоуправления появились модели понятий - "опасность", "пища", и еще какие-то модели, собранные из первичных сигналов от рецепторов в модели стандартных сигналов.
  
2avtociber [ANikitin]
Рис.14. Системный лидер.
  
  Что это? Зачем это?
  Система самоуправления стала реагировать не на все сигналы, а лишь на сигналы "модели понятия", которая автоматически вызывает нужную модель цели и варианты её достижения.
  Появление системных сигналов и моделей позволило не только как-то разобраться в наборах сигналов внешней и внутренней реальности, но и подготовило почву для появления следующего уровня развития системы самоуправления.
  
  
  

Коллективный лидер.

  Да, самоуправляемый автомат "узнал" о существовании "соседей", таких же как он. Возникла общность автоматов. Дело за малым, нужен обмен информацией. И он появился в процессе эволюции.
  Получилось как на рис.15.
  Автомат двухуровневой системы управления может обладать функцией самоуправления. При этом, уровни управления разделены не только функционально, но и физически. Они работают на разных сигналах систем и используют разные модели управления и саморегулирования. С одной стороны, это позволяет четко разделить сферы применяемости, но с другой требует преобразования сигналов при переходе с уровня на уровень.
  Принцип "новый уровень - новые сигналы" принят в живой природе как основной.
  Потому, для эффективности управления разнообразные сигналы от регистраторов внешней реальности должны быть преобразованы в стандартные сигнальные модели системы управления высшего уровня, обработаны и только теперь преобразованы в команды управления для исполнения на нижнем уровне управления.
  
2avtociber [ANikitin]
Рис. 15. Коллективный лидер.
  
  Таким образом решается проблема модельного управления.
  У системы саморегулирования, работающей параллельно с низшим уровнем управления свои системы сигналов, позволяющие не путать их с сигналами управления.
  Этот автомат уже мог отправить и получить информационные сообщения какому-то получателю. Или всем, кто его получит. Тут важен сам факт этой возможности обмена информацией. В природе этой возможностью обладают бактерии прокариоты, формирующие специальные послания - плазмиды, технические вирусы клеток, существующие именно для этой цели.
  Мы вдруг осознали, что информация не может передаваться системными сигналами, она неизбежно как-то должна кодироваться сигналами сообщений!
  Некодированной информации не существует!
  Именно на этом уровне развития автоматов самоуправления мы фиксируем появление первого самого примитивного "коллективного интеллекта".
  Далее роль коллективного интеллекта в развитии самоуправляемых автоматов будет только усиливаться. Его появление сразу ускорило дальнейшее развитие самоуправляемых автоматов в сторону применения информации.
  Эволюция самоуправляемых автоматов пошла дальше.
  Сейчас можно немного оценить достигнутое совершенство автоматов уровня "Лидер".
  Если бы не "наблюдающее управление", то сложность этих автоматов не превышает достигнутого нами сегодня. Мы создаем автоматические системы примерно такого же уровня сложности.
  При этом пока мы ни разу не говорили ни о какой логике!
  Все новые доработки автомата носят чисто эмпирический характер эволюционного опыта и естественного отбора. Все дополнения к "базовому" варианту показали повышение выживаемости "носителей", что и обеспечило их включение в состав системы самоуправления автомата.
  Самоуправляемый автомат Лидер уже имеет полный набор средств контроля как внешней и своей внутренней среды, средства коммуникации с окружающим множеством, средства для устранения опасности или ухода от неё движением...
  С одной стороны этого вполне достаточно для стабильного существования миллиарды лет, а с другой... эволюционный процесс не остановишь, он идет, всё равно в какую сторону, но идет.
  И природа нам показывает более сложные образцы автоматических систем, которые давно созданы ею, доведены до совершенства и уверенно существуют уже миллиард лет!
  
  
  

Субъект

  Как мы уже знаем, более продуктивным оказался эволюционный процесс усложнением системы. Он добавляет новые качества, которых лишены конкуренты и это дает шанс на выживание в этом сложном мире.
  Самоуправляющая система Лидер тоже стала усложняться. В ней стали появляться элементы, как сегодня говорят, оперативной памяти. Такая память всегда работает на основе какой-то машинной логики, даже самой удивительной и странной.
  Это новшество изменило характер обработки сигналов как внешней, так и внутренней среды на высшем уровне управления. Если раньше модель действий представляла собой жестко исполняемый простейший алгоритм, часто состоящий из набора выбрасываемых во внутренний объем автомат химических соединений, которые и вызывали какие-то хаотические действия и движения, то сейчас всё изменилось.
  Набор химических сигналов стал ограниченным и набор вызываемых им реакций тоже стал ограничен. С быстрым выходом из конечного состояния обратно в исходное и с готовностью совершать новый алгоритм с другим набором "сигналов".
  
2avtociber [ANikitin]
Рис.16. Система самоуправления Субъект.
  
  Теперь задача в выборе нужного варианта ответа на возникшую проблему.
  Вот тут и заработал логический блок обработки сигналов.
  Он стал из получаемых сигналов создавать информацию для управляющей системы. Расширять набор тех самых "системных" "моделей", создавать систему "понятий". Система самоуправления получила возможность "запомнить" важнейшие понятия, теперь не на фиксированном уровне химического соединения, а на логическом, имеющем какие-то первые оценочные качества. Теперь можно применить и причинно-следственные связи "если - то".
  Самоуправление вышло на следующий уровень развития - Субъект.
  Надо отметить, что изменилось не только название, но качественно изменились многие параметры и функциональные узлы.
  Например, на клеточном уровне это был переход от безъядерных прокариот и бактерий к более развитым мезокариотам. У этих клеток уже не было обмена плазмидами, но возник обмен сигнальными белками [4]. А обмен генетическим материалом пошел иначе.
  Последним уровнем развития Субъекта стала клетка эукариота [4]. Это амебы, жгутиконосцы и другие высокоразвитые одноклеточные живые организмы.
  Да, теперь уже точно - живые. В полном понимании этого понятия.
  На этом заканчивается одноклеточный период развития самоуправляемых автоматов.
  И начинается многоклеточный...
  
  
  

Многоклеточный уровень самоуправления.

  Сразу отметим, что многоклеточные организмы в своем развитии прошли все те же стадии развития самоуправляемых автоматов, что и одноклеточные, но быстрее. Этому способствовали "строительные кирпичи" многоклеточного организма - высокоразвитые клетки эукариоты, уже имеющие собственные системы самоуправления на уровне Субъекта.
  
  Таблица 1.
NУровень самоуправления Одноклеточные Многоклеточные
0АвтоматархеиГидры, полипы
1Лидерпрокариоты
2Системный ЛидерпрокариотыГрибы
3Коллективный ЛидерпрокариотыРастения, пчелы, термиты
4СубъектэукариотыЧленистоногие, рыбы.
5Информационный Субъектрептилии
6Личность ЯВысшие животные
7Личность МыЧеловек
  
  Первое, что приходит на ум...
  На многоклеточном уровне реализации изменилась сложность средств самоуправления. И соответственно, изменились требования к качеству принимаемых изменений реальности, как сигналов. Если ранее это были звуковые волны, электромагнитное излучение, какие-то физические воздействия сжатия или растяжения части оболочки и т.д., то теперь автомат воспринимает звук, свет и их изменение в каком-то диапазоне, запах, вкус, есть уже тактильные и осязательные воздействия...
  На месте клеточных рецепторов появились органы чувств уже специализированные для приема не отдельных изменений, а как сегодня говорится - на уровне "потоковых" способов приема сигналов. Сигналы далеко от органа чувств не уходят, прямо тут же переформатируются из исходных сигналов от органа чувств в стандартные сигналы системы управления, нервные импульсы. Далее в обработку идут уже эти сигналы. Сигналы идут непрерывным потоком.
  И всё это надо как-то моделировать, сравнивать и оценивать на опасность или по другим целям применения. Здесь и включается в работу моделирующий центр обработки сигналов органа чувств. Из системных сигналов он создает модельные модули, которые и уходят на высший уровень управления, как "исходная информация" о реальности.
  В многоклеточном организме появилась возможность всё это делать. Но вот старый модельный аппарат представления информации уже никак не соответствовал новым возможностям и задачам.
  
  
  

Многоклеточный Субъект.

  Мы даже не будем снова рисовать функциональную схему этого вида самоуправления. Она осталась та же. Изменения по сравнению с одноклеточным вариантом лишь качественные. Но грандиозные!
  Если система саморегулирования осталась, как и прежде, химическая, на белковых сигналах, ферментах, и новых органических соединениях. Каналами передачи сигналов стали кровеносная и лимфатическая системы организма.
  А вот система управления нижнего уровня перешла на новую основу. Она стала электрической и теперь представляет собой центральную нервную систему (ЦНС). Центр её управления расположен в спинном мозге.
  Субъект занял лидирующую позицию на самой вершине спинного мозга в зоне "среднего мозга". Организмом он управляет "по старинке" - гормонами. И всё также имеет такой же, гормональный, канал связи с "соседями". Эти гормоны - феромоны, исправно выполняют свою функцию передачи сообщения о наличии своего "хозяина" в их зоне действия и приглашают к контакту.
  В живых организмах уровень Субъект существует у рыб и членистоногих, включая и всех насекомых. А начиная с рептилий, земноводных уже появляется "информационный Субъект".
  
  
  

Информационный Субъект.

  Первое и главное отличие от прошлых способов самоуправления - новый уровень самоуправления и новый формат представления информации в системе.
  В системе самоуправления появился уровень - информационный.
  Это связано прежде всего с переходом системы на новый формат представления информации. С модельного на образный.
  Теперь блок информации, это многогранный образ. Нет, это не только зрительный, но и вкусовой, осязательный, звуковой и т.д. "портрет" реальности, создаваемый в памяти.
  Но,... смена формата представления информации происходила вместе с изменением средств работы с новым форматом.
  Здесь мы впервые сталкиваемся с новым пространством реальности - виртуальным.
  Именно сюда перенесена вся система обработки образной информации. Для контроля за этим процессом появился отдельный модуль, который мы считаем главным - Сознание. На самом деле это лишь место выборочного контроля за реальностями - физической и виртуальной. "Переключателем" направления контроля служит функция "внимание". Физическую реальность мы "видим и ощущаем", а виртуальную - представляем, воображаем.
  Потому и новый центр самоуправления переместился из физической реальности в виртуальную. Здесь теперь всё работает в одном формате представления информации - образах. Информационному Субъекту нет необходимости менять этот формат, он сам устроен точно так же.
  
2avtociber [ANikitin]
Рис. 17. Информационный Субъект
  
  Перевод сигналов от органов чувств в сигналы высшего уровня управления окончательно прервал прямое отображение реальности. Начиная с системного Лидера центр самоуправления "видел" уже лишь свою внутреннюю модель внешней реальности, вместо оригинала. И чем выше был уровень системы самоуправления, тем выше был и уровень сигналов и способ представления реальности. Модель, примитив в составе модели, теперь примитив в составе образа...
  Да-да, вся "реальность" в нашем мозгу "собрана" из примитивов, построенных именно для этой цели - собрать образ реальности. Мы об этом уже говорили в [5].
  Формально, для новой системы управления "образ реальности" и "образ виртуальности" ничем не отличаются. Они собраны из одних и тех же примитивов, воспроизводятся на одних и тех же "внутренних экранах", находящихся где-то в зонах преобразования сигналов органов чувств в стандартные с их первичной логической обработкой и дополнением примитивами.
  Впервые этот формат самоуправления был описан в[6], но только сейчас пришло время его внимательного рассмотрения. Его функциональная схема представлена ниже. Она несколько иначе показывает состав и взаимодействие частей информационного Субъекта. Это связано с разными целями разработки.
  Сейчас я считаю главным фактором - наглядность. В прошлой разработке главной была информативность.
  Сравнивайте сами, что Вам удобнее понимать...
  
2avtociber [ANikitin]
Рис. 18. Информационный Субъект в составе организма.
  
  Формат самоуправления информационный Субъект поменял, как и смысл сигналов от нижних уровней системы. Если ранее химические или электрические сигналы нижнего уровня приходили на верхний уровень самоуправления почти без изменений, то сейчас произошла кардинальная перемена формата. Из физического он стал информационным.
  Непонятно?
  Сейчас разберемся...
  
  
  

Личность Я

  Если раньше информация была представлена в виртуальном пространстве информационного Субъекта только в виде объектов демонстрации, облегчающих решение логических задач управления, то с появлением новой надстройки самоуправления появилось новое пространство решения логических задач - информационное. Теперь информация была и объектом и действием и результатом решения логических задач.
  
2avtociber [ANikitin]
Рис.19. Личность Я.
  
  Информационным пространством стала управлять новая надстройка - Личность. Надстройка, или новый уровень самоуправления выделен на рис.19 красным прямоугольником.
  На этом уровне начинается новый тип логики - рациональная логика, направленная на достижение Личностью своего статуса в линейке иерархии общества. Выбор "используемого" между "хочется и можется".
  Основной причиной формирования этого уровня самоуправления стал коллективный интеллект общества [6], в котором существует данный организм с системой самоуправления. Уровень Я Личность, в котором существует данный индивид, отражает уровень развития общества его соплеменников.
  
  
  

Личность Мы.

  Это точно можно назвать новым уровнем самоуправления?
  Чем человек отличается от человекообразных обезьян из которых он вышел когда-то в процессе эволюции? Функционально и физически - ничем.
  Тогда чем же он отличается?
  Развитием Личности Мы.
  Социальным мышлением, основанным на знаниях.
  Человек развернул информационное пространство из личного в коллективное. У общество появилось новое коллективное пространство - информационное.
  Коллектив стал накапливать информацию, это и стало одной из целей существования коллектива.
  Реализация информационного уровня коллективного интеллекта общества основана на формировании в мозгу каждого члена коллектива всё новых и новых логических автоматов, реальных и виртуальных, и их взаимосвязей с утратой части старых. И потому предки человека, как муравьи, стали терять способность автономного существования без поддержки своего коллектива.
  Конечно, точно так же можно сказать о существовании любого коллектива животных. От мышей до слонов. Выжить в одиночестве коллективное животное может лишь ограниченный период, дальше только смерть. Всё так.
  Но из всех коллективов животных накапливать навыки и опыт выживания через поколения в форме развивающегося информационного коллективного интеллекта первыми начали гоминиды. [6]
  
  Человека разумного, как Личность Мы, сделал коллективный интеллект и коллективное информационное пространство. Его знания, опыт, нормы морали, этики, поведения...
  
  В этом понимании Личность Мы и есть та часть его системы самоуправления, которая формируется коллективным информационным интеллектом общества.
  
  
  

Уровни чувств.

  Не знаю, как получилось, что чувства стали обобщенным пониманием всех изменений реальности существования живого существа. По крайней мере философия, а за ней и медицина пошли по этому пути. От Аристотеля мы узнаем о пяти главных чувствах и появляется примерное формальное понимание "органа чувств", как канала восприятия действительности: зрение, слух, обоняние, осязание, вкус...
  Но... вдруг что-то изменилось в их понимании.
  Чувствами стали уже другие варианты восприятия реальности.
  И теперь философия заговорила о новых чувствах. О любви, о жалости, ярости и доброте, не говоря уж о голоде, жажде, страхе и т.д. Теперь, когда мы говорим о "чувственном восприятии" мы понимаем именно это.
  Но, века два назад медицина заговорила об ощущениях, а потом об эмоциях. А то, что когда-то было "чувствами" у Аристотеля, теперь стало "рецепторами" восприятия какого-то определенного изменения реальности из всего их многообразия.
  Сегодня все окончательно запутались в том, что является "чувствами"...
  
  
  

Что такое чувства?

  Давайте немного систематизируем чувства.
  Отставим в сторону все органы чувств, они к чувствам сегодня отношения не имеют, их название, это исторический анахронизм.
  Пока мы отнесем к чувствам ощущения и эмоции.
  Что их объединяет и что различает?
  Объединяет их место возникновения - мозг. А различает - первичный источник и сигнал.
  Ощущения и эмоции, это два уровня виртуальной логики Субъекта, возникшие до появления воображения.
    1. Нижний уровень - ощущения, создаваемые в ответ на реальные возбуждения нервных центров.
    2. Верхний уровень - эмоции, создаваемые по состоянию органов, сформированном действие гормонов и работающих в этот момент моделей и образов системы прогнозирования.
  
  Это уровень работы виртуального информационного Субъекта.
  Давайте чуть подробнее...
  
  
  

Ощущения.

  Чувства жажды, голода, жжения, боли, прикосновения..., вот они наши ощущения.
  Не будь в системе самоуправления этого уровня информационного Субъекта, мы бы ничего не чувствовали!
  Ощущения стали логическими ответами систем контроля органов и всего внутреннего объема и внешних границ тела нашего организма на новом уровне их представления.
  Ощущения изначально имеют вполне конкретную базу для своего появления - сигналы рецепторов системы саморегулирования, точек регистрации состояния какого-то участка тела или органа организма живого существа. Тут вроде всё понятно, пока не вникаешь в суть.
  Я напомню, что наши чувства осязания, тактильности остались без собственных локальных органов чувств. Они остались на уровне рецепторов, которые расположены во всем объеме организма и на всей поверхности кожи.
  Рецептор регистрирует изменение и отправляет химический сигнал в первый ближайший нейронный узел формирования возбуждения. Если таких первичных сигналов становится достаточно для формирования команды запуска сигнала возбуждения, то такой сигнал формируется и отправляется по нейронным связям в машину саморегулирования. Начинается процесс реакции на возбуждение. Сигналы напрямую идут от рецептора в систему самоуправления. Эти сигналы являются основной составляющей рефлексов в организме.
  
  Но теперь новый уровень самоуправления Субъект стал формировать каналы получения этих сигналов и на свой уровень. Этот уровень не работает с первичными сигналами. Они никак не отражаются в системе управления Субъекта. И чтобы что-то хоть как-то отображалось, нужен механизм фиксации этих изменений. Для Субъекта. На его уровне и в его системе сигналов и необходимом спектре их разнообразия. Для различения разных типов изменений в контролируемом им организме.
  Для этого первичные сигналы были переформатированы в информацию, собранную из примитивов памяти. Теперь сигналы запускают процесс представления своего образа из информационных примитивов.
  Так мы начинаем чувствовать свое тело. Через сформированные из примитивов новые сигналы чувств - ощущения.
  Они формируются в нейронном пространстве головного мозга, как реакция на возбуждение какого-то нейронного узла в организме.
  Всё разнообразие окраски ощущений, это уже заслуга Субъекта.
  Но...
  Для чего всё это надо?
  Прежде всего для оценки состояния организма в системе значимости Субъекта. О значимости мы говорили давно. Это важное качество информации, присваемое ей в канале передачи для пропуска в память. Уровень значимости определяет машина управления и Субъект.
  Если информация пропущена в память и Субъект начал работу с ней, то она должна обладать отличительными признаками, для её последующей систематизации в разных отделах памяти. И особенно в разделе "самосохранения".
  Здесь должны находиться важнейшие ощущения - боль, голод, жажда, жжение и т.д. Это сигналы, требующие немедленных действий для их устранения.
  Далее мы уже знаем.
  Субъект оказался немного "зациклен" на поиске опасностей для организма в своих ощущениях. С одной стороны он расширил разнообразие ощущений, а с другой, постоянный поиск этих важных сигналов привел к их формированию даже тогда, когда реальные сигналы отсутствуют. Мы начинаем что-то ощущать, по всему организму, как фантомные ощущения, не имеющие реальных причин для своего появления. Но, факт, это позволяет Субъекту контролировать весь объем тела вот такими "ложными" тревогами и держать системы авторегулирования и самоуправления в постоянной готовности к действиям.
  Здесь мы отметим главное - ощущения, это сигналы контроля тела на уровне Субъекта. Или иначе...
  Ощущения, это "чувства состояния организма".
  
  
  

Эмоции.

  А что же эмоции?
  Эмоции, это уже "чувства состояния внешней среды".
  Здесь первичная информация поступает от "органов чувств", обрабатывается и поступает на контроль системы самоуправления. Фиксируются изменения реальности и их ближайшие тенденции. Изменениям присваивается какой-то уровень значимости и она пропускается в память. Для поиска возможных опасностей для существования.
  Очевидные тенденции нарастания опасности пытается блокировать своими действиями машина самоуправления своими "рефлексами", типа отдергиванием руки от горячего предмета, неконтролируемая реакция на явную угрозу, развитая в процессе существования, от прыжков и убегания, до инстинктивной самозащиты.
  Потом включается Субъект.
  Начинает работать прогнозирование как самих опасностей, так и тенденций к их появлению.
  Тут же рассматривается и общество, которое порождает другую часть прогнозирования, необходимую для продолжения существования Субъекта. Здесь и утоление голода, и продолжение рода, и взаимодействие в коллективе.
  Эмоции, это система сигналов о состоянии внешней среды и окружения Субъекта.
  Она должна обладать необходимым разнообразием для различия возникающих эмоциональных оценок происходящих событий и отражения их в памяти.
  Разнообразие эмоций возникает от гормонального воздействия на органы и соответствующего изменения их состояния в виде части "образа" этого состояния в памяти Субъекта. Гормоны влияют на состояние органов. Изменение состояния органов вызывают изменение ощущений. Ощущения вызывают ассоциации в картинках реальности, вызываемых в воображение...
   Далее происходит самонастройка эмоции, как согласование состояния образа организма, образов воображения, видимых изменений реальности..., как прогнозирование тенденции изменения реальности... для этого эмоционального состояния Субъекта.
  Да. Только для этого эмоционального состояния. Сегодня и сейчас. Потом будет другое состояние Субъекта, будет и другой прогноз развития событий.
  Высший уровень чувственного определения - эмоциональный настрой. Это относительное устойчиво поддерживаемое состояние нашего гормонального фона в организме, который соответствует тому или эмоциональному настрою. Настрой может быть как устойчивым, так и временным. Менее интенсивный процесс авторегулирования настроя считается настроением.
  Тогда может быть оставить понятие "чувства" для самого общего "обозначения" отражения Субъектом своего отношения к изменениям внешней и внутренней реальности? От сигнальной информации, формируемой рецепторами и органами чувств и до их выражения в сигналах высших уровней логики живого.
  Кстати, а что это?
  
  
  

Логика живого существа.

  Фактически Субъект фиксирует в памяти три формата отображения реальности.
    1. В формате "представляемой реальности" от органов чувств.
    2. В формате представления виртуальной реальности, как представления образов воображения, в направлении прогнозирования "изменения реальности", создающих первый выброс гормонов в организм.
    3. В формате ощущений организма, как реакции на гормональный вброс, прогноз воображения и 'информацию' из реальности.
  
  У информационного субъекта есть виртуальное пространство отображения информации. Здесь же расположены и органы управления этим пространством.
  Информация отображается не просто так. Это способ решения логических задач в формате причинно-следственных вариантов прогнозирования развития ситуации представления.
  Как в реальности, так и в виртуальности.
  В виртуальности даже более наглядно, потому, что можно это повторить и изменить. И тогда изменится результат. Так и работает такая информационная логика.
  Задача есть, представление есть, решение есть,... а результата нет!
  Что должно стать результатом?
  В простейшей логике это например "ДА" и "НЕТ".
  А тут всё всегда неоднозначно и сложно. Тут простые ответы не подходят. Нужна целая палитра этих ответов, чтобы выразить отношение автомата к результату решения.
  Решение пришло от Субъекта первого уровня.
  В многоклеточном варианте основными сигналами его системы самоуправления стали гормоны.
  Своим появлением в том или ином органе тела они создавали какие-то сдвиги в его состоянии и деятельности. Эти изменения фиксируются системой контроля нижнего уровня и транслируются Субъекту. Он их переформатирует в свой гормональный формат и отправляет в приемники сигналов информационного субъекта. А тот форматирует образ представления этого сигнала для виртуального пространства.
  Формально, это сигналы информационного Субъекта. И они должны отличаться от сигналов нижнего уровня - ощущений. Ощущения локальны по своей сути.
  Новые информационные ответы должны отражать состояние всего организма. Такие логические ответы мы называем эмоциями.
  На рис. показана зависимость состояния и настроения человека от гормонального фона. По сути - азбука логики эмоций. [7]
  
2avtociber [ANikitin]
Рис. 20. Азбука логики эмоций.
  
   У эмоций проявился очень важный для выживания механизм образования "сдвига" при реализации выбора.
  Причина тут простая.
  Любая логика ведет решение к единственному результату. В этом и состоит цель решения - получить реализуемый результат.
  Но если у всех одна и та же логика, то и решения в одних и тех же задачах будут такие же. Как в математике. И метод прогнозирования развития ситуации дает постоянно один и тот же результат.
  Тогда зачем он нужен?
  Но... если изменить что-то в воображаемой ситуации, то можно и в реальности сделать решение задачи иначе, чем дает стандартное логическое решение?
  Что надо изменить?
  Для изменения оценки надо изменить точку зрения, подход, свое отношение к происходящему!
  Это и делают эмоции.
  В одном состоянии мы готовы идти напролом, в другом - искать запасные выходы, в третьем просто подождем...
  В этом и состоит расширение выбора в решениях логических задач самоуправления!
  
***
  Тут еще надо внимательно разобраться, но основа похоже, правильная.
  Отличие системы информационного Субъекта от первичного Субъекта глобальные. Они перевели самоуправление на информационный уровень.
  Это и двинуло эволюционный процесс дальше.
  Теперь главные движущие силы развития - информация и общество.
  
  
  

Там за горизонтом...

  Только схемотехники догадываются об истинной сложности реализации этих кружков, эллипсов, квадратиков в принципиальные электронные, или иные схемы реального сложного автомата. А с другой стороны, только вот такие упрощенные функциональные схемы позволяют представить то главное, что составляет основу взаимодействий сложного автомата, не опускаясь до глубин их реального наполнения. Потому, что одну и ту же функциональную схему автомата можно реализовать на гидравлике и пневматике, электронике и наборе химических реакций... Но мы как-то это забыли, глядя на глобальное засилье цифровых схем и методов электронной автоматизации самых разнообразных технологий.
  Автомат может быть реализован на основе любых взаимодействий: механических, химических, электронных и биологических...
  Иногда главная проблема - понять это.
  Например, только внимательные читатели увидели, что самоуправление до конца самостоятельным не бывает. Такого просто не может быть. Потому, что функция управления изначально подразумевает "бесконечную" лесенку вертикального взаимодействия автоматов разного уровня.
  Именно это когда-то увидел древний человек, размышляющий об устройстве нашего мира.
  И он создал Бога. Конечную вершину самоуправления в этой бесконечной веренице уровней причинно-следственных связей. Так оказалось легче понять ту глобальность непостижимых взаимодействий, которые он представлял себе, глядя на этот сложный мир.
  Только накопленные человечеством знания позволили критично взглянуть на это почти классическое понимание устройство мира. Пересмотреть ставшую привычной систему и строить новую, где бога нет, а есть лишь поток случайностей, который меняет всё и вся постоянно и неуклонно. Мир меняется, потому, что иначе он существовать не может. Изменчивость и разнообразие в основе его существования.
  И лесенка управления, которая кажется высотой до Бога, оказывается не такой уж высокой. Первое реальное самоуправление возникает на уровне "наблюдающего" управления. Конечно, самоуправление здесь очень локально. Оно весьма ограничено по реальной автономности существования.
  Но этого оказалось достаточно для реализации естественного процесса эволюции таких ограниченно самоуправляемых автоматов. От первых архей и прокариот до человека.
  Что же создает основу для этого?
  Коллектив, общество, окружение самоуправляемого автомата во всем разнообразии. Вот тот "потолок" лесенки самоуправления индивидуума. Свита делает короля. Общество создает интеллект индивидуума. Коллективный интеллект сделал человека умным.
  Сегодня человек сам становится творцом своих автоматов. Он сам проходит тот путь развития автоматов, который он когда-то отдал богу, а потом эволюции. Ему осталось пройти всего пару шагов вверх по лесенке уровней сложности до реализации реального кибера, который будет обладать каким-то заданным человеком уровнем самоуправления и интеллекта.
  Далее главной проблемой создания кибера становится уровень его субъектности. Вот этим мы и займемся далее...
  
  г. Волгодонск
  Ноябрь 2023г
  
  
  

Литература

  
  1. Никитин А.В., Когда появятся киберы? http://samlib.ru/editors/n/nikitin_andrej_wiktorowich/kogda_poiaviatsia_kiber.shtml
  2. Никитин А.В., Кибербиологическая синэволюция (Киберэволюция) http://samlib.ru/editors/n/nikitin_andrej_wiktorowich/kiberevolucya.shtml
  3. Системные исследования по общей теории систем. Ежегодник 1970г М.: Наука, 1970.- 204 с. https://systemsanalysis.ru/assets/systems_research_1970.pdf
  4. Никитин А.В., Этапы развития жизни на Земле. Часть 4 http://samlib.ru/editors/n/nikitin_andrej_wiktorowich/4life.shtml
  5. Никитин А.В., Общая логика. Эволюция мышления http://samlib.ru/editors/n/nikitin_andrej_wiktorowich/evoliucia_mishlenia.shtml
  6. Никитин А.В., В плену "призрачных истин" http://samlib.ru/editors/n/nikitin_andrej_wiktorowich/v_plenu_prizrachnyh_istin.shtml
  7. Никитин А.В., Автомат и Субъект в эволюции http://samlib.ru/editors/n/nikitin_andrej_wiktorowich/avtomat_i_subiekt_vo_vselennoj.shtml
  
  
  
 Ваша оценка:
Связаться с программистом сайта.

Новые книги авторов СИ, вышедшие из печати:
О.Болдырева "Крадуш. Чужие души" М.Николаев "Вторжение на Землю"

Как попасть в этoт список

Кожевенное мастерство | Сайт "Художники" | Доска об'явлений "Книги"