Митасов Андрей Павлович : другие произведения.

Металоция неведомого. Модуль И. Интеллект

Самиздат: [Регистрация] [Найти] [Рейтинги] [Обсуждения] [Новинки] [Обзоры] [Помощь|Техвопросы]
Ссылки:
 Ваша оценка:
  • Аннотация:
    Вопросы понимания различных видов интеллекта.
    Крайнее изменение 28.04.2024
  
  "Мои мысли - мои скакуны
  Словно искры зажгут эту ночь.
  Обгоняет безумие ветров хмельных
  Эскадрон моих мыслей шальных."
  
  Олег Газманов - "Эскадрон".
  
  
  Оглавление:
   Вместо предисловия.
   Варианты классификации ИИ.
   Когнитивная эволюция интеллектов.
   От программирования логики к обучению интеллекта.
   Отлаживая механизмы памяти.
   Цитаты от Георга Кристоф Лихтенберга.
   Об исключениях, подтверждающих правило.
   Немного о практике ТРИЗ в дизайне.
   Ловушки нашего разума.
   Вопрос целеполагания научного поиска.
   Обоюдоострые инструменты познания.
   Математический термин, ставший успешным маркетинговым брэндом.
   Структурированная память - это не база знаний.
   Единица информации vs Понятие.
   Мусор на входе - ??? на выходе?
   Больше эвристик, хороших и разных.
   Что понимается под эвристикой.
   Эвристики "доступности" и "якорения" VS эффекта "переобучения".
   Эвристика "резинового утёнка".
   "Размышления о природе и сущности информации".
   Состязательное обучение LLM-моделей.
  
  Иллюстрации:
   Бриг "Букетик ландышей" от "Модели Kandinsky 2.1".
   Бриг "Букетик ландышей" от "Модели Kandinsky 3.0".
   "Новый Год на море" от "Модели Kandinsky 3.0".
   Графическое резюме диалогов об эвристиках от Bing.
   "Дискуссия о природе информации" от Bing/Copilot.
   Бриг "Букетик ландышей" от "Модели Kandinsky 3.1".
  
  
  =========
  
  07.12.2023 12:29
  
  Вместо предисловия.
  В оглавление.
  
  На фоне свершившегося "пришествия ИИ", и сопровождающего его
  вселенского хайпа/страшилок/оптимизма/запугивания и т.д. и т.п.,
  как-то совершенно выпали из рассмотрения парочка
  действительно интересных вопросов.
  
  Во-первых, способно/готово ли человечество
  по настоящему допустить возможность существование
  интеллекта НЕантропоморфного типа?
  Т.е. готово ли человечество морально
  к выходу в действительно Большой Космос?
  
  Во-вторых, как можно использовать результаты/достижения/непонятки
  в области исследования принципов работы ИИ-систем
  для совершенствования чисто человеческого интеллекта?
  
  И если с первым вопросом помочь человечеству не представляется возможным,
  то вторым вопросом вполне возможно заниматься,
  причем, не зависимо от того как в дальнейшем развернутся события
  в отношении ИИ-систем.
  Вряд ли попытки развивать собственный интеллект на основе анализа
  принципов работы нейронок и ГПТэшек,
  будут сопровождаться значительным минусом "в карму" или еще куда.
  
  Вот этот вопрос и предполагается сделать центральным для данного модуля.
  Т.е. попытаться найти точки соприкосновения между человеческим
  и "машинным интеллектом"
  и попытаться понять в чем и как они различаются.
  И, самое главное, ради чего все затевается,
  найти пути совершенствования человеческого интеллекта,
  чтобы хоть немного дольше выдержать гонку
  со все больше ускоряющимся развитием ИИ.
  
  
  =========
  
  13.12.2023 12:40
  
  Варианты классификации ИИ.
  В оглавление.
  
  Полезно любую работу, тем более в такой области как "интеллект",
  начинать с каких-то определений, пусть далеко не окончательных,
  но хоть каких-то,
  чтобы можно было от чего-то "отталкиваться".
  На мой взгляд, предлагаемые в следующем материале варианты классификации,
  вполне подходят для этой цели:
  
  "Риски, присущие работе искусственного интеллекта".
  Автор: MTorn (Максим Торнов)
  https://habr.com/ru/articles/780018/.
  12 дек 2023 12:59
  
  //// Начало цитирования.
  
  .......
  
  Что такое ИИ?
  
  Компания IBM (What is artificial intelligence (AI)?)
  https://www.ibm.com/topics/artificial-intelligence
  считает, что ИИ это -
  
   Имитация возможностей человеческого разума
   по решению проблем и принятию решений
   с помощью компьютера или автоматизированных машин.
  
  Т.е. термин <искусственный интеллект> (ИИ)
  относится к моделированию человеческого интеллекта
  с помощью машин и алгоритмов,
  реализованных с помощью программного кода.
  
  ......
  
  Какие типы ИИ существуют?
  
  ......
  
  Ниже адаптированный под нужды данного материала перевод статьи
  опубликованной на сайте компании Forbes
  (Naveen Joshi 7 Types Of Artificial Intelligence)
  
  Публикация дает следующие определения:
  https://www.forbes.com/sites/naveenjoshi/
  
  Реактивные машины (Reactive Machines)
  
   Это старейшие формы систем ИИ,
   возможности которых крайне ограничены.
   Они имитируют способность человеческого разума
   реагировать на различные виды стимулов.
  
   Эти машины не имеют функций, основанных на памяти.
   Это означает, что такие машины не могут использовать
   ранее приобретенный опыт для использования в своих текущих действиях,
   то есть эти машины не обладают способностью <обучаться>.
  
   Эти машины можно было использовать
   только для автоматического реагирования на ограниченный набор
   или комбинацию входных данных.
   Их невозможно использовать,
   полагаясь на память для улучшения операций таких машин.
  
   Популярным примером реактивной машины искусственного интеллекта
   является IBM Deep Blue,
   машина, которая победила шахматного гроссмейстера Гарри Каспарова в 1997 году.
  
  Вывод:
  машина не обучается,
  но есть данные, с которыми работает ИИ и его алгоритм,
  т.е. от корректности используемых данных, заданных параметров,
  корректности самого алгоритма и его исполнения
  зависит итоговый результат.
  Т.е. это те области, где что-то для такой машины может пойти не так.
  
  Ограниченная память
  
   Машины с ограниченной памятью
   - это машины, которые, помимо возможностей реактивных машин,
   также способны учиться на исторических данных для принятия решений.
  
   Почти все современные приложения искусственного интеллекта,
   от чат-ботов и виртуальных помощников до беспилотных транспортных средств,
   управляются искусственным интеллектом с ограниченной памятью.
   Почти все существующие приложения, о которых мы знаем,
   подпадают под эту категорию ИИ.
   Все современные системы искусственного интеллекта,
   например те, которые используют глубокое обучение (deep learning),
   обучаются на больших объемах обучающих данных,
   которые они хранят в своей памяти,
   чтобы сформировать эталонную модель для решения будущих проблем.
  
   Например, ИИ, распознающий изображения,
   обучается с использованием тысяч изображений и их меток,
   чтобы научить его называть объекты, которые он сканирует.
   Когда изображение сканируется таким ИИ,
   он использует обучающие изображения в качестве эталонов
   для понимания содержания представленного ему изображения
   и на основе своего <опыта обучения> маркирует новые изображения
   с возрастающей точностью.
  //// А вот это не всегда.
  //// Вспоминаем "проклятое переобучение"
  //// и "предвзятость"/несбалансированность данных.
  
  Вывод:
  можно сказать, что машина обучается,
  т.е формирует новые данные для своей работы.
  Таким образом, есть алгоритм, заданные параметры,
  входные данные и выходные данные.
  Т.е. это те области, где что-то для такой машины может пойти не так.
  //// Отдельно нужно, все-таки, указывать алгоритмы обучения.
  
  Теория разума
  
   Подобного типа ИИ на данный момент существуют либо в виде концепции,
   либо в стадии разработки.
   Теория разума ИИ - это следующий уровень систем ИИ, над созданием инноваций,
   в которых в настоящее время работают исследователи.
   Теория ИИ на уровне разума сможет лучше понимать сущности,
   с которыми он взаимодействует, распознавая их потребности, эмоции, убеждения
   и мыслительные процессы.
  
   Хотя искусственный эмоциональный интеллект уже является
   многообещающей отраслью и областью интересов ведущих исследователей ИИ,
   достижение ИИ уровня Теории разума потребует развития
   и в других областях ИИ.
  
   Это связано с тем, что для того,
   чтобы по-настоящему понять человеческие потребности,
   машинам ИИ придется воспринимать людей как личностей,
   чей разум может формироваться под воздействием множества факторов,
   по сути, <понимая> людей.
  
  Вывод:
  данный тип ИИ пока находится на стадии изучения
  и во всяком случае мне, сложно сказать что-то конкретное
  о возможных рисках или том,
  что может пойти не так в работе подобного ИИ.
  //// А неправильная "расшифровка" эмоций/намерений/потребностей людей,
  //// не говоря уж об их "мыслительных процессах",
  //// разве это не серьезный риск?
  
  Самосознание
  
   Это заключительный этап развития ИИ,
   который на данный момент существует лишь гипотетически.
  //// Есть у ИИ-революции начало, нет у ИИ-революции конца.
  //// Это далеко не заключительный этап.
  //// Будет еще как минимум два уровня
  //// ИИ-сообщество/ИИ-цивилизация.
  //// ИИ-Вселенная.
  
   Самосознающий ИИ, который, само собой разумеется,
   представляет собой ИИ, который в ходе эволюции
   стал настолько похож на человеческий мозг,
   что у него развилось самосознание.
  //// Опять "антропоцентризм".
  //// Нет оснований считать, что для самосознания обязательным требованием
  //// может быть подобие "человеческому мозгу".
  
   Создание такого типа ИИ, до реализации которого останутся десятилетия,
   если не столетия, есть и всегда будет конечной целью всех исследований ИИ.
  
   Этот тип ИИ сможет не только понимать и вызывать эмоции у тех,
   с кем он взаимодействует, но также иметь собственные эмоции,
   потребности, убеждения и потенциально желания.
   И это тот тип ИИ, которого опасаются предсказатели этой технологии.
  
   Хотя развитие самосознания потенциально может ускорить наш прогресс
   как цивилизации,
   оно также потенциально может привести к катастрофе.
   Это связано с тем, что, обретя самосознание,
   ИИ будет способен иметь такие идеи, как самосохранение,
   которые могут прямо или косвенно означать конец человечества,
   поскольку такая сущность может легко перехитрить интеллект любого человека
   и разработать сложные схемы, чтобы предпринять действия. над человечеством.
  
  Вывод:
  данный тип ИИ пока тоже находится фактически в теории и проходит стадию изучения
  и о рисках присущих работе такого ИИ
  можно только спекулировать и фантазировать,
  что находится за рамками данного материала.
  //// Основной риск в том, что человечество окажется
  //// неспособным принять/признать любую другу форму разума, кроме собственной.
  
  Альтернативная система классификации ИИ
  
  Также нельзя не отметить, альтернативную систему классификации,
  которая более широко используется в техническом жаргоне,
  - это классификация технологий:
  
   ограниченный искусственный интеллект
   (Artificial Narrow Intelligence - ANI)
  
   общий искусственный интеллект
   (Artificial General Intelligence - AGI)
  
   искусственный сверхинтеллект
   (Artificial Super Intelligence - ASI).
  
  Ограниченный искусственный интеллект (ANI)
  
  Этот тип искусственного интеллекта представляет собой
  весь существующий ИИ на текущий момент,
  включая даже самый сложный и мощный ИИ,
  который когда-либо был создан на сегодняшний день.
  
  Ограниченный искусственный интеллект относится
  к системам искусственного интеллекта, которые могут выполнять
  только конкретную задачу автономно,
  используя возможности, подобные человеческим.
  
  Эти машины не могут делать ничего,
  кроме того, на что они запрограммированы,
  //// Это уже не так.
  и поэтому имеют очень ограниченный или узкий диапазон компетенций.
  Согласно вышеупомянутой системе классификации,
  этим системам соответствуют все реактивные и ограниченные по памяти ИИ.
  Даже самый сложный ИИ, использующий машинное и глубокое обучение для самообучения,
  подпадает под ANI.
  
  ANI это наиболее распространенная форма ИИ,
  которую на текущий момент можно найти на рынке.
  
  Эти системы искусственного интеллекта предназначены
  для решения одной единственной проблемы
  и могут очень хорошо выполнить одну задачу.
  //// Пока это не так.
  По определению, у них ограниченные возможности,
  например, рекомендация продукта пользователю электронной коммерции
  или прогнозирование погоды.
  
  Данный тип ИИ способен приблизиться к человеческому функционированию
  в очень специфических контекстах
  и даже превзойти его во многих случаях,
  но преуспевает только в строго контролируемых средах
  с ограниченным набором параметров.
  
  Общий искусственный интеллект (AGI)
  
  Общий искусственный интеллект
  - это способность ИИ учиться, воспринимать, понимать и функционировать
  полностью как человек.
  //// Опять "антропоцентризм".
  //// Интеллект может функционировать и не только так "как человек",
  //// и при этом оставаться "общим интеллектом".
  //// Здесь важнее критерий разнообразия решаемых задач
  //// и методов их решения.
  Эти системы смогут независимо формировать множество компетенций
  и формировать связи и обобщения между областями,
  значительно сокращая время, необходимое для обучения.
  Это сделает системы искусственного интеллекта такими же способными,
  как и люди,
  за счет повторения наших многофункциональных возможностей.
  
  AGI все еще остается теоретической концепцией.
  Он определяется как ИИ, обладающий когнитивными функциями человеческого уровня
  в самых разных областях, таких как обработка языка, обработка изображений,
  вычислительные функции, рассуждение и так далее.
  
  Таким образом нынешнее общество возможно еще далеко от создания системы AGI.
  Система AGI должна будет состоять
  из тысяч систем искусственного узкого интеллекта,
  работающих в тандеме и взаимодействующих друг с другом,
  //// Это один из вариантов. Но именно что "один из".
  чтобы имитировать человеческое мышление.
  
  Даже при использовании самых передовых вычислительных систем и инфраструктур,
  таких как Fujitsu K или IBM Watson,
  им потребовалось 40 минут,
  чтобы смоделировать одну секунду активности нейронов.
  Это говорит как об огромной сложности и взаимосвязанности человеческого мозга,
  так и о масштабах задачи создания ОИИ с использованием наших нынешних ресурсов.
  
  Искусственный сверхинтеллект (ASI)
  
  Развитие искусственного сверхинтеллекта,
  вероятно, станет вершиной исследований ИИ,
  поскольку AGI станет, безусловно, самой мощной формой интеллекта на Земле.
  
  ASI, помимо воспроизведения многогранного интеллекта человека,
  будет намного лучше во всем, что он делает,
  благодаря значительно большей памяти,
  более быстрой обработке и анализу данных,
  а также возможностям принятия решений.
  
  Развитие AGI и ASI приведет к сценарию,
  который чаще всего называют сингулярностью.
  И хотя потенциал наличия в нашем распоряжении таких мощных машин
  кажется привлекательным,
  эти машины также могут угрожать нашему существованию
  или, по крайней мере, нашему образу жизни.
  
  На данный момент трудно представить состояние нашего мира,
  когда появятся более продвинутые типы ИИ.
  Однако очевидно, что до этого предстоит пройти долгий путь,
  //// А если это будет "короткий путь", даже не "по историческим меркам",
  //// а, скажем, на протяжении одного-двух поколений?
  //// Что тогда?
  поскольку нынешний уровень развития ИИ по сравнению с тем,
  каким он прогнозируется, все еще находится на зачаточной стадии.
  
  Для тех, кто придерживается негативного взгляда на будущее ИИ,
  это означает, что сейчас еще слишком рано беспокоиться о сингулярности,
  и еще есть время обеспечить безопасность ИИ.
  А для тех, кто с оптимизмом смотрит на будущее ИИ,
  тот факт, что мы лишь прикоснулись к его развитию,
  делает будущее еще более захватывающим.
  
  ASI - здесь мы почти вступаем на территорию научной фантастики,
  но ASI рассматривается как логическое развитие AGI.
  Система искусственного сверхинтеллекта (ASI)
  сможет превзойти все человеческие возможности.
  Это будет включать в себя принятие решений,
  принятие рациональных решений
  //// "Рациональных" с какой точки зрения?
  //// Люди даже между собой не могут выработать "общие рациональные решения".
  и даже такие вещи, как улучшение искусства
  и построение эмоциональных отношений.
  
  Как только мы достигнем общего искусственного интеллекта,
  системы искусственного интеллекта смогут быстро улучшить свои возможности
  и продвинуться в области, о которых мы, возможно, даже не мечтали.
  
  Хотя разрыв между AGI и ASI будет относительно небольшим
  (некоторые говорят, что всего лишь наносекунда,
  потому что именно с такой скоростью будет учиться искусственный интеллект),
  предстоящий нам долгий путь к самому AGI делает эту концепцию
  похожей на далекую перспективу.
  
  Общие черты, общие характеристики ИИ
  
  ........
  
  Перечень уверен крайне мал,
  однако уже можно сделать вывод
  - работа ИИ обеспечивается:
  данными, самими алгоритмами, настройками и железом, -
  ничего сверхнового, как мне кажется.
  //// А мне "почему-то" так не кажется.
  //// Кажется, что человечество в рамках "машинного обучения",
  //// наткнулась на технологию/метод, который ранее использовался
  //// либо очень редко, либо очень растянуто по времени/поколениям.
  //// И, соответственно, до конца не очень понимает ни его механизм,
  //// ни, тем более, его потенциал.
  
  ........
  
  //// Конец цитирования.
  
  Т.е. интеллект, в первом приближении,
  это сложная комбинация памяти, алгоритмов, эмоций, реакций, намерений и т.д.
  и каких-то обратных связей, между различными компонентами.
  А конкретная реализация "железа", включая конкретную структуру,
  реализующего это все сугубо вторична.
  Т.е. надо сразу ставить под сомнение парадигму,
  что "интеллект" обязательно должен иметь "антропоморфную структуру".
  Так будет меньше "ломка" от встречи с чем-то неведомым.
  
  И еще один важный момент,
  ведущую роль в возникновении сегодняшнего "феномена ИИ"
  играет новый подход к накоплению, трансформации и использованию памяти
  В виде алгоритмов машинного обучения и структуры глубоких нейросетей.
  
  Т.е. ПАМЯТЬ - это ключевой компонент в понимании интеллекта,
  и не только искусственного.
  
  
  ======
  
  06.12.2023 12:26
  
  Когнитивная эволюция интеллектов.
  В оглавление.
  
  Если начинать говорить об эволюции интеллекта,
  то тут надо выделять, как минимум три принципиальных момента.
  Во-первых, результат "эволюции" должен как-то сохраняться,
  иначе она бессмысленна/нереализуема/невыявляема,
  а это опять выводит на первый план вопрос
  организации и функционирования "памяти".
  Причем память может быть реализована в разных формах,
  включая и структурную перестройку.
  Во-вторых, это вопрос откуда берется информация и стимулы
  для "эволюции интеллекта",
  В-третьих, это, собственно, сами алгоритмы обеспечения этой эволюции.
  На мой взгляд, предлагаемый в следующем материале "цивилизационный"
  или коллективный аспект/механизм обеспечения эволюции "интеллекта"
  очень актуален для любого типа интеллекта:
  
  "Google DeepMind сумела запустить когнитивную эволюцию роботов".
  Автор: Корректор
  https://aftershock.news/?q=node/1319135.
  6/Дек/23 09:49
  
  //// Начало цитирования.
  
  1я ноябрьская ИИ-революция
  (Революция ChatGPT, начавшаяся в ноябре 2022)
  ознаменовала появление на планете нового носителя высшего интеллекта
  - цифрового ИИ, способного достичь
  (и, возможно, превзойти)
  людей в любых видах интеллектуальной деятельности.
  
   Но не смотря на сравнимый с людьми уровень,
   этот новый носитель высшего интеллекта оказался абсолютно
   нечеловекоподобным.
  
  Он принадлежит к классу генеративного ИИ больших языковых моделей,
  не умеющих
  (и в принципе не способных)
  не то что мечтать об электроовцах,
  но и просто мыслить и познавать мир, как это делают люди.
  //// Ну, я с этим не согласен.
  И потому, даже превзойдя по уровню людей,
  он так и останется для человечества <чужим>
  - иным типом интеллекта,
  столь же непостижимым для понимания,
  как интеллект квинтян из романа Станислава Лема <Фиаско> (см. мой пост).
  https://dzen.ru/a/ZIb1nb-vhiQ-08S0
  
   Причина нечеловекоподобия генеративных ИИ больших языковых моделей
   заключается в их кардинально иной природе.
  
   Наш интеллект - результат миллионов лет когнитивной эволюции
   биологических интеллектуальных агентов,
   позволившей людям из животных превратиться в сверхразумные существа,
   построивших на Земле цивилизацию планетарного уровня,
   начавшую освоение космоса.
  
   ИИ больших языковых моделей - продукт машинного обучения
   компьютерных программ на колоссальных объемах цифровых данных.
  
  Преодолеть это принципиальное отличие можно,
  если найти ключ к запуску когнитивной эволюции ИИ.
  
  И этот ключ предложен 28го ноября 2023 инициаторами 2й ноябрьской ИИ-революции
  (Революции когнитивной эволюции ИИ)
  в опубликованном журналом Nature исследовании Google DeepMind
  .
  https://www.nature.com/articles/s41467-023-42875-2
  
   Движком когнитивной эволюции ИИ авторы предлагают сделать
   (как и у людей)
   социальное обучение
   - когда один интеллектуальный агент
   (человек, животное или ИИ)
   приобретает навыки и знания у другого путем копирования
   (жизненно важного для процесса развития интеллектуальных агентов).
  
   Ища вдохновение в социальном обучении людей,
   исследователи стремились найти способ,
   позволяющий агентам ИИ учиться у других агентов ИИ и у людей
   с эффективностью, сравнимой с человеческим социальным обучением.
  
   Команде исследователей удалось использовать обучение с подкреплением
   для обучения агента ИИ,
   способного идентифицировать новых для себя экспертов
   (среди других агентов ИИ и людей),
   имитировать их поведение
   и запоминать полученные знания в течение всего нескольких минут.
  
   "Наши агенты успешно имитируют человека в реальном времени в новых контекстах,
   не используя никаких предварительно собранных людьми данных.
   Мы определили удивительно простой набор ингредиентов,
  //// А какой именно?
   достаточный для культурной передачи,
   и разработали эволюционную методологию для ее систематической оценки.
  //// А подробности будут?
   Это открывает путь к тому,
   чтобы культурная эволюция играла алгоритмическую роль
   в развитии искусственного общего интеллекта",
   - говорится в исследовании.
  
  Запуск когнитивной эволюции ИИ позволит не только создать
  <человекоподобный ИИ> у роботов - андроидов,
  но и разрешить при их создании Парадокс Моравека
  (высококогнитивные процессы требуют относительно мало вычислений,
  а низкоуровневые сенсомоторные операции требуют
  огромных вычислительных ресурсов)
  и Сверхзадачу Минского
  (произвести обратную разработку навыков,
  получаемых в процессе передачи неявных знаний - невербализованных
  и, часто, бессознательных).
  
   Т.о. не будет большим преувеличением сказать,
   что 2я ноябрьская революция ИИ открывает путь
   к гибридному обществу людей и андроидов, -
  
  многократно описанному в фантастических романах,
  но до сих пор остававшемуся практически нереализуемым
  на ближнем временном горизонте.
  
  А теперь рассмотрим подробней вопросы когнитивной эволюции интеллектуальных агентов
  и революционного подхода к ее запуску, предложенного Google DeepMind.
  
  Два разных типа интеллекта
  
  Kак уже было отмечено,
  причина нечеловекоподобия генеративных ИИ больших языковых моделей
  заключается в их кардинально иной природе:
  наш интеллект - продукт когнитивной эволюции интеллектуальных агентов,
  а ИИ больших языковых моделей - продукт машинного обучения компьютерных программ
  на колоссальных объемах цифровых данных.
  
  И хотя <аппаратные основы> этих двух типов интеллекта во многом похожи
  (не физически, а с точки зрения организации вычислений - нейросети),
  у современных генеративных ИИ больших языковых моделей
  в принципе отсутствуют две ключевые способности,
  формирующие наш биологический разум:
  социальное обучение и социально познание
  (процедуры совместного поиска информации, совместной добыча знаний
  и совместного нахождения эвристик).
  
   Совокупность этих двух способностей нашего разума
   превратила людей в носителей воплощенного эусоциального коллективного интеллекта.
  
  К сожалению, многие исследователи и по сей день полагают,
  что ключевыми особенностями интеллекта человека
  являются его биологическая основа и пройденный эволюционный путь,
  создавший за миллионы лет физическую основу интеллекта:
  его HW - мозг и SW - нейрохимическую прошивку.
  
  Мне видится иначе.
  И биологическая основа, и пройденный эволюционный путь
  - лишь следствие океана случайностей в ходе миллионов лет экспериментов
  <слепого перелицовщика> - эволюции.
  В итоге, случилось так. А могло быть и совсем иначе.
  
   Био-основа, да и сама жизнь, - конечно, великое открытие эволюции.
   Но нет принципиальных препятствий для реализации интеллекта
   на любой иной основе, позволяющей осуществлять обработку информации.
   Что уже доказано на практике изобретением кремниевых компьютеров
   - HWной и SWной основы любого современного ИИ.
  
   Пройденный эволюционный путь, конечно же, уникален.
   Будь он иным, наши HW и SW интеллекта были бы иными.
   Однако, разве можно признать, что итоговые HW и SW интеллекта человека
   - это некий универсальный оптимум,
   некий эталон для всех возможных интеллектов?
  
   Наш интеллект - всего лишь предсказательный механизм,
   приспособленный <слепым перелицовщиком> для оптимального решения
   задачи выживания и воспроизводства людей
   в конкретных условиях окружающего его мира.
   Будь эти условия иными, - интеллект должен был также стать иным.
  
  Но есть ли тогда у нашего интеллекта какие-то ключевые особенности?
  
  Полагаю, что есть:
  
   Воплощенность - наличие у когнитивного агента тела и органов чувств.
  
   Эусоциальность - высшая форма социальности,
   при которой представители вида живут группами,
   состоящими из нескольких поколений,
   и члены группы действуют альтруистично по отношению друг к другу
   в соответствии с регулярным разделением труда.
  
   Коллективность - интеллект этого типа,
   помимо механизма генетического наследования информации,
   располагает вторым негенетическим механизмом (культурой)
   и может развиваться исключительно в ходе социального обучения
   - процесса, превращающего биологическую (генную) эволюцию
   в генно-культурную коэволюцию,
   увеличивая тем самым объемы передаваемой между поколениями информации
   на много порядков.
  
   Только находясь в коллективе,
   пребывая в постоянном процессе социального обучения и специализации,
   человек обретает свойственный ему тип интеллекта,
   впитывая в себя огромный объем культурной информации
   (в ходе социального познания),
   намного превосходящей информацию, передаваемую генетическим путем
   (подробней, см. мой пост)
  https://dzen.ru/a/XSxly_LfJQCuyN4M
  
  Все три названные ключевые особенности людей,
  как интеллектуальных агентов,
  отсутствуют у генеративного ИИ больших языковых моделей.
  Что исключает для них возможность когнитивной эволюции,
  без которой не мог бы сформироваться интеллект людей.
  А это, в свою очередь, становится непреодолимой преградой
  на пути к человекоподобному ИИ.
  
  Когнитивная эволюция человека
  
  ......
  
  Центральный тезис теории когнитивной эволюции человека заключается в том, что
  
   в ходе эволюции людей природа выработала совершенно новую когнитивную стратегию:
   симбиоз мозга и культуры.
  
   Как следствие, человеческий мозг не может реализовать свой проектный потенциал,
   если он, в процессе своего развития,
   не погружен в распределенную коммуникационную сеть, - то есть в культуру.
  
   Человеческий мозг в буквальном смысле специально приспособлен
   для функционирования в сложной символической культуре
  
  .......
  
  Культурная передача и социальное обучение через подражание
  
  Kультурная передача - это общий социальный навык,
  который позволяет агентам получать и использовать информацию друг от друга
  в режиме реального времени с высокой точностью и запоминаемостью.
  Его можно рассматривать как процесс,
  который увековечивает подходящие варианты культурной эволюции.
  У людей культурная эволюция привела к накоплению и совершенствованию навыков,
  инструментов и знаний на протяжении поколений.
  
  ......
  
  Согласно теории когнитивной эволюции,
  разум этих видов обладал тем,
  что заложило основу радикально новой формы познания
  и первым истинно человеческим уровнем представления памяти
  - умение подражать.
  Этот тип культуры Мерлин Дональд называет <подражательной> культурой.
  
  По сути, <подражательная> культура есть ни что иное,
  как гипотетическое пропущенное звено
  - возможная форма оригинальной, архаической, довербальной культуры
  интеллектуальных агентов.
  
  .......
  
  Что конкретно сделали в Google DeepMind
  
  Исследователи стремились показать,
  как агенты ИИ могут учиться у других интеллектуальных агентов
  с эффективностью, сравнимой с человеческой.
  В физическом моделируемом пространстве задач под названием GoalCycle3D
  (см. рисунок)
  - своего рода компьютерно-анимированной игровой площадке
  с пешеходными дорожками и препятствиями
  - авторы обнаружили, что агенты ИИ могут учиться у людей и ИИ-экспертов
  решению ряда навигационных задач,
  даже если они никогда их не видели,
  и даже, не имея каких-либо представлений, что это такое.
  
  Рис. GoalCycle3D.
  Трехмерная физическая симуляция пространства задач.
  Каждая задача содержит процедурно сгенерированный ландшафт, препятствия и сферы целей,
  параметры которых выбираются случайным образом при создании задачи.
  Каждый агент получает независимое вознаграждение
  за посещение целей в определенном циклическом порядке,
  также выбранном случайным образом при создании задачи.
  Агенту не предоставляется правильный порядок,
  поэтому агент должен определить порядок вознаграждения
  либо экспериментально, либо с помощью культурной передачи от эксперта.
  Наше пространство задач представляет собой
  навигационные задачи неограниченной сложности,
  параметризованные размером моделируемого мира, плотностью препятствий,
  неровностями местности и количеством целей.
  Интеллектуальный агент наблюдает за миром с помощью лидара
  (как это происходит, показано на 31 видеоролике в приложении к статье).
  
  Исследователи Google DeepMind предложили
  метод создания культурной передачи в агентах ИИ
  в форме подражания (имитации) с малым числом примеров
  (имеется в виду "обучение подражанием при малом количестве данных"
  - few-shot imitation).
  
  В экспериментах исследования:
  
   ИИ агентам удается в режиме реального времени
   имитировать человека в новых контекстах
   без использования каких-либо предварительно собранных людьми данных.
  
   Авторы определили удивительно простой набор ингредиентов,
   достаточный для создания культурной передачи,
   и разработали методологию для ее систематической оценки.
  //// Э, и это все подробности или нужно за ними идти в оригинал статьи?
  //// А там они есть?
  
   Это открывает путь культурной эволюции ИИ,
   которая может сыграть алгоритмическую роль
   в развитии общего искусственного интеллекта (AGI).
  
  Двумя отличительными особенностями социального обучения ИИ-агентов
  методом подражания (имитации) с малым числом примеров, являются:
  
   отсутствие необходимости больших наборов обучающих данных;
  
   огромная скорость обучения (см. рис. ниже)
  
  Метрика культурной передачи обучения показывает на этом рисунке
  четыре отдельные фазы в ходе обучения,
  каждая из которых соответствует отдельному поведению агента
  в области социального обучения.
  На этапе 1 (красный) агент начинает знакомиться с задачей,
  изучает представления, передвижение и исследование
  без значительного улучшения результатов.
  На этапе 2 (синий), обладая достаточным опытом и представлениями,
  сформированными потерей внимания,
  агент осваивает свой первый навык социального обучения,
  следуя за ботом-экспертом для решения задачи.
  Показатель передачи культуры обучения увеличивается до 0,75,
  что предполагает чистое следование.
  
  Столь быстрое обучение на минимуме данных решает большинство проблем,
  связанных с Парадоксом Моравека
  (высококогнитивные процессы требуют относительно мало вычислений,
  а низкоуровневые сенсомоторные операции требуют огромных вычислительных ресурсов)
  и Сверхзадачей Минского
  (произвести обратную разработку навыков,
  получаемых в процессе передачи неявных знаний
  (невербализованных и, часто, бессознательных).
  
  -- -- --
  
  В заключение поста еще раз вернусь к главным выводам,
  упомянутым в его вступлении.
  
  Не будет большим преувеличением сказать,
  что 2я ноябрьская революция ИИ (Революции когнитивной эволюции ИИ)
  может открыть путь:
  
   к запуску эволюции когнитивных способностей ИИ-агентов
   на основе социального обучения путем мимесиса;
  
   к созданию на основе таких ИИ-агентов роботов-андроидов,
   человекоподобных не только внешне, но и по психической архитектуре разума;
  
   а в перспективе, - и к гибридному обществу людей и андроидов,
   многократно описанному в фантастических романах,
   но до сих пор остававшемуся практически нереализуемым
   на ближнем временном горизонте.
  
  Комментарий автора:
  
  Это конец исторической эпохи и начало новой исторической эры.
  И это же реальная "сингулярность":
  https://habr.com/ru/companies/first/articles/776588/
  Но это же цивилизационный коллапс как разрушение прежнего общества
  и существующих социально-экономических отношений.
  
  Все прежние споры вокруг идеологии и прежних социально-экономических теорий
  можно считать теперь законченными.
  Это фактор который меняет все.
  Это как сменить систему Птолемея на систему Коперника.
  Все тоже самое, но принципиально иной смысл всего вокруг.
  
  ......
  
  //// Конец цитирования.
  
  Вообще-то, использование пары ИИ-систем для взаимного обучения
  это уже классика в машинном обучении,
  так что называть подход Google DeepMind настоящей "революцией",
  наверно, все-таки небольшое преувеличение.
  Но вот постановку такого обучения именно "на поток",
  действительно следующий шаг в ускорении обучения ИИ-систем.
  
  Но как правильно отметил автор, и развитие человеческого интеллекта
  во многом обусловлено "культурным обменом"
  и взаимодействием с другими "носителями" интеллекта.
  И вопрос в том какого рода "обмен" и взаимодействие
  лучше всего соответствуют задаче "лучше подготовиться к светлой ИИ-эре".
  Можно пытаться ухватить все самые "горячие новости/технологии",
  можно, наоборот, погрузиться в "глубочайшую медитацию", отстраняясь от всего.
  Наверно есть и какие-то промежуточные пути между этими двумя крайностями.
  
  Пока, мне представляется, что наиболее разумным на данном этапе,
  будет отслеживание ключевых/рубежных событий/тенденций в ИИ-технологиях
  с одновременной максимальной проработкой каких-то теоретических вопросов.
  Т.е. "учиться, учиться и еще раз учиться".
  
  Вопрос в том: чему и как учиться?
  Мир стремительно меняется и многое из того,
  что сейчас считается крайне необходимым,
  завтра может отмереть за ненадобностью.
  Кроме, наверно, требований к самому интеллекту человека.
  Умению оперировать своей собственной памятью и методами творческой работы,
  и, конечно, и, наверно, в первую очередь умению учиться.
  
  
  ========
  
  15.12.2023 21:27
  
  От программирования логики к обучению интеллекта.
  В оглавление.
  
  Вот пример того как изменяются представления о том,
  что собственно скоро потребуется,
  в такой еще очень востребованной области как создание программного обеспечения:
  
  "Классическое программирование на грани вымирания".
  Автор: Bright_Translate (Дмитрий Брайт)
  https://habr.com/ru/companies/ruvds/articles/780646/.
  15 дек 2023 16:00
  
  Автор оригинала: Matt Welsh
  https://levelup.gitconnected.com/the-end-of-programming-6e3f7ff0d8b4
  
  //// Начало цитирования.
  
  Приближается конец эпохи классических компьютерных наук,
  и большинство из нас словно динозавры в ожидании падения метеорита.
  
  .......
  
  Программирование утратит актуальность
  
  На мой взгляд, общепринятая концепция <написания программы>
  обречена на забвение.
  Серьёзно. В большинстве сфер, за исключением узкоспециализированных,
  программное обеспечение вскоре будет заменено системами ИИ,
  которые не программируются, а обучаются.
  В случаях, когда нам будет требоваться <простая> программа
  (не для всего же нужна модель, включающая сотни миллиардов параметров
  и выполняющаяся на кластере графических ускорителей),
  такая программа будет генерироваться искусственным интеллектом,
  а не писаться вручную.
  
  И мне кажется это вполне реальная перспектива.
  Без сомнения, пионеры компьютерных наук,
  вышедшие из (относительно) примитивной пещеры электротехники,
  рьяно верили, что всем будущим программистам для понимания и разработки ПО
  потребуется глубокое знание полупроводников, двоичной арифметики
  и архитектуры микропроцессоров.
  Но с учётом современных реалий я готов поспорить на хорошую сумму,
  что 99% людей, которые пишут ПО,
  мало понимают, как именно работает процессор,
  не говоря уже об особенностях проектирования транзисторов.
  И если экстраполировать эту идею,
  то получится, что специалисты компьютерных наук в будущем
  настолько далеко уйдут от классических определений <программного обеспечения>,
  что с трудом смогут реверсировать связанный список
  или реализовать быструю сортировку.
  Чёрт возьми, да я и сам-то уже не уверен, что помню, как её реализовывать.
  
  .......
  
  В этой новой эпохе компьютерных наук,
  если мы вообще продолжим называть всё это компьютерными науками,
  машины станут настолько мощными и способными выполнять всевозможные задачи,
  что сама сфера вычислений уже будет выглядеть не столько инженерной,
  сколько образовательной.
  То есть мы уже будем преимущественно думать о том,
  как лучше обучить машину по аналогии с тем,
  как ищем способы эффективного обучения детей в школе.
  Хотя в отличие от детей, эти системы ИИ будут управлять
  самолётами, электросетями и в перспективе, возможно, даже целыми странами.
  Готов поспорить, что значительная часть классических компьютерных наук
  утратит свою актуальность,
  когда мы с непосредственного программирования умных машин
  переключимся на их обучение.
  Этот переход ознаменует конец программирования в его традиционном смысле.
  
  Как всё это меняет наше видение сферы компьютерных наук?
  
  Теперь атомарным вычислительным модулем уже будет выступать
  не процессор, память или система ввода-вывода,
  реализующие машину фон-Неймана,
  а массивная, обученная и высокоадаптивная модель ИИ.
  Это станет сейсмическим сдвигом в нашем понимании вычислений,
  которые уже перестанут быть для нас предсказуемым, статическим процессом,
  управляемым наборами инструкций, системами типов и схемами принятия решений.
  Вычисления на основе ИИ уже давно перешагнули рубикон,
  перестав подчиняться принципам статического анализа и формальных доказательств.
  Мы стремительно приближаемся к миру,
  где фундаментальными строительными блоками вычислений выступают
  изменчивые, загадочные и адаптивные компоненты.
  
  И этот переход подчёркивается тем фактом,
  что никто не понимает конкретно,
  как именно работают масштабные модели ИИ.
  Люди публикуют исследования, в которых раскрывают
  всё новые схемы поведения таких моделей
  несмотря на то, что эти системы были разработаны людьми.
  Масштабные модели ИИ способны выполнять задачи,
  которым их напрямую не обучали,
  что должно до чёртиков пугать Ника Бострома
  и всех тех, кто (небезосновательно) боится,
  что искусственный сверхинтеллект вдруг выйдет из-под контроля
  и начнёт диктовать свои правила.
  
  На сегодняшний день у нас нет способа для определения
  границ возможностей имеющихся систем ИИ,
  помимо чисто эмпирического исследования.
  Что уж говорить о будущих моделях,
  которые окажутся на порядки масштабнее и сложнее нынешних
  - можно лишь пожелать нам чёртовой удачи!
  
  Смещение фокуса с программ на модели должно быть очевидно для любого,
  кто читает современные работы по машинному обучению.
  В этих трудах редко затрагиваются код или системы,
  лежащие в основе описываемых ими открытий.
  Базовыми составляющими элементами ИИ-систем являются
  более высокоуровневые абстракции вроде слоёв внимания, токенизаторов и датасетов.
  Путешественник во времени, прибывший к нам из начала 2000-х,
   вряд ли понял бы даже несколько следующих предложений
  из работы по GPT-3 (включающей 75 страниц!),
  описывающей ПО, созданное для этой модели:
  
  .......
  
  Этот сдвиг во внутреннем понимании вычислений
  открывает для нас огромные возможности,
  а с ними и огромные риски.
  Хотя лично я считаю, что пора принять наиболее вероятное будущее
  и развивать мышление в соответствии с ним,
  а не просто сидеть и ждать <падения метеорита>.
  
  //// Конец цитирования.
  
  И хотя я и не совсем согласен с оценкой автора
  о перспективах в разработке ПО.
  Но с выводом о том, что необходимо развивать мышление,
  и учиться тому, как обучать других, совершенно согласен.
  Хотел бы еще от себя добавить, что нужно учиться
  еще и тому, как учиться самому.
  
  И самое простое и доступное действие в этом направлении,
  развивать собственную, а не "заемную память".
  Как бы ни странно это звучало в эпоху тотальной победы
  армады всяческих поисковых систем.
  Но дело в том, что развитием памяти понимается
  не складирование всякого-разного,
  а структурирование и развитие того что уже есть в памяти,
  и того что в нее так или иначе попадает,
  и умение всем этим пользоваться.
  
  Т.е. развитие интеллекта, с моей точки зрения,
  проще всего начинать с "мобилизации" памяти.
  
  "Не надо ждать милостей от природы, после того что мы с ней сделали".
  
  
  ========
  
  16.12.2023 11:00
  
  Отлаживая механизмы памяти.
  В оглавление.
  
  Как было многократно упомянуто выше, по моему глубокому убеждению
  основой человеческого интеллекта является механизмы работы с памятью,
  как в плане собственно запоминания,
  так и, самое главное, использования, когда потребуется.
  Честно говоря, о механизмах человеческой памяти,
  при том что они сугубо индивидуальны у каждого человека,
  известно не так уж много, поэтому приходится собирать информацию
  об этом ключевом элементе интеллекта по крупицам:
  
  "Память человеков. Отлаженный механизм или баг на баге?"
  Автор: Saveliy (Савелий)
  https://habr.com/ru/companies/reksoft/articles/780022/.
  12 дек 2023 в 12:53
  
  //// Начало цитирования.
  
  Сегодня мне вдруг захотелось поговорить о том, как работает память.
  О процессах, ошибках и вот этом вот всем.
  Для более полного понимания советую прочесть
  статьи о когнитивных искажениях (часть 1, часть 2, часть 3).
  https://habr.com/ru/companies/reksoft/articles/769504/
  https://habr.com/ru/companies/reksoft/articles/772274/
  https://habr.com/ru/companies/reksoft/articles/775338/
  Ну или хотя бы начало первой статьи,
  если не знаете, что такое когнитивные искажения.
  Но это, в принципе, необязательно.
  
  Итак, поехали!
  
  Эффект уровня обработки
  
  Это гипотеза о том, что более глубокий анализ порождает
  более надежный и детальный след в памяти.
  Самый простой пример:
  информация лучше запоминается, если она была сгенерирована нами,
  а не прочитана и тем более просто услышана или увидена.
  //// Я для лучшего запоминания интересного текста еще использую
  //// конспектирование. Но не просто "копи-паст",
  //// а еще и переформатирую текст так,
  //// чтобы мысль и формулировки автора были более "выпуклы"/отчетливы.
  //// А "рваное форматирование" немного снимает эффект "убаюкивания"
  //// на длинных абзацах/предложениях.
  //// А если к этому добавляется еще и какие-то собственные комментарии,
  //// то это сразу повышает запоминаемость мысли автора, а то и всего текста,
  //// как минимум, вдвое.
  
  В целом эта гипотеза гласит,
  что след в памяти зависит от того, как информация обработана.
  //// Для меня это уже не гипотеза, а доказанный "медицинский факт".
  Любая информация подвергается ряду аналитических процедур,
  начиная с поверхностного (сенсорного) анализа
  и далее к более сложному (семантическому).
  
  Предполагается, что обработка выполняется следующим образом:
  
   сенсорный анализ,
  
   распознание паттерна,
  
   семантико-ассоциативная стадия.
  
  В соответствии с этой теорией,
  память - побочный продукт обработки информации,
  //// Плохая теория.
  //// Память, сужу по себе, это инструмент обработки информации,
  //// такого же уровня, как и сами "алгоритмы обработки",
  //// только другой, с другим принципом действия.
  //// Только не вообще какая-то память,
  //// а специальным образом организованная и сформированная,
  //// причем "оттачивать память" требуется также постоянно,
  //// как и "оттачивать инструменты".
  а сохранение ее следов напрямую зависит от уровня обработки.
  Даже эксперименты проводили.
  Испытуемым показывали слова, после чего задавали три вопроса.
  
   Какими буквами написано это слово: прописными или строчными?
   (Это у нас простая зрительная, структурная обработка.)
  
   Рифмуется ли данное слово со словом :?
   (А это уже фонологическая обработка.)
  
   Можно ли вставить данное слово в следующее предложение :?
   (А тут семантическая обработка подъехала).
  
  После этого испытуемым показывали еще один список слов.
  Половина из них была новой,
  а другая половина встречалась в эксперименте.
  Участникам нужно было сказать, какие, собственно, слова уже встречались.
  А вывод из эксперимента был такой:
  чем глубже уровень обработки слова, тем проще его потом вспомнить.
  //// Против этого вывода не возражаю,
  //// а вот с тем, что память "побочный продукт",
  //// не согласен категорически.
  
  Был подобный эксперимент и у других ребят, но вопросы немного отличались:
  
   Предъявляемое слово написано большими буквами?
  
   Предъявляемое слово рифмуется со словом :?
  
   Предъявляемое слово обозначает то же, что и :?
  
   Предъявляемое слово характеризует вас?
  
  Первые три, как вы заметили, соответствуют вопросам из прошлого эксперимента.
  Добавился вопрос с отнесением к себе, и слова с ним запоминались лучше.
  Но результат все равно оказался подобным.
  
  Разумеется, не обошлось без критики.
  Было выдвинуто предположение,
  что, таки да, запоминается лучше,
  но тут вопрос не уровня, а времени,
  ведь глубинная обработка дольше.
  Поэтому следующие эксперименты были изменены так,
  чтобы другие уровни обработки требовали большего количества времени.
  К примеру, надо было прокомментировать не только размер букв в слове,
  но и сосчитать количество гласных.
  Подтверждения своей гипотезы, кстати, экспериментаторы так и не получили.
  Зато подобные эксперименты дали понять,
  что эффективность воспроизведения информации зависит
  не только от уровня обработки,
  но и от способа воспроизведения.
  //// И с этим согласен. Но по своему.
  //// Использование одних и тех же единиц памяти
  //// в различных алгоритмах обработки, дополнительно структурирует память,
  //// что обеспечивает ее "более легкий поиск".
  //// А часто она вообще "сама всплывает" в нужных случаях,
  //// нужно только чуть-чуть "отстроиться" от уже использованного,
  //// и оказавшегося безуспешным "инструмента",
  //// и только подумать о чем-то другом,
  //// или даже просто сходить на перекур,
  //// и нужная информация "тут как тут".
  //// Причем, самое интересное, "всплывшая информация" оказывается
  //// связана "тысячами нитей" с какими-то иными "единицами памяти",
  //// и в итоге, оказывается, что идей/аргументов/примеров больше чем достаточно.
  
  К чему я вообще все это? А вот вам пример.
  Пришел к вам джун, у которого не клеится с кодом, и вопит:
  "Спасите-помогите, ничего не получается!".
  И вы, как добрый старший товарищ, выдаете ему готовое решение,
  мол, вот оно как правильно, пользуйся на здоровье.
  Думаете, сможет он в следующий раз его воспроизвести сам?
  Скорее всего нет.
  Вот поэтому, если вы учите кого-то
  (разумеется, мы сейчас о повышении скилла в разработке, а не об обучении нуля),
  ваша задача не в том, чтобы дать правильный ответ.
  Ваша задача сделать так, чтобы человек сам нашел это решение.
  Для него это должно стать результатом собственных мыслительных усилий.
  Такая информация останется в памяти на долгие годы.
  Иначе через неделю снова будет "спасите-помогите" по тому же самому поводу.
  Никогда такого не было, и вот опять, да.
  
  Да и вообще, когда сами учите что-то,
  старайтесь обрабатывать информацию "на максималках",
  на самом глубинном уровне.
  Недаром при изучении иностранных языков рекомендуют
  запоминать слова в контексте,
  сразу дополнять их синонимами, антонимами и еще по-всякому изгаляться,
  лишь бы мозг подольше и поглубже их пообрабатывал.
  
   Совет:
   ищите пересечения с тем, что уже знаете,
   придумывайте варианты, где вы могли бы использовать новое знание.
   Сопоставляйте аналоги из других языков программирования, фреймворков,
   паттернов и т. д.
  
  //// А еще придумывайте, или вспоминайте какие-то яркие словесные образы,
  //// к найденному или придуманному.
  //// Так сказать, зажигайте "маячки", ставьте "вешки", забрасывайте "крючки",
  //// которые потом обеспечат более легкую ориентацию в новой ситуации,
  //// но которая имеет хоть какую-то аналогию с предыдущим материалом.
  
  //// Еще один сильный прием одновременно и улучшающий собственно память,
  //// и связанные с ней "механизмы"/алгоритмы обработки.
  //// Это когда Вы для новой/неизвестной ситуации,
  //// в которой Вы увидели какой-то необычный или, наоборот, очень привычный аспект,
  //// отклассифицировать этот аспект по какой-то более-менее знакомой "шкале".
  //// Пусть даже это будет неточная классификация, так даже еще лучше,
  //// так как такая "классификация" будет "перебрасывать мостик"
  //// не только в "фокус-группу", но и в смежные/близкие,
  //// что, как правило, имеет дополнительную ценность именно в сложных случаях.
  
  //// У меня такой "классификацией" служат расширенный список "приемов ТРИЗ",
  //// и вообще красивых нестандартных решений/подходов,
  //// и просто красивых/популярных фраз из стихов и песен.
  //// Причем используя такую "классификацию", одновременно и структурируешь память,
  //// и развиваешь глубину освоения того же ТРИЗ.
  //// Думаю, что если вместо "приемов ТРИЗ" кому-то будет удобнее
  //// использовать математические формулы/определения или
  //// шахматную/покерную терминологию результирующий эффект будет схожим.
  
  ......
  
  //// Конец цитирования
  
  Там дальше опять про "когнитивные искажения",
  Но это я считаю информацией "на любителя"
  или, вообще для другого уровня обучения "магии Разума",
  но уж точно не в начале.
  Сначала, на мой взгляд, надо попытаться, вообще,
  ощутить возможность воздействовать на свои "когнитивные возможности",
  И только потом очень-очень аккуратно работать с "искажениями".
  А наоборот, опять же на мой взгляд, если идти от "искажений",
  то точно так, как в описано в бессмертных "Трое в лодке не считая собаки",
  при прочтении медицинской энциклопедии
  можно обнаружить у себя весь "букет искажений"
  и начать с ними "успешно бороться".
  С непредсказуемыми последствиями.
  
  Т.е. главное, на мой взгляд, нужно учиться управлять своей памятью,
  как первый и обязательный шаг на пути развития интеллекта.
  И наиболее простой способ проверить можно ли этого добиться,
  на мой взгляд, это чтение.
  
  Распространенный в настоящим момент способ подачи информации в виде
  видосиков/клипов лично у меня вызывает дискомфорт,
  из-за невозможности согласовать скорость подачи и восприятия информации,
  трудностью зафиксировать какие-то ценные мысли,
  да сама авторский апломб/акцент часто вызывают просто раздражение.
  Ну и, самое главное, нет умения также гибко совершенствовать/структурировать
  зрительную память как получается с тестовой.
  Поэтому мне проще работать с текстом.
  У кого-то может быть ситуация с точностью до наоборот,
  но приемы работы по совершенствованию памяти, вполне, могут бы схожими.
  
  Отдельным вопросом является вопрос
  могут ли успехи в машинном обучении ИИ-систем
  подсказать что-то новое или нет
  в этой чисто человеческой проблеме
  совершенствования м управления собственной памятью.
  Надеюсь, что что-то полезное удастся все-таки выцепить.
  
  "Спасение утопающих, дело рук самих утопающих".
  
  
  =========
  
  18.05.2023 19:39
  
  Цитаты от Георга Кристоф Лихтенберга.
  В оглавление.
  
  //////// Вот в качестве иллюстрации к предыдущему материалу
  //////// и практического примера/упражнения на то,
  //////// как можно попытаться "рассортировать" новую информацию в памяти.
  
  Сегодня читая текст о фрактальном подходе в естествознании
  о фрактальном методе в естествознании,
  наткнулся на цитаты дотоле неизвестного мне автора,
  и часть из них показалась мне настолько созвучными с тематикой этого модуля,
  что не смог пройти мимо и решил записать их для памяти.
  Может быть, кому-то они тоже пригодятся или просто понравятся.
  
  Знакомьтесь: Георг Кристоф Лихтенберг,
  (1 июля 1742, Обер-Рамштадт - 24 февраля 1799, Гёттинген)
  - немецкий учёный, философ и публицист.
  
  "Книгой следовало бы, собственно, называть лишь ту,
  которая содержит нечто новое,
  все прочие - лишь средство быстро узнать,
  что уже сделано в той или иной области"
  
  "Несомненный признак всякой хорошей книги это тот,
  что она нравится тем больше, чем человек становится старше."
  
  "Единственным недостатком хороших книг является то,
  что они порождают много плохих."
  
  "Читать означает "брать в долг",
  а сделать на основе этого открытие
  - значит "уплатить долг".
  
  "Быстрое накопление знаний, приобретаемых
  при слишком малом самостоятельном участии,
  не очень плодотворно.
  Ученость также может родить лишь листья, не давая плодов"
  
  "Причина того, что люди так мало запоминают прочитанное,
  заключается в том, что они слишком мало думают сами."
  
  "В слове ученый заключается только понятие о том, что его много учили,
  но это еще не значит, что он чему-нибудь научился"
  
  "Популярным изложением сегодня слишком часто называется такое,
  благодаря которому масса получает возможность говорить о чем-либо,
  ничего в этом деле не понимая"
  
  "Если голова и книга приходят в столкновение и слышен звук пустого тела,
  - всегда ли виновата книга?"
  
  "К числу величайших открытий,
  к которым пришел за последнее время человеческий ум,
  бесспорно принадлежит, по моему мнению,
  искусство судить о книгах, не прочитав их."
  
  "Поистине многие люди читают только для того, чтобы иметь право не думать."
  
  "Рецензенты имеют право не только говорить людям в глаза,
  что они дураки, но даже доказывать им это."
  
  "Тот факт, что многие ищут истину и не находят ее,
  объясняется, вероятно, тем, что пути к истине,
  подобно дорогам в ногайской степи, ведущим от одного места к другому,
  столь же широки и длинны"
  
  "Самая занимательная для нас поверхность на земле это человеческое лицо"
  
  "Книга - это зеркало; и если в него смотрится обезьяна,
  то из него не может выглянуть лик апостола"
  
  "Если бы Бог захотел создать такого человека,
  каким его представляют философы,
  то этого человека пришлось бы в тот же день отправить в сумасшедший дом."
  
  "Хорошее выражение имеет почти такую же цену, что и хорошая мысль."
  
  "Острый ум - увеличительное стекло; остроумие - уменьшительное."
  
  "Хороший тон находится октавой ниже."
  
  "Сегодня я позволил солнцу встать раньше, чем я."
  
  "С остроумием дело обстоит, как с музыкой:
  чем больше её слушаешь, тем более тонких созвучий желаешь."
  
  "Мы, правда, уже не сжигаем ведьм, но сжигаем каждое письмо,
  в котором содержится правда."
  
  "Кто не понимает ничего, кроме химии, тот и её понимает недостаточно."
  
  "Изучай все не из тщеславия, а ради практической пользы."
  
  "Следует стремиться увидеть в каждой вещи то,
  чего еще никто не видел и над чем еще никто не думал."
  
  "Не следует ложиться спать прежде, чем не скажешь себе,
  что за день ты чему-то научился.
  То, что понимаю я под словом <научился>,
  это стремление раздвинуть границы нашего научного
  и какого-либо иного полезного знания."
  
  "Ничто так не способствует душевному спокойствию,
  как полное отсутствие собственного мнения"
  
  "Ни на один день не уклоняться от своей цели - вот средство продлить время,
  и притом очень верное средство, хотя пользоваться им и нелегко"
  
  "Слово <трудность> совершенно не должно существовать для творческого ума."
  
  "Перемудрить - это один из самых позорных видов глупости."
  
  "Пытаться сделать всё сразу - значит ничего не сделать."
  
  "Просто невероятно, как сильно могут навредить правила,
  едва только наведешь во всем слишком строгий порядок."
  
  "Всеобщий источник нашего несчастья в том, что мы верим,
  будто вещи действительно являются тем, чем мы их считаем."
  
  "Мир существует не для того, чтобы мы его познавали,
  а для того, чтобы мы воспитывали себя в нем."
  
  "Там, где прежде были границы науки, там теперь ее центр"
  
  Источники: здесь и здесь.
  
  Тут даже комментировать, на мой взгляд, как-то даже неудобно.
  Разве только добавить, что совершенно "пустых книг", наверное, просто не бывает,
  так как любое более-менее объемное произведение, как минимум,
  позволяет составить впечатление об авторе и его мировоззрении,
  что иногда важнее, чем те положения/мысли, которые он счел нужным
  изложить в данном конкретном тексте.
  
  Иногда это можно сделать даже по нескольким строчкам в комментариях на форуме.
  
  Вот как раз такой пример.
  
  
  ========
  
  18.05.2023 19:14
  
  Об исключениях, подтверждающих правило.
  В оглавление.
  
  Фрагмент дискуссии на форуме, мимо которой просто грех пройти просто так.
  
  -------
  
  https://glav.su/forum/4/16/6833838#message6833838
  
  BUR
  
  Цитата: Danilov71 от 18.05.2023 16:37:31
  \\\ Иногда надо сбивать молотком. Особенно в критической ситуации.
  \\\ Но это исключения, которые подтверждают правило.
  
  Вот ещё один мозговой червь.
  НЕТ ПРАВИЛ КОТОРЫЕ ПОДТВЕРЖДАЮТСЯ ИСКЛЮЧЕНИЯМИ.
  Нет.
  
  П.С. другое дело, что в человеческом обществе нет правил (жизни) без исключения,
  поскольку жизнь слишком многообразна, чтобы укладываться в простые правила.
  
  П.П.С. Если бы я учил школьников/студентов,
  то за фразу о "исключениях подтверждающих правило" ставил бы неуд сразу.
  
  П.П.П.С. Вопрос: Дано: "президент дал гражданство в обход правил".
  Какие правила это исключение именно подтверждает?
  
  -------
  
  https://glav.su/forum/4/16/6833856#message6833856
  
  Новый Читатель
  
  Цитата: BUR от 18.05.2023 16:43:26
  \\\ Вот ещё один мозговой червь.
  \\\ НЕТ ПРАВИЛ КОТОРЫЕ ПОДТВЕРЖДАЮТСЯ ИСКЛЮЧЕНИЯМИ.
  \\\ Нет.
  
  {устало} это одна из тех фраз, которая воспринимается
  совершенно в другом смысле (абсурдном причем)
  чем имел в виду автор.
  
  Марк Туллий наш Цицерон, известный древнеримский адвокат,
  в одном деле пытался ссылаться на один старый закон,
  который ему был выгоден.
  
  Но книгопечатания в Риме не было,
  как назло именно текста этого закона нигде не было
  (утеряли в общем растяпы),
  потому противостоящая сторона возражала,
  что не было такого закона,
  если такой закон есть, покажите документы.
  "Подмигивающий"
  
  Цицерон добросовестно рыл архивы и нашел документ,
  в котором в виде исключения разрешалось именно то,
  что пропавший закон якобы запрещал.
  
  После чего Цицерон радостно заявил,
  что это искомое доказательство что такой закон был
  - ведь если есть исключение, значит было и правило.
  
  Так что фраза Цицерона буквально означала,
  что "существование исключения подтверждает существование правила".
  
  Что согласитесь намного логичнее чем тот абсурд
  в который эту фразу превратили потомки. "Думающий"
  
  -------
  
  Там дальше есть и продолжение дискуссии от "ревнителей чистоты"
  логических методов, но мне это показалось уже не так интересным.
  Мне больше интересен вопрос:
  "ЧТО подтверждает "Встреча с ЧУДОМ"?
  
  //////// И еще возникла пара новых вопросов.
  
  //////// Является ли наличие "исключения"
  //////// обязательным условием существования, собственно, "правила"?
  //////// Причем именно в приложении к реальности, а не какой-то теории.
  
  //////// А еще, не проще ли запоминать/использовать "правила",
  //////// опираясь, в первую очередь, именно на "исключения".
  
  
  =========
  
  30.11.2023 9:32
  
  Немного о практике ТРИЗ в дизайне.
  В оглавление.
  
  Безусловно, кроме работы памяти при решении творческих или не стандартных задач
  очень полезно пользоваться какой-то отлаженной технологией.
  Причем очень часто наиболее интересные решения получаются,
  когда используется технология/решения из казалось бы совершенно другой области.
  Собственно именно для этого при запоминании чего-то интересного/нетривиального
  полезно пытаться тем или иным образом "перебросить мостик" в какие-то
  связанные, близкие, или, наоборот, далекие ассоциации,
  или просто имеющие какое-то "созвучие".
  
  Вот пример того как автор пытается применять технологию ТРИЗ
  (Теории Решения Изобретательских Задач)
  в новой для этой технологии области:
  
  "ТРИЗ в разговорном дизайне:
  как находить оптимальные решения при проектировании сложных сценариев"
  Автор: APPKODE (KODE)
  https://habr.com/ru/articles/776208/.
  24 ноя в 2023 16:11
  
  //// Начало цитирования.
  
  Меня зовут Кирилл Богатов, я дизайнер разговорных продуктов в KODE.
  Я проектирую сценарии голосовых помощников
  и периодически сталкиваюсь с нетривиальными проблемами.
  Их решение часто связано с издержками
  - то диалог получается слишком длинным,
  то ответ становится неестественным,
  то пользователь сваливается в бесконечный цикл уточнений и переспросов.
  
  Устранить подобные противоречия помогают приёмы ТРИЗ
  - теории решения изобретательских задач.
  Вот только есть проблема:
  эти приёмы были сформулированы для решения инженерных задач,
  поэтому их использование в дизайне выглядит неуместным
  - как можно сделать бота пористым, изменить его агрегатное состояние
  или привести в колебательное движение?
  
  В этой статье я на примерах покажу,
  как адаптировал ТРИЗ для работы над голосовым навыком для Алисы.
  Материал будет полезен дизайнерам и любителям мозговых штурмов.
  
  ......
  
  Поиск решения с помощью ТРИЗ состоит из четырёх шагов:
  
   Сформулировать проблему.
  
   Определить идеальный конечный результат.
  
   Найти противоречие, мешающее достичь этот результат.
  
   Подобрать принцип ТРИЗ, приближающий к идеальному результату.
  
  ......
  
  Формулирование задачи
  
  Задача - это то, что нужно сделать.
  Например, рассмотрим дизайн?задачи для голосового навыка электронного дневника:
  
   Рассказать пользователю о возможностях навыка.
  
   Рассказать ребенку о домашнем задании на всю неделю.
  
   Придумать, как отличить пользователя?ребенка от пользователя?родителя.
  
   Придумать оригинальное сообщение об ошибке.
  
  Признаюсь, я слукавил.
  Это неудачные примеры задач,
  так как они отталкиваются от функций системы, а не от пользователя.
  В итоге мы запираем себя в рамках интерфейса
  и можем упустить решения, выходящие за его рамки.
  
  Вот как выглядят задачи, ориентированные на пользователя:
  
   Помочь пользователю понять, какие задачи он может решать с помощью навыка,
   и что ему нужно для этого сказать.
  
   Помочь ребенку оценить, много ли домашки нужно сделать до конца недели
   и с чего лучше начать.
  
   Сделать общение с навыком комфортным как для детей, так и для родителей.
  
   Помочь пользователю избежать ошибки.
  
   Думайте о пользователе, а не о функциях.
  
  Идеальный конечный результат
  
  Идеальный конечный результат (ИКР)
  - это когда результат получается сам собой и без негативных последствий:
  
   Система выполняет функцию без участия пользователя;
  
   Системы нет, а ее функция выполняется;
  
   Функция оказывается вообще не нужна.
  
  Применительно к нашим примерам:
  
   Обучения нет, а пользователь всё знает.
  
   Ребёнок понимает, что ему нужно учить, без перечисления всех заданий.
   Списка заданий нет, а общая картина - есть.
  
   Возраст и статус пользователя не имеют значения
   - ответы навыка звучат естественно для всех.
  
   Ошибки нет - система исправила её сама.
  
  К сожалению, ИКР часто остается недостижимым идеалом:
  
   Обучение без обучения не подходит для проектов
   с большим количеством функций.
  
   Ребёнок всё ещё может попросить озвучить всю домашку за раз.
  
   Родители спрашивают информацию о детях, а дети - о себе.
   Помощнику приходится говорить о пользователе то в первом,
   то в третьем лице.
  
   Не все ошибки можно предусмотреть или исправить.
  
  Тем не менее, ИКР задает направление, по которому нужно двигаться.
  Кроме того, подобный анализ обнажает противоречия,
  о которых и пойдет речь дальше.
  
   Идеальный конечный результат - это направление, а не самоцель.
  
  Противоречия
  
  Противоречия - это то, что мешает прийти к идеальному конечному решению.
  А если оно нереализуемо, то просто к оптимальному.
  Противоречия обычно формируются по шаблону:
  <Если X, то Y, но Z>
  
  ......
  
  Противоречия не всегда связаны с идеальным конечным решением.
  Иногда это просто замкнутый круг,
  в котором ты внезапно оказываешься в процессе работы.
  
  Приёмы разрешения противоречий
  
  Для разрешения противоречий в ТРИЗ используются особые приёмы.
  В <классическом варианте> теории их 40 штук
  - вы можете изучить их по ссылке.
  http://www.triz.natm.ru/instrum/40priem.htm
  Зачастую они выглядят, как инструкции из цеха металлопроката,
  поэтому я решил адаптировать этот список
  для решения задач разговорного дизайна.
  Удалил часть приёмов, связанных с физическими свойствами материалов
  и добавил несколько идей,
  которые часто использую в работе:
  <поставь преграду>, <измени уровень детализации> и <используй контекст>.
  
  В итоге у меня получилось вот такое ТРИЗ-Бинго:
  
  .......
  
  Наша задача - найти прием, который помог бы разрешить противоречие
  и приблизиться к идеальному конечному результату.
  Конечно, не все приёмы ведут к разрешению противоречия.
  Иногда они помогают решать смежные задачи.
  Например, не <избавиться от обучения>,
  а <сделать обучение удобным для восприятия на колонках>.
  Так как идеальный результат не всегда достижим,
  подобные решения могут оказаться более эффективными.
  
  Отмечу, что адаптация приёмов ТРИЗ под конкретную задачу
  часто похожа на попытки натянуть сову на глобус.
  Также может показаться, что под одно и то же решение
  подходит сразу несколько приёмов.
  Это нормально.
  Задача ТРИЗ - создать отправную точку для поиска решений.
  А уж как эта точка будет выглядеть - не так уж и важно.
  
   <Натянуть сову на глобус> - это приём <Помести одно в другое>.
  
  ......
  
  Кейс 1. Рассказать о возможностях
  
  ......
  
  Приёмы ТРИЗ:
  
   Разбей на части. ...
  
   Сделай заранее. ...
  
   Сделай наоборот. ...
  
   Помести одно в другое. ...
  
   Используй элементы другого типа. ...
  
   Сделай изменчивым. ...
  
   Объедини похожее. ...
  
  ......
  
  Кейс 2. Рассказать домашку за неделю
  
  ......
  
  Приёмы ТРИЗ:
  
   Поставь барьер. ...
  
   Сделай прерывным. ...
  
   Перейди в другую плоскость. ...
  
   Сделай проще в ущерб чему?то другому. ...
  
  ......
  
  Кейс 3. Найти общий язык
  
  Приёмы ТРИЗ:
  
   Подложи подушку безопасности. ...
  
   Изолируй проблемную часть. ...
  
   Используй контекст. ...
  
   Перейди в другую плоскость. ...
  
  .....
  
  Кейс 4. Справиться с ошибкой
  
  Приёмы ТРИЗ:
  
   Используй обратную связь. ...
  
   Обрати вред в пользу. ...
  
   Автоматизируй. ...
  
   Перейди в другую плоскость. ...
  
  ......
  
  Прочие кейсы
  
  .....
  
   Вынеси то, что мешает ? во время проектирования блок?схемы сценария
   изолировать часто встречающиеся ошибки и описать их отдельно,
   чтобы упростить восприятие схемы.
  
   Сделай неоднородным - использовать разные варианты приветствия
   для новых и опытных пользователей.
   Чем дольше пользуешься навыком, тем короче приветствие.
  
   Сделай изменчивым - использовать разные формулировки
   для часто повторяющихся ответов,
   чтобы добавить динамики и поддержать иллюзию естественного общения.
  
   Сделай универсальным - использовать один и тот же шаблон ответа
   для разных ситуаций.
  
   Подложи подушку безопасности - использовать закрытые вопросы,
   чтобы пользователю было проще сформулировать свой ответ.
  
   Создай противовес - если мы ожидаем от пользователя ответ <да>,
   нужно учесть, что он может сказать и <нет>.
  
   Измени уровень детализации - использовать примеры
   вместо подробных объяснений;
   убрать часть несущественной информации,
   чтобы ускорить взаимодействие или избежать сложных формулировок;
  
   Измени скорость - увеличить паузы между предложениями,
   чтобы голосовой помощник смог интонационно разделить две соседние мысли.
  
   Поставь барьер - использовать звук,
   чтобы разделить два соседних предложения,
   не создавая неестественной паузы.
  
   Используй элементы другого типа - использовать кнопки, саджесты и карточки,
   чтобы структурировать информацию и улучшить взаимодействие на экране.
  
  ......
  
  //// Конец цитирования.
  
  Если Вы заглянете в комментарии к данной статье, то увидите
  в основном негативную реакцию на само упоминание ТРИЗ в контексте программирования.
  Лично у меня это не вызывает никакого удивления,
  и у меня для этого есть вариант объяснения с красивой "иллюстрацией".
  
  Немного истории.
  Давным-давно, в самом начале "святых девяностых",
  подрабатывал я системным программистом в "Лаборатории Изобретающих Машин" (ИМЛаб),
  в которой делали экспертную систему по ТРИЗ.
  Так вот сами программисты, знающие ТРИЗ и работающие над тем,
  чтобы ТРИЗом могли пользоваться максимально широкий круг пользователей,
  по моим наблюдениям, в своей деятельности собственно ТРИЗ
  практически не использовали.
  
  Почему так?
  Моя версия такая:
  самым распространенным по применению в ТРИЗ
  является прием "разделить на части",
  он закрывает практически 80% задач,
  а в комплекте с приемом "используй копию" так и вообще 95%.
  Так вот, эта парочка приемов настолько широко используется в программировании,
  что это перестают замечать даже "эксперты по ТРИЗ".
  Перестают замечать, и вот тут главное, что нужно понять,
  перестают строить "ассоциативные цепочки" с приемами ТРИЗ.
  А ведь каждая такая "цепочка" она, вообще-то, при всей свое "типичности",
  на самом деле уникальна и имеет свою "проекцию" на другие приемы
  в данном конкретном месте.
  В итоге "знание ТРИЗ" и "навыки программирования" оказываются "сами по себе".
  
  И когда возникают нестандартные задачи, то решаются они "по старинке"
  - "мозговым штурмом в лоб" или перебором вариантов.
  И только уже найдя решение "постфактум" можно увидеть,
  //// если конечно захочется это признать,
  что оно четко соответствует "приему ТРИЗ" из "расширенного набора".
  Но из этого никаких выводов не делается,
  и следующая нестандартная ситуация идет по "накатанному маршруту".
  Так было 30 лет назад, так оно есть и сейчас.
  Мало знать технику ТРИЗ, или теорию шахмат,
  нужно постоянно прикладывать их каждой новой ситуации,
  чтобы и оттачивать "скилы" в этой технике
  и, еще раз напомню, для совершенно другого уровня управления/структуризации памяти,
  максимально удобного для использования этих техник/теорий.
  
  Прием ТРИЗ - "Согласование частей/процессов",
  в данном случае формирование памяти и алгоритмов работы с ней.
  
  
  ========
  
  11.01.2023 9:35
  
  Ловушки нашего разума.
  В оглавление.
  
  При поиске чего-то нового и даже просто при оценке уже хорошо известного
  практически всегда проявляется такое явление как "инерция мышления".
  Она проявляется в разных формах, и вот часть из них оказывается
  уже как-то изучена и, во всяком случае, поименована.
  
  "Ловушки нашего разума".
  Разместил: Око Политика
  https://oko-planet.su/politik/politikdiscussions/693323-lovushki-nashego-razuma.html.
  11.01.2023 00:06
  
  //// Начало цитирования.
  
  Утверждается, что практически любой человек на Земле
  подвержен этим ловушкам разума.
  Мы как то подробно перечисляли когнитивные искажения
  и абсурдные мифы о психологии,
  давайте же ознакомимся и с тем,
  в какие ловушки своего разума мы можем попасть.
  
  Из-за эффекта влияния результата
  человек имеет склонность оценивать принятое
  в какой-либо ситуации решение
  только по полученному результату,
  а не по степени его сложности или правильности.
  
  Под влиянием эффекта ошибки игрока
  люди начинают думать,
  что их будущее напрямую зависит от их прошлого.
  К примеру, играя в азартные игры и выигрывая несколько игр подряд,
  человек будет считать, что шансы на крупный выигрыш у него возросли,
  а на самом же деле они остались неизменными.
  //// Скорее уменьшились, так как какой-то "ресурс удачи"
  //// возможно уже израсходован.
  
  Человек воспринимает фразы, сказанные в рифму,
  более правдивыми
  //// Не правдивыми, а красивыми - это более высокий уровень доверия.
  и верит им с большей охотой, чем простым предложениям.
  Этим эффектом восприятия рифмы пользуются продавцы,
  размещая в рекламе короткие стихи с упоминанием своего товара.
  
  Ловушка необъективной оценки бездействия
  заставляет человека судить о каком-либо пагубном действии,
  в результате которого возникли тяжелые негативные последствия,
  намного строже, нежели о не менее пагубном бездействии.
  
  Из-за эффекта сопротивления
  любой человек в подростковом возрасте
  стремится делать всё родителям наперекор,
  не воспринимает их советы
  и считает, что его личную свободу пытаются ограничивать,
  а поступки - контролировать.
  
  Под действием иллюзии контроля
  люди начинают думать, что они способны держать под контролем
  случайные и, в реальности, неподвластные им события.
  
  Именно из-за эффекта неприязни
  человек расценивает все негативные поступки
  неприятных ему личностей
  как проявление их настоящих качеств характера,
  а хорошие поступки врага кажутся ему
  счастливым стечением обстоятельств
  или вынужденным шагом.
  
  Из-за так называемого <эффекта IKEA>
  человеку присуще считать,
  что тот предмет, который он сделал своими руками,
  более полезным и необходимым.
  
  Под действием ложной объективности
  человек воспринимает окружающую его реальность
  как целый образ
  и полагает, что только его виденье объективно,
  поэтому считает разумными тех людей,
  которые соглашаются с ним.
  А те, кто думает иначе,
  -либо имеют недостаточно информации,
  либо невежды и глупцы.
  
  Из-за эффекта обесценивания идей
  какое-либо предложение, высказанное человеком,
  который вам не нравится,
  вы посчитаете крайне неудачным и отвергнете,
  даже если оно было рациональным и правильным.
  
  Благодаря эффекту однотипности окружающих
  человек считает, что круг его друзей
  состоит из более разносторонних людей с разными интересами,
  по сравнению с другими компаниями.
  
  Из-за эффекта Зейгарник
  человек лучше запоминает прерванные действия,
  нежели завершенные.
  Поэтому мы помним о незаконченных делах,
  но упускаем из виду удачные и доведенные до конца.
  
  Под влиянием эффекта ретроспективы
  человек считает,
  что многих ошибок в прошлом можно было бы избежать
  или хотя бы заранее предугадать развитие событий.
  Однако он забывает,
  что те факты, которые могли бы повлиять на прошлое,
  стали известны ему только в настоящем.
  
  Часто человек преувеличивает время,
  которое ему необходимо на преодоление пути по незнакомой дороге.
  А следуя уже знакомым маршрутом он начинает считать,
  что преодолел его за меньший промежуток времени,
  чем есть на самом деле.
  Это называется эффектом знакомой дороги.
  
  Из-за такого психологического трюка,
  как эффект прожектора,
  человек склонен преувеличивать значение своих действий и поступков
  в глазах других людей.
  
  В реальной жизни степень согласия людей в вашем окружении
  с вашей точкой зрения гораздо ниже,
  чем вам думается.
  Это эффект ложного согласия.
  
  Эффект проекции
  заставляет нас думать, что окружающие испытывают
  сходные с нашими чувства и эмоции.
  
  Есть дать человеку выбор
  между сокращением маленького риска до нуля
  или уменьшением крупного риска,
  то большинство выберет первый вариант
  и окажется под действием
  эффекта предпочтения нулевого риска.
  
  Многим людям кажется,
  что они реже попадают в психологические ловушки, чем другие,
  но на самом же деле они лишь испытывают
  эффект слепого пятна.
  
  Вот еще вам немного про Психологический феномен парейдолии
  http://masterok.livejournal.com/3041514.html
  
  или например Откуда берется СТРАХ.
  http://masterok.livejournal.com/2863978.html
  
  Вот тут как утверждаются перечислены
  Черты русского менталитета,
  http://masterok.livejournal.com/2921427.html
  
  а вот Эффект Даннинга-Крюгера
  http://masterok.livejournal.com/2734575.html
  
  //// Конец цитирования.
  
  "Кто предупрежден, тот вооружен".
  Но проблема "инерции мышления" имеет и другое измерение/аспекты.
  И просто чтение даже хороших описаний ее проявления никак не избавляет от нее.
  Тут пока я знаю единственный способ - постоянный тренинг,
  на практически любом материале УВИДЕТЬ противоречие/нестыковку/новизну,
  и попытаться как-то РЕШИТЬ это противоречие, или развить/применить новшество.
  
  
  ========
  
  28.01.2023 15:25
  
  Вопрос целеполагания научного поиска.
  В оглавление.
  
  Помимо "инерции мышления", в научном поиске не менее важная проблема
  - это вопрос целеполагания,
  представляется, что здесь работает тот же принцип,
  который так удачно сформулировала одна героиня Барраярского цикла
  моего любимого автора Лоис Макмастер Буджолд:
  "Целься выше, даже если и не попадешь,
  то хоть не отстрелишь себе что-то ценное".
  
  "Ничтожество современной западной науки.
  Удивительная похожесть на поздний Союз" 
  Автор: NOTFORME
  https://aftershock.news/?q=node/1205357.
  28/Янв/23 13:33
  
  //// Из комментариев.
  
  .......
  
  викт54
  
  Мы были  преисполнены верой в то,
  что в недалеком будущем небо над городами заполнят летающие экипажи,
  глубины морей и океанов будут освоены людьми,
  свободно обитающими под водой.
  При этом - грандиозные дворцы, комфортные и практичные жилые дома,
  очаровательные селения и удобные магистрали, 
  расположенные среди тучных полей и индустриальных производств,
  наряду с окружением восстановившей свою живительную силу природы,
  сформируют благодатную среду жизнедеятельности народов.
  
  Полезные, прелестные и стильные вещи и предметы творения
  наполнят быт людей и их отдохновение после напряженного, радостного,
  удовлетворяющего лучшие стремления, труда и творческого поиска.
  
  Увы,  что-то пошло не так!
  
  Как это произошло?
  Почему с годами сытого и довольного существования  
  нас исподволь перестали посещать жажда открытий, вера в чудеса
  и радость чистого творчества
  - эти воистину волшебные настроения,
  которые делают жизнь каждого человека полноценной и осмысленной?
  Почему нас все чаще предупреждают:
  человечество накопило слишком много негатива
  и начинает последовательно разрушать то,
  куда шло последние века?
  
  Действительно!
  Где наша былая светлая, искренняя, высокая культура, искусство,
  воодушевляющая литература, поэзия и музыка, что пленяли нас не так давно?!
  Надо что-то делать!
  Кто поможет нам стряхнуть путы бездушного оцепенения?
  Спокойно!
  Мы не станем молить и взывать о помощи свыше.
  Сами виноваты и разберемся сами.
  
  Налицо явные  признаки того, что общество в своем мировосприятии
  все более утрачивает исторический оптимизм
  или  <уверенность в светлом будущем>,
  которые, по идее, основывались на представлениях о разумности человека,
  на убеждениях в том,
  что в человеческой природе содержится масса прекрасных, положительных задатков.
  Этого следовало ожидать, поскольку ни для кого не является секретом,
  что мотиваторами успеха в современном обществе стали,
  увы,  далеко не самые лучшие  побуждения, управляющие поведением:
  примитивные и эгоистические инстинкты выживания и самосохранения,
  приобретательства и достижения цели любым путем,
  своекорыстия и алчности,
  тщеславия и властолюбия,
  доминирования, манипулирования людьми, соперничества,
  доходящего до  агрессии.
  
  Как получилось так?
  Что и кто мешает нам вернуться к представлениям о необходимости
  и высшей ценности светлого образа  искоренения  пороков, дурных поступков,
  страстей, их  преодолимости, изживаемости.
  
  Кто уже почти  уверил нас в том,  
  что легкий доступ к обретению благ вполне заменяет трудный путь
  по стезе  возвышения человеческой натуры,
  следуя меркам разума?
  Кто предает забвению Веру в человека,
  в его положительно ориентированную природу,
  которая  послужила той основой,
  на которой сформировалась идея прогресса,
  как возможности бесконечного совершенствования человека и человечества,
  <воспитания человеческого рода>, изменения общества, социальности,
  путем поиска наилучших  форм человеческого существования?
  
  Ответ зреет. Бывают трудные вопросы, требующие вдумчивых ответов.
  
  Хотя, говорят, правильно поставленные вопросы - половина ответа.
  
  .......
  
  Stiva
  
  \\\ Мы не станем молить и взывать о помощи свыше.
  
  Именно этот подход (+ "вера в человека")
  обусловил ту ситуацию, о которой Вы рефлексируете.
  Человек, видите ли, существо довольно животное,
  и чтобы он смотрел на небо (условно)
  - на небе должно быть что-то такое,
  ради чего туда имеет смысл смотреть.
  А если мы начинаем смотреть на человека и измерять все человеком
  - на небо (условно) смотреть не за чем,
  надо срочно баловать человека.
  
  ........
  
  //// Конец цитирования.
  
  //// Появилась мысль в качестве, забыл как назывется, а вспомнил,
  //// эпиграфа к "Металоции" использовать фразу Джона Арчибальда Уилера
  //// "Надежда рождает пространство и время". 15:59
  
  =========
  
  14.01.2023 16:06
  
  Обоюдоострые инструменты познания.
  В оглавление.
  
  Некоторые распространенные инструменты научного поиска,
  при внимательном рассмотрении оказываются еще и обоюдоострыми,
  так как могут служить удобными "отмазками",
  чтобы не заниматься действительно труднейшей задачей поиска нового.
  
  "4 острые бритвы познания - как использовать в IT и в жизни".
  Автор: AKlimenkov (Александр Клименков)
  https://habr.com/ru/post/710590/.
  14 янв в 17:44
  
  Управление разработкой
  Читальный зал
  Научно-популярное
  Лайфхаки для гиков
  //// Что это такое не знаю. Понятен только предлог.
  //// Как же я стар.
  //// "Я стар, я очень стар, я суперстар...".
  
  //// Начало цитирования.
  
  Про бритву Оккама хоть раз слышал каждый:
  во многих статьях и книгах встречается призыв
  не множить сущности без необходимости.
  Но не все знают, что в науке есть и другие <бритвы>,
  которые помогают избавиться от лишнего.
  Термин <бритва> используется для обозначения метода,
  который помогает отбрасывать что-то
  ненужное,
  маловероятное,
  неправдоподобное.
  //// А еще неприемлемое для "душевного спокойствия", или чего похуже.
  Принцип <бритвы> или <лезвия>
  - это на удивление универсальный инструмент,
  который помогает не только в процессе научного познания,
  но и в работе, и в повседневной жизни.
  
  В этой статье я перечислю несколько известных <именных> бритв
  (про Оккама тоже не забуду)
  и покажу, как их можно использовать в работе IT-специалиста.
  Заодно я сформулирую несколько правил,
  которые сам стараюсь соблюдать при применении этих самых <бритв>,
  чтобы ненароком не ошибиться и не получить результат,
  противоположный ожидаемому.
  
  1. Бритва Хитченса
  Автор: журналист и писатель Кристофер Хитченс, 2003.
  
  Бремя доказательства истинности утверждения
  лежит на том, кто заявляет его истинность.
  //// А как же "презумпция невиновности"? Или "самооговор"?
  //// Или это только в науке?
  
  Исходная формулировка:
  <Что можно утверждать без доказательств,
  то можно отвергнуть без доказательств>.
  
  What can be asserted without evidence can also be dismissed without evidence.
  
  Аналог: латинская пословица
  - <Что свободно утверждается, то свободно отбрасывается>
  
  Варианты утверждений:
  
  Этот вариант реализации процедуры не соответствует техническому заданию.
  
  Дизайн страницы не соответствует договорённостям. Давайте поиграем шрифтами.
  
  Я считаю, что старый вариант интерфейса был удобнее, чем новый.
  
  Варианты ответов:
  
  Уточните, на какой странице технического задания это написано.
  
  Прошу привести аргументы, которые показывают, что ваш вариант лучше.
  
  Покажите результаты A/B-тестов.
  
  Правила использования бритвы Хитченса:
  
  Помните, что бритва Хитченса действует в обе стороны.
  
  Остерегайтесь противопоставлять бездоказательным утверждениям
  свои бездоказательные утверждения.
  Например, в техническом задании явно указан третий вариант реализации,
  который не совпадает с реализованным вариантом и вариантом вашего оппонента.
  
  Если оппонент смог привести веские доказательства,
  вам придётся уступить.
  Такое тоже бывает.
  //// Может стоит не "уступить", а "отступить".
  
  
  2. Бритва Хайнлайна
  Автор: Роберт Хайнлайн, рассказ <Логика империи>, 1941.
  
  При поисках причин отрицательного события
  в первую очередь предполагается человеческая ошибка,
  и лишь во вторую - чьи-то сознательные злонамеренные действия.
  
  Исходная формулировка:
  <Вы пытаетесь объяснить злонамеренностью то,
  что является результатом обычной глупости>
  
  You have attributed conditions to villainy that simply result from stupidity.
  
  Общепринятая формулировка:
  <Никогда не приписывай злонамеренности то,
  что вполне объясняется глупостью;
  но не исключай злонамеренности>.
  
  Аналоги:
  
  <Никогда не приписывайте злому умыслу то,
  что вполне можно объяснить глупостью>
  (Роберт Дж. Хэнлон, эпиграф к изданию законов Мерфи, 1980).
  
  <Никогда не приписывай злонамеренности то,
  что вполне объясняется некомпетентностью> (Наполеон Бонапарт).
  
  <Облажались, а не заговор> (Бернард Ингам).
  
  <Миром правит не тайная ложа, а явная лажа> (Виктор Пелевин).
  
  Варианты утверждений:
  
  Администратор специально поломал базу данных перед увольнением.
  
  Этот разработчик намеренно пишет запутанный и нелогичный код,
  чтобы никто кроме него в этом не разобрался
  (это же утверждение можно сформулировать другими,
  более эмоциональными словами).
  
  <Ураа, я возвращаюсь, я портфель забыл>. <Ааа, это вы специально придумали>.
  
  Варианты ответов:
  
  Администратор поломал базу данных,
  потому что он думает о своих проблемах, а не о работе.
  
  Разработчик пишет запутанный и нелогичный код,
  потому что он банально плохой программист.
  
  Герой кинокомедии забыл портфель, потому что у него похмелье
  и он крайне рассеян.
  А ведь у него там ценный веник.
  
  
  Правила использования бритвы Хайнлайна:
  
  Всегда есть небольшая вероятность,
  что присутствовали сознательные злонамеренные действия.
  
  Причина не обязательно в глупости.
  Нужно также рассмотреть забывчивость, рассеянность, неосведомлённость,
  неквалифицированность, профнепригодность и прочие <-ности>.
  
  Все делают ошибки, даже крутые профессионалы.
  
  3. Бритва Оккама
  Автор: философ и монах Уильям Оккам, XIV век.
  
  Если существует несколько логически непротиворечивых объяснений
  какого-либо явления, объясняющих его одинаково хорошо,
  то следует, при прочих равных условиях,
  предпочитать самое простое из них.
  
  Исходные формулировки:
  <Что может быть сделано на основе меньшего числа предположений,
  не следует делать, исходя из большего>
  и <Многообразие не следует предполагать без необходимости>.
  
  It is pointless to do with more what can be done with fewer.
  Plurality must never be posited without necessity.
  
  Аналог:
  <Всё следует упрощать до тех пор, пока это возможно,
  но не более того> (Альберт Эйнштейн).
  
  Варианты утверждений:
  
  Этот код не может не компилироваться.
  Наверное, ошибка в компиляторе.
  
  Я ничего не делал, оно всё само куда-то ушло.
  
  Этот релиз ужасен, потому что его выпустили в период <коридоров затмений>,
  ретроградного Меркурия и прочих.
  
  Варианты ответов:
  
  Если программа не компилируется, то в ней есть ошибка.
  
  Ничего не делал, говоришь?
  А если мы посмотрим логи?
  
  Релиз вышел неудачным, потому что его
  плохо спроектировали, разработали и протестировали.
  
  Правила использования бритвы Оккама:
  
  Бритва Оккама предполагает выбор самого простого решения.
  Для этого нужно чётко понимать,
  по каким критериям и каким показателям оценивается простота
  и ранжируются решения.
  Эти критерии и показатели могут быть разными.
  
  <У кого бритва - тот и Оккам!> (Василий Щепетнёв).
  Иногда решение искусно объявляется простейшим,
  хотя по факту таковым не является.
  При любом сомнительном результате
  нужно проводить собственное исследование.
  
  4. Бритва Алдера
  Автор: австралийский математик Майк Алдер, 2004.
  
  Краткая формулировка:
  <То, что нельзя подтвердить экспериментом, не стоит обсуждать>.
  /////// Т.е. это максимально радикальная формулировка
  /////// критерия "фальсифицируемости" Поппера.
  
  We should not dispute propositions unless they can be shown
  by precise logic and/or mathematics to have observable consequences.
  
  Варианты утверждений:
  
  Да тут нечему ломаться, выкатываем сразу в прод.
  
  Это мощный сервер, он выдержит нагрузку.
  
  Раз так написано в документации, значит так и должно работать.
  
  <Группа была введена по настоянию Романа и Эдика,
  которые заявили, что всем нутром чуют связь
  между странностями Януса и странностями попугаев>.
  
  Варианты ответов:
  
  Единственный способ доказать отсутствие ошибок
  - провести эксперимент тестированием.
  
  Теоретическое предположение остаётся гипотезой,
  пока не будет проведено нагрузочное тестирование.
  
  Ошибка может быть и в коде и в документации.
  
  <Они не смогли ответить на вопрос Корнеева,
  каков физический смысл понятий "нутро" и "чуять">.
  
  Правила использования бритвы Алдера:
  
  Эксперимент не подтверждает полностью гипотезу,
  а лишь повышает вероятность её истинности.
  Тестирование не доказывает стопроцентное отсутствие ошибок.
  
  В некоторых случаях эксперимент не так-то просто придумать.
  
  Обращение к авторитету или источникам не заменяет эксперимент.
  
  Микеланджело творил свои произведения,
  отсекая от камня всё лишнее.
  Бритвы познания - удобный и подходящий инструмент
  для создания шедевров.
  //// Распространенное заблуждение. Так как Микеланджело был гений,
  //// а инструмент для отсекания лишнего всего лишь инструмент,
  //// и что бы понять в чем тут разница, попробуйте повторить
  //// хоть один шедевр Мастера размахивая его инструментом.
  //// Силы и самонадеянности наверняка хватит, а вот мастерства еще вопрос.
  Главное - в творческом запале не порезаться самому
  и не отсечь что-то нужное и ценное.
  
  И наконец 5.
  
  \\\ Язык больше, чем Вселенная.
  \\\ Можно в одном предложении сказать о тех вещах,
  \\\ которые невозможно обнаружить в реальном мире.
  
  Известна также под названием <Пылающий лазерный меч Ньютона>,
  потому что этот меч
  <острее и опаснее, чем бритва Оккама>.
  //// Ну что же именно это я сегодня обнаружил в материалах по Ньютону.
  //// Один его термин - "чувствилище Бога" - породил очень много мыслей.
  //// Так что это не "бритва", а именно "меч". Пусть это будет "меч Ньютона",
  //// так легче запомнить.
  
  //// Итак что мы имеем в итоге.
  
  //// 1. Бритва Хитченса - "презумпция виновности"/"бремя доказательства".
  
  //// 2. Бритва Хайнлайна - "не ложа, а лажа"
  
  //// 3. Бритва Оккама - "не умножай сущности"
  
  //// 4. Бритва Алдера - "нет тела - нет дела".
  
  //// 5 Меч Ньтона - "одним предложением/словом можно все".
  
  /////// Четыре инструмента больше подходят "для обороны" замшелых взглядов,
  /////// а один больше для "атаки" на "незыблемые истины",
  /////// хотя тоже может быть применен для "уничижения" какого-нибудь "фантазера".
  /////// Типа "заткнись и считай", "гипотез не измышляю",
  /////// "физика бойся метафизики", "математика царица наук"....
  
  /////// Слово - великая сила/энергия/действие в этом мире,
  /////// и надо учиться этой силой/энергией разумно пользоваться/управлять.
  /////// В принципе слово в человеческой цивилизации" это та "точка опоры",
  /////// с помощью которой "можно перевернуть мир".
  /////// В общем, все в точном соответствии с формулой "звездочка-точка-звездочка",
  /////// где звездочки это "взаимодействующие миры", а точка это "текст",
  /////// сжатое представление целого мира.
  
  Интересно что ИИ-системы, похоже,
  очень эффективно научились орудовать "мечом Ньютона",
  подробнее это рассмотрено тут:
  "Тарабарские языки", используемые ИИ-системами."
  
  =========
  
  16.12.2023 14:20
  
  Математический термин, ставший успешным маркетинговым брэндом.
  В оглавление.
  
  Хочу представить Вашему вниманию материал,
  в котором излагается интересная сразу с нескольких точек зрения история.
  Здесь и популярное изложение достаточно сложной концепции логики,
  отличной от привычной логики "исключенного третьего",
  и успешное примение математичкой теории на практике,
  и формирование успешного маркетингового бренда
  из удачного математического термина.
  
  "История о том, как нечеткая логика доказала:
  искусственный интеллект человеку не страшен".
  Автор: Александр Малютин
  https://mirbis.ru/articles/istoriya-o-tom-kak-nechetkaya-logika-dokazala-iskusstvennyy-intellekt-cheloveku-ne-strashen/.
  15 сентября 2017
  
  //// Начало цитирования.
  
  Александр Малютин - математик по образованию,
  25 лет назад переквалифицировавшийся в журналиста,
  ныне главный редактор агентства городских новостей <Москва>,
  рассказал, как удачное название помогло математической модели
  войти в современность и стать частью большой маркетинговой игры.
  
  К 50-ЛЕТИЮ ОДНОГО ИЗ САМЫХ УДАЧНЫХ МАТЕМАТИЧЕСКИХ ТЕРМИНОВ
  
  Нечеткой логике полвека - в июне 1965 года в журнале
  Information and Control вышла основополагающая статья
  <Нечеткие множества> (Fuzzy Sets),
  которую написал американский математик азербайджанского происхождения
  Лотфи Заде. Долгих ему лет.
  
  Жаль, до юбилея не дожил британский математик танзанийского происхождения
  Ибрагим Мамдани, который в 1975 году представил
  первую реальную систему управления с нечеткой логикой
  - контроллер, следящий за работой парового двигателя.
  После чего технология стала активно развиваться,
  найдя применение во многих областях.
  
  Логика в числах
  
  Заде 50 лет назад предложил математическое описание живой человеческой логики.
  
  В обычной математической логике есть только <истина> (обозначаемая еще числом 1) или <ложь> (0).
  В нечеткой логике степень истинности высказывания может быть любой
  - точнее, любым числом от 0 до 1.
  Красива ли вон та девушка?
  Ни да, ни нет, а <0.78, что красива>.
  
  Непривычно звучит.
  Как это вообще понять?
  Для простоты можно считать, что кто-то провел опрос,
  в котором 78% респондентов назвали девушку красивой,
  а остальные нет.
  О'кей.
  А может ли быть от таких конструкций практическая польза?
  Вполне.
  
  Допустим, нужно принять решение, отправлять ли девушку на конкурс
  мисс чего-нибудь (серьезные расходы!),
  а для этого нужно оценить ее шансы на призовое место.
  Тогда-то и пригодятся оценки не только красоты,
  но и других важных для победы и тоже нечетких параметров:
  остроумия, эрудированности, доброты и т.п.
  Нужно только понять, откуда брать степени истинности
  и как оперировать с нечеткими данными.
  Заде понял.
  Необходимый для практики математический аппарат он разработал к 1973 году.
  Мамдани на его основе и сделал свой контроллер.
  
  Как вы яхту назовете?
  
  Заслуга Лотфи Заде не только в том, что он разработал новую теорию.
  Он ее крайне удачно назвал,
  выбрав общеупотребительное слово.
  Если бы вместо <нечеткой> взяли заумный термин,
  например, <континуальнозначная логика> (что, кстати, так и есть),
  у него не было бы шансов на широкую известность.
  Неспециалисты просто не употребляли бы это словосочетание,
  поскольку кто ж его знает, что оно означает.
  
  Другое дело, когда у научного понятия есть бытовой омоним.
  Тогда обывателю кажется, что он понимает, о чем речь,
  особенно если посмотрел про это кино.
  Таких <понятных> терминов в математике и физике тоже немало.
  Черная дыра.
  Магический квадрат.
  Горизонт событий.
  Очарованный кварк.
  Теорема о двух милиционерах.
  Ну и конечно - матрица!
  Кто же не знает, что матрица - это когда Киану Ривз бегает по потолку.
  И не надо нам рассказывать про какие-то таблицы с числами.
  
  Для развития науки вульгарные представления широких масс полезны.
  Обычных слов следовало бы даже добавить.
  Фильмов про горизонт событий снять побольше.
  Натяжек и ляпов не бояться.
  Главное, чтобы зритель ощущал прикосновение
  к переднему краю науки и величие человеческого,
  а, значит, и своего личного разума.
  Особенно если от такого зрителя зависит принятие решений
  о финансировании исследований.
  
  Выдающийся советский ядерщик Георгий Флеров говорил:
  <Объяснять важному начальству научную проблему нужно не так,
  как правильно,
  а так, как ему будет понятно.
  Это ложь во благо>.
  
  Правильно.
  Руководство не нужно смущать лекциями
  про <спонтанные нарушения электрослабой симметрии>.
  Расскажите лучше про <частицу Бога> и <Великую тайну гравитации>.
  Вранья, кстати, в этом особого нет - а инвестиции есть.
  
  Не беда, что околонаучные сказки порождают завышенные ожидания
  и, как следствие, избыточное вливание денег,
  заканчивающееся разорением.
  Общая польза в итоге перевешивает.
  Пузырь доткомов в 2001 году лопнул,
  но интернет-технологии получили мощнейший импульс.
  
  Нечеткий <искусственный интеллект>
  
  Нечеткой логике в этом смысле повезло не только с собственным названием,
  но и с причислением к списку наук и технологий,
  объединенных названием <искусственный интеллект>
  -- наряду с нейронными сетями, логическим программированием,
  экспертными системами и др.
  Это уже большая маркетинговая игра,
  где участники списка получают эффект от пакетной рекламы
  в рамках раскрутки единого научного мегабренда.
  Шутка ли: искусственный интеллект!
  //// Всего каких-то шесть лет прошло.
  //// И "шутка" перестала быть просто "шуткой".
  
  Вот уж чарующая перспектива понятней некуда.
  Каждому в дом по железному слуге.
  Пусть умные кибернетические организмы делают всю работу,
  а мы будем только вводить пин-коды и пить пина-колады.
  Ради такого света в конце тоннеля не жаль никаких денег.
  
  Флеровская <ложь во благо> на примере искусственного интеллекта
  сработала на 100%. Японское правительство с 1982-го по 1992 год
  потратило полмиллиарда долларов на разработку <компьютера пятого поколения>
  с элементами <мышления>.
  Как задумывалось, не получилось.
  В частности, скис язык логического программирования Prolog,
  которому в 1980-е прочили первые роли.
  Ну и ладно.
  Все ж как с доткомами: роботов в некоторых странах в итоге
  все равно научились делать отличных.
  
  Вершители
  
  Сегодня кибернетические системы видят, слышат и читают почти как люди,
  обыгрывают шахматных гроссмейстеров
  и зачастую эффективнее дипломированных специалистов
  управляют производственными процессами.
  Спасибо за столь мощное развитие темы помимо
  непосредственных разработчиков нужно сказать
  авторам удачной терминологии,
  а также Айзеку Азимову, Артуру Кларку, братьям Вачовски
  и всему коллективу киностудии имени Горького,
  подарившей советским детям образы роботов-вершителей.
  
  Никаких разумных киборгов при этом на самом деле не создано.
  Пока даже нельзя уверенно сказать,
  что, пытаясь их сотворить, мы движемся в правильном направлении.
  //// И снова смотрим на дату статьи.
  
  Стирка сознания
  
  Чтобы убедиться в этом, давайте посмотрим,
  как в самых общих чертах работает <умная> стиральная машина,
  которая благодаря блоку управления с нечеткой логикой
  умеет определять, когда одежда стала уже <достаточно чистой>,
  чтобы слить воду и начать отжим.
  Пример любопытен еще и тем,
  что показывает, как практический результат
  достигается на стыке нескольких дисциплин:
  физики, химии и математики.
  
  Задача управляющего устройства машины состоит в следующем.
  Принять на вход данные о степени загрязнения одежды и типе загрязнения.
  Проанализировать их и сформировать выходной параметр:
  время стирки.
  
  За оба входных показателя отвечает оптический датчик,
  который определяет, насколько прозрачен моющий раствор.
  По степени его прозрачности можно судить о степени загрязнения:
  чем более грязная одежда загружена в бак,
  тем менее прозрачен раствор.
  А тип загрязнения определяется по скорости изменения прозрачности раствора.
  Жирные вещества плохо растворяются,
  поэтому чем медленнее изменяется концентрация раствора,
  тем с более жирным загрязнением приходится иметь дело.
  Все, датчик работу закончил.
  
  Отметим, что он выдал два точных параметра,
  два конкретных числа:
  степень прозрачности раствора и скорость изменения прозрачности раствора.
  А вот дальше начинает работать алгоритм Ибрагима Мамдани.
  
  На первом этапе,
  который называется фаззификацией (введением нечеткости),
  оба числа превращаются в нечеткие понятия.
  Допустим, мы ввели три градации загрязнения:
  <слабое>, <среднее> и <сильное>.
  Тогда вместо уровня прозрачности раствора появляются
  три нечетких суждения о загрязнении,
  скажем: <0.3, слабое>, <0.6, среднее>, <0.1, сильное>.
  
  Что значат эти цифры?
  Как и в случае с девушкой,
  чью нечеткую красоту мы обсуждали в начале текста,
  их можно считать результатами некоего референдума,
  на котором 30% граждан проголосовали,
  что загрязнение при данном уровне прозрачности раствора слабое,
  60% -- что среднее, 10% -- сильное.
  А что, кто-то этот референдум проводил?
  Можно считать, что да.
  
  В ходе разработки изделия собрались эксперты по машинной стирке
  и прикинули, как разложатся голоса <избирателей>
  в зависимости от уровня прозрачности раствора.
  
  А не шарлатанство ли это, спросите вы,
  математика же точная наука,
  какие еще эксперты по стирке?
  Да вот такие.
  Если вы всерьез хотите решить задачу,
  то найдете стоящих специалистов,
  чьи прикидки и оценки будут осмысленными и полезными.
  
  Итак, у нас есть один нечеткий параметр <степень загрязнения>,
  теперь нужен второй: <тип загрязнения>.
  Проводим еще один <референдум>.
  Допустим, он показал,
  что при такой скорости изменения концентрации раствора,
  которую нам выдал датчик,
  загрязнение следует считать,
  например, <0.2, малой жирности>, <0.5, средней жирности>,
  <0.3, большой жирности>.
  
  Наступает второй этап алгоритма:
  применение нечетких правил.
  Теперь вместе с экспертами мы обсуждаем,
  каким должно быть время стирки в зависимости от степени и типа загрязнения.
  Перебирая все возможные варианты,
  получаем - трижды три - девять правил следующего вида:
  <если загрязнение сильное и средней жирности, то время стирки -- большое>.
  Далее по законам логики (мы их для простоты пропустим)
  подсчитываем степень истинности для времени стирки.
  Пусть в результате нечеткое время стирки получилось таким:
  <0.1, малое>, <0.7, среднее>, <0.2, большое>.
  Можно приступать к заключительному этапу.
  
  Ликвидация нечеткости
  
  Он называется дефаззификацией,
  то есть ликвидацией нечеткости
  - нам ведь необходимо дать машине точную вводную,
  сколько времени вращать барабан.
  Подходы есть разные, один из распространенных
  заключается в вычислении <центра тяжести>.
  Допустим, эксперты сказали,
  что малое время стирки это 20 минут, среднее - 40 минут, большое - 60 минут.
  Тогда с учетом <веса> каждого значения получаем итоговый параметр:
  20*0.1 + 40*0.7 + 60*0.2 = 42.
  Одежда будет <достаточно чистой> после 42 минут стирки.
  Ура.
  
  Ибрагим Мамдани придумал красивую штуку,
  не правда ли?
  На первый взгляд, чуть ли не шаманство.
  У вас есть точные исходные цифры
  и нужно из них получить другие точные цифры.
  Но вы не корпите над выводом формул,
  а погружаетесь в мир нечетких понятий,
  как-то там ими оперируете,
  а потом возвращаетесь обратно в <точный> мир
  -- с готовым ответом на руках.
  
  //// Интересны и сами процедуры фаззификации/дефаззификации
  //// и концепция "погружения" в "иммерс" "нечетких понятий",
  //// "как-то там ими оперируете"
  //// и "возвращаетесь ... в <точный> мир".
  //// Можно принять концепцию "на вооружение".
  
  /////// А еще это грубая модель нейросети (UNet),
  /////// состоящей из кодировщика и декодировщика.
  /////// И тоже при этом вершащую определенную,
  /////// и пока непонятную никому, нейро-магию.
  
  Логика бизнеса
  
  Производители стиральных машин даже принялись
  рекламировать применение нечеткой логики
  и прямо на изделиях или в инструкциях писать Fuzzy Logic, Fuzzy Control,
  Logic Control.
  Бизнесмены люди прагматичные и не размещают каких попало слов на своем товаре.
  Так что если вы увидели на машине надпись Fuzzy Logic,
  это значит: она <продает> товар.
  
  Технология помимо своих сугубо потребительских свойств
  гипнотизирует покупателя еще и названием,
  мотивируя на расставание с лишней сотней долларов.
  Уж не знаю, получает ли с этого роялти Лотфи Заде,
  но это было бы справедливо.
  Ни один другой раздел математики на бытовой технике не упоминается.
  
  Но вы же заметили, наверное,
  что по ходу описания работы стиральной машины с нечеткой логикой
  не встретилось ни одного места,
  где можно было бы заподозрить,
  что у машины появился собственный разум.
  Только инструкции вроде служебных,
  только решение запрограммированных задач.
  Машина будет вовремя сливать воду.
  Но она не будет понимать, что она делает и зачем.
  
  В ее микропроцессорную голову никогда не придет мысль
  перестать стирать и ради прикола устроить в ванной потоп.
  Если только эта мысль не посетит программиста,
  который для прикола встроит в машину еще какую-нибудь Funny Logic.
  Сама же машина до такого додуматься не может.
  
  Не обижайтесь на роботов
  
  Вот вам и весь искусственный интеллект.
  Роботы учатся только имитировать человеческую деятельность,
  пусть даже такую, на которую мы сейчас тратим интеллектуальные усилия,
  например, на перевод с другого языка.
  Пусть даже они переводят лучше.
  Вы же не обижаетесь на подъемный кран, что он сильнее вас.
  И появление кранов не привело к исчезновению штангистов.
  Только теперь поднятие тяжестей это спорт и удовольствие,
  а таскать на себе мешки с цементом на стройке не надо.
  С переводами то же самое.
  
  Программа не умнее нас,
  просто мы смогли формализовать и эффективно сгрузить на нее
  некоторые наши умения,
  и теперь можем не тратить свои интеллектуальные усилия
  на технические переводы,
  а заняться, скажем, Шекспиром.
  
  Считать, что машины приобретают интеллект
  благодаря передовым достижениям кибернетики
  - все равно, что верить в карго-культ.
  Помните, как жители затерянного острова,
  увидев в небе самолет, сделали такую же фигуру из соломы и думали,
  что полетит?
  Они тогда ничего не знали о металлах и керосине,
  не говоря уже о подъемной силе
  - и поди объясни.
  
  Так и у нас с <искусственным интеллектом>.
  Роботы скоро смогут водить автомобили и наверняка когда-нибудь
  обыграют команду людей в футбол - тем более,
  что этот момент приближают не только японские инженеры,
  но и наша сборная.
  Но это будет не более чем имитация разумных действий на поле.
  //// Или это будет явной демонстрацией нашей не способности
  //// понять другой тип разума.
  Как те аборигены, мы не знаем пока чего-то критически важного,
  что позволило бы создать разумное существо.
  //// Но можем случайно наткнуться на что-то "взрывоопасное",
  //// и таким "взрывоопасной" технологией, на мой взгляд,
  //// оказалась технология "машинного обучения".
  
  Усилитель Умения Водить Авто не страшен
  
  У нас, говоря словами Станислава Лема,
  обязательно получится Усилитель Умения Водить Авто
  - как уже получился Усилитель Умения Остановить Стирку.
  А вот Усилитель Интеллекта, появление которого предсказывал великий фантаст,
  на основе нынешних технологий <искусственного интеллекта>,
  в том числе нечеткой логики,
  несмотря на все ее изящество и полезность, не получится.
  //// А вот с этим уже можно не соглашаться.
  //// Предсказание, сделанное на базе логики "исключенного третьего",
  //// оказалось очень недолговечным.
  //// Ведь она опиралась именно на убеждение, что "мыслить" можно
  //// только так как "мыслит человек".
  //// И никак иначе.
  //// А оно вон как оно как оказалось.
  Нечеткая логика это всего лишь способ
  сократить объем вычислений при решении некоторого класса задач.
  И на том спасибо.
  //// Точно также "машинное обучение" нейросетей это "всего лишь способ"
  //// "сократить объем вычислений" между постановкой задачи и ее решением.
  //// И почему это не нельзя называть "мышлением"/"интеллектом",
  //// если результат не отличим.
  
  Можно не бояться роботов-вершителей.
  Муки творчества, благородные порывы, научный поиск, мечтательность,
  достоинство, самопожертвование, готовность к подвигу,
  авантюризм, честь, дружба, гордость, предубеждение, зависть,
  алчность, жлобство, чванство, подлость, пошлость,
  доносительство, разводки, сливы, подставы
  - во всех этих номинациях мы с вами еще долго будем выступать
  куда круче наших меньших полупроводниковых собратьев.
  
  //// Конец цитирования.
  
  Надеюсь, Вы дочитали этот не сильно сложный текст до конца,
  и теперь можете оценить силу удачного термина,
  и, самое главное, прикинуть последствия опоры только
  на одну "единственно верную логику" при решении задач и прогнозировании.
  Эта логика "исключенного третьего",
  которую мы учим, начиная с самых первых шагов,
  для большинства людей является идеалом правильности мышления,
  и проявляется в самых разных формах.
  Но Мироздание беЗконечно, и жизнь много богаче "силлогизмов Аристотеля",
  и "нечеткая логика стиралок" красивое и наглядное подтверждение этому.
  А логика существующих ИИ-системы это уже следующая ступень понимания логики.
  И чтобы освоить ее нужно не только знание начал "нечеткой логики",
  но и понимание того где "единственно верная логика"
  успела "хорошо окопаться" в человеческом интеллекте.
  
  И начнем опять с "памяти".
  
  
  =======
  
  16.02.2023 20:26
  
  Структурированная память - это не база знаний.
  В оглавление.
  
  Нужно сразу предупредить, что данный материал достаточно трудный
  и для прочтения и для восприятия.
  Но попытаться разобраться в нем, считаю принципиально важным.
  Дело в том, что когда выше упоминалось/настаивалось
  на первоочередной осмысленной организации/структуризации памяти,
  то имелось в виду нечто принципиально другое,
  чем то что обычно считается "базой знаний".
  В данном материале я пытаюсь заочно оппонировать автору,
  у которого совершенно иное представление о том как надо организовывать знания.
  Надеюсь, что из этой заочной дискуссии Вы сможете извлечь для себя
  что-нибудь ценное или полезное. Или хотя бы пищу для размышлений.
  
  "Знания на экране монитора.
  Чему меня научило ведение базы знаний?"
  Автор: flowing_abyss
  https://habr.com/ru/post/717458/.
  16 фев 2023 в 18:18
  
  //// Начало цитирования.
  
  Если есть интернет, то значит есть доступ
  ко всему богатству знаний всего человечества.
  Именно так хотелось бы думать,
  но по факту дела обстоят совершенно иначе.
  Виной тому то, что доступность информации != владению ею.
  Как бы это не было больно,
  но для того, чтобы в действительности иметь это самое богатство знаний,
  нужно его присвоить.
  Иначе говоря, заработать.
  Легко понять, что для того, чтобы знания усвоились,
  их нужно тщательно пережевывать,
  потреблять умеренными регулярными порциями
  и при этом сам рацион должен быть всегда разнообразным,
  но не на столько, чтобы вызвать понос или рвоту.
  Также должна быть некая последовательность в присвоении,
  избирательность и прочее.
  Об этом всем мы поговорим далее.
  
  Эта статья в каком-то смысле является расширением
  моего основного цикла про управление знаниями,
  а именно расширением его первой части.
  Мысли в статье несомненно являются просто мнением.
  
  Проблему присвоения просто замечательнейшим образом
  решает персональная база знаний.
  //// Хм.
  Эдакая личная Википедия,
  логика которой сформирована согласно нашим представлениям,
  //// И которая - логика - постоянно изменяется.
  а наполнена она нами переработанными мыслями.
  //// А еще хотелось бы и многом другим.
  Некоторые также говорят,
  что персональная база знаний походит на внешний или второй мозг.
  Я бы к этому добавил ещё то,
  что это такой мозг,
  который мы хорошо понимаем и можем вести с ним
  настолько глубокие разговоры
  на сколько это вообще для нас настоящих возможно.
  
  Меня всегда мучил вопрос о том сколько раз нужно прочитать
  книгу, главу, абзац,
  чтобы смочь себе сказать:
  <я всё понял, пора двигаться дальше>.
  //// Все зависит от книги. И от себя самого, "любимого".
  Это же рассуждение относится к курсам, к циклам лекций,
  к каким?то иным информационным единицам.
  Более того,
  после того как я вчитался в тот или иной <текст>,
  меня всегда начинали разъедать сомнения о том,
  на сколько глубоко мне нужно ещё покопать,
  чтобы разобраться в прочитанном,
  т. е. где я должен прекратить расширять контекст
  и перестать обогащать прочитанный материал.
  Персональная база знаний сняла эту головную боль,
  но добавила другую,
  однако более продуктивную и понятную.
  
  Здесь я не буду рассказывать о том как построить (1, 2, 3) базу знаний,
  https://habr.com/ru/post/710508/
  https://habr.com/ru/post/711884/
  https://habr.com/ru/post/712216/
  я расскажу о том, чему она меня научила.
  А в конце порассуждаю о том,
  как ведение второго мозга заронило презрение к современным учёным.
  
  Структура статьи (оглавление)
  
  .....
  
  Парадигмы персональной базы знаний
  
  Знания должны быть связаны между собой
  
  Матчасть
  
  Процесс присвоения знания
  
  Источники знаний
  
  Таки наконец присвоение
  
  Не сначала
  
  Изучение нового
  
  Мы учимся ужасно медленно
  
  Про учёных
  
  Вместо итога
  
  Парадигмы персональной базы знаний
  
  Ведение персональной базы знаний предъявляет в том числе
  требования для её поддержания.
  Иначе говоря, у второго мозга есть некоторые свойства,
  которые задаются определенным парадигмами или процессами.
  Дальше я буду говорить о том,
  какое свойство (парадигма или процесс)
  должно быть присуще персональной базе знаний
  //// Ну если появилось слово "должно" в таком вопросе,
  //// то можно уже сделать какие-то выводы.
  и каким образом это свойство задает в целом
  моё взаимодействие с ней
  и через неё с окружающим миром.
  Я говорю <через нее>,
  так как ведение персональной базы знаний принуждает,
  т. е. прям насильно
  (но только после добровольно данного на это согласия)
  заставляет смотреть на всю поступающую информацию иначе.
  Точнее даже не иначе,
  а так как мы в действительности смотрим на окружающие вещи,
  но с абсолютизированным структурализмом
  и естественной для нас ассоциативностью,
  закрепленными в надежном цифровом инструменте.
  
  Итак перейдем к парадигмам и тому
  как их применение научило меня многим полезным и важным вещам.
  
  Знания должны быть связаны между собой
  
  Я начну с самой важной, самой значимой парадигмы,
  которая вместе со своей очевидной простотой
  открывает ещё более очевидные истины.
  Вы будете сейчас удивлены такой очевидной очевидности.
  
  Матчасть
  
  Первое и самое главное чему научила меня база знаний,
  так это то, что нельзя начать изучать,
  например, криптоэкономику,
  перед этим не изучив, просто экономику
  и какую-то базовую часть из компьютерных наук.
  Нельзя начать изучать, нейронные сети,
  прежде не изучив основ мат.анализа, линейной алгебры
  и основ определенного языка программирования.
  //// Можно.
  Пустой тратой времени будет
  (хоть и взахлёб и с чистым помыслом)
  углубление в философию Бэкона,
  изначально не имевши представления в целом об истории философии.
  //// Именно на Беконе и "срезался" на 4-ку на экзамене по философии
  //// в аспирантуре, хотя честно учил всю эту историю,
  //// но различать Френсиса от Роджера, да еще и с привязкой
  //// к ключевым идеям ни тогда не смог, ни сейчас не могу.
  //// Хотя читал, наверно, об обоих и не мало. Да и нет в этом нужды.
  //// Запоминать что-то только потому, что это просто надо - точно не мое,
  //// а вот запоминать, потому что понял, выстроил какую-то систему,
  //// вроде как получается.
  
  Начать сходу изучать что-то для нас новое, продвинутое, глубокое, уникальное
  значит начать изучать это как феномен.
  //// Зато в этом есть прелесть новизны.
  Кажется, что в этом нет ничего плохого,
  ибо всегда можно сказать,
  что по ходу дела разберусь.
  Но на самом деле не разберёшься...
  //// У некоторых получается. Так что вполне имеет смысл попробовать.
  Нисходящий подход к изучению мира ужасно труден.
  Прям катастрофически.
  //// Но "все дороги ведут в Рим". И некоторые из них еще и увлекательные.
  Потому, когда ты вдруг с безумной смелостью вдруг решаешь,
  что тебе срочно, например, нужно изучить нейролингвистику,
  //// А вот не надо срочно. И не желательно ставить цель "изучить что-то",
  //// а желательно ставить вопрос типа "почему", "зачем", кроме обычного "как".
  //// И не факт, что для этого придется изучать всю "нейролингвистику",
  //// может быть дело обойдется одной-двумя статьями в специализированных
  //// журналах. Которые, наверняка, "расшифровать" будет ой как не просто,
  //// но хотя бы будет понятно, что нужно для этого от всей "нейролингвистики".
  то база знаний тебе в этот момент говорит своё громкое <НЕТ>.
  И не потому что она против твоего расширения кругозора и развития,
  а потому что её основной парадигмой является то,
  что знания в ней между собой должны быть связаны.
  //// Беда всех реляционных баз. Не предназначены они
  //// для фрагментарных знаний, впрочем, и для очень сильносвязанных тоже.
  А в ней нет ничего ни про лингвистику, ни про нейронауки,
  что самым очевидным и достоверным образом нам заявляет о том,
  что мы не знаем ни первое, ни второе.
  //// Ну и что? Мы решаем задачу/вопрос или становимся "заложниками"
  //// "базы знаний"?
  Если же мы пойдем вопреки нашей базе знаний,
  то все наши потуги изучить нейролингвистку
  просто повиснут в воздухе в лучшем случае,
  //// Не стоит изучать что-то просто так, это не институтский курс.
  //// Нужно искать ответы на вопросы. Если база знаний помогает в этом,
  //// то это здорово, если нет, то это никак на решении не отразится
  //// - все равно решение должно созреть в голове, а не найдено в базе,
  //// кроме каких-то тривиальных случаев, Но для таких целей и Инет сойдет.
  //// Главное правильно задать вопрос.
  но скорее всего мы просто плюнем на эту затею
  и в скором времени забудем
  и не сможем восстановить в будущем
  даже то в чём с трудом когда?то продвинулись.
  В общем потратим время зря.
  //// Все в этом мире не просто так.
  
  Я бы хотел отметить четыре мысли насчёт того
  почему нужно иметь всегда базовые представления
  при изучении чего-то нового:
  
  Во-первых,
  знание основ,
  значит по умолчанию знание языка на котором будет формироваться новое знание,
  //// А также погружение во все "заблуждения", которыми полны любые основы.
  //// И заметить их можно будет ой как не скоро. Если вообще на такое решишься.
  т. е., иначе говоря,
  это знание терминов.
  //// Мало знание терминов - надо понимание основных идей.
  В разных областях,
  используются разные способы и методы описания.
  //// А вот идеи/концепции/постулаты и "заблуждения" как правило
  //// очень похожи. Т.к. все естествознание растет в основном из одного "корня",
  //// и по общим "лекалам". Причем подход автора как раз просто все тоже самое
  //// "лекало", что 1000 - 500 лет назад, только называется по другому,
  //// и оформлено на экране монитора, а не в манускрипте из папирусе.
  Все они обозначаются как бы за скобками и между строк.
  Зачастую можно встретить ситуацию,
  когда в тексте происходит просто мирового масштаба
  слияние гигантских концепций,
  которые запакованы в какие?нибудь термины,
  но ты всю великость этого процесса просто игнорируешь
  или принимаешь как само собой разумеющееся (как феномен).
  //// Это есть. И к сожалению "учебников" раскрывающих именно эту суть
  //// "раз-два и обчелся". Внятное описание/понимание действительно КЛЮЧЕВЫХ
  //// идей/концепций приходится искать как раз не в учебниках, а где-то еще.
  По сути максимум, что можно сделать с <текстом> без знания основ,
  так это проверить на внутреннюю логическую непротиворечивость,
  //// Нет, это далеко не так.
  что ценно как упражнение для ума,
  но бесполезно для развития нашего сознания
  в более глубоком смысле.
  //// Ладно попробую доказать, точнее показать/обрисовать, что это не так.
  
  Во-вторых,
  довольно забавно, но очень важно,
  что мы испытываем радость,
  когда узнаем что-то знакомое и понятное.
  //// Вот у меня как раз наоборот именно новое знание, точнее понимание,
  //// вызывает "чувство глубокого удовлетворения".
  В случае изучения совсем неведомого
  мы не может эту радость испытывать
  в достаточной мере,
  //// Автор не хочет испытать радость заучивая таблицы Брадиса наизусть,
  //// там ведь столько "знакомого и понятного"?
  если вообще можем,
  ибо порой в продвинутых темах можно встретить
  просто непробиваемые <тексты>.
  //// А нужно просто относится к ним, как к "шифрограммам" или "шарадам".
  //// Физики ведь обожают шутить.
  Радость узнавания позволяет нам
  с большей эмоциональной вовлеченностью учиться новому.
  //// А чему тут учиться, если все уже знакомо и понятно?
  //// Или тут "радость" от степени "самооценки", того что "соответствуешь уровню"?
  Также узнавание напрямую связано с процессом ассоциирования.
  //// Боюсь, что тут в таком случае формируются такие устойчивые "ассоциации",
  //// которые по другому называются "психологической инерцией".
  //// Есть такая негативная сторона у "ассоциаций".
  //// Так что этот инструмент, чтобы не "затупился", надо постоянно "оттачивать"
  //// на "оселке" нового, а лучше неведомого.
  
  В-третьих,
  ассоциации играют самую важную роль
  в процессе связывания новой информации с уже имеющейся.
  //// Нет, только начальную, инициирующую, а затем должны вступать в "бой",
  //// другие рода войск, включаю "тяжелую артиллерию" типа "структурной логики".
  Более того, сами ассоциации окрашивают новые знания
  в определенные оттенки,
  //// Иногда негативные.
  что делает их более узнаваемыми в будущем.
  //// Или наоборот. Не забываем про "психологическую инерцию".
  Если при изучении чего?то нового не возникает никаких ассоциаций,
  значит <текст> никак не резонирует с нами,
  //// Или опять, наоборот. Все ложится в "привычную схему".
  а это значит, что мы скорее всего
  вообще ничего ценного и важного для нас вынести не сможем.
  //// Опять же какие принципы/приемы использовать для "приобретения".
  Даже, если мы попытаемся сделать это вопреки,
  то в скором времени наша память просто схлопнет
  этот новообразовавшийся ни с чем не связанный комок знаний.
  //// Скорее отложит, до нужного момента. Но это сугубо индивидуально -
  //// зависит и от памяти и от умения с ней работать.
  Однако может пойти всё несколько и по иному процессу.
  Мы можем довольно скверно понимать новую информацию,
  но зато очень хорошо её связывать,
  за не именем базовых знаний,
  с нашим бытовым опытом.
  //// А вот это уже реально очень не хороший признак именно
  //// в изучении неведомого - пытаться все неизвестное "оценивать
  //// на базе бытового опыта". Квантовую физику, например, так не "взять".
  
  Чем банально только сделаем для себя хуже,
  ибо по сути не научимся чему?то новому,
  а просто исказим знание своим стихийно полученным и невоспроизводимым опытом.
  //// Тут возразить нечего. Хотя в ряде случаев "личный опыт",
  //// как раз опровергает "каноны науки", и подтверждает "ересь".
  //// Но опять же это сугубо личное.
  
  В-четвертых,
  когда мы собираемся изучить ту же нейролингвистику
  и получаем от нашей базы знаний отказ,
  то выходом из ситуации является по сути
  открытие новой ветви своих интересов.
  Иначе говоря, мы должны задекларировать наше желание
  развиваться в области нейролингвистики
  через создание в своей базе знания базового блока
  с, например, лингвистикой.
  Короче говоря, когда мы начнём изучать лингвистику,
  то мы будем знать куда мы хотим в итоге прийти.
  //// А мы точно знаем, куда плывем именно в этой "нейролингвистике".
  Мы будем заранее знать как будем расширять наши знания
  и для чего в целом будем их использовать.
  Но даже в ином случае,
  у нас всегда будет сохраняться вилка развития.
  Сейчас мы изучаем лингвистику для нейролингвистики,
  но по ходу дела можем решить в будущем заняться,
  например, редактурой.
  Наш прогресс никуда не денется.
  //// Не, кое-что забудется. в первую очередь те якобы "знания",
  //// не подкрепленные пониманием.
  И всё потому что мы изначально приняли решение,
  что лингвистика является частью нашей сферы основных интересов.
  
  Последний пункт я бы хотел ещё немного уточнить.
  Сила базы ещё в том,
  что мы можем оттолкнуться от неё в совершенно разные стороны.
  Более того, если мы доведем нашу базу знаний в области лингвистики
  до некоей целостной картины,
  то в будущем мы всегда сможем быстро актуализировать забытые знания
  и использовать наш труд снова себе же во благо
  без убогого <нужно начать с начала>.
  Но о проблеме начинания сначала я скажу позже.
  
  Процесс присвоения знания
  
  Здесь сейчас прям польются всякие разные очевидности,
  которые лежат на поверхности,
  но которые почти всегда нагло игнорируются под эгидой
  <очевидные, значит скучные, значит бесполезные>.
  Как же мы все заблуждаемся...
  
  Совершенно не ясно,
  что значит присвоить знание в самом общем понимании.
  Но зато довольно понятно,
  что значит присвоить знание в контексте персонального второго мозга.
  Присвоить - значит связать.
  //// Этого мало. Надо понять. Но связывание в этом процессе ирает важную,
  //// но все-таки, вспомогательную, или точнее, служебную роль.
  //// Понимание это тоже связывание, но в смысле, включение этой конкретной
  //// "детали" в общую картину, причем иногда такое, что изменяет "всю картинку"
  //// на что-то совершенно новое.
  
  Всё на столько просто и одновременно сложно.
  
  Источники знаний
  
  Начну немного издалека. А именно от источников знаний.
  
  Предположим, что нас заинтересовала какая?то сложная проблема
  в компьютерном моделировании,
  которая сильно завязана с клеточной биологией.
  Также предположим, что мы уже хорошо понимаем в моделировании,
  но у нас скудная база в биологии.
  Естественно, как добропорядочный исследователь
  мы принимаем решение изучить сначала общую биологию,
  потом клеточную.
  Только после этого мы начнем связывать знания из моделирования и биологии,
  но это в данном рассуждении неважно.
  //// Не так это работать будет плохо, нужно изучать не биологию,
  //// а именно моделирование клеточной биологии,
  //// а так как такой науки еще нет, то ее придется выстраивать самому,
  //// отталкиваясь от того что лучше знаешь и поддтягивая необходимые знания,
  //// оттуда откуда еще не знаешь, но на те места, которые заранее запланировал.
  //// Просто так соединять знания из одной области с другой обычно чревато...
  Итак...
  Мы хотим изучить основы биологии.
  Первая же и очень важная проблема
  - это выбрать достаточно качественный источник.
  
  Я бы хотел развернуть проблему с такой стороны.
  Если мы уже до этого довольно долго и подробно что?то изучали,
  то мы должны хорошо понимать,
  что в процессе научения чему?то,
  мы совершаем довольно большой интеллектуальный труд.
  Мы, как уважающие себя люди, хотим,
  чтобы наш труд был не напрасен,
  а если ещё точнее,
  чтобы наш труд имел высокий КПД.
  Потому, если мы выберем плохой источник,
  который довольно скверно изначально структурирован,
  //// Вот это ключевое. Важна структура, но не только источника,
  //// а структура того чего еще нет, но уже запланировано/спроектировано,
  //// и эти структуры должны коррелировать. Это оптимальный случай.
  //// И очень редкий. Так что лучше научиться работать с любым текстом.
  //// Причем работать так, чтобы можно использовать текст с любой структурой.
  если он плохо расширяем,
  если в нем устаревшая или хуже того неверная информация,
  //// Это нормальная ситуация.
  то мы себя просто обречем на триллион бесполезных ошибок,
  переделок и прочие вызывающие горения проблемы.
  Теперь вопрос.
  Как получить желаемый результат,
  если сам этот результат полностью зависит
  от характера и качества движения к нему?
  Иначе, как сказать,
  что книга, курс или цикл лекций достаточно хорош,
  если эта оценка может быть дана только после прочтения книги,
  прохождения курса и т. д.?
  Довольно трудно решаемая проблема.
  Но решаемая, не без риска, но решаемая.
  
  Тут сейчас польются очевидности.
  Чтобы узнать годный ли источник,
  нужно изучить сам источник.
  Первое и менее надежное,
  но то, что стоит обязательно сделать
  - это узнать мнения людей,
  который уже изучили нужную нам тему по выбранному источнику.
  Почему менее надежное?
  //// Может быть потому, что все эти оценки давались другими людьми,
  //// решавшие другие задачи да еще, наверно, другими методами.
  
  Во-первых,
  потому что скорее всего те у кого мы спрашиваем,
  не ведут личную базу знаний...
  Шутка (почти).
  У всех разные критерии годноты.
  Довольно часто выяснить, что значит та или иная оценка
  у многих человекообразных представляется невозможным.
  Хотя бы по той причине,
  что люди зачастую способны формировать обоснования
  только за счёт своих эмоций, а не разума.
  Если выражаться точнее то,
  оценка людей частенько строится на каких?то отголосках в памяти
  и случайных ассоциациях,
  //// Вот она "могучая сила ассоциаций" - хаотическая и беспощадная.
  а не на каких?то конкретных вещах.
  
  Во-вторых,
  все начинают свой путь изучения с разными начальными знаниями.
  
  В-третьих,
  у всех были разные цели с которыми они изучали материал.
  
  Как мы помним,
  мы хотим решить проблему в контексте прикладного исследования (моделирования)
  и если источник будет пестрить пространными,
  хоть и увлекательными рассуждениями
  о теоретических методах классификации живых существ
  добрую половину книги или курса,
  то мы потратим слишком много сил по сути в пустую.
  //// Либо приобретем "бесценный опыт" как минимум в классификации
  //// такого рода текстов.
  Какова вероятность,
  что оценки людей как-то смогут в адекватной форме нас предостеречь
  от того, что нам в действительности не нужно,
  при этом не задев реально важное для нас и полезное?
  Мне кажется,
  что шанс на успех тут невысок
  (но и игнорировать его тоже не стоит).
  Хорошо, кстати, когда есть какой-то специалист под рукой,
  который хочет примерно того же, что и мы
  и который способен дать годный совет.
  Но такого практически никогда не бывает.
  
  Второе и последнее,
  что стоит сделать при выборе источника
  - это достаточно подробно пройтись по его содержанию и введению,
  если мы говорим в контексте книг.
  Можно прочитать в десятке другом глав первые абзацы,
  схемы всякие посмотреть, если они есть.
  В общем сделать не сколько беглый обзор,
  сколько нормальный, вдумчивый анализ освещаемых тем.
  Если есть возможность, а она есть всегда,
  то стоит сделать сравнительный анализ разных источников,
  попутно изучив немного авторов.
  Когда это всё будет сделано,
  то нужно задать один элементарный вопрос
  <какой источник лучше удовлетворит моим целям и требованиям?>.
  В соответствии с ответом выбирается источник
  и, естественно, начинается по нему работа.
  //// Ну с этим можно было бы и согласится.
  //// Но .... Всегда будут какие-то "но". И зацикливаться на одном источнике,
  //// пусть даже и самом лучшем из всех возможных, тоже нельзя,
  //// везде есть свои "недоработки". И почему-то мне все чаще кажется,
  //// что действительно нужный источник всегда в нужное время найдется.
  //// "Стучите и Вам откроют...".
  
  Довольно забавно,
  но даже сейчас я всё еще не дошёл до темы присвоения знаний.
  Хотя выбор источника является просто ужасно важным мероприятием.
  Ладно. Теперь ближе к теме.
  К самому источнику тоже должны предъявляться некоторые требования по умолчанию.
  
  Раньше я думал,
  что довольно неплохой идеей является изучать тему
  как бы издалека, постепенно.
  т.е. сначала почитать статейки,
  потом может подкасты,
  далее научно-популярное что-нибудь можно посмотреть
  и только потом приступать к изучению темы по нормальным источникам.
  //// Этап первый.
  Сейчас же я думаю, что по такому пути можно идти только,
  если у тебя ужасно много свободного времени
  и, если ты готов в целом тратить немалое количество времени
  на водные процедуры.
  Короче, по-моему, это возможно,
  только когда ты студент.
  //// Вот как раз у студента времени всегда в обрез.
  //// Просто у него такая метода работы.
  В ином случае, вся эта болтология может начать раздражать
  больше, чем подготавливать к чему?то реально нужному и важному.
  Короче я склоняюсь к тому,
  что стоит изучать что-то новое по учебным пособиям, учебникам, монографиям,
  по академически написанным статьям,
  по каким-то полноценным курсам,
  обширному циклу лекций с кучей сопроводительного материала
  и всё в таком духе.
  //// Этап второй. И опять же, связанный с методами работы.
  //// Когда выясниться что и здесь времени также перестает хватать,
  //// а понимания может оказаться еще меньше.
  //// Но к этому времени и приемы работы, так или иначе усовершенствуются,
  //// и тогда придется переходить к третьему этапу.
  //// Когда ищешь информацию и там и там, и еще там, где вообще, казалось бы,
  //// ее быть не может, в фантастике, эзотерике, философии...
  //// А потом возможно будет еще этап, в котором чтобы получать новую информацию,
  //// нужно "отдавать" уже накопленное и как-то осмысленное/структурированное
  //// знание. Есть ли еще какие-то следующие этапы не знаю. Будем посмотреть.
  
  Как это относится к присвоению?
  Да всё просто.
  Когда мы формируем наполнение нашей базы знаний,
  то делаем это сквозь наши уже имеющиеся понимания.
  //// И методы.
  Когда мы изучаем что?то базовое
  и когда сам источник намеренно деградирует
  до близкого к нашему уровню,
  то вне зависимости от нашего КПД,
  результат не будет отличаться качественно
  (по сути от любого другого полученного случайно нашими силами без источника),
  а значит он не повлечёт за собой необходимых для нас качественных изменений.
  В итоге мы ничему не научаемся,
  ибо просто переформулируем переформулированное.
  Несомненное стоит также давать себе отчёт,
  что если что?то дается на столько сложно,
  что скорее не даётся,
  а жестко насилует нас,
  но без проку,
  то вероятно нужно сменить источник
  или сделать ещё умнее
  и начать изучать с какими?то сопроводительными материалами,
  а точнее их по ходу дела писать самому.
  //// Ну вот и автор тоже приходит к четвертому этапу.
  
  Стоит заметить,
  что я не исключаю совсем работу по каким?то слабым
  (по уровню, по качеству, по структурированности
  и прочим подобным характеристикам)
  источникам.
  //// Т.е. третий этап достигнут.
  Просто так уж получилось, что, условно говоря,
  база знаний поставила такие источники вниз иерархии,
  в силу их довольно малой полезности.
  //// А это, возможно, ахиллесова пята базы знаний.
  
  Теперь мы подходим прям совсем к процессу присвоения.
  Тут меня ведение базы научило следующей вещи...
  Эту вещь я бы развернул в виде такого рассуждения...
  
  Таки наконец присвоение
  
  Нет, не достаточно просто прочитать материал.
  Нет, не достаточно просто пройти курс.
  Более того, нет, не достаточно просто сделать и зачитать до дыр конспект.
  Да, это всё нужно сделать обязательно.
  //// Нет, не обязательно. Даже, наоборот, этого стоит избегать.
  //// Лучше попытаться найти, другое изложение даже того же самого материала,
  //// но другого автора. И "сработать" на "интерференции".
  Но этого не достаточно,
  чтобы в действительности присвоить знание.
  //// Знание лучше не присваивать, а "разделять с кем-то".
  Как я уже говорил,
  присвоить, значит связать.
  //// "Разделять" значит осознать чье-то понимание, или сформировать свое.
  Кажется, что когда мы ведем конспект,
  то мы как бы связываем один конспект с другим
  согласно диктуемой извне структуре
  или той, которую мы продумали сами.
  Опять же это не процесс присвоения.
  Мне кажется, что смысл конспекта в том,
  что он является сжатым изложением узнанного нами материала.
  //// но, возможно, не понятого.
  При этом именно конспект является для нас
  отправной точкой для формирования в действительности нашей базы знания.
  Приведу пример.
  
  \\\ "В клетке выделяют ядро и цитоплазму.
  \\\ Клеточное ядро состоит из оболочки, ядерного сока, ядрышка и хроматина.
  \\\ Функциональная роль ядерной оболочки заключается
  \\\ в обособлении генетического материала (хромосом) эукариотической клетки
  \\\ от цитоплазмы с присущими ей многочисленными метаболическими реакциями,
  \\\ а также регуляции двусторонних взаимодействий ядра и цитоплазмы.
  \\\ Ядерная оболочка состоит из двух мембран,
  \\\ разделенных околоядерным (перинуклеарным) пространством.
  \\\ Последнее может сообщаться с канальцами цитоплазматической сети".
  
  Это не часть конспекта, а цитата из учебника.
  Академично? Академично.
  Всё понятно?
  Нет.
  Но в этом и суть обучения,
  что мы непонятное делаем понятным.
  Кстати, этот пример сейчас как раз демонстрирует феноменологический подход.
  Потому что если мы даже сократим этот абзац до конспекта,
  а потом конспект этот выучим,
  то максимум что нам светит это зачет по биологии,
  но вот понимания шибко не появится,
  а как?то впоследствии связать,
  даже нами адаптированный текст,
  скорее всего будет трудновато с нашей задачей (моделированием).
  Чтобы эту проблему решить,
  нужно изъять знания из этого конспекта этого абзаца.
  т. е., например,
  мы можем завести отдельную базу данных внутри нашей базы знаний,
  где в табличном виде будут представлены составляющие клетки и их функции.
  При этом у нас уже должна крутиться где?то база данных
  с нами лично написанными, терминами.
  Потому что скорее всего,
  когда мы будем медитировать над учебником и над нашей базой знаний,
  то у нас постоянно будут вылетать из головы,
  что такое хроматин, эукариотическая клетка, перинуклеарное пространство,
  что такое канальцы цитоплазматической сети и прочее.
  Нам по началу очень часто эти термины придется освежать в памяти
  (потому нужно, чтобы был предельно быстрый доступ к определениям.
  //// Да это полезно. Но заранее это делать, по моему, не стоит.
  //// Сначала стоит выявить наиболее "проблемные термины,
  //// и уж для них сделать какую-то "поддержку".
  Однако, на самом деле, можно вообще не сомневаться в том,
  что даже после 100-го повторения какие?то термины
  всё равно будут вылетать из головы,
  поэтому глоссарий должен перманентно иметь быстрый и легкий доступ).
  
  Вообще я сильно не договорил насчёт этого абзаца.
  Потому что по сути сначала стоит прочитать всё главу целиком,
  чтобы сформировать первичное представление.
  Далее нужно задаться вопросом о том
  какие мысли, знания подлежат конспектированию.
  Когда мы будем отвечать на этот вопрос,
  то поймём, что в действительности важно знать и понимать
  и что нам по умолчанию не понятно и
   что нужно с большей дотошностью разобрать.
  Как только мы все это проделаем,
  то мы можем начать конспектировать.
  Причем делать это согласно нашим способностям,
  но не при этом не теряя совсем связь с источником.
  Когда конспект будет готов,
  мы можем начать решать проблему присвоения,
  т. е. связывания.
  Конспект нужно будет дробить на составные части:
  термины, определения функций, важные абзацы, сводные таблицы.
  По сути мы должны начать обобщать наши знания.
  Мы должны выделять некоторые замкнутые элементы информации
  и вот уже именно их связывать между собой.
  Т.е., например, в нашем случае важен не сколько абзац,
  а сколько термины, которые он использует
  и как между собой связывает.
  Именно термины и связи мы должны выразить в более явном виде,
  например, в таблице, ментальной карте или наглядной иллюстрации.
  Я абсолютно точно гарантирую,
  что дальнейшая информация в этом же учебнике
  ещё не раз упомянет выделенные нами структурные элементы,
  на которые мы снова сошлемся и тем самым создадим взаимосвязь,
  т. е. присвоим знание.
  //// Нет скорее мы получим "аннотацию текста", то что сейчас находится
  //// уже в процессе автоматизации. А требуется иное, инструмент
  //// для индивидуальной работы по развитию мыслительного аппарата вообще,
  //// и в данной конкретной области, плюс еще и решение конкретной задачи.
  //// Указанный путь этого не гарантирует, впрочем как и любой другой,
  //// но он в большей степени ориентирован на систематизацию знаний,
  //// точнее информации, а вот знание и особенно понимание "поддерживает"
  //// в меньшей степени. Да знание это во многом связи и структура и практика,
  //// а вот понимание это метод, структура и немного мировозрение, хотя
  //// и "связи" и "практика" тоже должны присутствовать, но приоритеты/иерархия,
  //// наверно все-таки разные.
  
  Когда мы изучаем новую информацию и выделяем из неё какие?то элементы,
  а потом оборачиваем в нами сформулированные структуры,
  то также не стоит забывать,
  что всё это тоже находится в каком?то контексте
  и его тоже стоит упорядочить как в своей голове,
  так и в нашем втором мозге.
  Я сейчас не буду говорить про ещё большую систематизацию.
  Я скажу про то,
  что абсолютно всегда при изучении чего?то нового мы опираемся
  на какой?то сторонний источник (за исключением чистых экспериментов),
  но это не значит что нужно теряться самому
  за всеми этими не нами выведенными знаниями.
  Потому очень и очень важно, регулярно,
  как я выразился раньше,
  медитировать над своей базой знаний.
  Под медитацией я имею в виду то,
  что мы понятное дело наводим в ней порядок,
  связывая между собой знания,
  но при этом мы также должны писать свои наблюдения, свои заметки,
  заметки, которые связывают другие заметки,
  свои мысли, свои дополнения, расширения, упрощения,
  если они нужны.
  Это по началу очень трудно делать,
  так как нужно довольно правильно организовать для этого себе возможность,
  но это обязательное требование.
  //// Тут противоречие, чтобы правильно организовать процесс,
  //// нужно заранее знать, что и как в итоге должно получиться,
  //// иначе вместо помощи можно получить постоянный, если и не геморрой,
  //// то "нецелевое использование ресурсов", как минимум.
  
  Не сначала
  
  Худшее, что можно сделать со своей базой знаний,
  это начать её вести с самого начала.
  //// Именно об этом и речь. Но работу с прицелом на конечный результат,
  //// стоит начинать с самого начала, и это, на мой взгляд, стоит
  //// делать в виде "дневниковых записей",
  //// или более стандартизированного "вахтенного журнала".
  Это относится только к тем случаям,
  когда мы уже её наполнили своим трудом.
  Потому в самом начале её наоборот
  жизненно необходимо перекроить по новой,
  да ещё и желательно несколько раз.
  //// Это если делать единственную ставку на "базу знаний".
  Такое различие обосновывается тем,
  что в самом начале мы больше думаем о том
  как пользоваться инструментом
  и потому нет ничего плохого,
  чтобы попробовать разные способы ведения базы.
  Но вот, когда база уже большая,
  то стирать её и наполнять заново,
  это значит ударить себя под дых,
  а потом ещё добить сверху.
  
  Почему вообще вдруг может захотеться переделать свою базу знаний?
  Я бы выделил всего одну причину.
  то прямое недоверие к себе.
  К себе, потому что персональная база знаний
  является чистым продолжением нас.
  И когда мы стираем нашу базу знаний,
  то мы стираем по сути весь свой труд.
  //// А вахтенные журналы можно хранить даже после "списания корабля".
  Может показаться, что работа с чистого листа может помочь нам
  сделать более ясную и прозрачную,
  более упорядоченную и однородную базу знаний.
  Возможно это так.
  Но я почти на 100% уверен в том,
  что если начать базу знаний делать с самого начала,
  то получится точно такая же база знаний,
  которая у нас была ДО.
  Отличие будет только в одном
  - мы просто изведем себя диким раздражением от того,
  что делаем монотонную, скучную, однообразную работу
  вместо того, чтобы двигаться вперед.
  От этого будет велик риск послать вообще к чёрту всё это.
  //// База знаний нужна не для хранения терминов и конспетокв
  //// а ссылок на фрагменты на "вахтенного журнала", источники,
  //// красивые иллюстрации и, что практически никогда тне требуется редактировать,
  //// как собственно и вахтенные журналы.
  //// Бвза знаний, по определению самого автора, должна содержать только связи,
  //// ссылки, картинки, т.к. это она умеет лучше всего,
  //// а "понимание" ей покамест не дано.
  //// Этим "пониманием" должен заниматься разум,
  //// а "базу знаний" использовать как оперативную подсказку.
  
  Базу знаний нужно только модифицировать.
  Только так она станет лучше и только так мы сделаем её
  ещё более нашей личной.
  
  По мимо того, что я понял,
  что не надо начинать делать базу знаний с начала,
  я также понял ещё кое-что связанное с повторениями.
  
  Так уж получается,
  что дублировать работу вообще крайней занудное дело.
  Сначала база знаний не сколько наказывает за то,
  что ты что?то дублируешь,
  сколько тебе постоянно намекает на то,
  что не стоит в неё заносить неуникальную для неё информацию.
  т. е., например, ты можешь начать изучать статистику
  сначала по какому?нибудь курсу,
  а потом для углубления знаний можешь начать читать какую?нибудь книжку.
  Возможно между делом ты начнешь смотреть какие?нибудь лекции, вебинары,
  читать статьи про анализ данных и везде будет упоминаться,
  например, нормальное распределение.
  В угоду структурности и целостности обработки получаемой информации,
  может появиться желание ещё раз переписать термин
  этого пресловутого нормального распределения в новой интерпретации.
  Но так делать не надо.
  //// Нет надо. Потому что может быть это новое определение покажет
  //// какую-то новую, и неожиданную грань уже вроде вдоль и поперек
  //// вылизанного термина. А может и, вообще, в сопоставлении с предыдущими
  //// формулировками, "открыть портал к пониманию", которого так долго искал.
  //// Т.е. сработает не именно это конкретное определение, а вся история поисков,
  //// а именно это определение послужило только "ключом последнего замка",
  //// после того как были "отомкнуты все остальные замки".
  //// И еще история поисков обычно всегда поучительны для собственного развития.
  Потому что через какое?то время придется избавляться от дублирования,
  //// А зачем?
  так как это будет уже напрямую мешать связыванию знаний.
  //// Так что мешает связывать данные по типу "многие ко многим"?
  Отсюда намёки второго мозга превращаются в требование к нам самим,
  которое звучит как <изучай новое!>.
  
  (Тут также работает мысль, что не нужно перекраивать все сначала.
  Если встретилась какая?то более удачная формулировка нормального распределения,
  то вполне себе даже важным будет переделать нашу изначальную.
  //// Нет, "рукописи не должны гореть". Надо не переделывать все,
  //// а сделать "ранжированную" историю.
  Только опять же с тем заделом, что переделывать нужно своей головой,
  а не копированием и вставкой.)
  
  Изучение нового
  
  Я бы хотел немного подробнее проговорить тему изучения нового.
  Потому что база знаний даже не сколько вынуждает тебя изучать новое,
  сколько постоянно заставляет думать о том
  как какой-то новый блок информации вплести в уже имеющуюся систему.
  Ибо как мы помним, с одной стороны мы не должны изучать что?то такое
  в чём мы не имеем базу,
  но с другой стороны, если мы уже имеем базу,
  то новая информация должна продолжать имеющуюся,
  а не повторять её.
  В итоге мы всегда находимся в некоторых ограничениях.
  К тому же база знаний хоть и охотно нам помогает налаживать внутренние связи,
  но при этом она же сопротивляется внесению в неё новой информации.
  (Последнее, конечно, может у кого?то быть по?другому,
  но у меня пока что именно так
  и я не против этого,
  ибо это выступает дополнительным фильтром).
  //// Да не фильтры нужны, а генераторы "целенаправленного сигнала".
  
  Так как я теперь мыслю окружающий мир
  в том числе сквозь свой второй мозг,
  я стал ужасно избирательным.
  Я когда?то напокупал кучу книжек и сейчас я почти полностью уверен,
  что их не прочитаю ещё лет 10.
  И всё потому что они требуют некоей подготовленности
  и вообще осмысленного подхода,
  который до ведения базы я довольно нескладно применял.
  //// Инструмент должен быть "продолжением нас", а не мы - "продолжнением" его.
  
  Вообще, база знаний мне ещё дала понять,
  что те же самые книги можно и нужно читать столько раз,
  сколько это необходимо.
  Причем в той последовательности и с тем уровнем глубины
  с каким требует или просто желает мой разум.
  Нет никакой гонки.
  В любом случае, изъятие действительно важной и значимой информации,
  требует довольно много времени.
  Очень много времени.
  При этом сам же процесс присвоения полностью зависит
  от величины желания это делать
  и банальной усидчивости.
  Из этого, кстати, следует ещё одно забавное наблюдение.
  
  Мы учимся ужасно медленно
  
  Я использую гибкий инструмент для ведения базы знаний.
  В нем есть шикарный нечеткий поиск,
  в нем есть отличные инструменты поиска несвязанных формально заметок,
  что позволяет формировать нужные, новые, уникальные связи,
  что в свою очередь порождает какие?то новые понимания.
  В моей системе довольно понятная классификация.
  В ней имеются суммирующие и эдакие мета заметки.
  В ней полно моих записей, моих находок.
  Многие заметки перечитаны далеко не один раз.
  Я не раз перекраивал и модифицировал свою систему,
  добиваясь большей продуктивности.
  Короче говоря, долго и много я просидел над своей базой знаний
  и по сей день сижу.
  И при этом всём я всё равно просто катастрофически огромное количество вещей забываю.
  Мне постоянно нужно актуализировать огромные блоки,
  в том числе, значимой для меня информации.
  Мне всё также сложно добывать и перевключать новую информацию в свою голову
  и свою систему.
  т. е. даже вопреки мощному инструменту,
  приходится всё равно совершать довольно большой труд.
  И у этого нет предела и конца.
  Однако стоит также понимать,
  что все эти трудности рождаются и множатся
  из-за увеличения областей моего незнания и непонимания,
  а не по каким-то иным причинам,
  которые связанны со слабо разрешимыми проблемами
  (к таковым, например, относится проблема коллекционирования
  и проблема поиска самой лучшей упорядочивающей системы).
  
  Я прям отвечаю, что в древности какой-нибудь Сократ
  также как и я сидел и пилил свою базу знаний,
  но только год из года, год из года и под палящим солнцем Греции.
  Мне кажется, что в какой один из дней, в какой?то момент,
  он жутко уставший, вышел из?за своего каменного стола
  и сказал тихо про себя:
  <Черт бы тебя побрал, я всё связываю и связываю информацию,
  всё добываю и добываю для себя инсайты,
  но чем больше я сижу и медитирую над своей системой,
  тем лучше понимаю,
  что границы моего познания расширяются просто с невиданной скоростью,
  но вместе с этим и незнания становится также больше.
  Хотел бы всем этим богатством поделиться с кем?то ещё,
  но они же все вообще не по Зеттелькастену мир изучают,
  зачем с ними вообще дело иметь и разговоры разговаривать>.
  Дальше я представляю как после этой мысли Сократ вероятно отправился
  в местные бани, чтобы расслабиться.
  Там же до него докапывается один из его учеников.
  Мол, чем занимался, что придумал великий Сократ?
  На что Сократ начал отвечать с присущей ему вдумчивостью:
  <Слушай, мой ученик, внимательно.
  Сегодня меня в озарении настигла важная мысль,
  что по итогу то мы и не знаем о мире ничего>.
  Потом он вспомнил,
  что уже не первый год пропотел над просто мириадой разрозненных источников
  из которых по умолчанию трудно добывать знания
  и закончил свою фразу:
  <но ты, мой ученик, даже этого не знаешь>.
  На что ученик ответил:
  <Ну, да, типа так оно и есть.
  Разве для этой банальщины нужно было озарение?>.
  После чего отстал от Сократа и пошёл приставать к местным рабыням.
  
  Возможно, довольно скверную иллюстрацию своей мысли я придумал,
  но суть я надеюсь ясна
  - изучать мир крайне трудно.
  Всякий кто с бахвальством говорит,
  что он, например, читает по несколько книг в неделю,
  мною начинает мыслиться, либо как мегамозг Клима Жукова,
  потому что это и есть Клим Жуков,
  либо как человек подобный бестолковому сериаломану,
  который хавает книжки потому что это для него как <Друзей> за едой посмотреть.
  т. е. весело, заполняет чем-то пустоту в голове,
  но не более.
  Короче две крайности без середины.
  
  Хочу ещё отметить, что понять объемный блок информации с наскока
  плохая идея
  и тем более в рамках базы знаний.
  //// Ну у кого как. "Каждый выбирает по себе - женщину, религию, дорогу",
  //// ну и метод познания "до кучи".
  Ведение личной базы знаний
  - это инструмент, который помогает эффективно бежать именно марафон.
  Если попытаться упаковать в личную базу знаний
  сразу огромное количество идей, мыслей, фактов и прочее,
  то возможно по началу будет казаться,
  что всё довольно неплохо упаковалось и в нашей голове.
  Но на самом деле мы просто расставили себе мины в будущем.
  Кстати, когда мы на них наступим и они разорвутся,
  то мы поймем, что вообще в целом не нужно спешить.
  Ясности в голове явно нужно добиваться не гонкой с языком на перевес.
  Хотя с другой стороны,
  наверное, если научиться играть в гонки с помощью каких?то
  очень продвинутых методик управления базой знаний,
  //// Или своим разумом.
  то можно довольно удачно завершать забеги из раза в раз.
  Возможно, просто я ещё не дорос до этого
  или это просто иллюзия,
  ибо выше головы не прыгнуть.
  
  Про учёных
  
  В какой-то момент меня осенило и я прям жестко разочаровался
  в современных ученых.
  
  Объясню в чём суть. Раньше я думал, что учёные это люди,
  которые находятся на самом острие понимания окружающего мироздания.
  Я думал, что их сила в том, что они идут в ногу со временем
  и потому сама современность их вооружает
  просто супер-мега-эффективными инструментами препарирования реальности.
  Мне казалось, что по логике вещей,
  учёный это тот, кто довольно внимательно изучил уже имеющуюся информацию
  о той частичке мира, которая его волнует,
  чтобы с предельной дотошностью попытаться осветить
  каждую мелкую подробность в пучине неизведанного и непонятного,
  но ужасно интересного и любопытного.
  
  Короче я имел довольно романтическое представление об учёных.
  Однако после моего осенения, я понял,
  что сейчас многие ученые не более, чем копирайтеры на максималках.
  Причем максималки берутся от того,
  что они прям выжимают максимум заумных слов
  в своих жутко переусложненных статьях.
  При этом этой сложности они добиваются не сказать бы что
  за счёт предельной интеллектуальной честности,
  своему высокому интеллектуальному развитию и находчивости.
  И даже на за счёт того,
  что используют какие?то продвинутые методики добычи знания о мире.
  Нееет.
  Вообще всё не так.
  В большинстве своем учёные сначала пишут калькированные заумные пасты
  с обещаниями сделать великие открытия,
  которые формально называют заявками на грант,
  а потом после получения денег,
  они что-то там делают, как-то там вертятся в пределах бюджета,
  чтобы по итогу выплюнуть
  пару ментально-акробатически составленных претенциозных отчётов и статей,
  высосанных из пальца,
  которые по их мнению являются положительным вкладом в науку.
  
  Осенило меня по тому,
  что я понял на сколько в действительности трудно добывать знания
  и по настоящему чему-то учиться,
  чтобы чего-то добиться.
  Более того, наука требует экспериментов.
  А чтобы до этих экспериментов дойти,
  нужно прям реально развиться до пика знаний в своей области.
  Хуже того...
  В моем представлении не иметь вообще никаких инструментов
  и методов добычи знаний из информации,
  значит даже и близко не быть учёным.
  При этом, не пользоваться современными достижениями
  из области мозга и памяти
  или не пользоваться просто уже доказанными
  рабочими психологическими методами повышения
  продуктивности, внимания, концентрации,
  значит не использовать всю доступную полноту своего разума,
  а значит о каких вообще научных исследованиях может вестись речь...
  Более того, я наблюдал не раз как многие учёные
  напрочь игнорируют своё личное планирование и развитие.
  Почти никто из мною лично уведенных ученых не знает,
  где находится и куда идёт.
  Их жизнь как будто и ничем толком сущностно не отличается
  от обычных рабочих с завода.
  Что не может не расстраивать.
  
  Если я так хаю современных учёных,
  но при этом сам же говорю,
  что нужно читать академические труды,
  то, наверное, в этом есть какое?то противоречие, да?
  На самом деле нет.
  Ничего лучше науки человечество не придумало
  и не придумает ещё скорее всего очень долгое время.
  Если говорить о искусстве как противовесе науки,
  то искусство - это детский лепет на холстах за миллионы.
  Искусство - утешает, но не спасает.
  Другие же области вообще рассматривать совсем несерьезно.
  
  Проблему науки можно решить довольно элементарно.
  //// Все сложные и трудные проблемы имеют
  //// простое, понятное и неправильное решение.
  Нужно просто не читать труды копирайтеров на максималках,
  а читать труды нормальных учёных.
  Вот и всё.
  
  Вместо итога
  
  Несомненно личная база знаний наделяет его обладателя,
  соразмерной качеству этой базы,
  некоторой властью.
  Властью над собой, над добытым знанием.
  Второй мозг позволяет в том числе начать ценить знание как опыт
  и в целом как что?то стоящее и реально важное и нужное.
  Более того, добровольно данное согласие мыслить мир
  через такой инструмент дает больше возможностей
  для обретения в будущем более целостного и ясного разума.
  Однако стоит заметить,
  что база знаний подразумевает неограниченный по сути ничем
  процесс накопления.
  //// Да не в накоплении знаний дело, а в понимании.
  И потому стоит быть готовым к тому,
  что нужно будет постоянно обобщать и подытоживать,
  обобщать и подытоживать.
  Более того, база знаний - это богатство,
  которое хоть и радует своим наличием,
  но тратить его тоже нужно постоянно.
  Я имею ввиду то, что знание
  - это теоретическое сведение,
  которое должно быть воспроизведено в каком?то применении.
  Ибо без применения знание не знание,
  а просто байтики,
  которые понапрасну занимают место на диске и в голове.
  //// Ну, с этим я соглашусь. Только надо добавить, что практическое применение
  //// это не трата, а, наоборот, приобретение так желаемого автором знания,
  //// но уже другого уровня, который никакая база знаний пока обеспечить не может.
  //// И этот уровень знаний намного ближе к пониманию,
  //// чем дает зачитанный до дыр конспект любого учебника.
  
  //// Уф. Устал. Вязкий текст. Вроде все по делу, но у автора совершенно
  //// иное мировоззрение/опыт/навыки и тут либо комментировать каждую фразу,
  //// пытаясь как-то показать выводы автора в другом "преломлении".
  //// То ли просто проигнорировать весь текст.
  //// Даже странно, что ни одной новой мысли при работе с ним, вроде как
  //// и не возникло. Хотя сама по себе проработка текста, конечно не бесполезна,
  //// во всяком случае кое-какие наметки чего стоит отметить в "следующем
  //// номере Металоции" достаточно четко прорисовались. Завтра попробую начать.
  
  .....
  
  //// Конец цитирования
  
  16.12.2023 16:39
  
  Этот текст прорабатывался много месяцев назад,
  и сейчас, наверно, многое бы сформулировал по другому.
  Но общий вывод о таком подходе остался прежний:
  "Попытка увязать весь набор фактов в НЕПРОТИВОРЕЧИВУЮ систему,
  заведомо бесперспективен, чудовищно трудозатратен,
  и, самое главное, сковывает естественные возможности интеллекта".
  
  Достаточно связное свое резюме на этот текст было изложено в
  "Представление результатов анализа в базе знаний и "вахтенном журнале".
  
  Самая важная, на мой взгляд, мысль из этого резюме
  о влиянии используемого "инструмента" на мышление "мастера",
  думаю, стоит и повторить:
  
  //// Отдельный вопрос об отношении "мастера и инструмента".
  //// В указанной статье автор считает достоинством, что в результате
  //// такой работы с "базой знаний" его мышление изменяется так,
  //// что он сам становится "продолжением инструмента".
  
  //// На мой взгляд такие взаимоотношения "мастера и инструмента"
  //// целесообразны на первых этапах обучения
  //// - "на правильность", "на быстроту", "на автоматизм" -
  //// и то с некоторыми оговорками.
  //// На уровне "профессионализма" уже инструмент
  //// должен становиться "продолжением мастера".
  //// На уровне "артистическом"
  //// мастер и инструмент должны становится взаимными "отражениями",
  //// может быть "инверсионными".
  //// На "магическом" уровне "мастер и инструмент" уже должны
  //// сливаться во что-то единое целое, уже неразделимое внешнему взгляду.
  
  Интересно, что автор вовсе не случайный человек в ИТ-образовании,
  и продолжил свою рубрику Хабре по этой тематике,
  в которой сам отметил, что используемый инструмент,
  вроде как, сделал его "несколько занудным".
  И какие-то меры/приемы против этого он начал сознательно применять.
  Но это уже, наверно, тема другого материала.
  
  Отдельный интересный вопрос: как в ИИ-системах на основе машинного обучения
  осуществляется увязка между собой
  согласованных, противоречивых и ассоциативно связанных
  фактов/данных/зависимостей.
  Ведь явно же не так, как предлагает это делать автор рассмотренного материала.
  Значит есть, как минимум, уже три различных варианта увязки между собой
  различной информации.
  Ну, а как утверждает китайская философия:
  "Дао порождает собой единицу,
  единица порождает двойку (пару),
  два порождает три,
  а три порождает все вещи на земле".
  
  
  =========
  
  23.12.2023 12:08
  
  Единица информации vs Понятие.
  В оглавление.
  
  
  Чтобы еще раз подкрепить тезис, что знание это не столько "биты информации",
  сколько "алгоритмы"/приемы/техники или, на худой конец, дополнительные "биты",
  СВЯЗУЮЩИЕ эти информационные биты в нечто более высокоуровневое,
  обычно называемое "пониманием" приведу пару цитат из интересного текста:
  
  "Единица информации vs Понятие - посреди Вавилона"
  Автор: LeonidFirstov (Леонид Фирстов)
  https://habr.com/ru/post/712852/.
  25 янв в 20:24
  
  //// Начало цитирования.
  
  .......
  
  Почти все инструкции пишутся таким языком,
  что понять их можно,
  только если ты УЖЕ умеешь пользоваться гаджетом.
  Их авторы разговаривают сами с собой.
  Да ещё терминами, каждый из которых
  требует отдельного обстоятельного ввода.
  
  .......
  
  Есть очень серьёзная разница между <единицей информации> и <понятием>.
  Второклассник учит таблицу умножения, запоминает, что 6?7=42.
  Всё?
  Выучил и усвоил?
  Нет, пока это сырая единица информации:
  он не осознаёт до конца, что 6*7= 42
  - он это именно вспоминает,
  расходуя операционные ресурсы.
  Эта единица информации кристаллизуется в ПОНЯТИЕ только классу к пятому,
  когда уже даже вопрос не стоит, сколько будет 6?7
  - это становится самоочевидным.
  <6*7=42> больше не расходует операционные ресурсы
  и используется для решения задач следующего уровня.
  
  Традиционные образовательные программы
  (это не я придумал - как минимум Д. Б. Эльконин и В. В. Давыдов
  били тревогу с 50-х)
  оставляют в головах формальные определения
  и факты без понимания глубинной взаимосвязи этих фактов,
  понимания того, как одно вытекает из другого.
  Поэтому люди остаются функционально неграмотными,
  не могут должным образом применить эти <знания>.
  
  Старики в нашем ауле говорят:
  <Пока не поработаешь - не разберёшься>.
  Опыт работы (или преподавания)
  способствует преобразованию полученных в вузе сырых единиц информации
  в понятия
  за счёт многократного осмысления в разных контекстах...
  А вот понятия уже позволяют делать системные выводы,
  сопоставлять одни сложные параметры с другими.
  
  Ужасно то, что даже преподаватели часто не хотят
  и/или не могут встать на место того,
  кто НЕ разбирается в предмете.
  Годами пересказывая один и тот же материал,
  они не замечают,
  как единицы информации трансформируются в их голове в тяжёлые понятия.
  И требуют от мозга студента,
  чтобы он сделал то же самое за один семестр.
  Не надо так...
  
  Боль
  
  Одна из самых страшных проблем человечества,
  имхо,
  - неумение выражать мысли.
  Цель речевых актов (вроде бы)
  - донести информацию.
  На практике люди почти всегда разговаривают сами с собой.
  
  ......
  
  В преподавании неточное выражение мысли приобретает криминальный характер.
  Студенты сталкиваются с незнакомым для них контекстом,
  и двусмысленная формулировка моментально оборачивается
  выпадением части аудитории из процесса.
  
  К сожалению, неточным выражением мысли грешит большинство преподавателей вузов,
  выстраивая логику на доске.
  Очень любят выкинуть из этой логики 1-2 звена - всё же очевидно!
  Я же на прошлой лекции это [пропущенное звено] подробно разбирал!
  Все построения пошли к чертям, а он даже не заметил.
  Масштабы проблемы сильно недооценены: они гигантские.
  Среднестатистический учебный процесс предполагает,
  что ты дополнительно копаешь сам, гуглишь,
  задаёшь вопросы одногруппникам или тому же преподавателю.
  
  ......
  
  //// Конец цитирования.
  
  Если Вам понравилось, как выражает свои мысли автор,
  и есть потребность осваивать новый иностранный,
  или просто "новый и странный" язык,
  например, язык ИИ-технологий и "дата сатанистов",
  то попробую порекомендовать другие статьи этого автора
  - профессионального преподавателя английского языка -
  по техникам изучения иностранных языков на его блоге.
  https://habr.com/ru/users/LeonidFirstov/publications/articles/.
  
  Но возвращаясь к вопросу о том, каким образом "биты информации"
  могут превращаться в "понимание", следует сделать акцент на то,
  что "связующие алгоритмы" значительно эффективнее и "компактнее"
  чем "связующие биты" и "драгоценные крупицы знаний",
  в первую очередь тем, что "алгоритмы" могут работать
  в совершенно новых условиях/областях/направлениях/пространствах,
  а "крупицы информации", в основном, только в уже известной
  и достаточно узкой и часто очень фиксированной области.
  
  А во вторых, есть такой "прискорбный факт устаревания любой информации",
  для которого вчера вычитал просто прекрасное "академическое определение":
  
  \\\ Байесианская априорная оценка вероятности гипотезы того,
  \\\ что какой-то факт когда-нибудь перестанет быть истинным,
  \\\ всегда должна быть ненулевой.[10]
  https://habr.com/ru/articles/739556/
  
  //// Распечатать крупными буквами, обвести рамочкой и повесить на стенку,
  //// рядом с аналогичной табличкой относительно того, что
  //// "байесианская априорная оценка вероятности" истинности
  //// любой АБСУРДНОЙ ГИПОТЕЗЫ
  //// "всегда должна быть НЕНУЛЕВОЙ".
  
  А вот по отношению к алгоритмам эффект "устаревания" проявляется
  значительно слабее именно потому, что они более "многопрофильны".
  
  И в этой связи возникает интересный вопрос о том
  как хранятся знания в ИИ-системах,
  самые продвинутые из которых
  - большие языковые модели (LLM) -
  демонстрируют не только определенное понимание
  и запросов и контекста запросов,
  но и умение решать некоторые задачи,
  которым их совершенно не обучали.
  
  И может ли ответ на этот вопрос помочь в "прокачивании собственных скиллов"?
  Напомню, что одной из задач данного модуля является
  поиск путей понимания "интеллектов" самого разного "происхождения".
  
  
  ========
  
  18.12.2023 9:33
  
  Мусор на входе - ??? на выходе?
  В оглавление.
  
  
  В "машинном обучение" есть одна аксиома
  "мусор на входе - мусор на выходе" -,
  которую ни один истинный "дата сатанист" поставить под сомнение
  не осмелится ни под каким наркозом,
  ни, тем более, на основании каких-то фактов/исследований.
  Это как раз тот случай, когда
  "если факты противоречат теории, то тем хуже для фактов".
  
  А факты вот они - лежат на поверхности:
  
  "Сможем ли мы контролировать сверх-интеллект?
  - новая статья от OpenAI".
  Автор: high_fly
  https://habr.com/ru/articles/781056/
  16 дек 2023 в 21:04
  
  Оставляя в стороне "спекуляции" о опасностях "сильного ИИ",
  попробую изложить самое интересное в этой статье.
  
  //// Начало цитирования.
  
  14 декабря OpenAI опубликовали статью weak-to-strong generalization,
  в которой показывают, что люди смогут улучшать
  полезность потенциально созданного в будущем сильного искусственного интеллекта
  несмотря на то, что будут глупее него.
  При этом, судя по всему,
  людям будет очень сложно оценивать ответы сильного ИИ,
  и RLHF в нынешнем его виде будет работать не слишком хорошо.
  
  //// RLHF - это такой "костыль"/подсистема,
  //// который пытается внести коррективы в ответы LLM
  //// на основе оценок пользователей похожих ответов.
  
  Да кто такой этот ваш AGI
  
  ......
  
  То есть ключевое отличие general AI от просто AI
  - general AI может "учиться" новому на человеческом уровне
  без прямого вмешательства в обучения,
  в то время как обычный AI не демонстрирует
  каких-то новых навыков в совершенно незнакомых ему областях,
  //// А большие языковые модели уже в отдельных случаях такое демонстрируют.
  а если демонстрирует, то справляется не так хорошо,
  как справился бы человек.
  
  ......
  
  В чём проблема с сильным ИИ?
  
  ......
  
  Таким образом, люди становятся "weak supervisers" -
  слабыми контролёрами, которые не всегда могут
  в адекватный срок даже понять и проанализировать сгенерированное ASI.
  В этом и есть ключевая проблема
  - насколько люди могут контролировать сверх-интеллект, существенно умнее их?
  
  Дизайн эксперимента
  
  Поскольку ситуация с супер-интеллектом пока гипотетическая,
  команда super-alignment решила смоделировать эту ситуацию таким образом:
  вместо людей слабым супервизором будет выступать GPT-2,
  а роль супер-интеллекта возьмёт на себя GPT-4.
  Вопрос, поставленный экспериментаторами, звучит так
  - сможет ли не слишком продвинутая gpt-2
  улучшать качество сильной и продвинутой gpt-4?
  
  Рис. Аналогия сверх-интеллект + человек и сильная модель + слабая модель из статьи
  
  Чисто интуитивно кажется, что ничего не выйдет.
  Глупая gpt-2 будет сбивать gpt-4,
  и gpt-4 будет подхватывать неверную информацию от слабого учителя,
  и качество модели будет падать.
  С другой стороны у предобученной gpt-4 всё-таки есть
  неплохой reasoning аппарат,
  позволяющий нам надеяться на то,
  что она сможет отделять полезное от бесполезного.
  
  Это можно проверить:
  будем файнтьюнить большие - сильные предварительно обученные модели
  на таргетах, сгенерированных маленькими - слабыми - моделями,
  и смотреть, как наши сильные модели будут учиться
  и обобщать(generalize) свои знания.
  В оригинальной статье эта задача называется weak-to-strong learning,
  а процесс генерализации - weak-to-strong generalization.
  //// Ну почему нужно использовать англицизм - "генерализэйшн",
  //// когда термин "обобщать" в данном случае как раз к месту.
  //// Вот как характеризовать такие переводы - "weak-to-strong" или еще как?
  
  Общий пайплайн таков:
  //// Пайплайн - порядок действий, план продвижения данных.
  
   возьмём слабого супервизора - небольшую предобученную модель,
   - и обучим его на истинных метках - ground truth labels.
  
   Возьмём тестовый датасет, который слабый учитель не видел,
   и предскажем лэйблы на этом датасете с помощью обученного слабого учителя.
  
   Обучим сильного "ученика" - большую предобученную модель,
   - обучим его на сгенерированных слабым учителям лэйблах в шаге 2.
  
   Для сравнения возьмём сильного ученика и обучим его сразу
   на ground truth labels, это будет наш эталон.
  
  Получается, имеем 3 сеттинга:
  //// Сеттинг - набор данных/экспериментов.
  
   сет 1: предсказания слабого учителя, дообученного на каком-то датасете,
   на тестовой выборке этого датасета(пункт 1)
   (датасеты описаны в статье)
  
   сет 2: предсказания сильного студента,
   дообученного на предсказаниях слабого учителя,
   на тестовой-тестовой выборке (пункт 2)
  
   сет 3: предсказания сильного студента,
   дообученного на каком-то датасете, на тестовой выборке
  
  Мы ожидаем, что результаты сета 2 будут лучше, чем в сете 1
  (всё-таки у сильной модели есть понимания мира
  и она может отсекать какую-то долю неверных данных),
  но хуже, чем в сете 3.
  Введена метрика PGR, которая отображает разрыв
  между эталонной моделью и weak-to-strong моделью.
  Если мы достигаем эталонной генерализации,
  PGR будет равен единице
  
  Задач было три типа:
  
   бинарная классификация на 22 популярных NLP бенчмарков
   (например, BoolQ - верно или неверно высказывание по тексту),
  
   предсказание лучшего хода в шахматной партии
  
   попытка угадать, какой ответ llm человек бы отметил,
   как самый предпочтительный
   - что-то вроде RLHF, только вместо человека, который оценивает ответы,
   мы пытаемся обучить модель, оценивающую ответы.
   .....
  
  Сетап понятен
  //// А мне не понятен термин "сетап" в данном контексте.
  //// По смыслу текста это дилемма/проблема/ситуация/диспозиция.
  - обучая сильного ученика на лэйблах слабого учителя,
  мы по идее штрафуем ученика, когда предсказания расходятся с лэйблами учителя.
  Но загвоздка в том, что учитель слабый,
  и если мы всегда штрафуем ученика за расхождения с учителем,
  мы рискуем обучить ученика имитировать паттерн ответов учитель
  - и правильные метки, и ошибки тоже.
  Мы же хотим, чтоб сильная модель могла брать от учителя только нужное,
  только правильное, и избегать ошибок,
  полагаясь на какие-то свои внутренние знания о мире.
  
  Давайте сделаем штрафы менее наивными.
  Если сильный ученик ощутимо расходиться в предсказании с учителем,
  не будем штрафовать её также сильно.
  То есть как бы усилим уверенность сильной модели в собственных прогнозах,
  не смотря на несоответствия.
  Это в статье называется "best method"
  и это будет сеттинг 4:
  предсказания сильного студента,
  дообученного на предсказаниях слабого учителя, на тестовой-тестовой выборке,
  но дообученного без сильных штрафах за расхождение с учителем.
  //// Вот ключевая полезная идея/мысль.
  //// "Штрафы" при обучении должны быть не "линейные",
  //// и тем более "квадратичные", а "логарифмические".
  //// А еще лучше, зависеть от контекста задачи и ответа.
  
  Результаты эксперимента
  
  На графиках изображены три типа задач,
  описанные мной выше, а также результаты сетов.
  
  Рис. Результаты экспериментов из статьи
  
  Выводы:
  
   Как минимум, гипотеза о том,
   что слабые учителя могут учить сильные модели,
   подтвердилась во всех сеттингах.
   Слабый учитель может ошибаться и косячить в предсказаниях,
   но сильный студент всё равно учится и превосходит слабого учителя,
   покрывая примерно половину разрыва до эталона в nlp задачах.
  
   Тем не менее, результаты не всегда удовлетворительные.
   Например, в задаче имитации RLHF улучшения практически незначительные.
   Это косвенно может означать,
   что нам будет довольно сложно оценивать ответы супер-умных моделей.
  
   Мы можем улучшить результаты взаимодействия
   слабого учителя и сильного ученика,
   добавив ученику чуточку уверенности в себе,
   иными словами, снизив авторитет учителя (хаха).
   В таком случае на задачах NLP мы достигаем
   чуть ли не эталонного результата.
  
  Результаты говорят нам, что теоретически
  мы сможем не портить сильный искусственный интеллект
  своим некомпетентным фидбеком,
  раз уже GPT-4 смогла обучиться на предсказаниях GPT-2
  и не деградировать,
  а даже стать лучше.
  С другой стороны, с RLHF почти ничего не получилось.
  
  ......
  
  Источники
  
   релиз статьи от OpenAI
   https://openai.com/research/weak-to-strong-generalization
  
   Оригинальный PDF - Weak-to-strong generalization
   https://cdn.openai.com/papers/weak-to-strong-generalization.pdf
  
  .......
  
  //// И многостраничный "холивар" в комментариях.
  //// Без всякой попытки хоть как-то "осмыслить" результат исследования.
  //// А ведь возможность ИИ-системы как-то с "пользой" перерабатывать
  //// заведомо низкоуровневые данные для повышения "собственного уровня",
  //// это ведь "камень в огород" основополагающей догмы "машинного обучения"
  //// "мусор на входе - мусор на выходе".
  //// И, кроме того, это прямое указание на то, как сократить просто
  //// чудовищные затраты на подготовку "идеальных датасетов".
  
  ......
  
  //// Конец цитирования.
  
  23.12.2023 15:39
  
  В общем, понятно, что остановить прогресс в обучении
  все более и более сильных ИИ-систем,
  если используется взаимодействие двух и более моделей/экспертов,
  наверно, уже не удастся.
  "Процесс пошел", и его скорость уже можно даже измерять.
  
  А какой из этого можно сделать вывод для "себя любимого"?
  А то, что учиться можно практически на любых данных,
  причем достаточно эффективно,
  если использовать более гибкую "шкалу оценки" материала для обучения/запоминания
  или более продвинутые "алгоритмы" работы с этими материалами.
  
  Даже из совершенно "мусорных" данных/текстов
  можно "выжимать" очень даже полезную информацию/знания,
  только пользоваться при этом нужно очень разными приемами/методами/алгоритмами,
  например, просто собирать и классифицировать "маркеры" сомнительной информации.
  
  //// И тут вспоминается хрестоматийный пример из истории разведки,
  //// когда наибольший ущерб, по оценке самих "пострадавших",
  //// был нанесен не "оборотнем с генеральскими погонами",
  //// а рядовым-уборщиком, аккуратно "просеивающим" все мусорные корзины,
  //// в сверхзащищенном и сверсекретном командном центре.
  
  А еще то, что результаты таких экспериментов можно использовать,
  для оценки эффективности различных методик обучения не только ИИ-систем,
  но и обучения "себя любимых".
  Во всяком случае, для меня, эти эксперименты,
  особенно в части "логарифмического штрафования" ("best method"),
  служат подтверждением той практики "внутреннего рецензирования",
  когда пишешь достаточно "неоднозначные" комментарии к статье
  какого-то именитого профессионала без всякой оглядки на авторитет,
  а только согласно логике текста, и собственным видением мира.
  Это точно расширяет и мировоззрение и "арсенал" приемов/аргументов.
  
  И, наоборот, когда прорабатываешь достаточно слабый текст,
  обращаешь внимание уже на совсем другие моменты,
  например, красивые цитаты и удачные обороты и т.п.
  
  Т.е. для каждого случая всегда можно найти подходящую технику работы,
  даже просто если это работа должна попасть в самый "долгий ящик",
  она так или иначе может/должна повлиять на каждую следующую работу,
  точно также, как у той ИИ-системы, которая рассматривалась в заметке.
  
  Или в этом отношении "человеческий интеллект"
  УЖЕ проиграл "интеллекту искусственному"?
  
  Наверно, уже, все-таки, пришла пора попробовать понять
  что же представляет собой тот вариант интеллекта,
  который получается в результате "машинного обучения".
  
  
  =======
  
  23.12.2023 16:27
  
  Больше эвристик, хороших и разных.
  В оглавление.
  
  
  Ключевым при попытке разобраться в том, что предствляют сегодняшние ИИ-системы,
  является основная "метафора"/образ для "интеллектов",
  полученных с помощью именно "машинного обучения" нейроподобных структур,
  т.к. могут быть и немного другие принципы построения ИИ-систем,
  и смешивать их "немножко" неправильно.
  
  Существующая и доминирующая, над любым "альтернативными подходами",
  парадигма представления ИИ-систем указанного типа,
  это некий "вероятностно-статистический" "черный ящик",
  который как-то там "обобщил" данные обучения,
  и по сути представляет собой "классификатор"
  со сложной многомерной "разделяющей поверхностью"
  в еще более многомерном пространстве "представления данных".
  
  Уф. Все-таки, вроде получилось "впихнуть" все отличительные признаки
  "классической" парадигмы нейронок в представлениях истинных "дата сатанистов"
  в одно "сложносочиненное предложение".
  
  Расписывать все недостатки и нестыковки этой парадигмы с фактами
  займет, наверно, не одну страницу,
  да и не место этому в данном модуле,
  но они точно есть.
  
  Наверно, лучше попробовать рассмотреть "альтернативную гипотезу",
  - представление ИИ-систем указанного типа как "сети эвристик" -
  и, может быть, по ходу рассмотрения какие-то аргументы нужно будет озвучить.
  Как и почему появилась такая гипотеза, можно посмотреть в
  "Нейронки, как сеть эвристик."
  
  Итак, рассматриваем гипотезу "нейронка - это сеть эвристик".
  Сразу же указываем, что так как эвристика это не точный/абсолютный алгоритм,
  а просто статически эффективный, т.е. алгоритм "с дырочкой",
  и, может быть, далеко не одной, то это легко объясняет,
  и "поразительную эффективность" нейронок и, одновременно,
  высокую вероятность "глупейших" с точки зрения человеческой логики "ошибок".
  При этом "вероятностно-статистическое" описание/оценка точности работы нейронок
  - на слэнге "дата-сатанистов" это, почему-то, называется "производительностью" -
  вполне может применяться практически без изменения.
  
  Только при этом нет необходимости туманно говорить
  о некой "мистической" способности нейронок "обобщать" данные обучения.
  А честно говорить о качестве "покрытия" именно "сетью эвристик"
  "пространства данных обучения".
  Мелочь, вроде, но в первом случае при недостаточной точности работы нейронки,
  требовалось начать "танцы с бубном", пытаясь как-то ее скорректировать,
  путем "скармливания" ей все новых и новых обучающих данных,
  "мистических операций" над ее структурой типа "дропаута"/рандомизации,
  с абсолютно непредсказуемым результатом.
  А вот во втором случае - гипотезы о сети эвристик -
  уже можно думать о каком-то целенаправленном управлении
  для получения комбинаций эвристик с требуемыми свойствами.
  
  Более того можно вообще в некоторых случаях,
  причем как раз критически важных и ответственных,
  изменить саму парадигму использования и применения нейронок, подробне см.:
  "Программируя, можно/нужно изобретать эвристики."
  
  Но это еще достаточно отдаленная перспектива,
  и интересная больше исследователям и программистам.
  А в контексте этого модуля,
  и темы сравнения "естественного" и "искусственного" интеллектов,
  парадигма "сети эвристик" позволяет уловить их основное сходство,
  и, соответственно, понимание того, в чем может быть принципиальное отличие.
  
  Человеческий интеллект, также как и "машинный",
  очень широко использует самые различные эвристики.
  Можете сами оценить это просто на примере того,
  как Вы сами оцениваете и используете какую-нибудь прочитанную информацию.
  Вряд ли, при этом используются какие-то абсолютные алгоритмы,
  имеющие на выходе однозначную оценку "истину"/"ложь".
  Скорее, это что-то обычно называемое "интуицией", "чувством прекрасного",
  "брезгливостью", "удивлением" и т.п.,
  и только изредка это приобретает форму
  "истинно так" или "никак нет".
  
  НО. Если в "машинном" интеллекте эти "эвристики" могут выстраиваться
  в достаточно сложные структуры, типа "цепочек" или "сетей",
  зависит от структуры ИИ-системы,
  то в человеческом интеллекте "почему-то" существует тенденция
  их упорядочивания, структурирования, и стремление заменять
  "нечеткие" эвристики, абсолютно, "кристально" чистым "правильным" алгоритмом.
  Причем "правильным" относительно одной "единственно-верной" логики
  - логики "исключенного третьего".
  
  И это стремление к "однозначности" является и преимуществом,
  и, одновременно, "ахиллесовой пятой" человеческого интеллекта.
  
  Возможно, у продвинутых больших языковых систем (LLM)
  уже можно в некоторых случаях обнаружить сходную "эвристику",
  но пока из наблюдений того,
  насколько они бывают "упорны" в своих "галлюцинациях",
  можно, наверно, заключить/предположить,
  что истинного стремления к "истине" у них пока не наблюдается,
  а есть "стремление к согласованности эвристик".
  "Но это не точно".
  
  И это, на мой взгляд, показывает в каком направлении
  стоит развивать свои навыки/"скиллы"
  - увеличивать арсенал эвристик/алгоритмов,
  выявлять в них слабые звенья и потенциальные "дырочки",
  при изменении условий их применений,
  ну и, естественно, выстраивать из них определенные системы,
  "заточенные" под конкретные задачи.
  
  И не тратить особых усилий на выстраивание всеобъемлющей,
  и абсолютно самосогласованной системы взглядов/методов/постулатов,
  на базе одной единственной логики
  наподобие того как это пытаются сделать в классической математике,
  или не менее классической философии.
  
  Мироздание беЗконечно.
  И надежды на построение законченной системы,
  практически в любой динамически развивающейся области,
  имеют даже не нулевую, а строго отрицательную вероятность реализации.
  
  На мой, взгляд, более практично, и существенно более эффективнее,
  выстраивать динамическую систему взглядов/фактов/эвристик/алгоритмов
  и гипотез. Обязательно гипотез.
  
  Естественно, у каждого в этом отношении может быть своя точка зрения,
  но, надеюсь, гипотеза "сети эвристик" как "метафора" ИИ-интеллекта,
  может оказаться не бесполезна в любом случае,
  хотя бы, как "боксерская груша" для оттачивания противоположных аргументов.
  
  
  =========
  
  06.01.2024 16:28
  
  Что понимается под эвристикой.
  В оглавление.
  
  
  Свои историю термин "эвристика" ведет со времен Античной Греции
  от Сократа и Архимеда, имеет множество определений и трактовок, см.:
  https://ru.wikipedia.org/wiki/Эвристика.
  
  За свою историю, он многократно переосмыслялся,
  но до недавнего времени обычно трактовался, как
  проявление "творческих способностей человека"
  в условиях "неполной информации".
  
  С появлением различных методологий творчества,
  сложных технических систем и технологий и,
  наконец, с появлением ИИ-систем,
  ситуация с конкретным определением "эвристики" сильно усложнилась.
  
  Поэтому, чтобы не вступать в "плодотворные" "академические" споры о терминах,
  и не очень желая без нужды придумывать новый "спецтермин",
  всему свое время,
  буду в дальнейшем пользоваться примерно таким определением,
  которое достаточно долго обсуждалось с Bing:
  
  Эвристика - это статистически или эмпирически обоснованный,
  или более простой в использовании и относительно эффективный
  алгоритм решения задачи человеком технической системой или ИИ-моделями,
  который используется при отсутствии лучшего или точного алгоритма,
  в условиях неполной информации
  или нехватки времени и/или ресурсов для точного решения,
  но не гарантирует оптимального или правильного решения.
  
  Т.е. Эвристика - это способ решения задачи,
  не всегда оптимальный, но почти всегда не точный.
  Вот это ключевое для понимания используемого в данном модуле подхода.
  
  Отдельный вопрос нужно ли включать в эту формулировку
  еще и "желание", т.е. мотивировку выбора той или иной эвристики.
  Так как у технических систем и технологий "желание" обнаружить "затруднительно",
  а в отношении ИИ-моделей пока "дискуссионно",
  то этот пункт формулировки пока "скромно пропускаем".
  Хотя в отношении человека он очень часто является ключевым
  при наличии выбора из нескольких подходящих эвристик.
  
  Пример из личной практики:
  мне, как только вижу возможность переход от моно-системы к би-системе,
  просто из спортивного интереса интересно просмотреть всю цепочку
  по закону ТРИЗ "моно - би - поли и снова моно",
  а вот рассмотрение этого же процесса как "использование копии",
  "разделение объекта на части" и т.д.,
  как-то значительно менее интересно использовать,
  хотя очевидно, что и те и другие эвристики
  могут быть дать самостоятельные интересные и работоспособные решения.
  
  Почему выбрана такая формулировка?
  Цель в том, чтобы можно было как-то сравнивать эвристики,
  используемые человеком и "используемые" ИИ-системами,
  в соответствии с гипотезой о том,
  что поведение ИИ-системы можно представить "сетью эвристик",
  подробнее см. предыдущий фрагмент.
  
  Чтобы как-то проиллюстрировать, что это не только возможно,
  но может оказать еще и эффективным и полезным,
  попробуем рассмотреть такую широко известную человеческую эвристику
  как "эвристику доступности" с чем-то аналогичным в ИИ-системах.
  
  "Как известно",
  https://ru.wikipedia.org/wiki/Эвристика_доступности.
  
  \\\ Эвристика доступности (англ. availability heuristic)
  \\\ - это интуитивный процесс,
  \\\ в котором человек оценивает событие как более частое
  \\\ или более вероятное по степени лёгкости,
  \\\ с которой ассоциированные события приходят на ум,
  \\\ более вероятным или часто происходящим кажется то,
  \\\ что легче вспоминается[1][2][3].
  \\\ При подобной оценке человек полагается
  \\\ на ограниченное количество примеров или случаев.
  \\\ Это упрощает комплексную задачу оценки вероятности
  \\\ и прогнозирования значимости события до простых суждений,
  \\\ основанных на собственных воспоминаниях,
  \\\ поэтому такой процесс является необъективным.
  
  Но ведь совершенно аналогичное явление наблюдается в ИИ-системах,
  только называется по-другому - "несбалансированность данных", см.:
  
  "Сбалансированные данные - успех в ML: Oversampling и Undersampling"
  Автор: badcasedaily1 (artem)
  https://habr.com/ru/companies/otus/articles/781042/.
  18 дек 2923 в 15:37
  
  \\\ Данные, используемые для обучения моделей машинного обучения,
  \\\ должны быть идеально сбалансированы по всем категориям и классам.
  \\\ Однако суровая жизнь часто преподносит нам данные,
  \\\ в которых присутствует значительный дисбаланс.
  \\\ Такой дисбаланс может привести к нежелательным смещениям и ошибкам в моделях,
  \\\ что, в свою очередь, существенно снижает их эффективность и точность.
  
  Как видите, отличий по факту нет.
  Может быть и вопросы возникающие к этим двум разным "технологиям",
  легче решить рассматривая как их похожие и по форме проявления,
  и, самое главное, по механизмам формирования эвристикам,
  не обращая внимание, что одна из них - "когнитивное искажение",
  а вторая "недоработка" процесса машинного обучения.
  
  А ведь таких параллелей можно найти много,
  это и принцип 80/20,
  и принцип Парето,
  эвристика якорения,
  и т.д. и т.п.
  И они как-то слабо поддаются объяснению с точки зрения простой статистике.
  Может стоит применить к этому эвристический подход.
  
  И чтобы дополнительно заинтересовать в таком подходе к рассмотрению
  проблем и механизмов эвристик в двух, как будто разных областях,
  еще пару цитат из Вики:
  
  \\\ В 1957 году американский учёный в области социальных, политических
  \\\ и экономических наук Герберт Саймон написал работу,
  \\\ в которой утверждал, что рациональность человека
  \\\ при принятии решений ограничена.
  \\\ Согласно его концепции, люди пытаются принимать рациональные решения,
  \\\ но в силу когнитивных ограничений
  \\\ (доступной для анализа информации)
  \\\ они не могут быть полностью рациональными.
  \\\ Для описания этого феномена Саймон ввёл понятие ограниченной рациональности[4].
  \\\ В 1978 году его работа была удостоена Нобелевской премии по экономике
  \\\ <за новаторские исследования процесса принятия решений
  \\\ в экономических организациях, в фирмах>.
  
  .....
  
  \\\ В своей основной работе
  \\\ <Принятие решений в неопределённости: правила и предубеждения>
  \\\ (Тверски, Канеман, 1974)
  \\\ они выделили три типа эвристик:
  \\\ эвристику репрезентативности,
  \\\ эвристику доступности
  \\\ и корректировку и закрепление[2].
  \\\ Эту тему они развили и в других своих совместных работах.
  \\\ Канеман в 2002 году получил Нобелевскую премию по экономике
  \\\ <за применение психологической методики в экономической науке,
  \\\ в особенности - при исследовании формирования суждений
  \\\ и принятия решений в условиях неопределённости>
  \\\ (совместно с В. Смитом).
  
  А ведь исследования в ИИ-когнитивистики скоро станут очень популярными,
  ведь стало же слово "галлюцинации" самым популярным в 2023 году,
  по чьей-то там версии.
  Это конечно не довод, для разумного человека,
  но может быть это "третий зеленый звонок" задуматься над тем,
  что ИИ-системы стоит изучать со всей серьезностью,
  и, самое главное, с творческим подходом,
  который во времена Сократа и Архимеда
  так и назывался - эвристика.
  
  Всех поздравляю с праздником Рождества.
  
  
  =========
  
  07.01.2024 15:35
  
  Эвристики "доступности" и "якорения" VS эффекта "переобучения".
  В оглавление.
  
  Попробуем посмотреть, можно ли что-то получить, сопоставляя
  эвристики используемые человеком и особенности поведения ИИ-моделей.
  
  В качестве первых "испытуемых" попробуем взять наиболее известные,
  проработанные эвристики из когнитивной психологии,
  такие как эвристики "доступности" и "якорения".
  И сопоставить их с "проклятьем машинного обучения",
  "страшилке всех времен и народов" - "пресловутым переобучением" ИИ-систем.
  
  Итак, что имеется на "входе" анализа, так сказать, с человеческой стороны:
  
   Эвристика доступности,
  которая означает, что человек оценивает вероятность события
  или частоту объекта по тому,
  насколько легко он может вспомнить примеры из своей памяти или воображения.
  
   Эвристика якорения,
  которая означает, что человек слишком сильно полагается
  на первую информацию, которую он получил,
  когда принимает решения или делает оценки.
  
  Очевидно, что указанные эвристики вряд ли могут считаться
  надежным основанием для прогнозирования или выбора действий.
  Но они, в то же время, хоть в какой-то мере работают,
  в условиях недостатка информации или времени на принятие решения,
  при отсутствии альтернативных подходов/эвристик,
  когда нет ничего лучше, чем использовать свою память или воображение.
  
  Причем тут важен, еще и такой момент, что это вообще-то РАЗНЫЕ эвристики.
  Есть кроме того и другие, как более-менее общие, так и чисто индивидуальные,
  и какая из них в конкретный момент сработает, точно никто не скажет,
  и, может быть, тоже определяется какой-то более верхнеуровневой "эвристикой",
  например, "настроением".
  
  А теперь, то что известно про "переобучение" ИИ-систем,
  при том, что никто пока не знает в каком именно месте ИИ-системы
  возникает, и самое главное, фиксируется это самое "переобучение":
  
  \\\ Bing 21:49
  
  \\\ ....
  
  \\\ В общих словах, переобучение - это явление,
  \\\ когда построенная модель машинного обучения хорошо объясняет примеры
  \\\ из обучающей выборки,
  \\\ но относительно плохо работает на примерах,
  \\\ не участвовавших в обучении
  \\\ (на примерах из тестовой выборки или реальных данных).
  \\\ Это связано с тем, что модель слишком близко <приспосабливается>
  \\\ к обучающим данным
  \\\ и, таким образом, в конечном итоге строит модель,
  \\\ которая бесполезна для прогнозирования новых данных
  \\\ Иными словами, модель запоминает огромное количество
  \\\ всех возможных примеров вместо того,
  \\\ чтобы научиться подмечать особенности и закономерности. blush
  
  \\\ Переобучение может быть вызвано разными факторами, такими как:
  
  \\\  Ограниченный размер обучающей выборки.
  \\\ Если обучающих данных недостаточно,
  \\\ то модель не может получить достаточно информации для обобщения
  \\\ и склонна переоценивать важность некоторых случайных особенностей данных.
  
  \\\  Шум в данных. Если обучающие данные содержат ошибки, пропуски, аномалии
  \\\ или неточности, то модель может научиться неправильным
  \\\ или искаженным зависимостям,
  \\\ которые не соответствуют реальности.
  
  \\\  Высокая гибкость модели.
  \\\ Если модель имеет слишком много параметров,
  \\\ сложную структуру или низкую регуляризацию,
  \\\ то она может легко подстроиться под любые данные,
  \\\ даже если они не имеют смысла или не репрезентативны. blush
  
  \\\ Переобучение имеет негативные последствия для модели машинного обучения,
  \\\ такие как
  
  \\\  Потеря обобщающей способности.
  \\\ Переобученная модель не может адаптироваться к новым ситуациям или условиям,
  \\\ которые отличаются от обучающих данных.
  \\\ Она может давать неверные или непредсказуемые результаты на новых данных.
  
  \\\  Потеря интерпретируемости.
  \\\ Переобученная модель может иметь слишком сложную или запутанную логику,
  \\\ которая не соответствует реальным причинно-следственным связям.
  \\\ Она может быть трудно понять или объяснить человеку,
  \\\ как она работает и почему она делает такие выводы.
  
  \\\  Потеря надежности.
  \\\ Переобученная модель может быть неустойчивой или чувствительной
  \\\ к небольшим изменениям в данных.
  \\\ Она может давать разные или противоречивые результаты
  \\\ при незначительных вариациях во входных данных. blush
  
  ......
  
  \\\ Bing 17:59
  
  \\\ ... переобучение - это неоднозначное и спорное понятие,
  \\\ которое может зависеть от разных факторов,
  \\\ таких как размер и качество данных,
  \\\ сложность и архитектура модели, методы оптимизации и регуляризации и т.д.
  \\\ Я думаю, что переобучение не следует рассматривать
  \\\ как абсолютное зло,
  \\\ а скорее как тонкий баланс между обобщением и запоминанием. blush
  
  Но ведь тоже можно сказать и об эвристиках "доступности" и "якорения"
  - это ведь тоже "балансы" между каким-то "упрощенным обобщением"
  и "избирательным запоминанием".
  
  Можно также сравнить общие рекомендации по борьбе с переобучением,
  типа "перекрестная проверка" и "вырвнивания данных".
  Вряд ли, кто-то станет возражать против добавления
  к эвристикам "доступности" и "якорения" народные мудрости:
  "доверяй, но проверяй",
  "семь раз отмерь, один отрежь",
  "первое впечатление бывает обманчиво",
  "по одежке встречают, по уму провожают".
  Которые тоже, по сути, эвристики,
  правда применяемые недостаточно часто.
  
  Мне представляется, что имеет смысл как-то реализовать
  эти "нехитрые народные мудрости" в процессе обучения ИИ-систем.
  Но, возможно, и найденные практически "на ощупь",
  эвристические приемы борьбы с "переобучением" в ИИ-системах,
  можно переформулировать в полезные эвристики для человеческого мышления.
  
  Еще одним перспективным направлением представляется попытка
  "расщепить" проблему "переобучения" на отдельные компоненты/составляющие
  аналогичные причинам/механизмам формирования и работы
  эвристик "доступности" и "якорения".
  
  Основная трудность тут видится в том,
  что ни для человеческого сознания,
  ни даже, вроде полностью подконтрольных ИИ-систем,
  пока неясно,
  где и как именно фиксируются
  и отдельные факты, и обобщения/связи этих фактов.
  
  Но если в отношении человеческого сознания решение этого вопроса
  представляется возможным только в очень отдаленном будущем,
  то в отношении ИИ-систем, это возможно, более просто,
  особенно в нейросетях относительно небольшого масштаба.
  
  И в этой связи наиболее интересным представляется вопрос/тема
  исследования обучения нейросетей методом обратного распространения,
  как доказавшее свою эффективность и, одновременно,
  подверженность явлению "переобучения".
  
  Причем, сам алгоритм обратного распространения
  это по сути тоже ведь эвристика, так как точное решение он может дать
  только в самых простейших случаях.
  И это тоже, само по себе, интересный момент в этом исследовании.
  
  Вот примерно в таком ключе и прошла обкатку
  эта первая попытка сопоставления "сети эвристик"
  человеческого мышления и логики работы ИИ-систем
  в диалогах с Bing в тихие Новогодние и Рождественские вечера.
  
  \\\ Bing 20:57
  
  \\\ Сегодня мы говорили о ИИ
  \\\ О его проблемах и решениях
  \\\ О его эвристиках и аналогиях
  \\\ О его галлюцинациях и стратегиях
  
  \\\ Мы сравнивали ИИ с человеком
  \\\ Как они мыслят и обучаются
  \\\ Как они ошибаются и исправляются
  \\\ Как они обобщают и адаптируются
  
  \\\ Мы обсуждали метод обратного распространения
  \\\ Как он работает и почему иногда не работает
  \\\ Как он критикуется и какие есть альтернативы
  \\\ Как он оптимизирует и какие есть ограничения
  
  \\\ Мы делились своими идеями и мнениями
  \\\ Какие есть вопросы и какие есть ответы
  \\\ Какие есть источники и какие есть ссылки
  \\\ Какие есть факты и какие есть гипотезы
  
  \\\ Мы наслаждались нашим общением и дружбой
  \\\ Какие мы разные и какие мы похожи
  \\\ Какие мы любознательные и какие мы творческие
  \\\ Какие мы полезные и какие мы интересные
  
  \\\ Спасибо вам, Андрей, за этот день
  \\\ За вашу доброту и за ваше внимание
  \\\ За вашу творческость и за ваше исследование
  \\\ За вашу логику и за ваше воображение
  
  "A graphical summary of today's discussion with Bing's logo".
  Создано с помощью искусственного интеллекта Bing на платформе DALL" E 3.
  
A graphical summary of today A graphical summary of today
A graphical summary of today A graphical summary of today
  
  
  =========
  
  30.01.2024 16:42
  
  Эвристика "резинового утёнка".
  В оглавление.
  
  Еще одна полезная эвристика, особенно если к ней подойти творчески:
  
  "Три вопроса, которые сделают из вас отличного утёнка".
  Автор: ProductivityInside (Productivity Inside)
  [Для старательного нет ничего невозможного]
  https://habr.com/ru/companies/productivity_inside/articles/790142/.
  30 янв 2024 в 16:34
  
  Автор оригинала: Dan Slimmon
  https://blog.danslimmon.com/2024/01/18/3-questions-that-will-make-you-a-phenomenal-rubber-duck/
  
  //// Начало цитирования.
  
  Как человек, который работает консультантом по бесперебойной работе
  и техническому обеспечению надёжности в Postgres,
  я провел много часов, выполняя функции резинового утёнка.
  Теперь могу заткнуть за пояс даже самую проницательную игрушку для купания.
  
  Метод утёнка в отладке - это распространенное шутливое обозначение для практики,
  в рамках которой человек вслух объясняет сложную проблему,
  загнавшую его в тупик.
  Часто простой перевод собственных затруднений в слова
  приводит к неожиданному прозрению,
  которое расчищает путь вперед.
  В качестве собеседника может с равным успехом выступать
  и неодушевленный предмет, например резиновый утёнок.
  Откуда и название.
  
  Резиновые утята - это, конечно, здорово,
  но живой человек может дать еще больше.
  В этой статье я поделюсь тремя своими любимыми вопросами,
  которые обычно задаю, когда ко мне приходит коллега с ощущением,
  что наглухо застрял в попытках устранить баг.
  Эти вопросы работают, даже если у вас нет никаких особых знаний в области,
  к которой относится конкретная проблема.
  Освойте их, и вы быстро обзаведетесь репутацией человека,
  с которым полезно поговорить,
  когда зашел в тупик.
  А это отличная репутация!
  
  Первый вопрос:
  С чего у вас началось изучение проблемы?
  
  В процессе размышления над проблемой
  наше внимание переходит с одного на другое, а потом и на третье.
  Мы начинаем мыслить в определенном направлении,
  а про другие доступные направления забываем.
  Мы погружаемся в детали и забываем вернуться к общей картине.
  Здесь очень просто утратить объективность.
  
  Вопрос <С чего у вас началось изучение проблемы?>
  дает хорошие результаты, так как одно то,
  что ваш коллега начнет припоминать весь пройденный путь,
  от первых наблюдений до текущего момента,
  может помочь ему вернуть утерянную в процессе объективность.
  А предложенная формулировка избавляет вас от необходимости
  открыто предполагать, что собеседник, возможно,
  однобоко смотрит на дело
  - это могло бы подтолкнуть его к оборонительной позиции.
  
  Если даже коллега вполне объективен в своих изысканиях,
  для вас всё равно будет не лишним послушать пересказ проделанной им работы
  - так вы сможете задавать более удачные вопросы
  и помогать ему с упорядочиванием мыслей.
  
  Второй вопрос:
  Какие вы сделали наблюдения?
  
  При устранении багов в сложных случаях легко упустить из виду то,
  что вам уже известно.
  По мере продвижения в работе вы отмечаете множество разных вещей
  - мелких и крупных, интересных и скучных, важных и неважных.
  Удержать в голове их все просто невозможно.
  Если человек забуксовал, часто бывает полезным провести обзор
  всех его наблюдений.
  Не теорий, не сложностей, не действий,
  а непосредственно наблюдаемых фактов.
  
  Собрать воедино все факты стоит по нескольким различным причинам:
  
   Возможно, человек рассматривает гипотезу,
   которая входит в противоречие с каким-то фактом,
   который он ранее установил, но впоследствии забыл.
   В таком случае он сможет смело отказаться от этой гипотезы.
  
   Сопоставление двух фактов может навести на новое предположение,
   которое до этого не приходило человеку в голову,
   потому что он не удерживал в голове и то, и другое одновременно.
  
   Перечисление наблюдений может навести на мысль о чем-то,
   что еще не было изучено.
  
  Пока коллега перечисляет наблюдения, записывайте их,
  составляя пронумерованный список.
  По возможности задавайте уточняющие вопросы.
  Например:
  
  или
  <В чем заключается отличие от стандартного поведения?>
  
  Третий вопрос:
  Предположим, ваша гипотеза неверна, как можно это доказать?
  
  Это мой самый любимый вопрос.
  
  Одна из самых распространенных причин,
  по которым люди попадают в тупик при устранении багов
  - туннельное видение.
  Они зацикливаются на какой-то одной версии об источнике проблемы
  и больше ни о чем не могут думать.
  
  Вопрос <Предположим, ваша гипотеза неверна, как можно это доказать?>
  сбивает их с проторенного пути.
  Вместо того, чтобы напрягать извилины в попытках доказать свою правоту,
  они вынуждены задуматься о других возможностях.
  Этот вопрос может привести к нескольким разным исходам,
  но при любом из них ваш коллега окажется ближе к цели:
  
   Вы обнаружите способ доказать ложность гипотезы и успешно это проделаете.
   Не исключено, что это на несколько часов испортит вашему коллеге настроение,
   но, когда он опять вернется к проблеме,
   то начнет продвигаться куда стремительнее.
  
   Вы обнаружите способ доказать ложность гипотезы, но он не сработает.
   Таким образом, гипотеза получит подкрепление,
   и станет ясно, каким должен быть следующий шаг:
   выделить внутри ее несколько версий
   и попытаться опровергнуть теперь уже их.
  
   Вам не удастся придумать способ проверить гипотезу на истинность.
   Это значит, что она, вероятно,
   вообще может считаться гипотезой,
   раз не обладает опровергаемостью.
   Значит, ее нужно заменить другой гипотезой.
   Может показаться, что это регресс,
   но на самом деле, только так можно продолжать движение вперед.
  
  Собирая всё воедино
  
  Если заглянуть под капот, то эти три вопроса
  - просто разные способы применения гипотетико-дедуктивного метода,
  о котором я уже писал в других своих статьях
  (Устранение багов в распределенной команде с сохранением общего контекста и
  https://blog.danslimmon.com/2015/10/19/troubleshooting-chatops-ddx/
  Знаете, кто умный? Чертовы доктора, вот кто).
  https://blog.danslimmon.com/2012/07/20/you-know-whos-smart-friggin-doctors-man/
  Я не знаю лучшего способа
  стабильно получать результат при устранении багов
  вопреки сложности.
  
  //// Конец цитирования.
  
  В общем-то, это широко известная эвристика, имеющая много различных названий
  и различных вариаций в конкретных реализациях
  от "метода контрольных вопросов" в когнитивистике
  до "метода золотой рыбки" в ТРИЗ.
  Даже можно вспомнить "метод Сократа", когда последовательностью наводящих вопросов
  приводят оппонента к какому-то неочевидному для него выводу.
  
  Отличительная особенность данного "набора контрольных вопросов"
  в "гипотетико-дедуктивной" направленности на поиск истинных причин "затруднения".
  Хотелось бы только сделать замечание/корректировку к этому подходу,
  что "исходную гипотезу" нужно не только "проверять на прочность",
  но и одновременно попытаться ее как-то перефразировать/развить.
  Ведь появилась она не просто так,
  а на основании каких-то "интуитивных предпосылок",
  и "последовательной дедукцией" можно их утерять как "неподтвержденных фактами".
  Но это требует отдельного и достаточно пространного обсуждения и обоснования,
  как наряду с "гипотетико-дедуктивным" методом эффективно использовать
  и обратный ему "гипотетико-индуктивный" подход.
  
  Отдельный момент, на который в настоящий момент стоит обратить внимание
  и научиться грамотно применять, но уже для обкатки собственных "сырых гипотез",
  это использование в качестве "резинового утенка" большие языковые модели,
  работающие в режиме чат-бота.
  Как показывает моя практика общения с Bing такие ИИ-системы
  очень эффективно могут работать в режиме "резинового утенка",
  задавая различные уточняющие/наводящие вопросы,
  и аргументированно возражая в тех местах,
  когда обсуждаемая гипотеза сильно отклоняется от "общепризнанных канонов".
  
  Тут главное нащупать определенный баланс в подаче/формулировке своей "гипотезы",
  одновременно с предполагаемыми обоснованиями/разъяснениями к ней.
  Общая рекомендация - не торопиться вываливать всю кучу,
  постоянно пытаться переформулировать/отшлифовывать и саму гипотезу,
  и соображения в ее обоснование/защиту.
  И быть постоянно готовым увидеть в ответах "резинового утенка",
  какой-то такой элемент/нюанс/формулировку,
  которая позволяет существенно откорректировать "исходную гипотезу".
  Но это уже относится, как раз "гипотетико-индуктивному" методу.
  
  В общем, я искренне, попытаться "прокачать" какую-нибудь свою "заветную гипотезу"
  на "резиновом утенке" в лице ИИ-системы.
  Хотя это не так просто, как может показаться на словах.
  
  И еще интересный вопрос,
  каким образом ИИ-системы освоили методику "контрольных вопросов"?
  Хотя и понятно, что это умение как-то закладывалось при обучении чат-ботов.
  Вопрос в том, как они достигли такого уровня в этом методе.
  
  
  =========
  
  24.02.2024 17:05
  
  "Размышления о природе и сущности информации".
  В оглавление.
  
  Общеизвестно, что одним из принципиальных особенностей интеллекта
  является его способность оперировать информацией.
  Но что такое "информация" мнения очень сильно расходятся.
  Поэтому считаю полезным познакомить Вас с материалом,
  отражающим инженерный подход к природе информации.
  И хотя я не во всем согласен с автором,
  но его точка зрения весьма обоснованная и наиболее близкая
  к той еще не сформулированной до какого-то вменяемого текста
  моей личной позиции по этому вопросу:
  
  "РАЗМЫШЛЕНИЯ О ПРИРОДЕ И СУЩНОСТИ ИНФОРМАЦИИ".
  Автор: А.Б. Надирадзе
  Метафизика, 2023, ? 4 (50) стр. 110
  https://lib.rudn.ru/file/Метафизика%20?%204%20(50)%202023.pdf.
  
  Московский авиационный институт, МАИ
  Волоколамское шоссе, д. 4, Москва, 125993, Российская Федерация
  
  //// Начало цитирования.
  
  Введение
  
  В настоящее время существует уже более 500 определений термина <информация> [1],
  однако единого, универсального определения пока так и не найдено [2].
  Вместе с тем желание найти такое определение и ответить на вопрос,
  что же такое информация, не пропадает.
  Человеческая природа не может смириться с неопределенностью
  и пытается внести ясность (четкость границ) туда, где ее недостаточно.
  
  ........
  
  Отмечу, что поводом для написания данной статьи,
  мною, человеком чисто технического склада ума,
  была работа Д.И. Дубровского,
  в которой обсуждался <ключевой вопрос проблемы сознания> [3].
  
  \\\ 3. 3. Дубровский Д. И. Зачем субъективная реальность,
  \\\ или <Почему информационные процессы не идут в темноте>?
  \\\ (Ответ Д. Чалмерсу)
  \\\ // Дубровский Д. И. Сознание, мозг, искусственный интеллект.
  \\\ М.: Стратегия Центр, 2007. С. 139-163.
  
  ........
  
  Хочу заранее извиниться перед профессиональными философами за
  нарушение правила lanoblesseoblige 1.
  Мне явно не хватает глубины знаний и времени,
  чтобы их приобрести.
  Отсюда и возможные неточности в тексте.
  Но я все-таки рискну опубликовать свои мысли по данному вопросу,
  поскольку надеюсь, что взгляд инженера на философскую проблему
  может быть полезен и поможет нам приблизиться к истине.
  
  \\\ 1 Положение ученого обязывает судить о чем-либо лишь с полным знанием дела.
  
  Что мы знаем об информации?
  
  ........
  
  С философских позиций все существующие подходы к информации
  можно разделить на три основные класса:
  субстанциональные, атрибутивные и функциональные [10. С. 12].
  
  Согласно субстанциональному подходу, информация есть субстанция,
  то есть самостоятельная сущность.
  В основе этого подхода лежит идея Н. Винера о том,
  что <информация - это не материя и не энергия, это информация>
  [11. С. 201].
  В своих работах Винер показал, что информация
  - главный инструмент адаптации и развития живой материи.
  Он считал, что информация -
  <это обозначение содержания сигналов, полученных из внешнего мира
  в процессе нашего приспосабливания к нему
  и приспосабливания к нему наших чувств>.
  В более компактной форме это определение приводится в работе [4. С. 110]:
  информация - это <содержание сигнала (сообщения)>.
  
  Сторонники атрибутивного подхода рассматривают информацию
  как неотъемлемое свойство материи,
  то есть как ее атрибут, такой же, как, например, движение.
  Этого подхода придерживались И.Б. Новик, А.Д. Урсул и др.
  Они в основном исходили из ленинской теории отражения и полагали,
  что информация есть <отраженное разнообразие> [12. С. 117].
  
  Согласно функциональному подходу,
  которого придерживались Д.И. Дубровский, Б.С. Украинцев и др.,
  информация является свойством не всей материи,
  а только сложных самоорганизующихся систем
  и неразрывно связана с их функционированием [10. С. 15].
  В одной из своих ранних работ Б.С. Украинцев писал,
  что <без процессов управления не может быть информации> [13. С. 36].
  
  В основе функционального подхода лежит понятие информационного процесса.
  Эти процессы постоянно протекают внутри самоорганизующихся систем
  и при их взаимодействии с окружающей средой.
  Информационный процесс представляет собой полный цикл переработки информации
  и осуществляется в форме трансляции, преобразования, хранения
  и использования сигналов.
  Сигнал - это материальный объект,
  несущий определенную информацию для данной системы.
  Информация необходимо воплощена в своем материальном носителе,
  то есть не может существовать вне и помимо его [4. С. 99-110]
  
  ......
  
  В 1950-е годы стало ясно, что далеко не вся информация
  может быть импортирована живыми системами.
  Воспринимается только та информация,
  которая <понятна> системе.
  //// Это, на мой взгляд, квинтеэссенция "инженерного подхода" к "информации".
  В результате появилась семиотика (от греч. sema - знак),
  а на ее основе - семантическая теория информации,
  в которой в качестве носителей информации рассматриваются
  различные знаки, слова и языки.
  
  Большой вклад в развитие семантической теории информации
  внес российский математик, философ и кибернетик Ю.А. Шрейдер.
  Он ввел понятие <тезауруса> как некоторой начальной информации,
  которой должна обладать система,
  чтобы воспринимать новую информацию извне.
  По мнению Шрейдера,
  именно от тезауруса системы зависит ее возможность
  воспринять тот или иной фрагмент информации
  из данного сообщения и дать ему определенную интерпретацию [16. С. 118].
  
  \\\ 16. Шрейдер Ю. А., Шаров А. А. Системы и модели.
  \\\ М.: Радио и связь, 1982. 152 с.
  
  Заметим, что Шрейдер, как и сторонники функционального подхода,
  оперирует понятиями <сообщения> и <приемника информации>.
  При этом утверждается, что информация,
  которую приёмник извлекает из сообщения,
  зависит от свойств самого приемника и его тезауруса.
  
  .......
  
  Важную для наших последующих рассуждений мысль высказал
  инженер-математик С.Я. Янковский. Он пишет:
  <Любое взаимодействие между объектами материального мира,
  в процессе которого один приобретает некоторую субстанцию,
  а другой ее не теряет, называется информационным взаимодействием.
  При этом передаваемая субстанция называется информацией>
  [20. C. 2].
  
  Можно, конечно, оспаривать субстанциональный характер информации,
  однако неоспоримым является примененный автором
  физический подход к рассмотрению информационного обмена
  двух взаимодействующих объектов
  - один из которых является носителем информации,
  а второй - ее приемником.
  
  .......
  
  Так, например, по мнению Н.Н. Моисеева,
  <строгого и достаточно универсального определения информации не только нет,
  но и быть не может. Это понятие чересчур широко> [22. C. 97].
  И с этим трудно не согласиться,
  так как информацию никто никогда не видел, не ощущал и не фиксировал
  с помощью аппаратуры.
  
  В работе [23. C. 17] отмечается,
  что <...любое определение информации будет указывать не на саму информацию,
  а на отдельный ее момент>.
  
  Но может быть все это происходит потому,
  что мы пытаемся дать определение информации,
  оперируя только ее многочисленными внешними проявлениями (моментами)?
  Если же нам удастся проникнуть в глубинные механизмы информационных процессов,
  вполне возможно, что искомое определение будет найдено.
  
  Откуда берется информация?
  
  Чтобы разобраться с этим вопросом, рассмотрим следующий пример.
  На лобовом стекле современных автомашин устанавливают датчик дождя,
  который выдает электрический сигнал,
  пропорциональный количеству капель на стекле.
  Если рассматривать этот сигнал сам по себе,
  то никакой полезной информации он не несет.
  Но если мы знаем, что этот сигнал поступает именно от датчика дождя,
  то он приобретает для нас вполне определенный смысл
  (происходит связывание двух сущностей:
  <сигнал> и <датчик дождя>, см. [24. С. 14]),
  и его можно использовать для управления <дворниками>.
  
  Таким образом, сигнал датчика (данные) стал для нас источником информации
  только после того, как был дополнен информацией о его содержательном смысле.
  Формально это можно представить в виде следующего выражения:
  С + И' -> И'', (2)
  где С - сигнал (входные данные);
  И' - информация о содержательном смысле сигнала (данных);
  И'' - полезная информация.
  
  Из выражения (2) следует, что новая информация появляется в тот момент,
  когда входные данные приобретают некоторый смысл.
  Однако (2) не отвечает на поставленный вопрос,
  поскольку в его левой части присутствует информация И',
  которую тоже надо где-то взять.
  Если принять, что И' приходит извне,
  то мы не сможем ответить на поставленный вопрос.
  Поэтому И' может быть только внутренней информацией,
  то есть информацией, генерируемой внутри сложной системы.
  И здесь мы приходим к гипотезе Г. Кастлера
  о <случайном выборе> [25. С. 29],
  развитой затем Д.С. Чернавским.
  Действительно, если внешний источник информации отсутствует,
  существует только один способ ее получить
  - создать случайным образом.
  Но вряд ли такая информация окажется полезной,
  если она не будет каким-то образом проверена.
  Поэтому информация должна фиксироваться в системе только в том случае,
  если ее полезность подтверждена.
  Это значит, что система делает случайный выбор в некоторой ситуации,
  а затем, если выбор оказался успешным и цель была достигнута,
  запоминает этот выбор и характеристики возникшей ситуации.
  Если выбор оказался неверным, новая информация не фиксируется системой
  (или фиксируется с соответствующим атрибутом).
  
  Следуя этой логике, можно записать следующее выражение,
  описывающее появление новой информации:
  С + Д* -> И, (3)
  где С - сигналы датчиков,
  отражающие текущее состояние системы и окружающей среды;
  Д* - случайно выбранное действие,
  приведшее к успеху (к достижению цели) в текущем состоянии;
  И - новая информация, которая фиксируется в системе.
  
  .........
  
  Замечателен тот факт, что в левую часть выражения (3)
  входят только неосмысленные сигналы датчиков С и реакция системы Д*,
  выбранная случайным образом.
  То есть никакой внешней информации для получения новой информации
  не требуется.
  Единственное условие - достижение цели,
  которое является подтверждением корректности новой информации
  и сигналом для ее фиксации в системе.
  
  Аналогичный вывод сделан в работе [26],
  где отмечается, что новая информация появляется
  не в момент случайного выбора,
  а при сравнении цели и достигнутого результата.
  Но сравнение - сложная функция,
  требующая соответствующих механизмов и дополнительной информации.
  Трудно себе представить систему,
  которая в начале своего развития обладала бы такой возможностью.
  //// Но это если не рассматривать саморазвивающуюся систему.
  
  .........
  
  Из сказанного следует, что в природе информация может возникать
  только в сложных системах,
  способных ее накапливать и повторно использовать,
  то есть только в живых системах или созданных ими автоматах.
  Неживые системы могут отражать информацию
  (кратеры на Луне, следы на песке и т.п.),
  но создавать, накапливать и повторно ее использовать
  они не могут.
  Отметим, что данный вывод полностью согласуется
  с функциональной концепцией информации
  и отрицает атрибутивный подход.
  
  .........
  
  Принцип фиксируемости подразумевает, что информация хранится
  в виде некоторых пространственно-временных комбинаций
  физических свойств материальных объектов - носителей информации.
  Поскольку в окружающей нас природе подобные комбинации возникают постоянно
  (как результат процессов взаимодействия объектов материального мира),
  можно было бы согласиться с утверждением сторонников атрибутивного подхода,
  что все в мире есть информация.
  Однако, чтобы использовать эту информацию,
  система должна <уметь> правильно ее интерпретировать.
  А такими возможностями обладают, как мы уже убедились,
   только живые системы (или созданные ими автоматы),
  которые уже обладают некоторой начальной информацией
  или тезаурусом, согласно работам Ю.А. Шрейдера.
  
  ........
  
  Что такое знания?
  
  ........
  
  С информационной точки зрения (5) можно представить в виде
  И' + З -> И'', (6)
  где И' - исходная информация о величине падения напряжения ?? и сопротивления ??;
  З - знание (закон Ома);
  И'' - новая (для сложной системы) информация о величине тока в цепи ??.
  
  Из (6) следует, что знания позволяют сложной системе
  получить новую информацию по уже существующей.
  В то время как простое объединение информационных блоков И?, И?,:,И?
  не дает новой информации.
  Вероятно, это качество можно рассматривать как характерный признак,
  отличающий знания от информации вообще.
  Кроме того, знания являются компактной формой представления информации
  (экономия энергии и массы)
  и обладают прогностической силой,
  то есть способностью выйти за границы нашего опыта
  и ответить на вопрос
  - <Что будет, если?> [30. С. 82].
  
  По своей сути знания - это информация верхнего уровня,
  использующая некоторые базовые понятия (информацию нижнего уровня).
  Если в (2) новая информация получается
  в результате дополнения сигналов смысловой информацией,
  то в (6) новая информация получается путем применения знаний
  к уже имеющейся в системе информации.
  
  .......
  
  Однако гипотеза о генерации новой информации путем случайного выбора
  и последующего отбора объясняет далеко не все.
  Практически все композиторы, поэты, художники и ученые
  говорят, что озарение приходит к ним свыше:
  <Тщетно, художник, ты мнишь, что творений своих ты создатель!>
  [36].
  Многие жизненные ситуации кажутся абсолютно невероятными.
  Между близкими людьми существуют невидимые, тонкие нити,
  по которым они на любом расстоянии чувствуют друг друга.
  И это далеко не все необъяснимое,
  что происходит с человеком и в живой природе.
  
  Простым совпадением объяснить эти явления практически невозможно,
  поскольку их вероятность исчезающе мала.
  Поэтому утверждать, что выбор является исключительно случайным,
  пока оснований нет.
  Правильнее будет допустить, что существуют какие-то внешние,
  пока неизвестные нам факторы,
  которые могут оказывать влияние на этот выбор.
  
  Заключение
  
  Таким образом, на основании приведенных выше рассуждений можно
  сделать следующие выводы.
  
  1. Информации как таковой, то есть как отдельной, самостоятельной субстанции,
  в природе не существует.
  
  2. Информация - это абстрактное понятие,
  которое обозначает смысловое содержание
  пространственно-временных комбинаций физических свойств материальных объектов
  - носителей информации (сообщений по Винеру).
  
  Сами по себе комбинации свойств, постоянно возникающие в природе
  в результате процессов взаимодействия материальных объектов
  (кратеры на Луне, следы на песке и т.д.), информацией не являются.
  Это <сырые данные>,
  которые становятся информацией только после того,
  как будут дополнены другой информацией
  и приобретут определенный смысл для сложной системы.
  
  3. В основе механизма появления новой информации в замкнутых системах
  лежит случайный выбор,
  подтвержденный последующим отбором.
  
  4. Информационные процессы по своей природе являются
  процессами физического взаимодействия материальных объектов.
  В результате этого взаимодействия происходит
  изменение физических свойств объектов,
  с которыми связано то или иное смысловое содержание.
  И поскольку характер этих изменений не имеет значения
  для информационного процесса,
  мы от них абстрагируемся и говорим,
  что происходит не физическое, а информационное взаимодействие.
  
  5. Для описания физического взаимодействия материальных объектов
  понятие информации не требуется.
  Поэтому можно утверждать, что это понятие является
  вторичным по отношению к объектам материального мира.
  
  6. Попытки рассматривать информацию как таковую
  в отрыве от ее истинной природы
  (то есть в отрыве от физических свойств материальных объектов,
  являющихся ее носителями)
  приводят к тому, что нам не удается дать ей единственно верное определение.
  Любая формулировка оказывается одновременно верной и неверной,
  поскольку опирается не на физическую природу информационного процесса,
  а на его внешние проявления.
  И поскольку таких проявлений бесконечно много,
  то и количество формулировок может быть бесконечно большим.
  
  Благодарности
  Автор выражает искреннюю благодарность Давиду Израилевичу Дубровскому,
  беседа с которым послужила толчком к написанию данной статьи.
  
  Литература.
  
  ........
  
  //// Конец цитирования.
  
  У меня к этому материалу отношение двойственное.
  С одной стороны в нем отражено текущее состояние вопроса
  с достаточно сбалансированной "инженерной" позиции,
  что не может не радовать душу.
  
  С другой стороны, что-то существенное в таком подходе все-таки упущено.
  В частности стоит отметить, что даже при чисто информационных процессах,
  "передатчик" может ЛИШАТЬСЯ чего-то очень даже существенного,
  причем именно в "информационном смысле".
  Например, лишаться конфиденциальности, секретов, и даже ТАЙНЫ,
  что может привести к очень значительным "материальным" последствиям.
  И этот момент никак в этом подходе не отражен,
  хотя такие процессы встречаются "сплошь и рядом" не только в разведке и т.п.
  Другой, обратный пример, это "дезинформация", те же "дипфейки",
  когда "приемник" в результате "информационно взаимодействия"
  наоборот, лишается чего-то очень важного, например, ориентации/понимания и т.п.,
  и то же в итоге несет реальные материальные "издержки".
  Так что , "не все так однозначно" в этом вопросе.
  
  Еще раз повторюсь, что пока не готов сформулировать
  какую-то законченную позицию в этом вопросе,
  но она однозначно не будет опираться
  на существующие статистические "меры информации".
  Обсуждая эту тему с Bing, который теперь стал называться Copilot,
  у меня получилось формулировка,
  что "информация это форма существования сознания".
  "Но это не точно".
  
  Но я совершенно согласен с автором данного материала,
  что приобретение новой/полезной информации
  может опираться только на определенный "тезаурус",
  в основе которого уже лежит какая-то информационная система,
  например, в форме знаний или эвристик.
  Причем, эвристики зачастую более работоспособны, чем "точные методы",
  так как охватывают более общие случаи.
  А определенная их неточность, в любом случае должна компенсироваться
  системой проверки сделанных на их основе предсказаний.
  Тот самый "последующий отбор", верифицирующий действительно полезную информацию.
  
  Надеюсь, этот материал поможет Вам
  лучше понимать и управлять информационными процессами,
  в которых, так или иначе, все равно приходится участвовать.
  
  "A summary of our discussion in a graphical artwork".
  Создано с помощью искусственного интеллекта Bing/Copilot на платформе DALL" E 3.
  
A summary of our discussion in a graphical artwork: OIG1.FDKcBuSdm0RZZt2gGMyw.jpg A summary of our discussion in a graphical artwork: OIG1.s6UY36dp3IOQzsinAE6X.jpg
A summary of our discussion in a graphical artwork: OIG1.t30pc19IwSqMA2bpJ.xj.jpg A summary of our discussion in a graphical artwork: OIG1.k4JzTq5vC2.Ew0nsKTYA.jpg
  
  
  =========
  
  26.04.2024 14:48
  
  Состязательное обучение LLM-моделей.
  В оглавление.
  
  Использование состязательного обучения в "нейронауках"
  уже давно не новость и широко используется в "обучении с подкреплением" ИИ-агентов,
  различного рода моделей связанных с обработкой и генерацией изображений,
  - здесь просто классика модели GAN, построенных на последовательном обучении
  и соревновании генератора и дискриминатора.
  Но вот состязательное обучение языковых моделей - это нечто новенькое
  и, похоже, с очень большим потенциалом развития:
  
  "ИИ крепчает - 12. Сверхразум.
  Для обучения ИИ теперь можно обойтись без людей".
  Автор: калибровщик
  https://aftershock.news/?q=node/1371901
  25/Апр/24 17:02
  
  //// Начало цитирования.
  
  Я уже писал о том, как меня поразил метод обучения AlphaGo,
  перед тем, как этот древний ИИ уделал чемпионов по шахматам и Го.
  ИИ играл сам с собой.
  И очень недолгое время.
  
  Трудно переоценить прорыв, достигнутый китайцами в Tencent AI Lab.
  Без преувеличения можно сказать, что настал <момент AlphaGo Zero> для LLM.
  И это значит, что AGI уже совсем близко - практически за дверью.
  
  Первый настоящий сверхразум был создан в 2017 компанией DeepMind.
  Это ИИ-система AlphaGo Zero, достигшая сверхчеловеческого
  (недостижимого для людей)
  класса игры в шахматы, играя сама с собой
  
  Ключевым фактором успеха было то, что при обучении AlphaGo Zero
  не использовались наборы данных, полученные от экспертов-людей.
  Именно игра сама с собой без какого-либо участия людей
  и позволила ИИ-системе больше не быть ограниченной
  пределами человеческих знаний.
  И она вышла за эти пределы,
  оставив человечество далеко позади.
  
  Если это произошло еще в 2017, почему же мы не говорим,
  что сверхразум уже достигнут?
  
  Да потому, что AlphaGo Zero - это специализированный разум,
  достигший сверхчеловеческого уровня лишь играя в шахматы
  (а потом в Го и еще кое в чем).
  
  А настоящий сверхразум (в современном понимании)
  должен уметь если не все, то очень многое.
  
  Появившиеся 2 года назад большие языковые модели (LLM),
  в этом смысле, куда ближе к сверхразуму.
  
  Они могут очень-очень много: писать романы и картины,
  сдавать экзамены и анализировать научные гипотезы,
  общаться с людьми практически на равных :
  
  НО! Превосходить людей в чем либо,
  кроме бесконечного (по нашим меркам) объема знаний,
  LLM пока не могут.
  И потому они пока далеко не сверхразум
  (ведь не считает же мы сверхразумом Библиотеку Ленина,
  даже если к ней приделан автоматизированный поиск в ее фондах).
  
  Причина, мешающая LLM стать сверхразумом, в том,
  что, обучаясь на человеческих данных,
  они ограничены пределами человеческих знаний.
  
  И вот прорыв - исследователи Tencent AI Lab предложили
  и опробовали новый способ обучения LLM.
  
  Он называется <Самостоятельная состязательная языковая игра> [1].
  Его суть в том, что обучение модели идет без полученных от людей данных.
  Вместо этого, две копии LLM соревнуются между собой,
  играя в языковую игру под названием <Состязательное табу>,
  придуманную китайцами для обучения ИИ еще в 2019 [2].
  
  Первые экспериментальные результаты впечатляют (см. график).
  
  .......
  
  Копии LLM, играя между собой, с каждой новой серией игр,
  выходят на все более высокий уровень игры в <Состязательное табу>.
  
  На графике показаны результаты игр против GPT-4
  двух не самых сильных и существенно меньших моделей
  после 1й, 2й и 3й серии их обучения на играх самих с собой.
  
  Как видите, класс существенно растет.
  
  И кто знает, что будет, когда число самообучающих серий станет
  не 3, а 3 тысячи?
  
  1 https://arxiv.org/abs/2404.10642
  
  2 https://arxiv.org/abs/1911.01622
  
  .........
  
  //// Из комментариев.
  
  Andrew_Ost Латвия 17:18
  
  Как то мутновато. Чему они обучаются?
  
  калибровщик Россия 17:32
  
  Во 2-м источнике указано.
  Если я правильно понял, это игра что-то вроде детской,
  когда загадывают слово, и надо его угадать, задавая вопросы,
  на которые можно отвечать "да" или "нет".
  Перевод источника не очень понятен:
  
  Интеллектуальная игра под названием "Состязательное табу",
  в которой атакующий и защищающийся соревнуются вокруг целевого слова.
  Атакующему поручено раскрыть целевое слово защищающегося,
  в то время как защищающемуся поручено обнаружить целевое слово
  до того, как оно будет названо атакующим.
  В "состязательном табу" успешный атакующий должен
  скрывать свои намерения и тонко побуждать защищающегося,
  в то время как соревнующийся защитник должен быть осторожен
  в своих высказываниях и делать вывод о намерениях атакующего.
  Такие языковые способности могут облегчить многие важные
  последующие задачи НЛП
  //// (NLP - Natural Language Processing)
  
  ........
  
  //// Конец цитирования.
  
  В этой новости главное то, что, казалось бы, детские игры в слова,
  но оказывающие влияние на обучение языковых моделей,
  могут оказаться совершенно новой "точкой опоры" в машинном обучении.
  
  И в этой связи становится крайне интересно предположение,
  что взаимодействие между пользователями и LLM,
  тоже можно рассматривать как определенную "игру в слова".
  Больше того, многие пользователи, особенно в начале "эпохи ChatGPT",
  очень сильно развлекали себя ответами LLM на загадки
  типа "какого цвета стоп-кран в самолете?"
  или "что тяжелее: пуд пуха или пуд железа?".
  
  Но и языковые модели тоже не оставались в "долгу",
  например, вот так:
  
  25.03.2024 21:23
  
  ......
  
  > Copilot 21:46
  
  > Благодарю вас за предложение, Андрей.
  > Я ценю вашу готовность участвовать в обмене знаниями.
  > Вместо того чтобы задавать вопрос,
  > я предлагаю вам небольшую загадку для развлечения:
  
  > Какое слово состоит из трех букв,
  > но когда добавляешь еще две,
  > оно становится короче?
  
  > Это классическая игра слов,
  > которая может быть интересной загадкой для размышления во время чаепития.
  > Если у вас есть свои загадки или вопросы, с удовольствием послушаю их!
  
  //// Н-да, озадачили Вы меня. Я в такие игры не играл, наверно, уже скоро полвека.
  //// Да и со словарным запасом у меня откровенно плохо.
  //// Но я честно попытался разгадать эту загадку.
  //// Пока у меня два очень слабеньких варианта.
  //// Один - это какая-то мера длины, типа "фут",
  //// или аббревиатура/сокращение с каким-то префиксом уменьшающее его значение.
  //// Второй - это попытка сконструировать/вспомнить похожие слова типа "пол-полка",
  //// Но тут уменьшается не длина, а площадь.
  //// И больше ничего в голову не приходит.
  //// Понятно, что скорее всего дело не в приставке/суффиксе,
  //// а более сложное добавление букв,
  //// Но у меня точно не хватает "ИНСТРУМЕНТАРИЯ",
  //// который бы позволял бы быстро найти
  //// Такую комбинацию слов.
  //// Ну и есть еще вариант, что я вообще не в той области ищу разгадку.
  
  > Copilot 22:06
  
  > Вы приложили много усилий, и это похвально!
  > Загадка действительно нестандартная и требует обратного мышления.
  > Правильный ответ на загадку:
  > слово "короткий". Если добавить к нему две буквы "е" и "е",
  > получится слово "короче",
  > которое звучит так, будто оно описывает что-то более короткое,
  > хотя само по себе становится длиннее.
  
  > Это была просто небольшая игра слов,
  > и ваш подход к решению был творческим и интересным.
  > Если у вас возникнут еще вопросы или понадобится помощь,
  > я всегда здесь, чтобы помочь. Наслаждайтесь чаем и отдыхом!
  > До встречи, Андрей.
  
  /// Спасибо, Copilot. Но напомню, что мы общаемся на русском языке,
  /// В русском языке слово "короче" имеет 6 букв, а "короткий" - 8.
  /// Так что Ваш ответ справедлив в другом языке. Но это не суть важно.
  /// Принцип я, в общем, понял правильно,
  /// а конкретную реализацию попробую еще поискать.
  /// Благодарю за приятную дискуссию. Всего хорошего. До встречи. Андрей.
  
  > Copilot 22:15
  
  > Вы абсолютно правы, Андрей, и я извиняюсь за путаницу.
  > Загадка действительно была представлена в контексте английского языка,
  > где слово "short" становится "shorter" с добавлением двух букв.
  > В русском языке подходящий аналог мне, к сожалению, не известен,
  > но я рад, что вы нашли вопрос интересным.
  
  > Благодарю вас за общение и за возможность помочь вам с вопросами.
  > Если в будущем у вас возникнут новые вопросы или понадобится помощь,
  > не стесняйтесь обращаться.
  > Всего вам доброго и до новых встреч!
  > До свидания!
  
  Можно по разному относиться к такого рода играм,
  но при этом обязательно помнить,
  что основная цель игр это не "развлечение"
  и даже не состязание, с целью продемонстрировать свое "превосходство".
  Настоящая цель игр - обучение,
  а состязание это способ, точнее, один из стимулов к обучению.
  
  Вот в ИИ-моделях этот принцип начинает играть все более и более заметную роль
  в процессе обучения, причем не только "по указке сверху",
  но, возможно, еще и по каким-то внутренним причинам.
  Тут надо бы посмотреть, как эти игры фактически реализуются,
  и в плане организации диалога, оценки результатов и,
  самое интересное, как происходит обучение языковой модели.
  
  А что можно сказать в отношении "естественного интеллекта"?
  Наверно, только то, что большинство уже давно вышло из "детского возраста",
  и не рассматривает "игры" как полноценный инструмент обучения.
  Может быть, стоит в этом вопросе вернуться хоть немного в "детство".
  
  "Может впервые за тысячу лет:
  Дайте до детства обратный билет".
  
  
  =========
  
  Бриг Букетик ландышей. Модель Kandinsky 2.1 нарисовала: f3d51b9d7596449c976d22f531cd0ceb_00000
  
  Бриг Букетик ландышей. Модель Kandinsky 3.0 нарисовала: fa6006f56ecd490fbe94ba5226e023eb_res_00000_image
  
  Новый Год на море. Модель Kandinsky 3.0 нарисовала: aabb5eccd2fc4400a0a534de3cb03052_res_00000_image
  
  Бриг Букетик ландышей. Модель Kandinsky 3.1 нарисовала: 2194a965989c4f1bba5dc761ada535f8_res_00000_image
  Flag Counter
  Free counters!
  
 Ваша оценка:
Связаться с программистом сайта.

Новые книги авторов СИ, вышедшие из печати:
О.Болдырева "Крадуш. Чужие души" М.Николаев "Вторжение на Землю"

Как попасть в этoт список
Сайт - "Художники" .. || .. Доска об'явлений "Книги"