Кинтар : другие произведения.

Отягчающие подробности

Самиздат: [Регистрация] [Найти] [Рейтинги] [Обсуждения] [Новинки] [Обзоры] [Помощь|Техвопросы]
Ссылки:


 Ваша оценка:
  • Аннотация:
    Перевод эссе Элизера Юдковского - Burdensome Details - http://lesswrong.com/lw/jk/burdensome_details/

Небольшая сопутствующая деталь, призванная добавить артистичной правдоподобности рассказу, ранее неубедительному.
Пу-Ба, из оперы Гильберта и Саливана "Микадо, или город Титипу"

К заблуждениям связности относятся все случаи оценки вероятности P(A&B) выше, чем вероятности P(B) (одна из основных теорем теории вероятностей гласит - P(B) <= P(A&B)). Например, в рамках одного из экспериментов 1981 года, 68% опрошенных сочли, что событие "Рэйган обеспечит государственную поддержку незамужним матерям и сократит государственную поддержку органов местного самоуправления" более вероятно, чем "Рэйган обеспечит государственную поддержку незамужним матерям".

Длинная серия остроумных экспериментов, утвердившая стандартную интерпретацию и отсекшая альтернативные гипотезы, подтвердила, что заблуждение связности возникает из-за того, что мы "заменяем суждение о вероятности суждением о представительности". Добавляя дополнительные детали, мы можем сделать исход более характерным для процесса, его породившего. Вы можете сделать более правдоподобным высказывание, что Рэйган обеспечит государственную поддержку незамужним матерям за счет добавления высказывания, что Рэйган также сократит государственную поддержку органов местного самоуправления. Неправдоподобность одного высказывания уравновешивается правдоподобностью другого; вместе они выглядят "средне".

Стоит заметить: Добавление подробностей может заставить сценарий ВЫГЛЯДЕТЬ БОЛЕЕ ПРАВДОПОДОБНО, но при этом, он неизбежно становится МЕНЕЕ ВЕРОЯТНЫМ.

Говоря гипотетически, мы легко можем найти футуристов, рисующих бессознательно правдоподобные и детальные видения будущего, или людей, поглощающих огромные пакеты неподтвержденных заявлений в комплекте с двумя-тремя хорошо звучащими допущениями.

Если мы встречаемся с заблуждением связности в его прямой, незамутненной форме, мы, вероятно, можем сознательно поправить себя конкретно для этой проблемы. Но это всего лишь заплатка на проблему, а не исправление ее в общем.

В рамках эксперимента 1982 года, профессиональные предсказатели выдавали большую вероятность события "Россия введет войска в Польшу, что повлечет за собой приостановку дипломатических отношений между США и СССР", по сравнению с "Приостановление дипломатических отношений между США и СССР", при этом, каждой группе испытуемых предлагалось к оценке одно высказывание. Какая стратегия могла бы помочь группе предсказателей избавиться от заблуждения связности, в случае, когда никто не знает о наличии сравнения? Когда никто из них не знает даже, что эксперимент - о заблуждении связности? Как они могли бы улучшить свои вероятностные суждения?

Исправление одного, выделенного, случая не решает общей проблемы. Случай лишь симптом, а не болезнь. Это примерно столь же бесполезно, как запрещать перочинные ножики в самолетах.

Что могли бы сделать предсказатели, чтобы избежать заблуждения связности без знания о прямом сравнении, или даже без знания о том, что кто-то собирается тестировать их на заблуждения связности? Мне кажется, им стоило бы заметить слово "и". Стоит пугаться этого слова - не просто пугаться, а прямо таки отпрыгивать от него. Даже без знания о том, что исследователи будут потом проверять их работу на предмет заблуждений связности. Им стоило бы заметить связанность двух отдельных подробностей, и быть шокированными тем фактом, что кто-либо просит их оценить вероятность столь сложной цепи событий. И им следовало бы занизить выдаваемую вероятность - как минимум, раза в 4, в среднем.

Возможно, мысль о различных возможных причинах приостановления дипломатических отношений между Советским Союзом и США также могла бы помочь предсказателям. Предполагаемый сценарий не "США и Советский союз внезапно и беспричинно приостанавливают дипломатические отношения", но "США и Советский союз приостанавливают дипломатические отношения по какой-либо причине".

А те опрашиваемые, которые предпочли "Рэйган обеспечит государственную поддержку незамужним матерям и сократит государственную поддержку органам местного самоуправления? Снова, им стоило быть шокированными словом "и". Более того, следует складывать абсурдность - там, где абсурдность может быть выражена в числовом виде, и, следовательно, может быть сложена - вместо того, чтобы усреднять их. Они должны были подумать "Рэйган может сократить или не сократить государственную поддержку органам местного самоуправления(1 бит абсурдности), но не похоже, чтобы он обеспечил государственную поддержку незамужним матерям(4 бита абсурдности). Общая абсурдность: 5 бит". Или.. "Рэйган не будет поддерживать незамужних матерей. Просто не будет. Другое предположение делает это высказывание еще хуже".

Аналогично, представьте 6-сторонний кубик с четырьмя зелеными и двумя красными сторонами. Опрашиваемым предлагалось выбрать, какая из последовательностей с большей вероятностью выпадет за 20 бросков: "КЗККК", "ЗКЗККК", или "ЗККККК". 65% опрошенных выбрали ЗКЗККК, вероятность которой в любом случае меньше, чем КЗККК, так как любая последовательность, содержащая ЗКЗККК, также содержит и КЗККК. Как можно было бы улучшить предсказание? Заметив вхождение? Возможно; но это всего-лишь заплатка, не решающая проблему в общем. С помощью точного подсчета вероятностей? Это решит проблему с кубиками в общем, но точный подсчет вероятностей возможен не всегда.

Опрашиваемые проигрывали эвристически, думая: "Ага! Вторая последовательность имеет максимальное соотношение зеленых к красным! Я должен выбрать ее!". Чтобы победить эвристически, им стоило думать "Ага! Первая последовательность короче! Я должен выбрать ее!"

Стоило бы чувствовать Бритву Оккама сильнее - ощущать каждую дополнительную подробность как тяжкую ношу, даже если это всего лишь один бросок кубика.

Однажды я разговаривал с человеком, очарованным неосторожным футуристом. (Одним из тех, кто добавляет много прекрасно звучащих подробностей). Я попытался объяснить, почему я не очарован этими замечательными теориями. Я рассказал ему про заблуждение связности, конкретно про эксперимент о "приостановке отношений с/без вводом войск в Польшу". И он сказал "Хорошо, но как это связано?". И я ответил - "более вероятно, что вселенные множатся по любой из причин, чем то, что они множатся через черные дыры, потому, что развитые цивилизации создали черные дыры, потому, что вселенная эволюционировала для того, чтобы дать им сделать это". И он ответил: "Ох."

До этого, он не ощущал эти дополнительные детали как дополнительную ношу. Вместо этого, они ощущались как подтверждения, добавляющие правдоподобности. Кто-то предложил набор странных идей, одна из которых была, что вселенные множатся. После этого, они предложили подтверждения тому, что вселенные - множатся. Но это не было подтверждением для набора идей, несмотря на то, что рассказывалось одной историей.

Ты должен отделять подробности друг от друга. Должен рассматривать каждую из них в отдельности, задаваясь вопросом "Откуда мы знаем эту подробность?" Некто создал набросок человечества, вошедшего в эпоху нанороботов, где Китай отказался подписывать международный ограничительный договор, что послужило толчком к началу гонки вооружений.. Подождите - откуда мы знаем, что это был именно Китай? Это подсказал нам карманный шар для предсказаний? Откуда взялись все эти подробности? Откуда взялась конкретно эта подробность?

Ибо записано:

Можешь облегчить свою ношу - сделай это.

Любой травинке достанет силы переломить тебе спину.


 Ваша оценка:

Связаться с программистом сайта.

Новые книги авторов СИ, вышедшие из печати:
О.Болдырева "Крадуш. Чужие души" М.Николаев "Вторжение на Землю"

Как попасть в этoт список
Сайт - "Художники" .. || .. Доска об'явлений "Книги"