Продолжаю конспектировать статьи Элиезера Юдковского о рациональности и когнитивных искажениях.

1. Сверхуверенность ничем не лучше неуверенности.
2. Убеждения могут застревать в голове, влияя на будущие наблюдения и искажая реальность. Когда нависла угроза над чем-то дорогим нам — мировоззрением, социальным статусом или чем-либо еще, наши мысли и даже восприятие спешат на защиту.
3. Когда мы защищаем наши убеждения, то можем выдумывать хрупкие причины, не имеющие никакого отношения к тем, благодаря которым мы действительно пришли к таким убеждениям. Вместо того, чтобы судить объяснения на основе их предсказательной силы, мы пытаемся найти смысл в том, что, как нам кажется, мы знаем.
4. Техники рациональности помогают выжать больше из имеющихся свидетельств в тех случаях, когда они неоднозначны или когда наши искажения и пристрастия мешают интерпретировать их.
5. Существует дилемма лжи или софизм компромисса: если реальность принять опасно, то следует поддерживать ложь и считать её благородной. Однако рационально создать третью альтернативу. Часто человек поддерживает ложь просто потому, что не хочет найти альтернативу или боится её принять.Чтобы сделать лучше, следует спросить себя: «Если бы я увидел альтернативу, превосходящую мою текущую, то обрадовался бы или замешкался?». Если нет, то вы её не ищете.
6. В жизни недостаточно сравнивать варианты. Варианты нужно создавать.
7. Когда шансы на успех нам не подходят, люди часто выбирают самый доступный возможный вариант — сдаться.
8. Всякий раз, когда кто-то говорит мне «перфекционизм плох для тебя», я отвечаю: «Я думаю, что нормально быть несовершенным, однако не столь несовершенным, чтобы это замечали другие люди».
9. Когда люди думали, что Земля плоская, они ошибались. Когда они думали, что она сферическая, — они тоже ошибались. Но если вы думаете, что считать её сферой или плоскостью одинаково ошибочно, вы заблуждаетесь больше, чем все они вместе взятые.
10. Безоговорочные факты — не то же самое, что и безоговорочные убеждения. Рационалист может признать, что 1+1=3, а вот христианин вряд ли станет мусульманином под воздействием каких-то обстоятельств.
11. Рациональность других людей — это и ваше дело тоже. В ваших интересах избавить людей от их конгнитивных ошибок.
12. Просто попытайтесь сопротивляться соблазну сделать добротный ощутимый язвительный комментарий, если этого возможно избежать. Не имеет никакого значения, кто виноват на самом деле, и что мы думаем по этому поводу. Возможность обсуждать щекотливые вопросы, не скатываясь в цветную политику, очень полезна для духовного развития нашего сообщества.
13. Аргументы — это солдаты политики. Если вы определились на какой вы стороне, то вы должны поддерживать аргументы этой стороны и атаковать аргументы, которые говорят в пользу другой стороны; иначе получится, будто вы предаете своих солдат. Если вы находитесь внутри этого шаблона, то политические дебаты будут для вас однобокими — издержки и недостатки вашей любимой политики будут для вас вражескими солдатами, которых следует атаковать всеми возможными методами.
14. Люди превращают обсуждение в битву, продолжение войны, спорт; и в спорте вам нужно следить только за тем, сколько очков набрала ваша команда и команда противника. Там есть только две стороны, и каждое очко, проигранное одной стороной приносит очко другой стороне. Каждый в обсуждении мысленно ведет счет, у какого оратора больше очков в споре. В конце дебатов победителем получается тот, у кого очков больше; и таким образом, все что он сказал, должно быть истинно, а все, что говорил его противник, соответственно, ложно. Это нерационально. Все аргументы спорящих следует рассматривать отдельно, и не связывать преимущества одних с недостатками других.
15. Фундаментальная ошибка атрибуции — склонность делать выводы об уникальных и постоянных чертах человека на основе его поведения, которое может полностью объясняться ситуацией, в которой он находится. Кажется интуитивным объяснять дождь водными духами; объяснять огонь некоей огненной субстанцией (флогистоном), которая проистекает из горящей материи; объяснять усыпляющий эффект лекарства его «снотворной силой». Но реальность обычно включает в себя более сложные механизмы: циклы испарения и конденсации лежат в основе дождей, окисляющее горение в основе огня, химическое воздействие на нервную систему для снотворных. Однако механизмы звучат куда сложнее, нежели сущности; о них труднее думать, их сложнее понять. И таким образом, когда кто-либо пинает автомат, нам проще думать, что он имеет внутреннюю склонность пинать автоматы. Но только до тех пор, пока мы сами не оказываемся на месте пинающего — в этом случае мы считаем, что ведем себя совершенно нормальной в данной ситуации; конечно же любой бы так делал. На самом деле мы переоцениваем вероятность того, что другие отреагировали ли бы так же как и мы — это так называемый «эффект ложного консенсуса». Пьющие студенты ощутимо переоценивают долю их товарищей, которые тоже пьют, однако непьющие наоборот — недооценивают количество пьющих. «Фундаментальная ошибка атрибуции» говорит о нашей склонности объяснять поведение других их внутренней диспозицией (их личностными чертами), при этом меняя данную тенденцию на обратную для самих себя (свое поведение мы объясняем внешней диспозицией или обстоятельствами).
16. Чтобы понять, почему люди действуют так, как они действуют, нам нужно прежде всего осознать, что каждый человек считает свое поведение абсолютно нормальным.
17. Часто люди боятся правды, потому понимание приведет к прощению. Куда легче просто застрелить злодея. Куда легче идти в бой с кличем: «Умрите, порочные мерзавцы!» — нежели с кличем: «Умрите, люди, такие же как и я, но выросшие в других условиях!». Если думая о враге вы ощущаете невыносимую печаль, то возможно сейчас видите мир таким, каков он есть.
18. Чтобы по-настоящему спорить с идеей, вы должны противостоять лучшим аргументам её сильнейших защитников. Спор со слабейшими ничего не докажет, поскольку даже самая сильная идея привлекает слабых защитников. Приведение примера людей, которые явно сошли с ума на почве идеи, не является свидетельством против самой идеи.
19. Ваше инстинктивное желание верить во что-либо будет меняться согласно вашему желанию походить на знакомых вам людей, которые в это верят — вне зависимости от того, насколько истинно само убеждение.
20. Если сотни изобретателей не смогли построить летающие машины из металла, дерева и ткани — это не подразумевает, что на самом деле вам нужна машина из костей и плоти. Если тысячи проектов провалились при попытке создать ИИ на основе электрических схем, это не значит, что корень всех проблем в электричестве. Пока вы не поймете проблему, любые манипуляции, сделанные наугад, вряд ли помогут вам найти решение.

Продолжение саммари.