Саммари на LessWrong, часть I

LessWrong — это международное сообщество о рациональном мышлении и когнитивных искажениях. Оно выросло из блога калифорнийского учёного Елиезера Юдковского, специалиста по искусственному интеллекту и автора книги «Гарри Поттер и методы рационального мышления»

Это большое сообщество с форумами, статьями, книгами и регулярными встречами в разных городах. Русскоязычная часть этого сообщества перевела серию статей Юдковского и запустила сайт с ними. Статей довольно много, по объему хватит на целую книгу.

Я понемногу читаю перевод статей Юдковского и веду для себя конспект. Это помогает бороться с трудным слогом и ореолом таинственности, что встречаются в тексте. Буду постепенно делиться с вами конспектом. Напомню, что это не цитаты, а моё упрощённое переложение мыслей Юдковского.

  1. Человек изучает мир с помощью разных методов. Эти методы могут иметь ошибки, и тогда изучение приводит к заблуждениям.
  2. Ошибки бывают случайными и регулярными. Регулярные ошибки называют когнитивными искажениями. Проблема когнитивных искажений в том, что они меняют картину мира незаметно. Нам кажется, что мы не ошибаемся, а на самом деле поступаем неправильно.
  3. Чтобы уменьшить когнитивные искажения, нужно научиться рациональному мышлению.
  4. Рациональное мышление — это не про то, чтобы быть суровым и гиперинтеллектуальным, с подавленными эмоциями, как часто показывают в кино. Рациональное мышление помогает осознать свои эмоции. Иногда быть рациональным значит не рассуждать, а отдать себя на волю чувств.
  5. Рациональный человек чаще достигает своих целей. Он делает лучшие выборы.
  6. Мы часто принимаем решения быстро, почти незаметно. В такие моменты сознание использует когнитивные эвристики — наборы правил для принятия решений. Обычно эвристики экономят время и приводят к верному решению. Но иногда мы полагаемся на них и ошибаемся. Рациональное мышление учит притормаживать на поворотах и борется с неправильными эвристиками.
  7. Пример неправильной эвристики — эвристика репрезентативности. Мы оцениваем феномен, основываясь на том, насколько он характерен по отношению к разным категориям. Стив более вероятно является застенчивым библиотекарем, или застенчивым продавцом? Большинство людей будет думать над этим, анализируя насколько «застенчивость» сочетается с стереотипами этих профессий. Мало кто думает, что продавцов во много раз больше библиотекарей.
  8. Другая неправильная эвристика — заблуждение невозвратных затрат. Мы часто продолжаем заниматься бесполезным делом просто потому, что начали его и не можем бросить. Хотя на самом деле нужно сжечь мосты и двигаться дальше.
  9. Еще есть эвристика доступности. Люди оценивают вероятность события по тому, насколько легко приходят на ум примеры этого события. Если друзья автомобилиста и он сам не попадали в аварию, то вероятность аварии кажется небольшой. На самом деле относительная вероятность у всех одинакова.
  10. При этом нельзя считать, что долгие, вдумчивые суждения всегда вернее быстрых, поверхностных. Можно быстро принять верное решение, и ошибиться, думая долго.
  11. Часто рациональность преподносят как единственно верный способ мышления. Это опасно. Безусловная рациональность теряет все степени свободы и превращается в деспотичный первобытный обычай. Люди получают неверный ответ и возмущённо утверждают, что они действовали в точности по правилам — вместо того, чтобы учиться на ошибках.
  12. Всё, что может быть разрушено правдой, должно быть разрушено. Всё, что подпитывается правдой, должно процветать.
  13. Нельзя игнорировать что-то лишь потому, что ты не знаешь, как это определить. Можно не помнить уравнение относительности и упасть с обрыва.
  14. Когда нас просят оценить затраты на воплощение проекта, мы начинаем рисовать в голове идеальную картину, забываем учесть непредвиденные обстоятельства. На деле многое идёт не так. Но даже если заставишь себя мыслить пессимистично, это вряд ли поможет. Рационально найти пример подобного проекта в прошлом и узнать о затратах, которые на него отведены — и отталкиваться от этой оценки.
  15. Есть посторонние люди, что знают меньше деталей конкретного задания, но знают оценку затрат похожего проекта. Их выводы менее оптимистичны и более точны, чем у тех, кто проводит планирование.
  16. Когда люди знают исход ситуации, то ошибочно считают, что могли бы заранее предсказать его. Но это не так. С этим тесно связана иллюзия прозрачности: мы всегда знаем, что означают наши слова, и мы ожидаем, что остальные тоже это знают. Мы правильно понимаем смысл, читая написанное нами, обладая знаниями о том, что мы действительно имели в виду. Этим смыслом сложно поделиться с кем-то, кто будет руководствоваться лишь словами.
  17. Как заметили Кейсар и Барр, за два дня до атаки Германии на Польшу Чемберлен послал письмо, вложив туда намерение показать, что Британия вступит в бой, если вторжение состоится. Письмо, составленное из дипломатичных выражений, было воспринято Гитлером, как примирительное — и танки поехали. Так что не стоит винить тех, кто недопонял твои очевидные слова, в разговоре или письменно. Есть шанс, что твои слова более туманны, чем кажутся.
  18. Между людьми есть ступеньки в знаниях — понятийные шаги. Учёные-физики находятся в одной понятийной среде. Между учёными и аспирантами может быть один понятийный шаг, между учёными и физиками-любителям — два, и так далее. Между физиком и неграмотным фермером из Камеруна много понятийных шагов. Часто людям кажется, что они общаются с «глупыми» людьми, которые их не понимают. Но на деле им самим следовало сделать несколько понятийных шагов назад.
  19. Хорошая презентация или текст строят путь от того, что читатели или слушатели уже знают, понимают — к тому, что им следует понять. Каждое новое знание должно опираться на предыдущее. Как только цепочка нарушается, аудитория чувствует сектантство.
  20. Понять мыслительный механизм сложнее чем понять часовой механизм. Но между этими задачами нет фундаментальных различий.

Продолжение конспекта.

Система Orphus