Саммари на LessWrong, часть I
LessWrong — это международное сообщество о рациональном мышлении и когнитивных искажениях. Оно выросло из блога калифорнийского учёного Елиезера Юдковского, специалиста по искусственному интеллекту и автора книги «Гарри Поттер и методы рационального мышления»
Это большое сообщество с форумами, статьями, книгами и регулярными встречами в разных городах. Русскоязычная часть этого сообщества перевела серию статей Юдковского и запустила сайт с ними. Статей довольно много, по объему хватит на целую книгу.
Я понемногу читаю перевод статей Юдковского и веду для себя конспект. Это помогает бороться с трудным слогом и ореолом таинственности, что встречаются в тексте. Буду постепенно делиться с вами конспектом. Напомню, что это не цитаты, а моё упрощённое переложение мыслей Юдковского.
- Человек изучает мир с помощью разных методов. Эти методы могут иметь ошибки, и тогда изучение приводит к заблуждениям.
- Ошибки бывают случайными и регулярными. Регулярные ошибки называют когнитивными искажениями. Проблема когнитивных искажений в том, что они меняют картину мира незаметно. Нам кажется, что мы не ошибаемся, а на самом деле поступаем неправильно.
- Чтобы уменьшить когнитивные искажения, нужно научиться рациональному мышлению.
- Рациональное мышление — это не про то, чтобы быть суровым и гиперинтеллектуальным, с подавленными эмоциями, как часто показывают в кино. Рациональное мышление помогает осознать свои эмоции. Иногда быть рациональным значит не рассуждать, а отдать себя на волю чувств.
- Рациональный человек чаще достигает своих целей. Он делает лучшие выборы.
- Мы часто принимаем решения быстро, почти незаметно. В такие моменты сознание использует когнитивные эвристики — наборы правил для принятия решений. Обычно эвристики экономят время и приводят к верному решению. Но иногда мы полагаемся на них и ошибаемся. Рациональное мышление учит притормаживать на поворотах и борется с неправильными эвристиками.
- Пример неправильной эвристики — эвристика репрезентативности. Мы оцениваем феномен, основываясь на том, насколько он характерен по отношению к разным категориям. Стив более вероятно является застенчивым библиотекарем, или застенчивым продавцом? Большинство людей будет думать над этим, анализируя насколько «застенчивость» сочетается с стереотипами этих профессий. Мало кто думает, что продавцов во много раз больше библиотекарей.
- Другая неправильная эвристика — заблуждение невозвратных затрат. Мы часто продолжаем заниматься бесполезным делом просто потому, что начали его и не можем бросить. Хотя на самом деле нужно сжечь мосты и двигаться дальше.
- Еще есть эвристика доступности. Люди оценивают вероятность события по тому, насколько легко приходят на ум примеры этого события. Если друзья автомобилиста и он сам не попадали в аварию, то вероятность аварии кажется небольшой. На самом деле относительная вероятность у всех одинакова.
- При этом нельзя считать, что долгие, вдумчивые суждения всегда вернее быстрых, поверхностных. Можно быстро принять верное решение, и ошибиться, думая долго.
- Часто рациональность преподносят как единственно верный способ мышления. Это опасно. Безусловная рациональность теряет все степени свободы и превращается в деспотичный первобытный обычай. Люди получают неверный ответ и возмущённо утверждают, что они действовали в точности по правилам — вместо того, чтобы учиться на ошибках.
- Всё, что может быть разрушено правдой, должно быть разрушено. Всё, что подпитывается правдой, должно процветать.
- Нельзя игнорировать что-то лишь потому, что ты не знаешь, как это определить. Можно не помнить уравнение относительности и упасть с обрыва.
- Когда нас просят оценить затраты на воплощение проекта, мы начинаем рисовать в голове идеальную картину, забываем учесть непредвиденные обстоятельства. На деле многое идёт не так. Но даже если заставишь себя мыслить пессимистично, это вряд ли поможет. Рационально найти пример подобного проекта в прошлом и узнать о затратах, которые на него отведены — и отталкиваться от этой оценки.
- Есть посторонние люди, что знают меньше деталей конкретного задания, но знают оценку затрат похожего проекта. Их выводы менее оптимистичны и более точны, чем у тех, кто проводит планирование.
- Когда люди знают исход ситуации, то ошибочно считают, что могли бы заранее предсказать его. Но это не так. С этим тесно связана иллюзия прозрачности: мы всегда знаем, что означают наши слова, и мы ожидаем, что остальные тоже это знают. Мы правильно понимаем смысл, читая написанное нами, обладая знаниями о том, что мы действительно имели в виду. Этим смыслом сложно поделиться с кем-то, кто будет руководствоваться лишь словами.
- Как заметили Кейсар и Барр, за два дня до атаки Германии на Польшу Чемберлен послал письмо, вложив туда намерение показать, что Британия вступит в бой, если вторжение состоится. Письмо, составленное из дипломатичных выражений, было воспринято Гитлером, как примирительное — и танки поехали. Так что не стоит винить тех, кто недопонял твои очевидные слова, в разговоре или письменно. Есть шанс, что твои слова более туманны, чем кажутся.
- Между людьми есть ступеньки в знаниях — понятийные шаги. Учёные-физики находятся в одной понятийной среде. Между учёными и аспирантами может быть один понятийный шаг, между учёными и физиками-любителям — два, и так далее. Между физиком и неграмотным фермером из Камеруна много понятийных шагов. Часто людям кажется, что они общаются с «глупыми» людьми, которые их не понимают. Но на деле им самим следовало сделать несколько понятийных шагов назад.
- Хорошая презентация или текст строят путь от того, что читатели или слушатели уже знают, понимают — к тому, что им следует понять. Каждое новое знание должно опираться на предыдущее. Как только цепочка нарушается, аудитория чувствует сектантство.
- Понять мыслительный механизм сложнее чем понять часовой механизм. Но между этими задачами нет фундаментальных различий.