Руководство по каузальному мышлению

Сходил в отпуск и дочитал ещё одну книжу по одной из любимых мной тем.

Книга Квентина Галлеа — это ещё одна попытка рассказать про современный причинно-следственный анализ без сложных формул и кодинга. Такие материалы, на мой взгляд, важны: они помогают популяризировать тему и постепенно формируют сообщество людей, которые мыслят в каузальной парадигме.

Что примечательного в этой книге?

🟡Будущее принадлежит людям, которые мыслят каузально. Автор утверждает, что наиболее продвинутые организации будут не просто внедрять ИИ-системы для прогнозов, а строить каузальные системы — такие, которые могут объяснять, проверять гипотезы и учиться. ИИ автоматизирует прогнозы. Следующий фронтир — каузальное мышление.

🟡Много примеров из бизнеса и исследований. Книга изобилует примерами из бизнес-среды и прикладных исследований. Больше всего мне понравилась ссылка на исследование применения ИИ в HR-рекрутменте. В нём показано, что более качественная помощь ИИ может негативно повлиять на совместный результат человека и системы: человек начинает слишком сильно полагаться на подсказки и буквально «засыпает за рулём».
Заставляет о многом задуматься, правда?

🟡Автор предлагает простой каузальный фреймворк:

1.  Что является контрольной группой или прокси-контрфактом? Определите, какое сравнение проводится, и оцените его качество.

2.  Есть ли что-то ещё? Ищите скрытые факторы — конфаундеры или обратную причинность, — которые могут определять наблюдаемый результат.

3. Каково направление смещения? Определите, усиливают ли эти скрытые факторы истинный эффект или, наоборот, ослабляют его.

4.  Уточнение и итерация. Усильте анализ, подбирая более качественные сравнения или, при необходимости, выделяя отдельные подгруппы.

5. Можно ли экстраполировать? Оцените, можно ли надёжно перенести полученные выводы на другой контекст или на будущее.

🟡Мне понравилось, что в книге вводится понятие ошибки третьего рода: правильный ответ на неправильный вопрос. Это хорошая отсылка к ошибкам первого и второго рода из статистики, но с более управленческим и исследовательским смыслом. Иногда проблема не в том, что мы плохо посчитали. Проблема в том, что мы с самого начала решали не ту задачу.

🟡Ещё узнал, что феномен, при котором метрика становится целью и с этого момента перестаёт быть хорошим показателем, называется законом Гудхарта (Goodhart’s law). Вообще, то, как некоторые метрики создают ритуализованное поведение, — это отдельная и очень интересная для меня, как психолога-наблюдателя, тема.


Я бы рекомендовал эту книгу в первую очередь тем, кто хочет лёгкого и быстрого входа в тему каузальности. Из всего, что мне попадалось, это пока самый простой и дружелюбный заход.

#книги

Способы познания

Мои читатели знают о моём философско-аналитическом пути, по которому я иду уже несколько лет. Он начался с байесовской статистики, продолжился причинно-следственным выводом и в итоге привёл меня к эпистемологии.

💎 Встречайте комбо: байесовская эпистемология.

Сейчас читаю книгу Майкла Тительбаума по этой теме и зашёл поделиться его лекцией.

Сказать, что мне это откликается - ничего не сказать. Одна из центральных мыслей лекции: данные не равны истине и даже не исчерпывают собой все основания для знания.

Я хорошо знаю это по своему опыту и уже неоднократно об этом писал и рассказывал. Разные люди могут смотреть на один и тот же график, видеть одни и те же значения - и делать совершенно разные выводы.
Обычно это воспринимают так, будто один из них обязательно ошибается. Но Тительбаум предлагает более интересную рамку: люди могут по-разному переходить от свидетельств к выводам, потому что используют разные эпистемические стандарты.
И здесь важно само слово свидетельство (evidence). Свидетельства - это не только данные и не только числа. Данные являются лишь одной из форм основания для убеждения.

Для нашей эпохи метрик, дашбордов и ИИ это, кажется, совсем не интуитивная мысль. Мы привыкли считать, что достаточно собрать правильные данные и вывод возникнет почти автоматически. Но данные не говорят сами за себя. Между данными и выводом всегда находятся модель, допущения, критерии, опыт, ценности и сам способ мышления человека.

Мне кажется, это напрямую связано и с будущим аналитики. Расчёты, визуализации и даже первичную интерпретацию всё лучше будут выполнять машины. Но аналитическая работа не заканчивается там, где посчитана метрика. Остаются вопросы: что именно мы измерили, на каких предпосылках построен вывод, какие ещё объяснения возможны и достаточно ли у нас оснований, чтобы принимать решение.

Поэтому аналитик будущего для меня - не тот, кто лучше всех считает и владеет инструментами. Это человек, который умеет разбираться в том, как из данных возникает знание и где в этом переходе мы можем ошибиться.

#эпистемология #байес