Фейковые ссылки chatGPT

Каждый раз, когда я прошу chatGPT дать мне ссылку на какую-то основную обзорную работу в научной области, она выдаёт мне фейковые статьи. Выглядят как настоящие, но их тупо не существует!

Я понимаю, в целом, почему так происходит, но вот хорошее пошаговое расследование того, почему так получается на примере «самой известной экономической статьи».

Кратко:

1. ChatGPT учится по началу фразы оценивать вероятность возможных продолжений.

2. Если ты просишь её назвать самую известную статью в экономике, она, используя информацию из интернета, предсказывает самые вероятные слова, продолжающие запрос.

3. Самые частые слова в названии экономических статей: «economic» и «theory». Поэтому ответ будет начинаться с этих слов.

4. Самое вероятное слово, продолжающее эту последовательность - “history”. Получаем «A theory of economic history”.

5. Дальше выбирается самый вероятный (читай: цитируемый) автор в области экономики.

6. Самое популярное число авторов в экономических статьях – 2. Поэтому выбирается соавтор, который чаще всего появлялся в интернете (читай: цитировался) вместе с выбранным первым автором.

7. Журнал подбирается тот, в котором чаще всего печатался первый автор.

8. Год публикации подбирается более или менее из середины творческой биографии автора(ов).

P.S. Когда я в очередной раз жаловался на фейковые ссылки chatGPT, мне подсказали, что есть сервис, который выдает существующие ссылки по такому же свободному запросу – https://app.wordtune.com/editor/.

Liking vs. learning

Подборка статей, демонстрирующих, что не всегда, когда нам нравится процесс обучения, мы хорошо усваиваем информацию

- иллюстрации на слайдах нравятся студентам, но не улучшают запоминание материала.

- харизматичные лекторы также больше нравятся студентам, но материал усваивается не лучше.

- когда студентам дают печенки во время занятия, студенты выше оценивают качество преподавателя и учебных материалов.

Нерегулярная рубрика: Жизнь Замечательных Коллег

Хочу рассказать про одну коллегу – Эмили Каспар (Emilie Caspar). Я познакомился с ней, когда она была постдоком в Свободном университете Брюсселя, а потом она получила должность профессора в Гентском университете, где мы проработали параллельно около года. Сейчас я ушел в Свободный университет Брюсселя, а она осталась в Генте, такая рокировка.

Так вот, Эмили занимается социальной нейронаукой. Когда она была аспиранткой, она изучала чувство контроля: что влияет на ощущение, что это именно мы приняли то или иное решение. Начав с обычных лабораторных экспериментов, она перешла на эксперименты с роботами, а потом и с военными: снижается ли чувство контроля, если мы выполняем приказ? Можно ли увидеть разницу в нейрофизиологии принятия решений в ситуации приказа и свободного выбора?

В конце концов она занялась изучением геноцида: что с чувством контроля при принятии решений у жертв и участников геноцида? Для этого она ездила в Руанду, и записывала там ЭЭГ в каких-то совсем не оборудованных для этого помещениях. А сейчас я увидел её твиты из Камбоджи, где она изучает участников тамошнего геноцида. Писала, что чтобы люди в деревне соглашались участвовать в экспериментах, нужно было заручиться доверием старейшины.

Интересная и уникальная работа. По сути она сама создала свою область исследований. Так как условия и предмет её исследований действительно уникальные, для строго экспериментального учёного её исследовательские дизайны и результаты не всегда кажутся надёжными. С другой стороны, к таким вопросам по-другому сейчас подступиться сложно. Иногда приходится жертвовать строгостью.

Её аспиранты, кстати, тоже не скучают: ходят по бельгийским тюрьмам, проводят эксперименты на преступниках. Такая вот интересная бывает наука!

Про измерительные процедуры

Читаю сейчас книгу Statistical Rethinking - про байесовскую статистику.

Вначале книги для иллюстрации приводится задача: как, имея глобус под рукой, посчитать, какой процент поверхности Земли занимает вода. Остановитесь и подумайте: как бы вы это сделали?

В книге предлагается такой способ: многократно подбрасываем глобус, ловим и тыкаем в него пальцем. Процент попаданий в воду и будет измерением процента поверхности Земли, покрытой водой.

Мне очень нравится этот пример. Он показывает, как даже в простой физической задаче появляется статистика.

Затем, он показывает, что придумать, как что-то измерить - это само по себе может быть творческой задачей.

Он показывает также, что измерение - довольно произвольная процедура, её выбор можно критиковать и предлагать что-то другое.

Ну и наконец, пример показывает, как уже выбранную измерительную процедуру можно правильно и неправильно использовать. Например, если подбросить глобус 10 раз - хватит ли этого для достаточно точной оценки? А 20? А сколько точно хватит? А что если положение глобуса в предыдущей пробе влияет на следующую пробу? Например, если ты попал в тихий океан, в следующей пробе он скорее всего окажется внизу, а с другой стороны воды меньше. Чем это плохо и нужно ли этого избегать?

В общем, оень простой и хороший пример. А хороший пример - один из лучших инструментов обьяснения.

Афантазия

Недавно коллега осознал, что некоторые люди могут вызвать в сознании визуальные образы. То есть буквально видеть что-то или кого-то, не имея этого перед собой. Когда он вспоминает какой-то предмет или человека, он может про него все рассказать, но у него нет в уме визуальной картинки этого предмета или человека.

Примерно 1-3% людей не могут предствить себе в сознании объекты визуально. Это называется афантазия. По ссылке небольшой обзор.

Многие не подозревают, что они чем-то отличаются от остальных, потому что афантазия практически никак не влияет на навигацию, память и мышление. Обнаружить это можно только поговорив с людьми об их образах представления, воображения. Похоже на историю с фоновым шумом, который есть далеко не у всех. Или про разницу в звучании внутреннего голоса.

Афантазия в большинстве случаев связана с произвольным воображением: человек не может вызвать визуальный образ по команде. Но непроизвольное возникновение зрительных образов возможно - например, в сновидениях. Многие люди с афантазией видят сновидения.

Вот признаки из статьи, по которым можно первично самодиагностировать афантазию:

- Подумайте о друге или члене семьи. Попытайтесь вызвать в своем воображении образ их лица. Насколько четко вы можете видеть их черты, лицо, волосы и фигуру?

- Насколько четко вы можете представить себе их характерные движения и жесты?

- Насколько живо вы можете представить одежду этого человека?

Вообще, афантазию можно рассматривать как модель философского зомби. Философский зомби - это персонаж мысленного эксперимента: существо, которое действует как обычный человек, на у которого нет сознания, квалиа. То есть нет никаких внутренних образов - даже в присутствии объекта восприятия. Люди с афантазией немного как философские зомби, но только для воображения. Память (например) работает эффективно, но никакого зрительного образа (квалиа) в момент припоминания у человека нет.

Большой процент получился! Обычно называют оценки в 3-4% популяции. Возможно, аудитория канала специфична, плюс мой вопрос задан так, что при неопределённости люди скорее склонны выбрать второй вариант.

Микро-валентности

Читал на днях интересную диссертацию из одного американского вуза. Диссертация посвящена мирко-валентности повседневных объектов. То есть идее того, что все воспринимаемые нами объекты всегда немножко эмоционально заряжены. Мы не воспринимаем стул как просто стул, а всегда воспринимаем стул как симпатичный, приятный или наоборот некрасивый, неприятный. Автор утверждает, что именно эти микро-валентности позволяют нам принимать решения в ситуации неопределенности. Например, так мы выбираем чашку, из которой сейчас будем пить чай: выбор падает на ту, которая показалась нам чуть более приятной - даже если мы это явно не почувствовали (не обратили на это ощущение внимание).

В диссертации было показано, что номинально нейтральные объекты действительно воспринимаются как чуть приятные или неприятные. Кроме того, было показано, что валентность считывается на ранних этапах восприятия, так же как и другие зрительные признаки, такие как цвет и форма. То есть мы не воспринимаем сначала объект полностью (то есть обрабатываем и интегрируем зрительные признаки и относим объект к какому-то классу), а потом формируем ощущение нравится/не нравится. На самом деле, ощущение приятности возникает уже в процессе обработки зрительных признаков и может даже помочь нам правильно опознать (классифицировать) объект. Это было показано и в поведенческих экспериментах и на уровне нейрофизиологии: чувствительность к валентности обнаруживается в областях мозга, участвующих в ранней обработке зрительной информации.

... Что определяет валентность воспринимаемых обьектов? Как минимум два источника: ассоциации из прежнего опыта (рабочий стол может ассоциироваться с работой/учебой, а значит у большинства людей - с напряжением и негативным аффектом). С другой стороны, были исследования показывающие, что некоторые геометрические формы воспринимаются как более приятные или неприятные без явных ассоциаций с предыдущим опытом. Посмотрите на приложенную картинку (иллюстрация из диссертации). Сверху - самые неприятные по оценкам испытуемых объекты. Снизу - самые приятные. Каждую группу что-то объединяет, правда?

Интересная постановка проблемы и результаты. Мой нынешний исследовательский проект посвящён той же тематике: насколько аффект вовлечен в восприятие, имеет ли он функциональную роль и как это все связано с функциями сознания.

Хотя надо признать, что такие теоретические взгляды (про первичность восприятия аффекта (валентности) предлагались уже давно, например, в работах Р. Зайонца. Но об этом в следующих постах.

Поучаствовал в подкасте "Легко, просто и подкаст". Получился местами шутливый, местами серьёзный разговор про ChatGPT, сознание и всё такое прочее.

🎙 108 эпизод с фьюч-редакцией в составе: Иваном Талачевым и Иваном Иванчеем. Говорим про chatgpt, в принципе нейронки, сознание, порабощение и пассажьержь.

Эплподкасты
Звукооблако
Где-то везде

Рекоммендации и ссылки на материалы ребят на сайте

Запатронить

🧠

Давно не было рубрики #контент_выходного_дня

10 минут лекции по математике vs. 10 минут звездных войн

https://twitter.com/nosilverv/status/1629830352914055173?s=46&t=jKprZzyDbuL-rb_RHhJx_Q

⬆️ это я.

Автор, правда, иронизирует над осмысленностью диагноза СДВГ – к чему я не присоединяюсь. Хотя всегда рекомендую эту лекцию на тему.

Спорт – уже не жесть

Иногда я думаю: эх, вот бы заняться прикладными исследованиями, помогать людям, знать наверняка, работает твоя гипотеза или нет...

А потом выходит очередной мета-анализ на тему, что все воздействия, которые изучали 20 лет, не работают, и думаешь: ладно, не так уж и плохо в фундаментальной науке.

Новый мега-обзор (мета-анализ мета-анализов) в Nature Human Behavior, говорящий, что заметных когнитивных эффектов у физических упражнений нет. Ну а если и есть, то очень маленькие. И это несмотря на существовавший консенсус о том, что такой эффект существует. Консенсус, по мнению авторов, держался на: низкой статистической мощности в исходных исследованиях, выборочном включении исследований, сокрытии негативных результатов и большом разбросе методов предобработки и анализа данных.

Твиттер-тред
Рукопись статьи на bioRxiv

P.S. Ставьте два стакана привидение, если поняли отсылку в названии поста. Посчитаем олдов

Важный апдейт к предыдущему посту.

1. Авторы анализировали исследования, которые показывают, что физические упражнения положительно влияют на выполнение когнитивных тестов внимания, памяти и т.д.

2. Как справедливо написали в комментариях к предыдущему посту, авторы анализировали только рандомизированные контролируемые исследования (РКИ). То есть эксперименты, в которых добровольцев случайно разбивали на (как минимум) две группы: одна выполняла упражнения, другая делала что-то другое, и потом их сравнивали в когнитивных тестах, ну или изменение от замера до и после экспериментального воздействия.

3. Авторы не касались самой животрепещущей проблемы: как сохранить когнитивные функции в старости. Анализировались только исследования на здоровых добровольцах, то есть не смотрели на людей с Альцгеймером, деменцией и т.д. Вдобавок к этому РКИ трудно провести лонгитюдно, то есть заставить группу людей делать упражнения на протяжении десятка лет, а другую – не делать, и потом сравнить результаты, когда члены групп состарятся. По таким сложным темам мы чаще всего получаем информацию из корреляционных или квазиэкспериментальных исследований: где также набирается несколько групп, но не случайным образом, а набирают группы уже занимающихся спортом и не занимающихся, но стараются, чтобы участники двух групп были примерно одинаковы по остальным характеристикам (возрасту, здоровью, демографическим показателям и т.д.). Такие исследования позволяют глубже исследовать феномен в его естественном проявлении. Однако из-за недостатка контроля, причинно-следственные выводы на основе таких исследований делать трудно. Кстати, пример любительского не-РКИ исследования на эту тему я как-то описывал: про то, что занятия в тренажёрном зале - один из самых эффективных ноотропов (согласно самоотчетам людей, которые сами решили этим заняться).

P. S. Мем-референс к названию предыдущего поста - в комментариях

Новая рубрика: слайды с лекции.

Недавно сделал доклад для коллег из Томска. Подумал, что это может быть интересно и более широкой публике.

Доклад был о классической статье Р. Зайонца 1980 г. “Feeling and thinking: preferences need no inferences”, в которой он описал свои взгляды на природу аффективных процессов и их связи с познавательными процессами.

По Зайонцу аффективная (~эмоциональная) обработка информации протекает независимо от когнитивной и может её опережать. Я рассмотрел позицию и аргументы Зайонца и рассказал немного о более современных работах, показывающих, какие нейрофизиологические механизмы могут лежать в основе независимой аффективной обработки.

В приложении - слайды доклада. Думаю, из них можно вынести что-то полезное и интересное.

Читаю книгу Гарри Каспарова "Deep thinking" про шахматный искусственный интеллект.

Напишу про книгу подробнее позже, а сейчас - отрывок про хайп перед матчем Каспарова с программой Deep Blue от IBM в 1996 году (которой он в итоге проиграл).

Звучит знакомо? :)

Области мозга, участвующие в обработке информации о боли и удовольствии
– из Leknes, Tracey, A common neurobiology for pain and pleasure (2008)

Вспомните эту картинку, когда в следующий раз услышите что-то про центр удовольствия.

Запись недавней короткой беседы Эндрю Ына и Яна Лекуна о предложенном некоторое время назад моратории на развитие ИИ-систем. Они оба согласны, что это плохая идея и рассказывают почему так считают.

У Лекуна есть глубокое убеждение, что большие языковые модели не ведут к сильному искусственному интеллекту, поэтому он считает, что никаких опасных сюрпризов при их развитии не будет и мы сможем решать проблемы по мере их поступления.

Вторая его мысль, которая зацепила: исследования регулировать нельзя, а продукты – можно и нужно. Поэтому не стоит запрещать исследования технологии, но стоит внимательно относиться к продуктам на их основе, которые попадают на рынок.

https://www.youtube.com/live/BY9KV8uCtj4