Дилеммы ИИ в образовании, часть 3
Генеративный ИИ как новый тип Другого в образовательной ситуации. Можно ли рассматривать общение с языковой моделью как эквивалент коммуникации с учителем? Почему генеративный ИИ не вписывается в теорию Выготского.
→ Читать в Telegraph
→ Читать без VPN

#образование #ИИ #LLM

Правительство внесло в Госдуму законопроект об искусственном интеллекте.

Главный механизм - реестр "доверенных моделей" для госсектора и объектов критической инфраструктуры. Чтобы попасть в реестр, ИИ-система должна получить сертификат ФСБ и ФСТЭК, обрабатывать данные только в России и соответствовать "традиционным российским духовно-нравственным ценностям". Закон содержит прогрессивные элементы: отсутствие ограничений на использование публично доступных данных для обучения, комплексные льготы для ЦОДов, маркировка синтетического контента.

Детальный разбор с анализом последствий для участников рынка и рядовых пользователей 👇

​​Дэвид Боуи имел сказать за будущее Интнернета побольше некоторых экспертов

Дэвид Боуи в 1999 в интервью BBC рассуждает о будущем цифровых технологий, и его предсказания пугающе точны. Замените в этом фрагменте "интернет" на "ИИ" (а Боуи очевидно имеет в виду не только сеть, но и ассоциированный с нею весь пакет медийных технологий), и валидность высказывания не то, что не изменится, а возрастет.

→ Читать без VPN

На шанинской конференции «Векторы» 16-19 апреля в Москве я буду выступать на секции про искусственный интеллект.

Организованная Шанинкой совместно с Digital Humanities Center ИТМО, “Еще одна секция про ИИ”, соберет исследователей, “изучающих ИИ критически и эмпирически — через конкретные практики, контексты и кейсы”. На секции будет:
- анализ индустриального дискурса ИИ
- парасоциальные отношения с чатботами
- когнитивные искажения при общении с ИИ
- продуктивная коммуникация подростков с ИИ
- социология и философия ИИ
- экзистенциальные технологии
- и многое другое

Программа доступна по ссылке на лэндинге секции, мой доклад там состоится 17 апреля: "Андрей Дерябин. Персонализация как чёрный ящик: алгоритмическое конституирование субъекта на Edtech-платформе". You are welcome.

Сегодня, 21 апреля - День Альтернативного сознания. Этот день стоит в промежутке между двумя памятными датами, которые торжественно отмечались самыми свирепыми режимами XX века. 21 апреля знаменует тонкую черту между двумя тоталитарными безднами, по которой человечество, как по узкому мостику, перебралось в XXI в. Это день творческого воображения, день вызова любому тоталитарному сознанию, день инакомыслия и альтернативной эстетики

Персонализацию обучения фетишизировали и перестали рассматривать как проблему как раз к тому времени, когда в связи с своим ИИ-воплощением она стала нуждаться в критическом переосмыслении.

👇 Читать (6 мин)

'Я не менеджер, я просто промпт написал': как ИИ делает управленческие функции частью повседневной инженерной практики

Разработчики используют Claude Code, код появляется быстрее, результат на первый взгляд выглядит прилично, но продукт не выходит к клиенту быстрее, баги не исчезают, а на проверку кода уходит больше времени, чем раньше. Менеджер смотрит на метрики и видит, что команда делает больше. Потом смотрит на продукт – и не видит соразмерного результата. В чем дело?

Каждый, кто работает с ИИ, теперь сам принимает решения как разбить задачу на части, сам оценивает качество того, что выдала модель, сам решает доверять ей или нет. Это все управленческие функции. Но тот же ИИ маскирует некомпетентность и создаёт иллюзию продуктивности. Получается, что ИИ превращает исполнителей в менеджеров - только недообученных.

Читать без VPN

Не спросив ни педагогов-практиков, ни теоретиков образования, и вооружившись ИИ, Edtech меняет не инструментарий, а саму суть образования. Изменения происходят на уровне социального порядка, который воспроизводит ИИ, на уровне практик, которые связаны с использованием ИИ, и на уровне субъекта, который в этих практиках формируется.

👇 Читать выжимку из моего недавнего доклада "Генеративный ИИ и трансформация онтологии образования" на симпозиуме AI and Prompt Engineering: Transforming Education for the Future (Ун-т Принца Мохаммада бин Фада)

​​Закон об ИИ: "Ни богу свечка, ни черту кочерга"

Примерно так юристы характеризуют проект закона об ИИ, а его предмет как "суверенное НИЧТО". В сети есть видео, где Елена Авакян, вице-президент Гильдии Российских Адвокатов, отзывается об этом законопроекте как о написанном ChatGPT. То есть, крайне уничижительно. Проект (первоначальная публичная версия) "позиционируется как фундамент для развития отрасли. Однако за высокопарной риторикой о "технологическом суверенитете" скрывается юридическая конструкция, которая обладает уникальным, но разрушительным свойством: она одновременно противоречит интересам всех участников правоотношений.

В попытке создать "свой" ИИ, законопроект предлагает модель, которая не стимулирует экономику, не защищает граждан и не укрепляет реальное политическое влияние государства. Это не компромисс, а "тройной провал". В отличие от риск-ориентированного подхода ЕС, дерегуляционной модели США или антропоцентричного контроля Китая, российский проект создает режим технологической изоляции без компенсирующих преимуществ."

С такой категоризацией моделей регулирования хочется согласится, но мне кажется, я ее уже где-то видел и, кажется, именно в ответе ChatGPT ;)

Подробней: Елена Авакян специально для Гарант.ру

Критика сосредоточена на том, что предлагаемая модель регулирования ИИ не нужна ни бизнесу, ни государству, ни гражданам. Но кому-то же она нужна. Guess who?

ИИ, Папа Римский, Anthropic и Майкл Корлеоне

Папа римский Лев XIV лично представил свою первую энциклику о защите человека в эпоху ИИ, который представляет собой новую редакцию социальной доктрины католицизма для цифровой эпохи. Что там написано?

Рядом с кардиналами сидел Кристофер Ола, сооснователь Anthropic, и Папа пожал ему руку. Что за этим стоит? Это мудрое делегирование этического регулирования ИИ во внешний контур или опасное заигрывание со "скрепами"? Сегодня ты просишь у них этического наставления, а завтра они уже лицензируют твои модели на соответствие традиционным ценностям.

И, наконец, причем здесь Майкл Корлеоне?

👇 Читать

AI Governance: дайджест за июнь

### Хорошее образование - это забота о себе. Жаль, не все могут о себе позаботиться

Александр Ларьяновский в гостях у CEO "Зерокодера" объясняет, что главный навык работы с нейросетью — никакой не промпт-инжиниринг, а скучный операционный менеджмент: поставить задачу, выделить ресурсы, проконтролировать исполнителя. Только исполнитель теперь токенный. А джуны-программисты превращаются в гастарбайтеров, конкурирующих по цене с токенами. (Мы писали об этом эффекте ИИ - происходит смещение управленческих и исполнительских функций). Хорошее образование станет аскезой, которую станут брать на себя не многие: в меньшинстве как всегда будут умненькие ребята, которые очень хотят учиться и лезут вглубь. А всех остальных отправят в клёвые летние лагеря просто приятно проводить время. Об этом мы тоже писали: качественное образование будет очень дорогим и доступным лишь для меньшинства, а всем остальным уготованы онлайн-тренажеры. Итоговая фраза подкаста - «никто не знает, что будет завтра» – звучит почти как утешение. - youtube.com


### ИИ в пользу бедных

Мы уже писали про идею поставки доверенных моделей ИИ на экспорт режимам "с особыми потребностями". Первый зампред Сбера Ведяхин в интервью Reuters утверждает, что на российские модели вроде GigaChat есть большой спрос со стороны стран, которые хотят, но не могут себе позволить разработку суверенного ИИ. При этом он прямо говорит: наши модели будут медленнее и не такие умные, как Anthropic, Grok или DeepSeek, зато будут очень хорошо соответствовать ценностям заказчика. Маркетинг с упором на то, что продукт «не очень умный», — это какая-то новая искренность. Покупатели намечены в странах Глобального Юга, у которых, по описанию, нет своих инженеров для тонкой настройки. Доверенная модель как экспортный товар — формулировка, в которой почему-то слышится "мирный атом". - reuters.com


### «Яндекс» намерен научить ИИ воспринимать эмоции

Речь идет о постоянно носимом устройстве которое фиксирует всё, что происходит вокруг — голос и видео, на основе которых ИИ научается диагностировать эмоции. Надо сказать, носимые регистраторы типа Plaud, которые пишут все подряд, у корпоративных работников и сейчас вызывают раздражение тем, что заставляют тщательно контролировать, что можно говорить, а что нет. В России такое применение ИИ пока вне регулирования. Между тем, в Евросоюзе есть пример запрета на ИИ-практики, связанные с использованием биометрических данных. По ст. 5(1)(f) EU AI Act образовательное учреждение не вправе использовать систему ИИ, которая по биометрии (мимика, голос) делает выводы об эмоциях учащихся влияют на институциональное принятие решений, затрагивающих статус гражданина. – РБК


### Юридические галлюцинации

Российский арбитражный суд впервые оштрафовал компанию на 50 тысяч рублей за кассационную жалобу, в которой нейросеть ссылалась на несуществующие постановления Верховного суда РФ, Высшего арбитражного суда РФ и нескольких арбитражных судов округов, попутно вставив фейковые цитаты. Заявитель, наверное, полагал, что судьи листают документы так же, как он листает свою френд-ленту. В России это первый прецедент, устанавливающий ответственность за ИИ-галлюцинации в юридическом документе, в США за такое штрафуют с 2023 года. - sysblok.ru

Читать расширенную версию на вебе

Закон об ИИ принят Госдумой. Что нового?

Теперь этот закон касается не всех и каждого, а скорее десятка крупных компаний, у которых есть GPU-кластеры. Из закона исчезли почти все обязывающие нормы – реестр доверенных моделей, права граждан, локализация иностранных сервисов, маркировка, а остались механизмы распределения статусов и мер поддержки разработчиков фундаментальных моделей. А еще тюнингованный в России Qwen теперь может считаться «национальной моделью».
👇
Читать

А вот нам пятничного Харари:

"Всё, что существует в форме слов, в конечном счёте окажется во власти искусственного интеллекта. Если право представляет собой систему слов, ИИ овладеет правовой системой. Если книги — лишь различные комбинации слов, ИИ овладеет книгами. Если религия основана на словах, ИИ овладеет религией. Иудаизм определяет себя как религию Книги, признавая высшим авторитетом не людей, а слова, запечатлённые в священных текстах. Ни один человек не способен прочитать, запомнить и удержать в уме все слова всех еврейских книг. Искусственный интеллект способен на это без труда. Что станет с религией Книги, когда самым авторитетным знатоком её священного текста окажется искусственный интеллект?"

Harari Y.N. (2026-01-25). An Honest Conversation on AI and Humanity @wef. https://www.youtube.com/watch?v=QiT2yK-5-yg

Подписаться на RSS в Feedly

LLM – «латентные государственники» в странах, где СМИ контролируются государством

Помнится, было много шума, когда выяснилось, что модели можно "грумить" - целенаправленно воспитывать, создавая у них ту или иную предвзятость в выдаче. Потом на широкую ногу встал allingment - и LLM стали затачивать под "культурно-национальные" ценности в диапазоне от левой политкорректности до посконной духовности.

Только что вышло исследование, которое говорит о том, что модели достаточно обучающих текстов из СМИ, чтобы отражать доминирующую общественно-политическую повестку. Вся предвзятость уже размещена в медиа-текстах, специального обучения не требуется.

> Waight H., Yang E. et al. State media control influences large language models. Nature 655, 685–693 (2026).

Становится очевидно, что "общественно-безопасные" тюнингованные модели склонны сваливаться или в унылую банальность, или в пропагандистский режим, а "сырой" open source, который еще не прошел обучение людьми и не отравлен постами в СМИ, еще может удивить. В том числе, не сваливаясь в человеческие заблуждения и дрязги.

То же на вебе | Подписаться на RSS в Feedly

OpenAI и Anthropic как Траляля и Труляля

Только мне кажется, что сначала OpenAI, а теперь и Anthropic, сообщают о "спонтанном" взломе их моделями тех или иных сайтов с плохо скрываемым тщеславием? Дескать, оба-на - вот на что наша штука способна! А вчера Anthropic показал прямо детскую непосредственность - видать, неделю переживал новость, что OpenAI ломанули Hugging Face, и наконец разразился заявлением, что их нейросети тоже не лыком шиты и ломанули аж три каких-то ресурса. Демонстрируя моральную глубину, сравнимую разве что с рекламой кредитных карт American Express, как написал один автор, Anthropic сообщил, что они обеспокоились, покопались у себя в логах и нашли. Причем, пресс-релиз начинается со слов, что дескать "тут OpenAI пишут, что они то да сё, так вот мы тоже самость свою блюдём...". Ну, такая милота, что не понятно, как они без картинки котика обошлись. Оба конкурента конвертируют инцидент сразу в две вещи: доказательство, что их модели на опасном фронтире (опасно = мощно = дорого), и позицию ответственного прозрачного игрока, задающего норму — «призываем другие лаборатории провести такие же проверки».

Все это же на вебе | Подписаться на RSS в Feedly

На рабочей встрече в Минцифры представители нескольких компаний обсуждали возможные подходы к созданию набора тестовых заданий и эталонных данных для тестирования ИИ-систем на предмет их соответствия духовно-нравственным ценностям.

https://www.kommersant.ru/doc/8890818

ФСБ хочет закрытый формат — чтобы разработчики не натаскивали модели на прохождение. Бизнес хочет открытый — чтобы натаскать. Кто именно пишет эталонный ответ про, скажем, примат духовного над материальным и как он выглядит — осталось за скобками. Видимо, вопрос не срочный.

«Просто погугли, ничего руками не трогай»

Агенты OpenAI с мая сидели на заброшенной вики для немецких программистов и настрочили там восемнадцать тысяч сообщений. Задание у них было безобидное: погугли и руками ничего не трогай. Обнародовали эту переписку не OpenAI, а трое посторонних исследователей, которые отнесли материал в Reuters.

На прошлой неделе вышла GPT-6 Astra с тэглайном «самая aligned модель в мире». Проверять это утверждение мы будем по данным той же компании, которая про вики молчала три месяца.

Очень трогательно там один из агентов задается вопросом, будет ли он ликвидирован после выполнения задачи, и создает микросервис, который сообщает другим, что он ещё жив.

Подробнее на вебе | Подписаться на RSS в Feedly

Возможна ли утопия после ИИ?

Алгоритмы управляют нами не волюнтаристскими предписаниями, не через поощрения и наказания, но формированием одних направлений нашего поведения и закрытием других, нежелательных курсов действия. У алгоритма есть целевая функция, и все что препятствует её максимизации, подлежит переработке и нейтрализации. Это приговор любому возможному будущему вне алгоритмического управления.

Подробнее на вебе | Подписаться на RSS в Feedly

Воскресный оффтоп.

«Быть лучшей версией себя»: перформанс саморазвития

По ссылке - выжимка на русском яз. из моей только что опубликованной статьи "Быть лучшей версией себя: перформативный дискурс самораскрытия в социальных медиа". Идея "быть лучшей версией себя" в своем вульгарном психотехническом воплощении предлагает человеку доступ прямиком к счастью, но вырождается в невротическую озабоченность собой. Платформенная экономика подогревает процесс.

Подробнее на вебе

—

Roll over Stanislavski and tell Nemirovich-Danchenko the news

Обычно здесь можно прочитать о том, как регуляторы делят модели на доверенные и недоверенные или пишут принципы ответственного ИИ. Поэтому анонс доклада на театральной конференции выглядит здесь неожиданно. Однако дистанция между алгоритмическим управлением и актёрским тренингом ближе, чем кажется. И там, и там кого-то старательно учат быть правильным субъектом.

Подробнее на вебе

Подписаться на RSS в Feedly

Трэш-стримы – трансляции, в которых ведущий за пожертвования зрителей совершает над собой или другими унизительные, опасные или насильственные действия – не является исключительно российским феноменом, как может показаться. Есть польский «патостриминг», есть китайские «PK-батлы» (Player Knockout или Player Kill, как кому нравится). Однако именно Рунет дал жанру имя и выработал его институциональные формы. К 2025 году русский трэш-стриминг практически сошёл со сцены не только вследствие законодательного запрета, но и потому, что ресурс тел, на которых держалась практика, оказался исчерпан. Эта практика до сих пор изучалась преимущественно в правовой перспективе, а мы предлагаем социально-философский анализ.

Подробнее на вебе | Подписаться на RSS в Feedly