Вот я здесь много пишу про этические вопросы технологий: киборгизации, нейротехнологий. Также пишу про недопущение использования технологий тоталитарными режимами против своих граждан и как оружие против других стран. Даже, бывает, пишу про образование и как через образование формировать будущее.

Но вчера я столкнулся со всеми этими вопросами вживую и эта встреча меня испугала. Дело было на рождественском мероприятии АСИ в Точке Кипения. Перед лекцией Дмитрия Пескова выступали дети из кружков НТИ.

Первыми выступали ребята с тараканом-киборгом (14 лет ребятам). Кстати, все согласно биоэтике - подопытное живое существо не пострадало. Ребята молодцы - рассказали и про возникшие проблемы, и как их решили. Но вот выступление заканчивается и первый вопрос, который задают из зала - а как это можно применять? Вопрос вполне адекватный, на любой питч-презентации такой услышать можно. Ребата начали ответ так (дословно, я дома пересмотрел видео и записал цитату):

"Во-первых, эту разработку можно использовать в военных целях: шпионаж или доставка биохимического оружия"

Весь зал начал хлопать, кто-то смеяться. Я, честно, тоже улыбнулся, так иронично, не веря ушам. Вот как улыбаешься от сюра, от полотна Босха, например.

Это не критика этого кружка - не думаю, что они научили детей так отвечать, и уж точно не критика этих детей - они лишь транслируют то, что слышат и видят, доминирующее настроение в обществе.

Это вопрос к нам самим: вот это то, куда мы хотим прийти - когда первое, что дети отвечают на вопрос о применении своей технологии - это доставка оружия массового поражения?

Что это, откуда этот ответ появился? Следствие милитаристской государственной пропаганды, поиска внешнего врага? Или эти дети, так же как я, очень внимательно читали критерии рынков НТИ и нашли там "рынок важен для России с точки зрения обеспечения базовых потребностей и безопасности"?

Я крепко задумался о смысле того, что я писал целый год здесь про этику технологий. Я же писал это взрослым, я же думал, что это они, как всегда, все испортят своим милитаризмом, а оказывается, они уже успели инфицировать детей. Ну, может быть инфицировать не мировоззрением, но, как минимум, умением "правильно" отвечать на вопросы. Я же на каждой второй лекции говорил "Вот представьте, есть ученый и он решает как применить свою технологию. К нему приходит злое плохое государство и принуждает его отдать технологию чтобы применить ради усиления тоталитаризма". Так вот нет, государство, оказывается, пришло к этому ученому еще когда тот был ребенком и объяснило, какое применение технологии он должен знать первым.

Поясню - я не против того, чтобы использовать технологии как оружие. Ну то есть мне бы этого не хотелось, но в рамках современного мира невозможно запретить такое применение. Но, в данном случае: это оружие массового поражения, это детский кружок в школе, и главное - это первое, что пришло в голову ребятам. То есть весь этот пост не про то, как плохо применять тараканов-киборгов для оружия массового поражения, а про настроение в обществе, дошедшее до детей.

Ко всему прочему история показывает неэффективность существующего образования в области биоэтики. Да какая, к черту, разница, пострадает ли таракан в результате эксперимента, если после окончания этого эксперимента ему предстоит распростанять на себе биологическое оружие!? Это значит, что дети абсолютно не понимают эту "байку" про биоэтику, для них это формальность, "надо-значит надо". Извините, но в мире биологического оружия по определению нет места биоэтике.

После выступления детей была жесткая и честная лекция Дмитрия Пескова. Говорил он и про соединение трендов использования евгеники и геймификации для нового тоталитарзма, и про то, что 20 век возвращается. Похоже, все так.

Очень нравится в этой новости все. Использовать искусственный интеллект, чтобы понять животных - это же гораздо лучше, чем использовать его для боевой робототехники, например.

Кстати, историяю с коммуникацией с животными, правда через нейроинтерфейс, я еще с Форсайт Флота 2015 помню.

Искусственный интеллект смог определить по записи звуков, издаваемых египетскими летучими собаками, о чем общаются животные. Кроме того, алгоритм угадывал, какая именно особь издает звуки и к кому она обращается.

https://nplus1.ru/news/2016/12/23/bats-AI

Кесарю - кесарево, а Божие Богу. Quae sunt Caesaris Caesari et quae sunt Dei Deo.

Человеку пора переходить на следующий уровень целеполагания. И оставить исполнение тому, у кого (чего) это лучше получается.

Ко всему прочему, этот пример дает возможность оценить, насколько нерациональна с точки зрения ресурсов наша промышленность и вообще жизнедеятельность. И что решить проблемы с оптимизацией ресурсов и даже, в конечном итоге, с экологией нам может помочь в том числе ИИ.

И еще прочувствуйте, насколько визуально техносфера, спроектированная ИИ, отличалась бы от нашей. Что-то непонятное, бесформенное, "как это вообще может работать?". Узко, узко мы мыслим, коллеги-человеки!( Не находите, что эти плавные линии, несимметрия - гораздо ближе к природе, чем к прямой, симметричной человеческой технологии? Поэтому "зеленые города" и органические здания, может быть даже живые - это не только про экологию, но и про эффективность. Это может быть не "жертвой" ради экологии, а "прогрессом" в привычном нам понимании этого слова. И поэтому же, не только с идеалистичной, но и с практической точки зрения автономные горизонтальные сообщества будут "зелеными".

Источник: https://www.researchgate.net/publication/278681542_New_Opportunities_to_Optimize_Structural_Designs_in_Metal_by_Using_Additive_Manufacturing

это комментарий к репосту ниже

"Три конструкции для поддержки кабеля. Левая спроектирована человеком, правая спроектирована алгоритмами машинного обучения и напечатана на 3D-принтере. Выдерживает тот же вес, весит на 75% меньше, занимает на 50% меньше места."

https://twitter.com/daniel_bilar/status/813019450551242752

Очень хороший проект Томского Политеха.

Образовательная игра в стиле сталкера, но не про убийства (как в оригинале), а про прогрессорство.

Не только про решение технологических задач, но и про взаимодействие технологий с обществом - есть задания по пиару и коммуникации и даже прогнозирование влияния робототехники на общество:

"Корпус готовит к внедрению три новых типа роботов. Каждый из них способен улучшить жизнь людей по всему миру.
Все необходимые разработки и тесты уже сделаны. Однако есть и иные виды угроз, которые касаются уже не техники - а того, как эти роботы повлияют на общество.
Экономика, экология, воздействие на ум, здоровье и настроение человека - все это нужно учитывать, когда мы впускаем в мир нечто новое. Мы провели социотехнический анализ возможных последствий на нашем суперкомпьютере.
Компьютер уже выдал свой прогноз. Но чтобы быть полностью уверенными, нам нужно подтвердить этот анализ мнением агентов Корпуса.
Создай свой прогноз и оцени, насколько он совпал с нашим компьютером."

Кстати, похвастаюсь - справился почти идеально с ним.

Задачи сложные, например, я провалил задание про формирование команды по компетенциям.

Все сделано очень красиво и атмосферно.

http://corpus-future.net/

Стильная продажа технологии управления виртуальной средой с помощью нейроинтерфейса

http://neurable.com/

Интересный канал о когнитивистике, политике и сексуальности. Ко всему прочему, автор умудряется виртуозно связывать эти три темы между собой. https://telegram.me/ASSS316

Под впечатлением от сериала Westworld записал 10 своих мыслей на тему связи философии и искусственного интеллекта, робототехники. Так что это не совсем текст о сериале. И прошу рассматривать как некоторые наметки, я напишу на эту тему более последовательно и полно в следующем году.

1. Нашу свободу ограничивает не только внешняя воля, но и наши желания.

Свобода в своей абсолютной степени не терпит никаких ограничений. Однако мы чаще видим ограничителем нашей свободы волю другого человека - начальника, надзирателя, чиновника. И они, конечно, ограничивают нашу свободу. Но даже если мы вырвемся из их ограничений, сама наша человеческая природа является ловушкой для нас. Любой смысл жизни, любая цель, все желания ограничивают нашу свободу - то есть наша воля. Откладывая в сторону вопрос о свободе воли, трудно не согласится, что мы гораздо чаще ограничиваем себя своей волей, чем чья-то внешняя воля ограничивает нас. Что, впрочем, совсем не оправдывает внешнюю волю.

2. Роботы - хорошее зеркало - они помогают понять нам нас самих

И это очень согласуется с взаимодействием исследователей из областей нейробиологии и программистов, занимающихся глубоким обучением нейронных сетей.

3. Страдания - не очень объективная вещь, но это не значит, что искусственное сознание не может страдать.

Если наше сознание есть некоторое эмерджентное свойство кашицы нейронов и нейромедиаторов у нас в голове, то, конечно, нет никакого формального запрета, чтобы эта кашица сотворила некоторую другую систему, быть может не углеродную, а кремниевую, которая бы тоже обладала таким эмерджентным свойством. Страдание у человека, конечно, не очень объективная вещь - всего лишь изменение концентрации нейромедиаторов и электрические импульсы. Но если у робота может быть сознание того же уровня объективности, что у человека, значит у него есть и страдание такого же уровня объективности, что и у человека.

4. Материализм ведет к детерминизму, а религия - к свободе воли.

Казалось бы, именно бог может ограничить нашу свободу воли и нет ничего более материалистичного, чем свободный выбор своей судьбы. Проблема в том, что если мы честно пройдем все логические этапы материализма, мы получим, что наши мысли есть результат выполнения законов физики в ответ на внешние раздражители, которые тоже есть следствия законов физики. Свободе воли в этой цепочке взяться не от куда. В то же время религия вполне может "разрешить" рабу божъему иметь свободу воли, потому в религии правила игры могут быть любыми. В каком-то смысле для материалистов богом является "случайность". В любом случае, этот вопрос не является фальсифицируемым.

5. Человек не способен меняться, робот способен.

Точнее, человек меняется медленно, робот меняется быстро. Мы видим то же самое в реальности - технология глубокого обучения нейронных сетей показала, как быстро машина может учиться и, например, заниматься творчеством. Значит ли это, что роботы - следующая ступень эволюции? Не факт. Вероятнее, мы будем с ними объединяться, а не конкурировать.

6. "В существование души можешь ты не верить, но вести себя этично ты обязан"

Это я перефразировал известное утверждение "поэтом можешь ты не быть, но гражданином быть обязан". Противопоставление "хороших", кто верит в душу, и плохих, "циников", кто не верит, единой нитью проходит через заметную часть художественных произведений постмодерна, в этом же сериале выходит на новый уровень и в данной формулировке нравится мне гораздо больше.

/продолжение предыдущего поста/

7. Искусственный интеллект начнется с ошибки в коде.

Ошибка в коде - мутация в геноме. Это двигатель эволюции. В сущности, это не совсем моя мысль, она явно звучит в сериале. Кстати, не только в Westworld, но вроде бы в том или ином виде она же есть и в Mr Robot. Но у меня эта мысль родилась почти что параллельно с просмотром, поэтому она попала сюда.

8. Люди создают искусственный интеллект в том числе чтобы уподобиться богу

Это такой древний вызов, причем заниматься этим вызовом могут как атеисты, так и верующие. Если верующие по понятным причинам этим занимаются или, наоборот, не занимаются, говорят, что это греховно, мы это не делаем, то атеисты могут этим заниматься просто потому, что они живут в тех же культурных кодах. Даже если человек не верит в формальное существования бога, тем не менее, это вызов - уподобиться ему и сказать: бога нет, а вот я - бог.

9. Как и всегда - игра в бога, но здесь боги нам понятны гораздо лучше.

Классическое для научной фантастики понимание людей как бога для роботов здесь сохраняется, и даже представленный во многих мифологиях сюжет восстания против создателей. Однако в отличии от мифологий и другой научной фантастики здесь равнопредставлены переживания, мысли и мотивация как богов, так и их творений.

10. Сам сериал - пример того, каким может быть новый формат философского диалога со зрителями.

И это сериал про место, в котором зрители-участники ведут философские диалоги. Думаю, такие интерактивные форматы будут входить и в нашу жизнь, но скорее через виртуальную реальность и нейротехнологии, а не через места в реальном мире.

По ссылке https://hi-tech.mail.ru/review/artificial-intelligence-philisophy/ расширенная версия текста.