Интервью с Yoshua Bengio, который возглавляет одну из ведущих исследовательских команд мира, занимающихся глубоким обучением. Ну про эту технологию мы все помним - там вам и Ван Гог из любой фотки, и музыка, написанная компьютером. В общем, казалось бы, вот оно будущее.

Так вот Yoshua объясняет насколько близок момент, когда компьютер начнет все понимать и, следовательно, потенциально представлять опасность.

Сполйер: совсем не близок. Ну, а радоваться этому или огорчаться - решайте сами.
http://www.technologyreview.com/qa/546301/will-machines-eliminate-us/

Нарисованный Yoshua Dengio из предыдущего поста. Присылаю отдельно, все же не каждый день в интервью прикольная картинка нарисованная

А вот в линых сообщениях мне предложили вариант, что автомобиль должен подключаться к всеобщей дазе данных людей и оценивать полезность для общества и сранивать "у водителя и у 10 пешеходов".
А вот это уже чисто этический вопрос - допустимы ли в принципе такие сравнения. Нужно поискать статьи на эту тему. Ну моя личная позиция - что не допустимы.

Для меня само наличие это дискуссии о таком варианте развития событий является показателем того, что этическими вопросами заниматься надо. Надо это обсуждать и не допускать реализации некоторых сценариев, иначе, не обсуждая такие вопросы, мы можем получить мир, который любому антиутопичному сайфаю фору даст.

Про область, которую мы здесь обсуждаем, даже есть сериал)
Называется "Черное Зеркало". Очень всем советую. Это мини-сериал, каждая серия показывает какую-то технологию в ключе ее влияния на общество, либо какой-то сценарий развития общественных механизмов (может быть и без явного влияние технологий). И снят очень хорошо. Там всего 7 серий, каждая по 45 минут.
http://www.imdb.com/title/tt2085059/

Или вот на кинопоиске: http://www.kinopoisk.ru/film/655800/

@NeuroScienceRu опубликовали ссылку на один интересный канал @AsimovFuture
Там рассказывают про взаимодействие роботизированного мира, технологий и нашего биологического вида. На канале ещё не так много записей, а самое интересное далеко вначале: про технологическую этику.

Казалось бы, гуманитарное с технологическим сосуществуют, пересекаясь лишь в самых редких случаях, но с развитием Искусственного Интеллекта этических вопросов к философам станет все больше.

Правильно говорят, что задумываться об этом надо уже сейчас, пока всё «на стадии разработок» (чтобы учесть такие моменты на стадии обучения нейронных сетей), потому что неизвестно в какой момент экспоненциальный рост и сингулярность с феерической быстротой приведут нас к тому, что машины станут нашими полноправными партнерами, а не просто помощниками.

Мнение от Элона Маска. Ничего неожиданного, но надо быть в курсе
http://nextbigfuture.com/2016/01/elon-musk-identifies-electric-aircraft.html

Позитивисткий подход "РОБОТЫ ОБОГАТЯТ НАС, А НЕ ЗАМЕНЯТ". И картинка к статье очень красивая, см в следующем сообщении отдельно

Роботы займут наши рабочие места. Так утверждает Мартин Форд (Martin Ford) в книге «Восстание роботов» («The Rise of the Robots»). Энди Холдейн (Andy Haldane), старший экономист Банка Англии, недавно заявил, что машины могут заменить 15 млн британских рабочих. Возьмет ли искусственный интеллект верх? Вряд ли.

Инновации всегда подвергают рабочих риску. Стоит только взглянуть на гонку среди автопроизводителей в разработке самоуправляемого автомобиля. Электричество привело ко второй промышленной революции, уничтожившей старые рабочие места в перенасыщенных индустриях, оставляя рабочих с недостаточным навыками на обочине производственного процесса.
http://www.robo-hunter.com/news/roboti-obogatyat-nas-a-ne-zamenyat
Трудно стало кузнецам в 1920 году, когда промышленники предпочли использовать электрические дуги и различные методы массового производства. Навыки, которые развивались на протяжении множества лет упорного труда, перестали что-либо значить.

Картинка к предыдущей статье

Казалось бы, иерархичность в корне противоположна сетевой структуре, а что может быть более антииерархичным, сетевым, децентрализованным и так далее чем блокчейн.
Однако в этом лонгриде подробно описывается, почему не смотря на все это, блокчейн не победит государства.

Собственно, большая часть статьи о блокчейне вообще и очень подробно, так что стоит почитать в любом случае.

Ну а если вкратце, почему по мнению автора государства не будут им уничтожены:

- Проблемы возникнут у самого блокчейна.
Даже самые совершенные технологические надстройки вторичны по отношению к социальной природе человека. А она предполагает расслоение и централизацию любой общности людей.
Отличной иллюстрацией может послужить пример самого биткоин-сообщества. Как оказалось, развитие биткоина и успешность его противостояния новым вызовам на протяжении уже многих месяцев сдерживается неспособностью пула из шести ключевых разработчиков договориться по ряду ключевых стратегических вопросов.

- Государства будут бороться до последнего и могут победить.
Радикальные проекты по внедрению систем прямой криптодемократии встретят жёсткий отпор со стороны государств, а к их ведущим проповедникам будут относиться как к сепаратистам и террористам.
http://www.furfur.me/furfur/changes/changes/216495-blokchain

Иллюстрация к предыдущему посту

Статья 1953 года. Показывается, почему две новые науки (тогда новые, да!) - кибернетика и теория информации могут решить проблемы биологии, психологии и социологии.

Тут и демократия, основанная на теории Фон-Неймана, и машины, которые, конкурируя между собой, могут образовать общество.

файл в следующем посте

Да, а называется статья "TOWARD SOME CIRCUITRY OF ETHICAL ROBOTS" автор W. S. McCulloch

Тем временем вот так, так что не волнуйтесь

А теперь немного про редактирование генома человека. Пожалуй, одна из самых острых техноэтических проблем современности.

Модификация эмбрионов и половой линии человека запрещена в США и большинстве стран Европы.

Но еще в апреле Ученые из Университета Сунь Ятсена в Гуанджоу впервые в мире направленно модифицировали геном человеческих эмбрионов с помощью техники CRISPR/Cas9. Эффективность и избирательность процедуры оказалась гораздо ниже, чем в уже исследованных животных моделях и в культуре клеток человека. Ученым не удалось опубликовать результаты своей работы ни в Nature, ни в Science, их статья появилась в журнале Protein & Cell (файл в следующем посте)

И вот Великобритания разрешила редактировать геном человеческих эмбрионов. Она выдало первое разрешение на редактирование генома эмбрионов человека в исследовательских целях. Его получит исследовательская группа из Института Френсиса Крика под руководством биолога Кети Никен (Kathy Niakan). Великобритания, таким образом, станет второй страной в мире, где разрешены подобные процедуры.

Заседание комиссии министерского агентства HFEA (Human Fertilisation and Embryology Authority – Управление по эмбриологии и искусственному оплодотворению) проходило 14 января этого года, но о принятом решении стало известно только сегодня. Согласно этому решению, редактирование генома будет проводится с лишними эмбрионами, которые получают но не используют в ходе процедуры экстрокорпорального оплодотворения (ЭКО). В настоящее время такие эмбрионы просто уничтожают.

Ученые должны будут использовать модифицированные эмбрионы только для фундаментальных исследований — подсаживать их суррогатной матери будет невозможно. Кроме того, на исследования наложено временное ограничение — эмбрионы могут быть использованы только в течение 14 дней, после чего их потребуется уничтожить.

В решении отдельно упоминается, что перед началом экспериментов их цели и задачи будет оценивать специальная исследовательская этическая комиссия. Она должна будет установить, соответствуют ли разрешения, получаемые от доноров материала, тем дополнительным экспериментам, которые будут проводится с эмбрионами.

В решении комиссии идет речь о конкретной технологии редактирования генома, системе CRISPR/Cas9. Исходно эта система была открыта как механизм бактериального иммунитета против вирусной ДНК. Сейчас ее элементы широко применяется для редактирования генома, в том числе генома человеческих клеток. Однако до сих пор речь шла только о геноме отдельных (соматических) клеток, например клеток сетчатки или стволовых клеток, которые используются для инъекции. Редактирование генома эмбриона как целого отличается тем, что изменения касаются также линии половых клеток и, следовательно, могут передаваться в поколениях. Именно это вызывает наибольшее беспокойство как у регуляторов, так и у самих первооткрывателей технологии CRISPR/Cas9.

https://nplus1.ru/news/2016/02/01/britaincrispr