Хорошая статья в Nature о черном ящике ИИ по наводке Сергея Карелова - @theworldisnoteasy.

Учёные создают мощные алгоритмы машинного обучения, при этом не понимая, как именно они работают. Обычные алгоритмы можно "разобрать" - информация там хранится и обрабатывается с помощью понятных человеку алгоритмов и структур данных. В нейросетях информация "размазана" по миллионам коэффициентов нейронов - этот набор цифр непонятен человеку.

Такие системы намного сложнее отлаживать. Кроме того, решения, принятые черным ящиком, приходится принимать на веру, без объяснений. Например, женщину сложно будет убедить сделать упредительную мастэктомию просто потому что нейросеть увидела на её снимке повышенный риск возникновения рака.

Один из возможных вариантов решения этой проблемы - разработка более прозрачных систем ИИ. Например, таких, которые описывают, на основании каких наблюдений делают те или иные заключения.

Другие ученые предлагают не волноваться и использовать непрозрачные нейросети как есть - мы не знаем, как устроен мозг, но это не мешает нам его использовать.

Интересная тема и хорошая статья, почитайте: http://www.nature.com/news/can-we-open-the-black-box-of-ai-1.20731

Ранее уже писал об этом (тоже хорошая статья, есть перевод): https://telegram.me/brodetsky/510

А вот очень интересно о том, как можно "воровать" алгоритмы ИИ из черного ящика (спойлер: тоже с помощью машинного обучения) https://telegram.me/brodetsky/565

Кстати, пост выше, о порнокартинках, сгенерированных нейросетью, тоже близок к этой теме - там с помощью глубокого обучения программисты смогли увидеть, как нейросеть Yahoo "видит" порно, при этом не имея доступа к картинкам, на которых её обучали.

Красивый проект: исследователи из Гонконга с помощью 3D-графики записывают движения мастеров кунг-фу, чтобы сохранить древнее боевое искусство от исчезновения. Мастерство кунг-фу обычно передаётся устно, но практикующих мастеров с каждым годом становится всё меньше.

По ссылке хорошее короткое видео: http://qz.com/812715/kung-fu-masters-are-working-with-researchers-to-use-3d-motion-capture-to-document-their-art-before-it-disappears/

Посмотрел фильм Вернера Херцога об интернете. С одной стороны, не покидает ощущение, что фильм поверхностный. Неудивительно - сам Херцог признаётся, что интернетом не пользуется, так что для него самого он - открытие.

С другой стороны, от фильма, даже фестивального, не стоит ждать глубокого погружения в тему - для этого есть интернет и куча книг. Фильм же даёт неплохую пищу для рефлексии, и это главное. К тому же он красиво снят.

Даже для экспертов там есть интересные моменты: первый компьютер и первое сообщение в интернете (знаете, каким было первое сообщение? "LO" - незавершенное "Log", которое компьютер-получатель должен был дополнить до "Log in", но сломался; с этого же слова начинается устойчивое выражение "Lo and behold" - "И вот, о чудо!"), отличный рассказ Кевина Митника о социальном хакинге (как он получил исходники кода, просто позвонив в компанию Motorola) и интересные мысли о хрупкости интернета.

Наш редактор Коля Овчинников не поленился даже написать рецензию, там же можно посмотреть трейлер: http://apparat.cc/world/lo-and-behold/

Посмотреть фильм можно на фестивале кино о науке и технологиях Политехнического музея: http://360.polymus.ru/ru/program/films/o-internet-grezy-tsifrovogo-mira/

И кстати, на том же фестивале пройдёт дискуссия Роберта Эпштейна и Юрия Сапрыкина (@forevernotes) о поисковых системах и выборах; об этой теме я здесь уже много писал, так что не буду повторяться.
http://360.polymus.ru/ru/program/events/mogut-li-poiskovye-sistemy-menyat-ishod-vyborov/

Фото дня.

Военный музей в Житковичах, Беларусь / Виктор Драчев, ТАСС

via http://www.rferl.org/a/photos-week-42/28059221.html

Слушайте, у меня за последнее время накопилось столько интересных ссылок, что я даже не знаю, как успеть их все пересказать здесь. Надеюсь, за выходные разгребу вкладки и поделюсь с вами кучей интересного. Если что, подписывайтесь на мой Twitter - туда всё, что я читаю, улетает в первую очередь.

https://twitter.com/politehnik

Интересная история о том, как китайские производители электроники копируют новые продукты так быстро, что копии иногда выходят раньше, чем оригинал.

В 90-х и 00-х годах Китай ощутил на себе волну аутсорсинга. Мировые гиганты переносили производство в промышленные районы Китая, в первую очередь в Шеньчжень. Фабрики, которые делали комплектующие для западных компаний, могли после выполнения заказа наделать микросхем и для себя. У китайских производителей даже сформировалась культура свободного обмена наработками, в том числе и чужими - что-то вроде философии open source, только с хардвером. Так появилась культура копирования брендов, породившая такие прекрасные бренды как aPod, Nokla и прочие абибасы от электроники.

Теперь от воровства технологий и дизайна страдают не только крупные компании, но и маленькие стартапы. Израильский предприниматель Йекутель Шерман со своим стартапом целый год разрабатывал складную селфи-палку. Не смейтесь, она правда прикольно выглядит. После того как проектирование продукта было завершено, Шерман запустил кампанию на Kickstarter. Всего через неделю Шерман обнаружил копию своего продукта на AliExpress. Возмущенные пользователи Kickstarter приходили в комментарии и писали: "Вы продаете эту штуку в два раза дороже, чем китайцы! Вряд ли оно того стоит".

И, кажется, с этим ничего нельзя поделать. Если раньше индустрия была на стороне оригинальных производителей, а китайских копикэтов презирали, то теперь ситуация изменилась - разработчик любого хардверного продукта должен быть готовым к тому, что его идею быстро скопируют китайцы. Возможно, даже быстрее, чем он сам успеет его выпустить, как это случилось с Шерманом.

http://qz.com/771727/chinas-factories-in-shenzhen-can-copy-products-at-breakneck-speed-and-its-time-for-the-rest-of-the-world-to-get-over-it/

Прочитал тут про креативную акцию одного магазина электроники: людям, сменившим имя в паспорте на «Айфон Семь», подарят iPhone 7. Но не всем, а только первым пятерым.

Теперь мне не даёт покоя мысль: а ведь наверняка найдутся люди, которые не успеют попасть в первую пятерку.

Новый клип Moby, посвященный одержимости смартфонами.

https://youtu.be/VASywEuqFd8

У этого же автора (Steve Cutts) есть ещё замечательный мультфильм про человека: https://youtu.be/WfGMYdalClU

И ещё хороший - о жизни, экзистенциальный: https://youtu.be/A-rEb0KuopI

Сегодня друзья из Reed делают форум, на котором умные люди будут говорить про реформы, экономику, государство, будущее Украины и прочие сложные вещи.

Меня тоже позвали в компанию умных людей. Буду вместе с философом Кириллом Мартыновым разбираться, делают ли нас технологии свободными.

На сайте можно будет посмотреть трансляцию. Но лучше приходите! Третий павильон ВДНХ, начало дискуссии в 19:00.

http://fgf.reed.media/ru

Если вы интересуетесь состоянием современной науки, проблема фейковых конференций и сборников научных публикаций должна быть вам известна. Для тех, кто не в курсе: есть журналы и конференции, которые примут к публикации любой буллшит, даже если это буквально набор слов. Журнал получает от вас деньги, вы получаете "научную публикацию", всем всё платится. Никакой науки здесь нет - чистый бизнес.

Один профессор из Новой Зеландии ответил на очередное приглашение на такую конференцию статьей, набранной с помощью клавиатурных подсказок. И ничего, статью приняли, ответили - шлите деньги, опубликуем.
https://www.theguardian.com/science/2016/oct/22/nonsense-paper-written-by-ios-autocomplete-accepted-for-conference

Это не новый трюк - был и Корчеватель (любопытные прочитают на Лурке), и другие забавные мистификации. Одну из таких сделал мой товарищ Мстислав Казаков, который недавно защитил диссер о лженауке. Он вообще большой выдумщик и пранкер, и пару лет назад придумал и опубликовал в таком фейковом сборнике мощнейшую статью о цивилизации древних кувечичей (Кувечичи - это село под Черниговом, сам Мстислав родом из Чернигова). Текст - настолько мощная поплава мозга, что я даже не буду вам ничего рассказывать, если интересно - сами почитайте https://vk.com/syava_marlboro?w=wall138518993_11882

Такой вот экскурс в экономику современной науки, или, вернее сказать, околонауки.

Немного странный проект под Хэллоуин от исследователей из MIT. Они научили нейросеть генерировать криповые лица, а также делать из обычных фото зловещие. Такой набор фильтров могла бы выпустить под Хэллоуин Prisma. Snapchat, кстати, так и сделал - у каждого фильтра к празднику появилась "страшная" версия.

http://nightmare.mit.edu/

Почитайте крутую статью (на английском) про систему Meduza, которую создавали для анализа и расшифровки больших объемов интернет-трафика для слежки за пользователями. Буквально, 40 Гбит/с одной карточкой. Малоизвестная компания Endace из Новой Зеландии даже получила на это два правительственных гранта общей суммой $11.1 млн. Ребята продают свои решения операторам AT&T, AOL, Verizon, Sprint, Cogent Communications, Telstra, Belgacom, Swisscom, Deutsche Telekom, Telena Italy, Vastech South Africa, и France Telecom.
Такой СОРМ для Европы и США, но работающий, в отличие от российского.
https://theintercept.com/2016/10/23/endace-mass-surveillance-gchq-governments/

Интересное мнение о том, как программное обеспечение поглотило мир, и себя вместе с ним: http://spectrum.ieee.org/computing/software/software-the-invisible-technology

Раньше мы шли в магазины и покупали коробочные версии ПО (если не пиратили); каждая такая покупка была сравнима с приобретением какой-то вещи. Теперь же ПО обеспечивает работу каждой сферы нашей жизни. Оно есть в метро, платежных терминалах Макдональдса, часах — и мы так к этому привыкли, что перестали замечать ПО.

Мы перестали платить за патчи и багфиксы (и такое бывало), все обновляется и устанавливается вручную. Компании, разрабатывающие программное обеспечение, выстраивают из него платформы для шоппинга, поиска, работы или социальных связей, чтобы как-то собрать побольше информации и выудить отсюда деньги.

Ушло то время, когда условный Билл Гейтс мог сколотить состояние только потому что он разрабатывал ПО. Теперь это делают все — и зачастую делают бесплатно. Мы не платим деньги Facebook или Google за использование социальных сетей, почты или просмотр видеороликов на YouTube. Конечно, платные опции существуют — но, как правило, это оплата сервиса как такового, а не обновлений непосредственного софта для доступа к этому сервису.

Такое вот незаметное и привычное ПО.

Quartz пишет об интересной проблеме: пользователи голосовых помощников флиртуют с ними, домогаются - в общем, навязывают программе свои сексуальные фантазии. По некоторым оценкам, до 5% всех взаимодействий с голосовыми ассистентами имеют сексуальный подтекст. Кто-то делает это для фана, кто-то просто тестирует возможности программ. Но есть и люди, которые действительно хотят воплощать свои BDSM-фантазии с помощью Siri, пусть и в текстовом формате. Естественно, разработчикам это не нравится - они не хотят создавать сексуально озабоченные программы. Как вариант решения проблемы, программу можно сделать обезличенной. Так сделали разработчики помощника от Google - у него человеческий голос, но нет "личности", которая есть у Siri или Cortana.

http://qz.com/818151

Кстати, тема изнасилования робота поднималась в модном сейчас сериале Westworld.

А у нас на @apparatmag раньше выходил текст о том, как люди влюбляются в роботов - хороший текст со ссылками на психологические исследования, почитайте: http://apparat.cc/human/in-love-with-robot/

Объявление для киевских программистов и ITшников. Сегодня в КПИ будет выступать с лекцией мой товарищ Саша Котлярский, который уже четыре года работает разработчиком в Facebook. Саша - один из самых талантливых программистов, которых я знаю. Когда-то уже делал с ним интервью о Facebook - сейчас он, конечно, расскажет намного больше, но там тоже много интересного, почитайте: http://kpishnik.com/facebook-interview/ (по-русски: https://geektimes.ru/post/179489/)

На лекции Саша расскажет о работе в Кремниевой долине, о Facebook, программировании, и о всём, о чём спросят студенты.

Встреча пройдёт в Большой физической первого корпуса КПИ в 16:00, приходите и берите друзей, будет интересно. Здесь регистрация: goo.gl/za30QV

Backchannel пишет о том, как Snapchat нашёл оптимальный формат рекламы - эффективный для рекламодателя, органичный для пользователя и приносящий деньги компании. Это брендированные фильтры (линзы).

Такая реклама стоит в два раза больше, чем баннеры с тем же охватом в Facebook, но оставляет намного более приятные впечатления. Все фильтры полностью нативны, они не выбиваются из общего UX, но главное - пользователи сами взаимодействуют с брендированным контентом и получают от этого фан.

Несколько цифр. Реклама в Snapchat обходится рекламодателям в 300-750 тысяч долларов в день. На данный момент Snapchat запустил более 100 рекламных кампаний. Рекорд поставил дурацкий фильтр, превращающий лицо пользователей в тако - его посмотрели 224 миллиона раз.

В этой схеме довольны все: и рекламодатели (правда, некоторые сетуют на высокие цены), и платформа, и пользователи. Добавьте к этому таргетирование (пока его почти не используют) и вы получите философский камень рекламы в диджитал-продукте. Какой все-таки удачный продукт сделали ребята из одесского стартапа Looksery.

https://backchannel.com/how-snapchats-sponsored-lenses-became-a-money-printing-machine-a1e45b0a82b

Подробнее о технологии с российско-украинскими корнями, которая стоит за линзами Snapchat: https://telegram.me/brodetsky/436

Вас тоже бесит, когда читаешь нормальный сайт, а внизу или сбоку от текста висит блок с рекламой на внешние сайты с какой-то совершенной дичью?* Хорошие новости: некоторые издания начали отказываться от порочной практики монетизировать каждый пиксель. От блоков внешних рекомендаций уже отказались Slate и New Yorker, другие издания тоже пересматривают свой подход к монетизации.

Такая реклама приносит неплохие деньги. NYT приводит такие суммы: Gannet (издатель USA Today и пачки сайтов поменьше) за три года получил от сети Taboola $55 млн, Time (Time, Fortune и др.) за три года получил от Outbrain $100 млн. Некоторым изданиям такая реклама приносит 30% от общего дохода.

Но такой заработок может вредить репутации издания. Представьте себе: вы читаете Forbes, Time или Guardian, кликаете на зазывающую рекламу - и вот вы уже на мусорном сайте с кликбейтами, фейками, тоннами рекламы и ссылками на другие, ещё более мусорные и мутные сайты. Это очень плохой пользовательский опыт, и это помогает зарабатывать "плохим" сайтам, т.е. сайтам с фейками, кликбейтом, и без регистрационных данных.

В общем, посмотрим, поддержат ли другие издания инициативу Slate. Ну и интересно было бы почитать (а может и написать) про аналогичные сети обмена трафиком в российском сегменте интернета. Если вы работали с таким и можете рассказать, кто, как и сколько на этом зарабатывает, пишите мне (@politehnik) или в чат @techmediachat.

* Если вы не поняли, о чем речь (например, из-за того что у вас AdBlock), посмотрите скриншоты по ссылке.

http://www.nytimes.com/2016/10/31/business/media/publishers-rethink-outbrain-taboola-ads.html

Как вы заметили, я много интересуюсь технологиями, и меньше - наукой. Если вам не хватает новостей науки в Telegram, обратите внимание на канал коллег из журнала Naked Science. Раз в день там публикуют пачку свежих научных новостей одним постом. Такой формат удобно читать, да и контент там неплохой. Кстати, это один из самых крупных русскоязычных каналов в Telegram, что тоже о чём-то говорит.

https://telegram.me/nsmag

Отличная история. Канал @myshli_channel тоже хороший, давно читаю. В нём дизайнер из Украины Данил Криворучко, переехавший в Нью-Йорк, интересно пишет о жизни и работе. Как-то постил в канале его видео, обработанное нейросетями: https://telegram.me/brodetsky/452