Вот так это будет работать

https://si.wsj.net/public/resources/images/P1-BZ401_CCREDI_9U_20161128113928.jpg

Просматривал подписчиков канала, увидел людей из Азии, написал нескольким - думаю, наверное накрутка какая-то. А оно вот чего!

Очередная новость из параллельного мира Youtube-стримеров. Студент из Гомеля набрал 50 тысяч подписчиков, раздевая своих подписчиц в прямом эфире Youtube. Они созванивались с ним во время стрима по Skype и выполняли его команды - снимали с себя одежду, крутились перед камерой. Взамен получали лайки и подписчиков на свои аккаунты в ВК и Instagram. Казалось бы, что тут такого - на специальных сайтах люди за деньги показывают вообще всё. Но среди раздевавшихся за лайки девушек были несовершеннолетние, а это уже совсем другое дело.

В общем, попал стример из Гомеля. Недавно в Беларуси девушке дали условный срок за сохраненную фотографию с ню в ВК, а здесь такое дело. Зайти в его группу я уже не успел - администрация ВК заблокировала её с соответствующей формулировкой.

СМИ об этой истории толком ещё не писали, так что ссылка будет на другого видеоблогера: https://youtu.be/uXSjCKvCUlI. Больше примеров того, как всё это выглядело, можно найти по ссылке https://www.youtube.com/results?search_query=mellstroy+%D1%80%D0%B0%D0%B7%D0%B4%D0%B5%D0%BB

Вот такие дела творятся в интернете, который мы не замечаем.

Большой текст Fast Company, в котором специалисты по ИИ, UX и продуктовому дизайну рассуждают о голосовых помощниках в беспроводных гарнитурах. Это перспективное направление в разработке интерфейсов, но пока непонятно, станет ли этот интерфейс массовым - как обычно, есть куча нюансов.

Ожидаемо, не обошлось без сравнений с фильмом "Она" - это самый яркий пример голосового помощника в массовой культуре (кто не смотрел, посмотрите, фильм отличный). Но сравнения с кино завышают ожидания от любой технологии. Более близкая к реальности (и потому более интересная) тема - это особенности и проблемы разработки такого интерфейса.

Одна из главных проблем - это как раз несоответствие между тем, чего люди ожидают от голосовых помощников, и тем, что они могут делать. Одно из возможных решений - узкоспециализированные помощники, заточенные на определенные задачи. Например, помощник для спортсменов, который хорошо умеет отвечать на вопросы вроде "сколько я пробежал?" или "какой у меня пульс?".

Будет ли голосовой помощник всегда одной "личностью", либо же в нём будут уживаться разные "аватары" для разных задач и сервисов? Siri или Alexa не знают о всех сервисах, которые могут вам пригодиться. Вы не можете заказать еду в пиццерии за углом - в Alexa есть интеграция только с компаниями, которые за это заплатили. Выходом может быть создание приложений внутри голосового ИИ - вы вызываете Siri, а уже внутри неё запускаете голосового ассистента нужного вам сервиса.

Чем умнее ИИ, тем больше вычислительных мощностей он требует. Серверные центры крупных компаний плохо справляются с обслуживанием голосовых помощников, так что даже при нынешнем уровне сложности эта технология плохо масштабируется.

Ещё одна проблема - аппаратная. Беспроводные наушники остаются непривычными и неудобными для огромного количества людей. Качество звука и качество распознавания речи в беспроводных гарнитурах оставляют желать лучшего. Один из возможных путей развития - дать голосовому помощнику дополнительные "органы чувств". Например, добавить камеру, которая будет считывать выражение лица и жесты пользователя, чтобы лучше его понимать.

Использование голосовых помощников будет приводить к неловким ситуациям. ИИ может вмешаться в серьёзный деловой разговор или интимный момент, может отвлечь человека во время дорожного движения. Разработчики должны придумать, как наделить ИИ "социальной интуицией", чтобы он понимал, что уместно, а что нет. Да что там ИИ - у большинства живых людей с этим проблема.

В общем, до того, что мы видели в фильме "Она", ещё очень далеко.

http://www.fastcodesign.com/3057483/the-next-big-tech-revolution-will-be-in-your-ear

перевод: http://rb.ru/longread/tech-revolution/

Сейчас будет длинный, но интересный пост про ИИ. Когда нейросеть распознаёт образ, она не видит "образы" в привычном для нас смысле. Нейросеть - это черный ящик. Внутри него находятся несколько слоёв коэффициентов ("нейронов"), которые определенным образом меняются в зависимости от того, что подают на вход. Допустим, мы научили нейросеть распознавать лошадей, показав ей несколько миллионов фото. Если теперь подать на её вход любое изображение, нейросеть преобразует его в многослойный набор коэффициентов и сравнит с теми наборами, которые получались, когда ей показывали лошадей.

"Лошадь" или любой другой образ для нейросети - это не картинка, а набор чисел. И вот здесь начинается интересное. Потому что образ "страус" может преобразовываться внутри нейросети в очень похожий набор чисел. И если, зная это, совсем немного подправить изображение лошади (изменение будет даже незаметным для человека), нейросеть вместо лошади распознает страуса. Или любой другой образ. Для этого даже не надо знать, как нейросеть устроена внутри - её можно обмануть не открывая "чёрный ящик", просто показывая картинки и записывая её реакцию.

Вот подробная статья в Popular Science с иллюстрациями, не поленитесь посмотреть. Вжух - и нейросеть видит вместо здания страуса, вместо панды - обезьяну, а вместо одних дорожных знаков - совсем другие. Исследуют это всё в целях безопасности, а один из заказчиков исследования - армия США.
http://www.popsci.com/byzantine-science-deceiving-artificial-intelligence

Подобным атакам подвержены и системы распознавания речи. Учёные разработали специальные голосовые команды, которые для человеческого уха звучат как белый шум, но при этом голосовые ассистенты (вроде Siri или Google Now) их слышат и распознают. Встроив скрытую команду в выпуск радио, ТВ, или в Youtube-ролик, злоумышленнники могут направить людей на вредоносный сайт, украсть их личные данные или деньги. Это не фантастика: недавно в Техасе домашние устройства Alexa некоторых телезрителей отреагировали на голосовую команду, которую произнёс ведущий местной передачи. Правда, мой смартфон эти команды не распознал. Но на деморолике всё работает, посмотрите: http://www.hiddenvoicecommands.com/demo

Подробнее: https://www.theatlantic.com/technology/archive/2017/01/the-demon-voice-that-can-talk-to-your-smartphone/513743/

Посты по теме:

В чём проблема "чёрного ящика" ИИ и как её можно решить:
https://t.me/brodetsky/608, https://t.me/brodetsky/510

Как исследователи научились копировать алгоритмы машинного обучения из "черного ящика": https://t.me/brodetsky/565

Как работает перенос стиля с помощью нейросетей в приложениях вроде Prisma:
https://t.me/brodetsky/642

So meta

Знакомый журналист делает большой материал про торговлю наркотиками в русском сегменте Tor. Он попросил меня провести тематический опрос, чтобы оценить популярность явления. Не стесняйтесь, опрос анонимный. Текстом потом поделюсь здесь.

Часто употребляете наркотики? Где покупаете?

Не употребляю и никто из знакомых тоже – 2K
👍👍👍👍👍👍👍 62%

Не употребляю, но знаком с теми, кто брал в Tor – 407
👍👍 17%

Употребляю иногда, беру у барыги – 230
👍 9%

Употребляю иногда, беру в Tor – 155
👍 6%

Регулярно употребляю, беру в Tor – 67
▫️ 3%

Регулярно употребляю, беру у барыги – 65
▫️ 3%

👥 2450 people voted so far. Poll closed.

Хорошая статья NYT о том, кто и как делает музыку с помощью ИИ. Пока в этом направлении больше исследований, чем коммерции. Но один лондонский стартап уже умудряется зарабатывать на этом, продавая фоновую музыку для игр, видео и рекламы. Среди их клиентов - британское отделение Coca-Cola.

Удивило меня и то, что машинные песни уже исполняют на концертах. Правда, пока малоизвестные инди-группы.

Упомянули и амбициозный проект машинного творчества Google Magenta, и фортепианные шедевры от DeepMind, и другие проекты, и все - с примерами. Даже если не читаете по-английски, послушайте аудио. Вы будете удивлены.

https://nyti.ms/2kgmE5K

Вот, кстати, интересный российский стартап - алгоритм генерирует электронную музыку в разных стилях. Можно включить на фоне и работать, я сам так провёл не один час: http://play.mubert.com/

Интересная заметка Wired про самую горячую криптовалюту сейчас. Это не биткойн и не Ethereum, а анонимная криптовалюта Monero, которая за 2016 год подорожала в 27 раз. Для сравнения - биткоин подорожал в два раза, Ethereum - в 10.

Monero ("монета" на эсперанто) позволяет лучше сохранить анонимность - в отличие от биткоина, транзакции пользователей Monero не хранятся в публичном реестре. Есть и другие фичи, благодаря которым Monero считается наиболее защищенной криптовалютой (ссылка на Википедию в конце поста).

Неудивительно, что это привлекло пользователей, для которых анонимность критична - наркоторговцев из даркнета. В августе одна из крупнейших торговых площадок Alphabay ввела возможность оплаты с помощью Monero. Сразу после этого курс криптовалюты вырос в 6 раз. По словам администраторов Alphabay, сейчас на расчёты с помощью Monero приходится всего 2% от общего оборота. Но даже это - сотни миллионов долларов.

Общий объём рынка Monero сейчас оценивают в $185 млн. Для сравнения, у биткоина - $15,6 млрд, Ethereum - $699 млн.

Если другие площадки последуют примеру Alphabay, Monero продолжит набирать популярность и расти в цене. Криптоанархисты и пользователи даркнета, берите на заметку.

https://www.wired.com/2017/01/monero-drug-dealers-cryptocurrency-choice-fire/ (из рассылки @while_you_were_out)

Подробнее: https://en.wikipedia.org/wiki/Monero_%28cryptocurrency%29

Наверное, самый популярный лонгрид прошлой недели на английском — очень (местами неоправданно) длинный текст «Нью-Йоркера» про то, как новое поколение американских богачей из Кремниевой долины и с Уолл-стрит готовится встретить апокалипсис, который, как многим из них кажется, в нынешних обстоятельствах политически разделенной нации и неизбежной климатической катастрофы, неминуем. Сограждан они спасать совершенно не собираются — наоборот, собираются спасаться от них.

Делают они это по-разному. Одни просто бессистемно начинают собирать некие запасы на черный день. Другие придумывают общий план: нужен самолет; нужно позаботиться о семье пилота; нужно, чтобы было куда лететь (люди покупают себе маленькие острова); нужно просчитывать условия (люди делают себе операции на глазах, потому что близоруким после разрушения цивилизации придется худо).

Третьи покупают готовые варианты — большая часть текста посвящена Survival Condo Project, бывшей шахте для хранения ядерных ракет в Канзасе, которую смекнувший тренд предприниматель превратил в люксовую долговременную гостиницу для желающих пережить конец света. В ней 15 апартаментов; все уже якобы распроданы; у администрации есть запасы еды на пять лет и технологии, позволяющие ее выращивать в течение неограниченного периода времени, а также протокол действий в случае, когда «начнется».

Четвертые просто покупают землю в Новой Зеландии, будучи уверенными, что уж до тех бесконечно спокойных и красивых мест условный Трамп или кризис энергоносителей не доберутся. Разумеется, среди новозеландцев уже существует движение против этой люксовой иммиграции, но пока участки земли (прицельно выбранные так, чтобы им не угрожало затопление после поднятия уровня мирового океана) разбираются, как горячие пирожки.

Плюс к тому в материале куча идеологического контекста (как увеличение разрыва между доходами разных групп населения способно привести к социальной катастрофе), психологического (технологической элите свойственно просчитывать даже маловероятные риски и вкладываться в страховку от них, если она потенциально выгодна) и исторического (как богатеи готовились к неминуемому апокалипсису в начале 20-го века и во время ядерной гонки 60-х). И могу признаться честно: помимо общей увлекательности темы, основная моя эмоция по отношению к этому тексту — зависть. Разумеется, не ко всем этим антрпренерам-футуристам, а к автору — которому издание выделило бюджет на то, чтобы тот съездил в Новую Зеландию, повстречался с местным элитным риэлтором, поездил с ним по местному побережью и удостоверился: да, там действительно рай, очутившись в котором, забываешь о Трампе и прочих погибелях.

http://www.newyorker.com/magazine/2017/01/30/doomsday-prep-for-the-super-rich

Люблю читать про разработку "мягких" роботов - есть в них что-то немашинное, естественное. Вот в MIT разработали робо-руку из гидрогеля - он почти полностью состоит из воды, поэтому рука практически незаметна в воде и может, к примеру, ловить рыбок. Использовать такие мягкие манипуляторы будут, конечно, не для рыбалки, а для более важных и полезных дел. В первую очередь они пригодятся в медицине - представьте себе роботизированную руку, которая помогает хирургу проводить сложную операцию на мягких тканях. Но видео с рыбкой все равно посмотрите, это красиво.

https://youtu.be/F6vSHmHw1gw

Подробности: http://news.mit.edu/2017/transparent-gel-robots-catch-release-fish-0201

В конце 2016 года Google выкатили мощное обновление Google Translate - благодаря нейросетям сервис стал переводить намного лучше, даже в языковых парах, для которых у него было мало примеров правильного перевода. В NYT в декабре вышел большой текст о том, как Google Translate переводили на новые рельсы - с машинным обучением. Текст неоправданно длинный и изобилует лишними подробностями - автор много общался с разработчиками и не мог отказать себе в описаниях малоинтересных для читателя сцен и разговоров в офисах Google. Внутригугловскую корпоративную эпопею при чтении можно пропускать - кроме неё там есть неплохой ликбез по машинному обучению и экскурс в его историю, а также затрагиваются проблемы машинного перевода. Для специалистов ничего нового, но любителям почитать "на пальцах", как всё устроено - рекомендую: https://nyti.ms/2jAKKLn

Чтобы не тратить время, можно читать перевод, который сегодня опубликовали на VC: https://vc.ru/p/the-great-ai-awakening

Как нейросетевой переводчик Google Translate научился переводить предложения между парами языков, переводить которые его не обучали: https://t.me/brodetsky/670

Интересная статья в Wired о хакерах из Санкт-Петербурга, которые нашли уязвимость в слот-машинах в американских казино. При генерировании результатов розыгрыша (результат - это комбинация из вишенок, "777" и других символов) такой автомат использует генератор псевдослучайных чисел (он берёт за основу системное время процессора, применяет к нему некий набор операций и получившийся результат считает рандомом). Если проанализировать достаточное количество розыгрышей такого автомата, можно выявить в его работе закономерность и предсказать, что выпадет дальше. Мошенники из Санкт-Петербурга именно этим и занимались.

Во время игры они снимали выдачу автомата на смартфон и отправляли видео в штаб в Петербурге. Там их коллеги анализировали видео, находили закономерности в выдаче автомата и отправляли в ответ временные метки, когда нажатие на кнопку автомата приведёт к выигрышу. Смартфон исполнителя вибрировал за 0,25 секунды до того, как на экране автомата появится выигрышная комбинация - мошенники рассчитали, что именно столько времени нужно, чтобы отреагировать на сигнал. Команда из четырёх исполнителей, работающих в разных казино, зарабатывала с помощью этой схемы до $250 000 в неделю.

Реверс-инжиниринг стал возможным благодаря тому, что у мошенников был доступ к внутренностям автоматов. После запрета гемблинга в России тысячи контор продали свои автоматы в страны, где гемблинг разрешён. Мошенники тоже купили некоторое количество автоматов, нашли в них уязвимости - и поехали искать уязвимые устройства по всему миру. Заменять или перепрошивать все старые автоматы слишком дорого для казино, поэтому заведениям приходится мириться с редкими набегами мошенников - в конечном итоге казино все равно в плюсе.

https://www.wired.com/2017/02/russians-engineer-brilliant-slot-machine-cheat-casinos-no-fix/
По-русски: https://meduza.io/feature/2017/02/07/kak-obygrat-kazino

В Google Brain разработали нейросеть, которая делает из пикселизированных фото подробные. Посмотрите по ссылке, это впечатляет - программа создаёт довольно подробное изображение лица, имея картинку всего 8 на 8 пикселей. Правда, нейросеть не восстанавливает оригинальное фото, а лишь пробует угадать, подобрать его. Полученная в итоге детализированная картинка может сильно отличаться от оригинала, но при их пикселизации результат будет одинаковым.

Тестирование провели на фотографиях знаменитостей и спален - в первом случае 10% подопытных не смогли отличить оригинал от восстановленной картинки, во втором - 28%. На примерах видно, что в некоторых случаях нейросеть почти верно "угадала" лицо, в других - наоборот, нарисовала кого-то другого. Так что найти преступника, увеличив картинку с камеры наблюдения, как в сериале CSI, вряд ли получится. Возможно, так будут улучшать изображение в компьютерных играх, я не знаю - можете сами придумать сценарии, в которых качество изображения при зуме важнее его достоверности.

https://arstechnica.co.uk/information-technology/2017/02/google-brain-super-resolution-zoom-enhance/
По-русски: https://geektimes.ru/post/285616/

Ранее американские учёные научили нейросеть узнавать людей на заблюренных и пикселизированных фото, вот это впечатляет даже больше, почитайте: https://t.me/brodetsky/531

Интересное мнение о роботизации экономики от Джона Маркоффа (журналист, 30 лет писал в New York Times о технологиях). Не нужно бояться, что роботы отберут у людей работу. Наоборот, людям нужны роботы - численность трудоспособного населения в развитых странах сокращается, человечество стареет. Экономике не хватает рабочих, а пожилым людям - ухода и помощи. Забота о стариках - более актуальная для человечества проблема, чем беспилотные авто, считает Маркофф. С этим можно спорить, но с последней фразой нельзя не согласиться: “The visionaries are always wrong. That’s the best thing about being a reporter: You don’t have to be a visionary, you just have to take notes about what they’re claiming and remember when they’re wrong.”

http://www.recode.net/2017/2/6/14517118/john-markoff-robots-taking-jobs-new-york-times-recode-podcast
по-русски: https://vc.ru/p/we-need-robots-because-of-age

Давно не советовал вам хороших каналов. С самого начала читаю канал Дениса Ширяева (последние несколько лет он развивал сайт D3). Денис фанат новых технологий, особенно нейросетей и VR, о чём и пишет в своём нескучном канале. Там много интересных штук, которые вы не прочитаете в русскоязычных СМИ. Мои лучшие рекомендации: https://t.me/denissexy