В последнем номере Wired вышел большой текст о том, как в Китае внедряют систему "социальных кредитов". Это такая расширенная версия кредитного рейтинга, которая учитывает не только финансовую историю гражданина, но и разные социальные факторы: не нарушает ли человек закон, что он покупает, с кем дружит, что пишет в соцсетях. Реакция западного читателя на такие инициативы ожидаема - "Большой брат", "Оруэлл", "цифровой тоталитаризм". Как это будет работать на самом деле, пока непонятно - система заработает на полную мощность только через три года. По крайней мере, сейчас шумиха вокруг этих рейтингов кажется преувеличенной. В Китае, кстати, люди вообще менее трепетно относятся к защите персональных данных и правительственной слежке. Но звучит всё это действительно зловеще:

"У людей с низким рейтингом будет медленнее работать интернет, они не смогут посещать некоторые рестораны, клубы и прочие заведения. Им запретят свободно выезжать за границу. Рейтинг будет влиять на возможность взять что-либо в аренду, получить кредит и даже социальные льготы. Граждане с низким рейтингом не смогут устроиться на определенные должности, например, в государственных органах, СМИ или юриспруденции, где надежность, разумеется, является обязательным критерием. Если у вас низкий рейтинг, то вы не сможете получить образование в частных учебных заведениях или отдать туда своих детей."

TLDR: китайские власти хотят управлять поведением миллионов граждан с помощью частных корпораций и цифровой слежки. Будущее прекрасно! 👁

http://www.wired.co.uk/article/chinese-government-social-credit-score-privacy-invasion

перевод: https://rb.ru/story/social-credit-score/

via fb.com/iorish

Если хотите понять что-то про технологию, обращайте внимание на то, что о ней говорят разработчики, а не футурологи или пиарщики. Их комментарии всегда интереснее и глубже. На днях поделюсь другими интересными заметками от разработчиков нейросетей, а пока - главное из интервью с Яном ЛеКуном, руководителем разработки искусственного интеллекта в Facebook (и одним из главных специалистов по ИИ в мире).

Медиа плохо освещают тему ИИ - в основном из-за непонимания того, что происходит в области на самом деле. Ещё недавно ни одна статья про ИИ не обходилась без картинки Терминатора. Но ситуация постепенно улучшается.

Мы очень далеки от создания действительно умных машин. Все успешные кейсы применения ИИ - беспилотные машины, интерпретация медицинских изображений, го и так далее - это очень "узкие" интеллекты, натренированные для выполнения единственной задачи. Создание супермощной программы, играющей в го, не приближает нас к созданию общего ИИ. Это совершенно другая проблема.

Мы пока не можем научить машины познавать мир так, как это делают люди или животные. Да, в некоторых областях машины превосходят человека по производительности, но если говорить в терминах общего ИИ, мы пока не приблизились даже к крысе.

Reinforcement learning, примененный при создании AlphaGo Zero - перспективный метод разработки ИИ, но не универсальный. Он хорошо работает в тех ситуациях, которые можно смоделировать и прогнать на компьютере в ускоренном режиме - как это сделали с AlphaGo Zero, когда через нейросеть за несколько недель обучения прогнали миллионы игр в го. В реальном мире время нельзя так ускорить. Это ключевая задача для науки и техники - научить машины строить модели реального мира.

К примеру, когда человек впервые садится за руль, он уже знает, что нельзя съезжать в кювет или въезжать в дерево. Если обучать машину вождению только с помощью reinforcement learning, она врежется в дерево 40 000 раз, прежде чем поймёт, что это плохая идея. Так что неправильно считать, что только reinforcement learning - путь к моделированию интеллекта.

https://www.theverge.com/2017/10/26/16552056/a-intelligence-terminator-facebook-yann-lecun-interview

Недавно в Венеции прошла крупнейшая конференция по computer vision - ICCV 2017. На Techcrunch сделали подборку из 13 интересных исследований, представленных на конференции. Темы разработок - улучшение мобильных и портретных фото, генерация изображений по описанию, копирование художественного стиля на лету, описание изображений естественным языком, подсчёт людей на фото и даже заглядывание за угол с помощью анализа света. Полезно почитать, чтобы быть в курсе, над чем сейчас работают лучшие специалисты по компьютерному зрению.

https://techcrunch.com/gallery/dispatches-from-the-cutting-edge-of-computer-vision/

Давно никто не брался за Ютуб! Вот журналист и художник Джеймс Бридл разворошил осиное гнездо Youtube Kids. Многие родители включают детям их любимые мультики на ютубе, потому что это самый простой и быстрый способ получить доступ к этому типу видео-контента, особенно на мобайле. Включают и отвлекаются на свои дела, в то время как дети смотрят "Свинку Пеппу" или "Щенячий патруль". А зря!

Дело в том, что ребенок не видит большой разницы между оригинальным мультиком, разработанным мегакорпорацией, в которой цеха рисерчеров анализируют детскую психологию, и "пародиями". А учитывая, что оригинальные мультфильмы выкладывают в общий доступ в ограниченном количестве, дети (и родители) постоянно ищут новый контент, порой не очень разборчиво.

Оказалось (внезапно!), что создатели детского видео-контента уже давно в курсе этих особенностей медиа-потребления и научились его недобросовестно эксплуатировать. Помимо ожидаемых нарушений авторского права и низкокачественных пиратских копий оригинальных серий есть целые жанры имитаций и ада с интеграцией высокочастотных поисковых запросов в название видео.

Статья - маст-рид как для исследователей медиа и платформ, так и просто для родителей (особенно тех, которые легкомысленно относятся к общению ребенка с планшетом). - http://bit.ly/2zp9eNx

Бонус-треки по теме:

NYT про адский контент, который прорывается через фильтры Youtube kids - http://nyti.ms/2zsjtma

The Outline про поддельную свинку Пеппу, которая пугает детей - http://bit.ly/2iE5gsj

Ежегодно кибермошенники с помощью фишинга выуживают из карманов доверчивых пользователей интернета 16 миллиардов долларов. Новозеландская организация Netsafe, занимающаяся безопасностью в сети, запустила интересный проект. Re:scam - это нейросеть, обученная отвечать на фишинговые письма. Пользователи форвордят фишинг на адрес Re:scam, нейросеть определяет тип фишинга (банковский, знакомства, наследство), входит в роль и начинает вести со спамерами бессмысленную переписку, отнимая их время. Как это выглядит, можно посмотреть здесь: https://youtu.be/jPajqAJWiNA или на сайте rescam.org

Проект красивый, хотя проблему фишинга он, конечно, не решит. И сразу возникает вопрос: как долго ждать аналогичной нейросети для мошенников, которая разводит доверчивых людей на деньги? А может такие нейросети уже есть? По крайней мере, на сайтах знакомств большинство горячих красоток, которые пишут первыми - это боты, так работает эта индустрия.

Ранее писал здесь про парня, который написал скрипт для телефонного DDOS мошенников: https://t.me/brodetsky/857
И про чувака, который написал смешной скрипт для троллинга надоедливых телемаркетеров: https://t.me/brodetsky/68

Ну и пост про троллинг спамеров будет неполным без этого смешного выступления на TED, посмотрите, если не видели: https://youtu.be/_QdPW8JrYzQ

Интересный ход от Ford: компания закупила для сотрудников сборочной линии экзоскелеты, которые делают их руки практически невесомыми. По видео не видно, насколько это удобная штука, интересно было бы попробовать её на себе. Пишут, что экзоскелет облегчает усилия при поднятии рук на 2-8 кг, уменьшая нагрузку на плечи, руки и спину. За день сотрудник сборочной линии поднимает руки до 4600 раз - можете сами оценить суммарное облегчение.

https://youtu.be/HpYhY5-cVyk

https://spectrum.ieee.org/the-human-os/biomedical/bionics/ford-assembly-line-workers-try-out-exoskeleton-tech-to-boost-performance

Предположим, вам для работы нужен поток случайных чисел. Как его получить? Любой алгоритм будет выдавать числа по определенной закономерности. Программы, генерирующие наборы случайных чисел, так и называются - генераторы псевдослучайных чисел. Если вы делаете игровой автомат с "псевдослучайной" выдачей, то достаточно найти закономерность в этой выдаче, чтобы начать всегда выигрывать у вас. Если вы шифруете трафик, без случайных чисел не обойтись - найдя закономерность в работе вашего генератора случайных чисел, злоумышленники могут взломать ваше шифрование.

Компания Cloudflare, через которую проходит 10% мирового трафика, нашла оригинальное решение этой проблемы. В офисе Cloudflare в Сан-Франциско стоит стойка с сотней разноцветных лава-ламп. Цветные пузыри плавают в лампах, камеры всё это снимают, а фото и видео-поток с камер преобразовывается в числа, из которых потом генерируются ключи шифрования. Красиво!

https://youtu.be/1cUUfMeOijg

Наконец-то кто-то объяснил доступным языком сложные вещи про биткоин и блокчейн. Отличный текст о том, что такое блокчейн, как работают транзакции в биткоине и чем занимаются майнеры. Не первая попытка объяснить тему "на пальцах", но из тех, что я видел - лучшая: http://vas3k.ru/blog/blockchain/

И более сложный текст, о том как работают смарт-контракты и Ethereum: http://vas3k.ru/blog/ethereum/

Канал автора: @vas3k_channel

Обложка Forbes ровно 10 лет назад.

"Nokia: Один миллиард пользователей. Сможет ли кто-нибудь угнаться за королём телефонов?"

via https://twitter.com/mikko

Как только Apple представила технологию Face ID, стало понятно, что её взлом - дело времени. Ждать пришлось недолго - первыми Face ID хакнули вьетнамские специалисты по кибербезопасности. Они обманули систему распознавания с помощью пластиковой маски, напечатанной на 3D-принтере. Причём это даже не совсем маска, а скорее распечатанные фрагменты лица, наклеенные на белый пластиковый манекен. Весь набор для обмана Face ID вместе с искусственной кожей и носом ручной работы обошелся в 150 долларов.

Так что, если вдруг вашим айфоном завладеют вьетнамские хакеры, не надейтесь особо на защиту от Apple.

Подробности и видео: http://www.bkav.com/d/top-news/-/view_content/content/103968/face-id-beaten-by-mask-not-an-effective-security-measure

Интересные цифры - на чём заработали в 2016 году Apple, Google, Microsoft, Amazon и Facebook.

Спойлер: 97% выручки Facebook - онлайн-реклама. У Google немного меньше - 88%. Самый диверсифицированный бизнес у Microsoft (28% - Office), а главная статья выручки Apple (63%) - продажи iPhone.

http://www.visualcapitalist.com/chart-5-tech-giants-make-billions/

Биткоин есть за что критиковать - медленные транзакции, высокие комиссии, нестабильный курс, высокое энергопотребление. Это не идеальная реализация идеи криптовалют. Но как бы ни язвили скептики насчёт мыльного пузыря и "нового МММ", сама идея глобальной цифровой валюты, работающей без банков - это бомба. Жизнь доказывает, что такая валюта нужна людям. И я сейчас не о террористах или наркоторговцах.

Наверяка вы слышали, что в Венесуэле люди массово вкладываются в биткоин, чтобы обезопасить себя от сумасшедшей инфляции (а ещё массово майнят - из-за дешевой электроэнергии). Reuters пишет, что похожая ситуация имеет место в другой стране с неконтролируемой инфляцией - Зимбабве. Хранить сбережения в национальной валюте там бессмысленно. Поэтому люди покупают биткоины. Даже если их стоимость упадёт, местная валюта за это же время обесценится ещё больше. Кроме того, местные банки обрабатывают международные переводы с огромной задержкой, а то и вовсе отклоняют их из-за того что у нацбанка тупо не хватает валюты. Для международных покупок в интернете или переводов родным за границу жители Зимбабве тоже всё чаще используют биткоины.

Благодаря высокому спросу биткоин в Зимбабве стоит почти вдвое дороже, чем в среднем по миру. Но не спешите выгодно продавать биткоины зимбабвийцам - взамен вы получите местные доллары, которые никуда не сможете вывести. Самая популярная местная криптовалютная биржа за октябрь продала биткоинов на миллион долларов. Для справки, население Зимбабве - 16 миллионов, средняя зарплата в стране - менее $300.

https://www.reuters.com/article/us-zimbabwe-bitcoin/think-bitcoins-getting-expensive-try-zimbabwe-idUSKBN1DD0NF
перевод: https://incrussia.ru/news/bitkoiny-v-zimbabve/

Больше интересных фактов про использование криптовалют можно узнать в тесте, который я недавно делал для Медузы: https://meduza.io/quiz/putinkoin-ili-trampkoin

Некоторые армии мира уже используют полуавтономных роботов. Дистанционно управляемые дроны убивают врагов США и Израиля. Примеры - на ютубе по запросу "killer robots" или в рекомендациях к ролику в посте. Машина в данном случае служит лишь инструментом, а курок нажимает человек. Но что, если оборудовать машины алгоритмами, которые позволят им самим нажимать курок? Например, убивать солдат в определенной форме. Или тех, кто проникнет на запрещённую территорию. Или людей из конкретного списка.

Естественно, многие учёные и лидеры мнений выступают против такого подхода. Есть организации, которые проводят кампании против того, чтобы армии мира использовали роботов для убийств. Их аргументы сплошь гуманны и рациональны, но мне лично кажется, что роботы-убийцы - это лишь вопрос времени. Ну кто запретит США убивать условных террористов с помощью умного оружия? Хотя с точки зрения гуманизма это, конечно, страшная штука. Как, впрочем, и любое оружие.

Одна из таких организаций сняла ролик, в котором показаны картины страшного будущего с роботами-убийцами. В реальности всё это будет выглядеть не так кинематографично, но посмотреть стоит. А вдруг всё так и будет? 😰🔫🤖

https://youtu.be/9CO6M2HsoIA

Полиция французского Бордо начала использовать дроны для того, чтобы незаметно следить за нарушениями на дороге. С дрона хорошо видно машины, которые нарушают правила (например, некорректно обгоняют), а самих копов водители при этом не видят. Наблюдение с дронов позволяет полицейским штрафовать 15-20 машин за час на одном участке дороги. Единственное, чего им не хватает для полного счастья - фиксации нарушения скорости с дронов. Но для этого есть обычные скоростные камеры на дорогах. Штрафы с которых, кстати, приносят в бюджет 750 миллионов долларов в год. Водители, конечно, недовольны: говорят, им и так приходится отвлекаться от дороги, высматривая скоростные камеры, а теперь ещё и в небо надо смотреть - не шпионит ли там полицейский дрон?

Тем временем в Москве, Киеве, китайских и американских городах работают камеры с распознаванием лиц, а в Балтиморе вообще снимают аэросъемкой всё, что происходит на улицах. Грядёт эра тотальной прозрачности, где любое действие, совершенное в публичном месте, будет зафиксировано.

👁

Долго откладывал прочтение этого текста, думал что там пиар-история Google. А оказалось, довольно взвешенный и познавательный текст. Журналист Atlantic попал в Google X - подразделение Alphabet, занимающееся инновациями и изобретениями. Задача Google X - предлагать радикальные решения важных проблем. Очки Google Glass, беспилотные машины Waymo, раздача интернета через воздушные шары (Project Loon) - это всё проекты Google X.

В условиях свободного рынка компании не заинтересованы в долгосрочных проектах без осязаемой прибыли. Для создания реально прорывных проектов нужны лаборатории, свободные от рыночных отношений, где исследователи смогут тестировать самые безумные идеи и не париться над их монетизацией. Google (вернее, Alphabet) - одна из немногих компаний, которая может позволить себе вкладываться в безумные муншоты вроде обогрева Нью-Йорка геотермальной энергией, не задумываясь о прибыли прямо сейчас. Почитайте, текст не только про Google X - там много интересного про то, как работают изобретения и инновации вообще и в США в частности: https://www.theatlantic.com/magazine/archive/2017/11/x-google-moonshot-factory/540648/

перевод от @newochem: http://telegra.ph/Google-X-i-nauka-radikalnyh-innovacij-ch1-11-05

Смотрите, какую классную штуку сделали в Швейцарии - маленький робот-рыбка внедряется в стаю рыб, следит за ними, изучает их движения, поведение и даже может увлекать их за собой. Рыба-шпион!

https://youtu.be/eoElxhjXfpQ

https://actu.epfl.ch/news/a-robotic-spy-among-the-fish/

Television newspaper. Can it be done?

(Британский журнал Scoops, 1934/1935)

Помните, мы смеялись над тем, как неуклюже двигаются роботы Boston Dynamics? Шутки кончились: теперь робот Atlas умеет делать заднее сальто. Многие из вас могут похвастаться такими умением? Я - нет.

https://youtu.be/fRj34o4hN4I

Функция "People You May Know" - одна из самых загадочных для меня. Иногда там появляются люди, у которых куча общих друзей со мной. Иногда - старые знакомые, которые только зарегистрировались на Facebook (и у которых, очевидно, записан мой номер телефона). А иногда вообще люди с другого континента, с которыми у меня нет ничего общего. Как это работает - загадка.

Журналистка Gizmodo Кашмир Хилл не раз писала об удивительных примерах работы этого алгоритма. Иногда он предлагал подружиться пациентам одного психотерапевта, иногда предлагал секс-работницам зафрендить своих клиентов. Самой Кашмир Facebook предложил зафрендить дальнюю родственницу, с которой у ней никогда не было никаких контактов.

"За те месяцы, пока я писала об PYMK, я выслушала около сотни довольно шокирующих историй:

Мужчине, который был донором спермы для пары, чтобы они смогли завести ребенка (и держал это в секрете), Facebook в качестве знакомого рекомендовал ребенка, родившегося в результате этих действий. При этом мужчина не дружит с парой на Facebook.

Клиент назвала социального работника по ее никнейму уже на второй визит к ней — ник клиенту показал Facebook в выдаче People You May Know, при том, что они не обменивались контактами.

Женщина, чей отец оставил семью, когда ей было шесть лет, получила от Facebook рекомендацию подружиться с его тогдашней любовницей — 40 лет спустя.

Юрист, которая написала «Я удалила аккаунт в Facebook, после того, как сеть в качестве PYMK рекомендовала мне мужчину, который выступал адвокатом защиты на одном из моих дел. Мы общались только через рабочую почту, которая не связана с моим Facebook, и это убедило меня, что социальная сеть сканирует содержимое моих рабочих писем»."

Проведя исследование, Хилл предположила, что главный источник загадочных предложений в PYMK - контакты, которые Facebook предлагает пользователю загрузить в соцсеть. Пару кликов - и все адреса из вашей почты и номера из телефонной книги уже в базах Facebook. Таким образом соцсеть получает расширенный граф ваших социальных связей - получив списки ваших контактов, Facebook знает не только тех, кого вы зафрендили, а и вообще всех, с кем вы когда-либо списывались или созванивались. А дальше этот граф используется для построения предложений в PYMK.

Интересно, что ранее Facebook использовал для PYMK даже геолокацию. После того, как одна из статей Хилл получила резонанс (кажется, как раз о пациентах одного врача), представители соцсети заявили, что это был эксперимент и теперь геолокация не используется в PYMK.

Главный вывод из этой истории, мне кажется, в том, что мы не можем контролировать, какая информация о нас попадёт в интернет. Вы можете делать вид, что не знаете определенного человека, но если он примет предложение Facebook поделиться контактами, соцсеть будет знать, что вы знакомы. Соцсеть заинтересована в том, чтобы получить максимум информации о реальных социальных связях пользователей. Больше связей внутри соцсети - больше взаимодействий, больше просмотров постов и больше денежек в бюджет Facebook. А приватность... Ну, классная была штука в эпоху до соцсетей, да.

https://gizmodo.com/how-facebook-figures-out-everyone-youve-ever-met-1819822691
перевод: https://ain.ua/2017/11/09/tenevye-profili