Израильская компания Adversa разработала алгоритм, который обманывает алгоритмы распознавания лиц, заставляя их распознавать на снимке другого человека. На демо — фото журналиста легким движением пикселей превращается для алгоритма в фото Марка Цукерберга. Вроде и полезная штука для всех, кто хочет сохранить приватность в цифровом мире, но точно так же этот алгоритм можно использовать для обмана — например, систем верификации пользователей по фото, чтобы выдать себя за кого-то другого.

Вот более подробный пост о том, как исследователи обманывают нейросети. И еще один пост — о том, с распознаванием каких образов нейросети справляются плохо и почему это важно.

• Демо Adversa работает на поисковике фото по лицам Pimeyes — кажется, сейчас это единственный открытый инструмент для поиска людей по лицам.

• Ранее в Университете Чикаго разработали программу Fawkes, позволяющую защитить свои фото от автоматизированного распознавания лиц. Она меняет некоторые пиксели на фото, чтобы повлиять на работу алгоритмов, которые превращают изображение лица в набор чисел. Измененные таким образом фото можно публиковать в интернете и не бояться, что алгоритмы вас распознают.

• В 2016 году фотограф Егор Цветков создал арт-проект: фотографировал случайных попутчиков в метро и находил их профили с помощью поиска по фото в соцсети ВК. Тогда еще был доступен поисковик по лицам FindMyFace, позже компания-разработчик его закрыла и теперь ее технологию используют московские власти для поиска людей по данным камер городского видеонаблюдения.

Еще одна технология скрытой слежки — чтение речи по губам. Программы для чтения по губам могут помочь людям с проблемами речевого аппарата коммуницировать. Но разработчики таких алгоритмов ищут и другие применения для своих продуктов. К примеру, на государственной электростанции в Панджабе (Индия) алгоритмы следят через камеры за тем, чтобы сотрудники не ругались друг на друга. Также алгоритм этого разработчика используют для мониторинга нянь — не ругают ли они детей. Софт распознает около 50 ругательств и слов, означающих абьюз. Изначально компания-разработчик питчила свой продукт индийской полиции — вместе с распознаванием лиц и оружия через камеры наблюдения.

Еще одна компания совместно с британским исследовательским оборонным агентством разрабатывает софт для поиска ключевых слов по кадрам с систем видеонаблюдения. То есть вы просто идете по улице, разговариваете с кем-то по телефону, говорите ключевое слово, камеры читают его по губам — и сигнал об этом уходит куда надо. Очень мощная технология в перспективе, хотя и сырая прямо сейчас. С английским такие алгоритмы уже работают очень хорошо — Deepmind еще в 2016 году натренировали нейросеть распознавать речь по губам лучше людей. Правда, по кадрам с телепередач, а с камерами видеонаблюдения задача намного сложнее. Но посмотрим, что будет через несколько лет.

В Японии арестовали создателей ютуб-канала, которые публиковали десятиминутные версии популярных кино-новинок. Канал был подключен к монетизации, так что такое использование контента не попадало под определение fair use. Правообладатели утверждают, что ролики со спойлерами нанесли им потери в сотни миллионов долларов. Интересно, как считали. Умножили количество просмотров роликов на стоимость билета в кино? Ну и интересно, какую меру наказания в итоге изберут для ютуберов.

Главный вопрос — зачем вообще смотреть десятиминутные версии фильмов — остается за кадром.

Отличная история про государственную слежку и черные ящики технологий. Пользователи приложения для цифровых подработок Premise получают деньги за простые задания — сфотографировать определенное место, посчитать количество банкоматов, пройти по определенному маршруту, пройти опрос. Компании с помощью такого сервиса могут, например собирать информацию о магазине-конкуренте.

Журналисты WSJ обнаружили среди клиентов Premise военные структуры — армию и Воздушные силы США. С 2017 года Premise заработала на военных проектах не менее $5 миллионов. Получается, пользователи приложения (многие из них живут в странах третьего мира), сами того не зная, работают разведчиками для американской армии. В 2019 году у Premise было более 600 000 пользователей из 43 стран, в том числе из стран Ближнего Востока, представляющих особый интерес для американской разведки.

• Как армия США покупает данные о геолокации миллионов мусульман

В британской The Guardian потрясающая статья в духе фильма "Особое мнение" о том, как военные в Германии пытались предсказывать будущее, с помощью профессоров литературы в проекте под кодовым названием "Кассандра" (так в древнегреческих мифах звали дочь троянского царя Приама, которая могла предсказывать будущее).

Подход был довольно интересный: брался известный своими конфликтами регион, анализировалась тамошняя литература и текстам выставлялись оценки по девяти параметрам: тематический охват, была ли цензура текста, была ли цензура самого автора, реакция СМИ, скандалы вокруг текста, скандалы вокруг автора, литературные премии для автора, литературные премии для текста и, наконец, нарративная стратегия (подразумевалось поддерживает ли автор какую-либо сторону конфликта или нет). Книгам присваивалась оценка от -1 до +3, чем выше была оценка, тем "опаснее" был текст. Чем больше "опасных" текстов выходит, тем "опаснее" становится регион. Если какого-то автора запрещают и гонят прочь из страны, значит его книге надо прибавить очков по степени "опасности".

В некоторых книгах, прогнозируемое будущее указывает на народные настроения и тягу к переменам, например, в Алжире выходила фантастика, где действие происходит в 2084-м году и там по сути идёт простой пересказ антиутопии Оруэлла "1984", но на арабский лад, в которой исламистский диктатор использует религию, чтобы контролировать язык и ум своего народа. В одном из романов речь идёт о группе людей, которые присоединяются к демонстрации, которую жестко разгоняют силовики. В другом - вспоминают события берберской "черной весны" 1980-х годов. Все эти книги были в Алжире запрещены, что косвенно говорит о том, что эти книги были "опасны" для текущей власти, а значит в регионе может снова состояться или вооруженный конфликт или очередная "цветная революция".

"Проект Кассандра" немцы закрыли в 2020 году, во время пандемии, видимо долгосрочные и не слишком надёжные данные военным Германии были не очень нужны. А может быть просто проект попал под сокращение военного бюджета. Но из достигнутого, например, удалось за год предсказать грядущий конфликт в Армении и Азербайджане. Минкультуры Азербайджана снабдило грузинские библиотеки книгами, которые несли явные антиармянские настроения. Были и признаки, что Азербайджан наращивает пропагандистские усилия и вуаля, год спустя - разразилась война в Нагорном Карабахе, в которой погибло 6000 человек.

При этом, что меня в этой статье The Guardian ещё больше поражает - как косвенно сообщают, что штаб Ангелы Меркель вовсю использует уже сейчас big data, нейросети и ИИ для поиска совпадений. В Мюнхенском университете федеральных вооруженных сил Германии придумали систему Preview (сокращение от Prediction, Visualisation, Early Warning), в которой в ход идут не только книги, но вообще любые тексты онлайн: RSS-ленты новостных сайтов, базы данных военных, записи о гражданских протестах, актах неповиновения, взрывы домов и автомобилей, митинги, народные гуляния и тому подобная активность.

Всё это сопоставляется с данными по доходам на душу населения, данными об образовании и даже об изменении климата. Весь этот огромный массив данных анализирует Watson, платформа анализа big data от IBM, которая преобразовывает полученную кашу из данных в военные карты с проставленными на ней метками: вот тут у нас регион с желтой степенью вероятности развития конфликта, вот тут оранжевый, а вот тут красный, похоже что конфликт уже не за горами.

Один немецкий чиновник утверждает, что эта система прогнозирования за несколько месяцев предупредила правительство Меркель о мятеже повстанцев в северной провинции Мозамбика Кабо-Дельгаду, где силы безопасности сражались с боевиками, которые пытались создать очередное исламское государство. Впрочем, тут же делается вывод, что прогнозы тут были хоть и относительно точные, но не слишком долгосрочные, а "Проект Кассандра" должен был, по уверению его авторов, предсказывать будущие конфликты аж на пять лет вперёд.

В общем, прогнозирование будущего это уже не только удел шарлатанов, а серьёзная политическая движуха.

Будущее наступило: алгоритмы увольняют подрядчиков Amazon

Amazon нанимает миллионы водителей для доставки своих посылок по США. Это не сотрудники компании, а такие же подрядчики, как и водители Uber и других сервисов подработок. Чтобы обеспечить быструю и гарантированную доставку, в Amazon разработали алгоритмы, которые анализируют работу водителей - вовремя ли они приезжают за посылками, вовремя ли их доставляют, нет ли жалоб на доставку от клиентов. Проблемным водителям снижают рейтинг, а потом увольняют.

Звучит как здравая для бизнеса оптимизация HR. Сам Безос считает, что машины принимают решения быстрее и точнее, чем люди, снижая затраты и давая его компании преимущество перед конкурентами. Но в погоне за общей эффективностью системы разработчики алгоритмов не учли все нюансы реальной работы доставщиков. Водители регулярно сталкиваются с проблемами, не зависящими от них: задержки в пункте выдачи посылок, занесенная снегом дорога, закрытые ворота по адресу доставки, и так далее. Алгоритм безжалостен и наказывает водителей даже за те ситуации, на которые они никак не могли повлиять. Писать в поддержку бесполезно: водителям отвечают автоматизированными письмами в духе "мы рассматриваем ваше обращение". Те в отчаянии пишут Безосу, но и это не помогает. Единственный способ ускорить рассмотрение апелляции - заплатить за это $200.

Если смотреть на ситуацию с точки бизнеса, то все ок. Система эффективна, 95% посылок доставляются вовремя и без проблем - в том числе благодаря суровым HR-алгоритмам. Но каждое ложноположительное срабатывание алгоритма - это личная трагедия человека, оставшегося без работы в непростой период пандемии. В тексте показаны двое таких водителей - 63-летний ветеран и мать троих детей, обоих автоматически уволили за ситуации, в которых они не виноваты.

Бизнес Amazon растет как на дрожжах - за последние полтора года капитализация компании выросла почти вдвое. И давайте будем честными, вряд ли таких результатов можно было достичь с более гуманными бизнес-процессами. Можем поэтому сто тысяч человек хотят отправить Безоса подальше с нашей планеты?

Читайте также:

• Как алгоритмы становятся надзирателями над людьми
• Как роботизация ухудшила условия работы для сотрудников складов Amazon
• Как работают суровые алгоритмы-менеджеры в китайских корпорациях

Компания из стартап-акселератора Honda показала прототип GPS-навигатора для людей с проблемами зрения. Устройство надевается на обувь и вибрирует, подсказывая человеку, куда идти. Выпустить на рынок планируют через два года.

По прогнозу, только в Японии к 2030 году 2 миллиона человек будут нуждаться в помощи из-за проблем со зрением.

Это камера Axon Body 2. Такими экипируются полицейские, а теперь и Apple требует нацепить эти камеры сотрудникам фабрик в Китае, чтобы находить людей причастных к будущим утечкам информации. Набор для онлайн стриминга стоит $499 для одной персоны, для оффлайн записи $699.

Кто-то смартфончики по $200 втюхивает, а кто-то камеры на китайцев вешает дороже, ради безопасности информации :)

Microsoft и OpenAI анонсировали ИИ-инструмент для разработчиков — Github Copilot. Это ИИ, подсказывающий как писать и улучшать код. Очень интересно, что из этого получится. Пока фичу запустили в ограниченной бете, позже сделают коммерческим продуктом.

https://copilot.github.com/

Напомню, Microsoft купила Github в 2018 году за $7,5 миллиардов. Также Microsoft является эксклюзивным партнером OpenAI с доступом к самым продвинутым версиям GPT-3 и других нейросетевых разработок.

• В июне 2020 года похожий сервис запустила Amazon
• Также ИИ для рефакторинга кода есть у IBM

Это самолет? Это птица? Это... летающий автомобиль?

Компания Klein Vision успешно испытала свой гибрид самолета и автомобиля. Экспериментальная машина словацкой компании провела первый междугородний перелет — прилетела из Нитры в Братиславу (~70 км) за 35 минут, а затем покинула аэропорт как обычный автомобиль. Этот уникальный трансформер превращается из самолета в авто и обратно всего за три минуты.

Сэм Альтман хочет сканировать ваши глаза в обмен на криптовалюту

Журналисты Bloomberg узнали о странном новом стартапе Сэма Альтмана, бывшего президента Y Combinator. Альтман — сторонник идеи базового безусловного дохода. Его новый и пока секретный стартап Worldcoin призван эту идею протестировать. Worldcoin — это глобальная цифровая валюта, которую сможет получить бесплатно любой житель планеты. Для аутентификации в системе будут сканировать радужную оболочку глаза (ее рисунок уникален у каждого человека). Устройство для сканирования выглядит как металлический шар размером с баскетбольный мяч и стоит $5000. Звучит странно? Максимально! Тем не менее, компания подняла $25 миллионов инвестиций, среди инвесторов — сам Альтман, основатель LinkedIn Реид Хоффман и серьезные венчурные фонды — Andreessen Horowitz, Coinbase, Day One Ventures. Альтман обещает полную прозрачность для пользователей в хранении их данных. Но вообще все это выглядит как зловещий план капиталистов "как собрать биометрию бедных людей за цифровые фантики".

Хорошие новости для фанатов Apple в Украине: https://ubr.ua/market/trade/apple-samostojatelno-budet-zavozit-svoju-tekhniku-v-ukrainu-4004484

Решил, что буду чаще делиться ссылками на хорошие каналы в ТГ. Чтобы у них было больше подписчиков и просмотров - у плохих их и так много. Где-то это будут взаимные рекомендации, где-то - просто каналы, которые мне интересны. Сегодня хочу посоветовать одно из лучших русскоязычных деловых медиа - The Bell. Регулярно читаю его раздел о технологиях, хорошо освещают мировую повестку 👍

The Bell — медиа о бизнесе, экономике и технологиях, которое цитируют крупнейшие мировые СМИ. Его цель — быть полезными активным людям. Анализируя главные события в России и мире, The Bell всегда ставит себя на место читателя и задается вопросом: «Что мне с этого?» Подписывайтесь на телеграм @thebell_io, чтобы знать, что стоит за новостями.

Отдельный канал The Bell о технологическом бизнесе: @Bell_tech

Интересный концепт: дрон-спасатель, распознающий крики о помощи с помощью микрофонов и нейросети. Такой дрон может облетать территорию быстрее, чем поисковые группы и собаки, и находить жертв стихийных бедствий — ураганов, пожаров, землетрясений.

Другие разработки в этом направлении: дрон, который находит людей по запаху; дрон, который находит собак; дрон, который может менять форму в полете, чтобы пройти через препятствия.

Тим Бернерс-Ли продал исходный код интернета* в виде NFT-токена за $5,4 миллиона. Наконец-то создатель Сети хоть что-то на ней заработал.

* Имеются в виду исходники первого протокола глобальной сети, который соединял разные страницы и серверы с помощью гиперссылок. Бернерс-Ли создал его в 1989 году, будучи сотрудником CERN. В 1990 он также создал первый веб-браузер. Подробнее: https://en.wikipedia.org/wiki/Tim_Berners-Lee

Полиция Нидерландов и Европол установили контроль над сервисом DoubleVPN, который рекламировался на русскоязычных и англоязычных форумах для киберпреступников.

DoubleVPN обещал пользователям высокий уровень анонимности и каскадное подключение через 3-4 уровня VPN. С помощью этого сервиса хакеры из разных стран мира скрывали свои следы, занимаясь вымогательством и фишингом.

Полиция получила доступ к серверам, личным данным, логам и статистике пользователей сервиса, эта информация будет использована в расследовании. Так выглядит сейчас сайт DoubleVPN.

Лайфхак американских полицейских: когда активисты снимают их на видео, полицейские включают защищенную копирайтом музыку, чтобы запись нельзя было выложить в соцсети.

Чтение на выходные: спецвыпуск Bloomberg с хроникой самых грандиозных мошеннических историй digital-эпохи. Многие идеи пугают, но в то же время поражают своей изобретательностью. Вот несколько самых свежих и интересных:

🧴 Американский архиепископ с сыновьями организовал на территории церкви производство лекарства от всех болезней на основе отбеливателя (!) и зарабатывал по $30 тыс. в месяц (в пандемию продажи выросли втрое).

💳 Украинец построил хитрую схему по генерации подарочных купонов в магазине Microsoft и заработал на этом $10 млн. На это долго не обращали внимания, поэтому он смог приобрести дом за $1,6 млн и собирался покупать роскошную яхту. Его главный аргумент на суде: купон — это не деньги, а иллюзия денег, поэтому сам факт мошенничества — это тоже иллюзия.

🦠 Мощная инфографика о расцвете преступности, мошеннических схем и конспирологии на фоне пандемии. 22% американцев поверили в теорию об адренохроме, а 21% — в чипирование через вакцины; начался бум поддельных масок и санитайзеров; контрабанда кокаина сократилась, а фентанила, наоборот, выросла; плюс — браконьеры стали меньше уничтожать слонов, носорогов и панголинов.

🎒 Итальянец создал фейковую копию бренда Supreme и начал международную экспансию — причем вполне легально: в некоторых странах он зарегистрировал торговую марку раньше самой Supreme. Фальшивая компания партнерилась с Samsung, открыла флагманский магазин в Шанхае и в целом развивалась успешно. Основатель пока скрывается от правосудия и уже запустил новый бренд-имитацию — на этот раз он копирует Vision Street Wear.

🧱 Комикс о подмене меди на брусчатку в Турции — накануне отгрузки мошенники вскрыли контейнеры и заменили металл обычными булыжниками, окрашенными бронзовой краской из баллончика. Товар несколько месяцев шел в Китай — и только тогда подмену обнаружили. В общей сложности схему провернули 8 раз, а суммарно покупатель заплатил $36 млн за тонны булыжников. Медь, кстати, так и не нашли.

💰 История инфлюэнсера из Нигерии, который вел в Instagram хронику роскошной жизни и делился цитатами об “успешном успехе”. Об источниках доходов блогер умалчивал, а вскоре его историей заинтересовалось ФБР — оказалось, что он проворачивал крупные мошеннические схемы с использованием корпоративной почты и перехватывал крупные банковские переводы. Есть гипотеза, что этот вид мошенничества разработали создатели знаменитой email-схемы с участием “нигерийского принца” — загадочного миллиардера, который готов поделиться именно с вами своим состоянием в обмен на маленькую услугу.

В Норвегии принят закон, обязывающий рекламодателей и блогеров обозначать, что опубликованное фото ретушировалось. Это касается всех размещений фотографий, за которые получен гонорар, и где изображаются части тема, кожа или просто иллюстрируется форма и размер тела. Закон призван побороть тенденцию использования в рекламе нереальных фотографий, устанавливающих стандарты красоты — например, увеличенные губы, подчеркнутые мускулы, узкую талию и так далее.

Фотографии должны иметь специальный знак, разработанный министерством по делам семьи и детей Норвегии, причем размещаться он должен в случае с любой манипуляцией над фотографией. Таким образом, под его действие подпадает даже применение фильтров в инстаграме.
https://www.vice.com/en/article/g5gd99/norway-law-forces-influencers-to-label-retouched-photos-on-instagram