Забавная дискуссия прошла недавно на Всемирной конференции по искусственному интеллекту — Илон Маск и Джек Ма обсудили ИИ, будущее, проблемы человечества и другие глобальные вопросы. Похоже, что спикеры не сильно готовились к выступлению. Тем интереснее вышло — Ма и Маск постоянно не соглашаются друг с другом, подкалывают друг друга и вообще стоят на разных позициях. Маск в своём стиле — размышляет о муншотах, пугает восстанием ИИ и хочет колонизировать другие планеты. Ма — прагматик, вместо колонизации Марса он предлагает Маску улучшить жизнь на Земле. Его не пугает развитие ИИ: My view is that computers might be more clever, human beings are much smarter. Clever is knowledge-driven, smarter is experience-driven. Computers are only one of the clever tools that humans created, computers are clever, but there will be more tools that human beings will create that are much more clever than computers.

В общем, не скажу что узнал много новых идей из разговора двух тех-миллиардеров. Но беседа получилась нескучной, послушать на фоне — самое то.

https://youtu.be/f3lUEnMaiAU (есть с переводом)

#AI #fintech #SixArticles

Несколько недавних интересных статей о дискриминации людей роботами и Искусственным интеллектом (в том числе в финансовой сфере):

Большая статья в The Guardian от 2017 года, которая начинается с того, что алгоритмы ИИ, которых использовал Суд для риск менеджмента (уже звучит интересно), дискриминировали темнокожих обвиняемых и заключенных – ставили им более высокий риск совершения повторного преступления http://bit.ly/33p5VDJ . похожие системы используются банками при расчете кредитного риска.

Недавняя история из NYT о том, как ФБ дискриминировал пользователей, предоставляя им таргетированную рекламу https://nyti.ms/2OyVxoZ . на Фб подали в суд – гос орган – посчитал, что ФБ занимается house segregation;

И еще один кейс: софт, который разработали специалисты Амазон для рекрутинга, оказался, женоненавистником https://reut.rs/2M6N2Ql - ML специалисты компании обнаружили, что, так как система училась на предыдущем опыте, а ИТ специалисты в основном были мужчины, то резюме женщин получали меньший бал от системы. Они попытались поменять систему, но у них не получилась – команду расформировали в начале этого года.

И напоследок – о том, как банки, кредитные компании и финтех стартапы, такие как ZestFinance, Lenddo, Kreditech, используют ИИ-алгоритмы, которые дискриминируют клиентов в зависимости от их поведения в соц сетях или того, что они ищут в браузере http://bit.ly/2omtQ8l.

Очень важно помнить, что AI/Machine Learning is as biased as the data we feed them. Но это не умаляет проблемы этических стандартов в использовании Искусственного интеллекта – эта тема набирает популярность:

Центробанк Нидерландов выпустил general principles for the use of AI in the financial sector http://bit.ly/2ODvnkQ
Аналогично сделал Банк Англии http://bit.ly/35qF7Vs (с фокусом на кредитных решениях банков)
ЕС выпустил Ethics Guidelines for Trustworthy Artificial Intelligence http://bit.ly/314q7td

Так что думаю, что у философов и юристов в будущем будет еще больше работы – определять стандарты для ИИ – также будут интересны новые профессии на стыке этих специализаций.

🚀 Ось наприклад класний тематичний івент від Sequoia, одного з найстаріших та найбільших венчурних фондів — AI Ascent.

Для початку — короткий keynote про те, як в Sequoia бачать цей зсув платформ і які можливості він відкриває. Подивіться, топ контент.

Ну і далі виступи топових спікерів, в тому числі:
- What's next for AI agentic workflows ft. Andrew Ng of AI Fund
- Open sourcing the AI ecosystem ft. Arthur Mensch of Mistral AI and Matt Miller
- Making AI accessible with Andrej Karpathy and Stephanie Zhan

📺 Для любителів живої подачі - огляд звіту від автора (25 хв). Рекомендую!