Сегодня прочитал увлекательную статью о «головоломке Терминатора». Так называется ситуация, к которой уже подобрались разработчики интеллектуального оружия. Те, кто использует полуавтономные системы, где для принятия решения об атаке требуется человек, могут оказаться в положении, когда их противник будет использовать полностью независимые. Такие системы способны быстрее принимать решения и надежнее защищены от хакерских атак, так у них нет системы внешнего контроля.
Отсюда вытекает двойственность задачи: стоит ли вопрос этичности опасности столкновения с более совершенным оружием и можно ли доверить роботу принимать решения о жизни и смерти. В настоящий момент «умное оружие» способно отличить гражданского от солдата, определить приоритеты целей и преследовать их безо всякой помощи со стороны. Однако человек должен контролировать любое событие, которое подразумевает смертельный исход.
Американские военные заявляют о том, что могут создать полностью независимые системы в течении 10 лет, но судя по новостям — противостояние с другими странами ускорит этот процесс. Когда дело доходит до гонки вооружений, то вопрос этичности отходит на второй план и вперед выходит «кто быстрее». И возможно, что технологическая сингулярность настанет в форме «Скайнета», созданного для сдерживания других AI — https://www.nytimes.com/2016/10/26/us/pentagon-artificial-intelligence-terminator.html #ai #singularity #TerminatorConundrum
Отсюда вытекает двойственность задачи: стоит ли вопрос этичности опасности столкновения с более совершенным оружием и можно ли доверить роботу принимать решения о жизни и смерти. В настоящий момент «умное оружие» способно отличить гражданского от солдата, определить приоритеты целей и преследовать их безо всякой помощи со стороны. Однако человек должен контролировать любое событие, которое подразумевает смертельный исход.
Американские военные заявляют о том, что могут создать полностью независимые системы в течении 10 лет, но судя по новостям — противостояние с другими странами ускорит этот процесс. Когда дело доходит до гонки вооружений, то вопрос этичности отходит на второй план и вперед выходит «кто быстрее». И возможно, что технологическая сингулярность настанет в форме «Скайнета», созданного для сдерживания других AI — https://www.nytimes.com/2016/10/26/us/pentagon-artificial-intelligence-terminator.html #ai #singularity #TerminatorConundrum
NY Times
The Pentagon’s ‘Terminator Conundrum’: Robots That Could Kill on Their Own (Published 2016)
The United States has put artificial intelligence at the center of its defense strategy, with weapons that can identify targets and make decisions.
Продолжение разговора о #TerminatorConundrum и интересный способ привлечения внимания к проблеме. Активисты, выступающие за запрет автономного оружия, сняли короткометражный фильм и даже сделали фейковый сайт производителя, от лица которого ведется презентация — https://youtu.be/9CO6M2HsoIA #movie #shortfilm #autonomousweapons