Сегодня прочитал увлекательную статью о «головоломке Терминатора». Так называется ситуация, к которой уже подобрались разработчики интеллектуального оружия. Те, кто использует полуавтономные системы, где для принятия решения об атаке требуется человек, могут оказаться в положении, когда их противник будет использовать полностью независимые. Такие системы способны быстрее принимать решения и надежнее защищены от хакерских атак, так у них нет системы внешнего контроля.

Отсюда вытекает двойственность задачи: стоит ли вопрос этичности опасности столкновения с более совершенным оружием и можно ли доверить роботу принимать решения о жизни и смерти. В настоящий момент «умное оружие» способно отличить гражданского от солдата, определить приоритеты целей и преследовать их безо всякой помощи со стороны. Однако человек должен контролировать любое событие, которое подразумевает смертельный исход.

Американские военные заявляют о том, что могут создать полностью независимые системы в течении 10 лет, но судя по новостям — противостояние с другими странами ускорит этот процесс. Когда дело доходит до гонки вооружений, то вопрос этичности отходит на второй план и вперед выходит «кто быстрее». И возможно, что технологическая сингулярность настанет в форме «Скайнета», созданного для сдерживания других AI — https://www.nytimes.com/2016/10/26/us/pentagon-artificial-intelligence-terminator.html #ai #singularity #TerminatorConundrum

Даже Илон Маск обсуждает с Риком и Морти грядущую сингулярность — https://twitter.com/RickandMorty/status/915359755438141440 #singularity #RickandMorty