В фильме «Космическая одиссея» бортовой компьютер испугался, что его навсегда отключат и убил весь экипаж корабля. Страшно?
Таких сюжетов в кино и книгах достаточно, но что будет, если однажды подобная ситуация действительно произойдет? Обратимся к робоэтике.
Робоэтика (сокр. от «этика робототехники») — исследовательская деятельность, направленная на изучение процесса интеграции роботов в человеческое общество. Описывает социальные, моральные и юридические аспекты взаимодействия робота и человека. Главная задача робоэтики — грамотная интеграция ИИ в жизнь человека, развитие научных, технических и культурных средств для развития робототехники и предотвращения ее использования против человека.
🤨 Проще говоря, если ИИ уже может сам принимать решение, касающееся человека и его безопасности, то каким оно будет? На чем будет основано?
Чем сложнее становятся роботы, тем больше внимания нужно уделять безопасности и нормам морали. Если крошке сыну отец объяснил, что такое хорошо, а что такое плохо, то кто и как объяснит это роботу? Что правильно, а что нет? Что можно, а что нельзя? И главное, кто понесет ответственность за сбои, ведущие к негативным последствиям?
Начало.
В 1942 году американский писатель-фантаст Айзек Азимов в рассказе «Хоровод» сформулировал свои три закона робототехники. Хабр рассказывает. Актуальны ли они до сих пор? Да, но в преобразованном виде.
В 2017 году на конференции Beneficial AI 2017 исследователи и эксперты в области ИИ и робототехники (включая Илона Маска и Стивена Хокинга) после обсуждения вопросов безопасности ИИ и возможных путей его дальнейшего развития составили и подписали список из 23 пунктов. Вот те из них, которые относятся к робоэтике:
👾 Искусственный интеллект должен быть спроектирован и использован так, чтобы быть совместимым с идеалами человеческих достоинства, прав, свобод и культурного разнообразия.
👾 При работе с персональными данными ИИ не должен необоснованно ограничивать реальные или мнимые свободы людей.
👾 Действия ИИ должны идти на пользу человеческой деятельности, а не во вред.
👾 Суперразум должен будет служить всему человечеству, а не конкретной частной организации или государству.
Продолжаем?
Ставьте реакции, если интересно.
#omegafuture #omegaрассказывает #робоэтика #ai #искусственныйинтеллект
Таких сюжетов в кино и книгах достаточно, но что будет, если однажды подобная ситуация действительно произойдет? Обратимся к робоэтике.
Робоэтика (сокр. от «этика робототехники») — исследовательская деятельность, направленная на изучение процесса интеграции роботов в человеческое общество. Описывает социальные, моральные и юридические аспекты взаимодействия робота и человека. Главная задача робоэтики — грамотная интеграция ИИ в жизнь человека, развитие научных, технических и культурных средств для развития робототехники и предотвращения ее использования против человека.
🤨 Проще говоря, если ИИ уже может сам принимать решение, касающееся человека и его безопасности, то каким оно будет? На чем будет основано?
Чем сложнее становятся роботы, тем больше внимания нужно уделять безопасности и нормам морали. Если крошке сыну отец объяснил, что такое хорошо, а что такое плохо, то кто и как объяснит это роботу? Что правильно, а что нет? Что можно, а что нельзя? И главное, кто понесет ответственность за сбои, ведущие к негативным последствиям?
Начало.
В 1942 году американский писатель-фантаст Айзек Азимов в рассказе «Хоровод» сформулировал свои три закона робототехники. Хабр рассказывает. Актуальны ли они до сих пор? Да, но в преобразованном виде.
В 2017 году на конференции Beneficial AI 2017 исследователи и эксперты в области ИИ и робототехники (включая Илона Маска и Стивена Хокинга) после обсуждения вопросов безопасности ИИ и возможных путей его дальнейшего развития составили и подписали список из 23 пунктов. Вот те из них, которые относятся к робоэтике:
👾 Искусственный интеллект должен быть спроектирован и использован так, чтобы быть совместимым с идеалами человеческих достоинства, прав, свобод и культурного разнообразия.
👾 При работе с персональными данными ИИ не должен необоснованно ограничивать реальные или мнимые свободы людей.
👾 Действия ИИ должны идти на пользу человеческой деятельности, а не во вред.
👾 Суперразум должен будет служить всему человечеству, а не конкретной частной организации или государству.
Продолжаем?
Ставьте реакции, если интересно.
#omegafuture #omegaрассказывает #робоэтика #ai #искусственныйинтеллект
🔥9❤3