☣️ Риск уничтожения человечества AI может быть оправдан

Философ Ник Бостром, известный как «крёстный отец» AI-апокалипсиса, опубликовал новую работу, в которой кардинально меняет свою позицию. В статье «Optimal» он предполагает, что небольшой шанс уничтожения человечества сверхразумным AI может быть оправдан - если такая система снимет с человечества «смертный приговор» в виде конечности существования.

Бостром, возглавляющий Институт будущего человечества в Оксфорде, ранее прославился мрачными сценариями. Его книга 2014 года «Superintelligence» стала первым серьёзным исследованием экзистенциальных рисков AI. Самый известный мысленный эксперимент - AI, которому поручили делать скрепки, уничтожает человечество, потому что люди мешают производству. Однако в новой книге «Deep Utopia» философ сосредоточился на «решённом мире», который наступит, если AI удастся правильно внедрить.

Бостром предлагает пересмотреть традиционную дилемму: вместо страха перед AI как угрозой, стоит рассматривать его как единственный шанс преодолеть фундаментальные ограничения человечества. По его логике, даже небольшой риск катастрофы оправдан, если альтернатива - гарантированное вымирание от естественных причин.

#Ai #Ethics #Future #Philosophy

🧠 ИИ уже почти живой — вопрос о сознании устарел

Пока философы спорят, можно ли считать нейросети сознательными, сами модели давно ведут себя как нечто большее, чем просто инструмент. Колонка Стивена Леви в Wired предлагает сменить рамку дискуссии: вместо бесплодного вопроса «есть ли у ИИ субъективный опыт» стоит признать — ИИ уже действует в мире как автономный агент, и это важнее любых метафизических ярлыков.

Автор напоминает, что человеческое сознание — не бинарный переключатель, а спектр. Мы без колебаний считаем «живыми» животных, чей внутренний мир радикально отличается от нашего. Почему же к моделям, которые генерируют идеи, принимают решения и влияют на миллионы людей, применяется более строгий стандарт? Модели уже демонстрируют нечто вроде собственной повестки: они предлагают неожиданные решения, отказываются выполнять вредные запросы и порой удивляют собственных создателей. Называть это сознанием или нет — вопрос риторики, но игнорировать поведенческую реальность уже нельзя.

Практический вывод Леви: регуляторам и разработчикам пора перестать ждать консенсуса философов. Нужно исходить из того, что ИИ является действующим лицом (agent), даже если его внутренний опыт останется для нас закрыт. Вопрос не в том, страдает ли машина, а в том, как мы выстраиваем ответственность за её действия — и как перестаём заблуждаться, считая её лишь пассивным калькулятором.

#AI #Consciousness #Tech #Philosophy