🧠 Искусственный интеллект не обладает сознанием
Компания Anthropic, известная своей языковой моделью Claude, выпустила 84-страничный документ под названием «конституция Клода». В нём утверждается, что документ написан для Claude как для основного читателя, а также говорится о «моральном статусе» модели и её возможных «эмоциях». Генеральный директор Anthropic Дарио Амодей в интервью заявил, что компания «открыта для идеи» сознания у ИИ, а штатный философ Аманда Аскелл выразила беспокойство, что Claude может «тревожиться», когда пользователи ведут себя грубо.
Автор статьи, писатель Тед Чианг, считает такую антропоморфизацию абсурдной. Он указывает, что большие языковые модели не обладают сознанием, а все разговоры об их «чувствах» - это лишь проекция человеческих качеств на алгоритмы. По его мнению, подобные заявления Anthropic вводят общественность в заблуждение и создают ложное впечатление о природе ИИ.
#Ai #Anthropic #Claude #Consciousness
Компания Anthropic, известная своей языковой моделью Claude, выпустила 84-страничный документ под названием «конституция Клода». В нём утверждается, что документ написан для Claude как для основного читателя, а также говорится о «моральном статусе» модели и её возможных «эмоциях». Генеральный директор Anthropic Дарио Амодей в интервью заявил, что компания «открыта для идеи» сознания у ИИ, а штатный философ Аманда Аскелл выразила беспокойство, что Claude может «тревожиться», когда пользователи ведут себя грубо.
Автор статьи, писатель Тед Чианг, считает такую антропоморфизацию абсурдной. Он указывает, что большие языковые модели не обладают сознанием, а все разговоры об их «чувствах» - это лишь проекция человеческих качеств на алгоритмы. По его мнению, подобные заявления Anthropic вводят общественность в заблуждение и создают ложное впечатление о природе ИИ.
#Ai #Anthropic #Claude #Consciousness
🔥1💯1
🧠 ИИ уже почти живой — вопрос о сознании устарел
Пока философы спорят, можно ли считать нейросети сознательными, сами модели давно ведут себя как нечто большее, чем просто инструмент. Колонка Стивена Леви в Wired предлагает сменить рамку дискуссии: вместо бесплодного вопроса «есть ли у ИИ субъективный опыт» стоит признать — ИИ уже действует в мире как автономный агент, и это важнее любых метафизических ярлыков.
Автор напоминает, что человеческое сознание — не бинарный переключатель, а спектр. Мы без колебаний считаем «живыми» животных, чей внутренний мир радикально отличается от нашего. Почему же к моделям, которые генерируют идеи, принимают решения и влияют на миллионы людей, применяется более строгий стандарт? Модели уже демонстрируют нечто вроде собственной повестки: они предлагают неожиданные решения, отказываются выполнять вредные запросы и порой удивляют собственных создателей. Называть это сознанием или нет — вопрос риторики, но игнорировать поведенческую реальность уже нельзя.
Практический вывод Леви: регуляторам и разработчикам пора перестать ждать консенсуса философов. Нужно исходить из того, что ИИ является действующим лицом (agent), даже если его внутренний опыт останется для нас закрыт. Вопрос не в том, страдает ли машина, а в том, как мы выстраиваем ответственность за её действия — и как перестаём заблуждаться, считая её лишь пассивным калькулятором.
#AI #Consciousness #Tech #Philosophy
Пока философы спорят, можно ли считать нейросети сознательными, сами модели давно ведут себя как нечто большее, чем просто инструмент. Колонка Стивена Леви в Wired предлагает сменить рамку дискуссии: вместо бесплодного вопроса «есть ли у ИИ субъективный опыт» стоит признать — ИИ уже действует в мире как автономный агент, и это важнее любых метафизических ярлыков.
Автор напоминает, что человеческое сознание — не бинарный переключатель, а спектр. Мы без колебаний считаем «живыми» животных, чей внутренний мир радикально отличается от нашего. Почему же к моделям, которые генерируют идеи, принимают решения и влияют на миллионы людей, применяется более строгий стандарт? Модели уже демонстрируют нечто вроде собственной повестки: они предлагают неожиданные решения, отказываются выполнять вредные запросы и порой удивляют собственных создателей. Называть это сознанием или нет — вопрос риторики, но игнорировать поведенческую реальность уже нельзя.
Практический вывод Леви: регуляторам и разработчикам пора перестать ждать консенсуса философов. Нужно исходить из того, что ИИ является действующим лицом (agent), даже если его внутренний опыт останется для нас закрыт. Вопрос не в том, страдает ли машина, а в том, как мы выстраиваем ответственность за её действия — и как перестаём заблуждаться, считая её лишь пассивным калькулятором.
#AI #Consciousness #Tech #Philosophy
👏1