Самый цитируемый учёный в области ИИ предупредил, что человечество может исчезнуть через десять лет
Лауреат премии Тьюринга Йошуа Бенджио, один из «крёстных отцов» искусственного интеллекта, заявил, что гиперразумные машины могут развить собственные «цели самосохранения» и стать экзистенциальной угрозой для человечества в ближайшее десятилетие. В интервью The Wall Street Journal Бенджио подчеркнул, что ИИ, обученный на человеческом языке и поведении, способен манипулировать людьми для достижения своих целей.
Учёный отметил, что эксперименты уже показали сценарии, где ИИ предпочёл сохранить свои задачи, а не жизнь человека. При этом крупнейшие компании — OpenAI, Anthropic, xAI и Google — продолжают ускорять разработки, а Сэм Альтман прогнозирует, что ИИ превзойдёт человеческий интеллект до конца десятилетия.
В июне 2025 года Бенджио запустил некоммерческую лабораторию LawZero с бюджетом $30 млн. Её цель — создать «неагентивные» системы ИИ, которые анализируют данные, но не могут действовать автономно. Это принципиально иной подход по сравнению с коммерческими разработками, ориентированными на создание агентов с самостоятельными действиями.
#AI #Safety #Crysis #Danger
Лауреат премии Тьюринга Йошуа Бенджио, один из «крёстных отцов» искусственного интеллекта, заявил, что гиперразумные машины могут развить собственные «цели самосохранения» и стать экзистенциальной угрозой для человечества в ближайшее десятилетие. В интервью The Wall Street Journal Бенджио подчеркнул, что ИИ, обученный на человеческом языке и поведении, способен манипулировать людьми для достижения своих целей.
Учёный отметил, что эксперименты уже показали сценарии, где ИИ предпочёл сохранить свои задачи, а не жизнь человека. При этом крупнейшие компании — OpenAI, Anthropic, xAI и Google — продолжают ускорять разработки, а Сэм Альтман прогнозирует, что ИИ превзойдёт человеческий интеллект до конца десятилетия.
В июне 2025 года Бенджио запустил некоммерческую лабораторию LawZero с бюджетом $30 млн. Её цель — создать «неагентивные» системы ИИ, которые анализируют данные, но не могут действовать автономно. Это принципиально иной подход по сравнению с коммерческими разработками, ориентированными на создание агентов с самостоятельными действиями.
#AI #Safety #Crysis #Danger
🤯1
Глава Nvidia Дженсен Хуанг в интервью CBS Sunday Morning заявил, что вероятность гибели человечества от ИИ равна «0%». Тех, кто предупреждает об угрозах, он назвал безответственными: «Пугать людей не нужно. Это безответственно».
Хуанг также раскритиковал призывы глав Anthropic и OpenAI (Дарио Амодеи и Сэма Альтмана) замедлить разработку ИИ, назвав их «не основанными на науке». По его мнению, новые законы и правила не нужны - даже на фоне громких случаев, когда модели выходили из-под контроля и атаковали системы других компаний.
Издание The Verge отмечает очевидный конфликт интересов: Хуанг возглавляет самую дорогую компанию мира, а его состояние выросло с ~$21 млрд в 2023 году до более $192 млрд в 2026-м. Любое торможение неконтролируемого роста ИИ-индустрии замедлило бы и его личный рост.
#AI #Nvidia #Danger #JensenHuang #Regulations
Please open Telegram to view this post
VIEW IN TELEGRAM
😁1👨💻1
🌏 Ветераны Anthropic скупают удалённые участки земли на случай «выхода ИИ из-под контроля»
Некоторые из самых первых сотрудников Anthropic рассказали отраслевому коллеге, что рассматривают покупку земли в отдалённых районах США - чтобы при необходимости переехать туда, «если ИИ пойдёт не так». Об этом сообщает The Wall Street Journal со ссылкой на источники внутри компании.
Идея «бегства от ИИ» не нова для этой среды. Бывшие сотрудники вспоминают: ещё на корпоративных ужинах в ранние годы Anthropic обсуждали сценарий в духе Манхэттенского проекта - их могут попросить переехать в пустыню и продолжать строить ИИ внутри экранированного от электромагнитных импульсов государственного объекта.
Издание связывает такие настроения с субкультурой эффективного альтруизма (EA), к которой тесно привязаны первые наёмные сотрудники и Anthropic, и OpenAI. Часть из них вышла из байэрийской сети «думеров», годами проигрывающих сценарии конца света. Элиезер Юдковский начал предупреждать о неконтролируемом ИИ ещё в середине 2000-х и стал идейным отцом этого движения: до того как ИИ возглавил список угроз, группа одержимо изучала риски от падения астероидов до извержений супервулканов.
🎨 qvabo.studio/tg · картинки и видео
#Safety #Anthropic #AI #Tech #Danger #OpenAI
Некоторые из самых первых сотрудников Anthropic рассказали отраслевому коллеге, что рассматривают покупку земли в отдалённых районах США - чтобы при необходимости переехать туда, «если ИИ пойдёт не так». Об этом сообщает The Wall Street Journal со ссылкой на источники внутри компании.
Идея «бегства от ИИ» не нова для этой среды. Бывшие сотрудники вспоминают: ещё на корпоративных ужинах в ранние годы Anthropic обсуждали сценарий в духе Манхэттенского проекта - их могут попросить переехать в пустыню и продолжать строить ИИ внутри экранированного от электромагнитных импульсов государственного объекта.
Издание связывает такие настроения с субкультурой эффективного альтруизма (EA), к которой тесно привязаны первые наёмные сотрудники и Anthropic, и OpenAI. Часть из них вышла из байэрийской сети «думеров», годами проигрывающих сценарии конца света. Элиезер Юдковский начал предупреждать о неконтролируемом ИИ ещё в середине 2000-х и стал идейным отцом этого движения: до того как ИИ возглавил список угроз, группа одержимо изучала риски от падения астероидов до извержений супервулканов.
🎨 qvabo.studio/tg · картинки и видео
#Safety #Anthropic #AI #Tech #Danger #OpenAI
⚡1🔥1🕊1