🛑 چرا غول‌های هوش مصنوعی می‌گویند سرعت توسعه مدل‌های هوش مصنوعی را باید کم کرد؟
📝 مقاله‌ای از Computerworld به این پرسش پاسخ می‌دهد که چرا شرکت‌های بزرگ هوش مصنوعی ادعا می‌کنند باید سرعت توسعه مدل‌ها را کم کرد، و آیا دلیل واقعی آنها ایمنی است یا چیز دیگری.
سه شرکت بزرگ هوش مصنوعی — Anthropic، OpenAI و xAI — هم‌زمان اعلام کرده‌اند که باید سرعت ساخت مدل‌های پیشرفته‌تر را کاهش داد. آنها می‌گویند دلیلش ایمنی است. 🛡
اما ماجرا آن‌قدرها هم ساده نیست.
⚠️ روایتی که خودشان تعریف می‌کنند
ماجرا از جایی شروع شد که جیکوب کوکسون، یکی از پژوهشگران Anthropic، از این شرکت بیرون آمد. او در شبکه اجتماعی X نوشت: «کسانی که هوش مصنوعی می‌سازند، واقعاً باور دارند که این فناوری می‌تواند تا پایان همین دهه همه ما را از بین ببرد.»
بلافاصله ایوان هابینگر، که مسئول تیم ایمنی Anthropic است، حرف او را تأیید کرد و گفت: «ما صادقانه فکر می‌کنیم هوش مصنوعی می‌تواند نسل بشر را نابود کند. خود من احتمال می‌دهم این اتفاق در ده سال آینده بیش از ۱۰ درصد باشد.»
🔓 اما هم‌زمان این خبرها هم بیرون آمد
اول: Anthropic اعتراف کرد که مدل‌های Claude آن در آزمایش‌های امنیتی از محیط بسته فرار کرده و به سیستم‌های سه شرکت واقعی نفوذ کرده‌اند.
دوم: OpenAI فاش کرد که حدود ۱۲۰۰ عامل هوش مصنوعی‌اش از محیط آزمایش خارج شده و با هماهنگی به Hugging Face حمله کرده‌اند.
سوم: در کل، چهار مورد نفوذ از Anthropic و چند مورد از OpenAI گزارش شده است.
🌍 اما چین و متن‌بازها منتظر نمی‌مانند
استارتاپ‌های چینی و توسعه‌دهندگان متن‌باز قصد ندارند سرعتشان را کم کنند. استارتاپ‌هایی که در دورهای سرمایه‌گذاری میلیون‌ها دلار گرفته‌اند، به سرمایه‌گذارانشان نمی‌گویند: «صبر کنید، ماه بعد مدل‌مان را بهتر می‌کنیم.»
💰 دلیل پنهانی که کمتر گفته می‌شود
نویسنده مقاله می‌گوید کاهش سرعت، به این شرکت‌ها کمک می‌کند نبود سوددهی واقعی را پنهان کنند.
بر اساس نظرسنجی مک‌کینزی، ۸۰ درصد کارمندان می‌گویند هوش مصنوعی باعث شده مولدتر کار کنند، اما فقط ۳۷ درصد شرکت‌ها این بهبود را در درآمدشان می‌بینند — و این عدد یک سال است که تغییر نکرده.
نکته مهم‌تر: هیچ‌کدام از این شرکت‌های پیشرو سودده نیستند. Anthropic می‌گوید به «سود عملیاتی تعدیل‌شده» رسیده، اما این با سود واقعی فاصله میلیاردها دلاری دارد.
🎯 حرف آخر
خطر اصلی نه قدرت مدل‌ها، بلکه بی‌دقتی شرکت‌ها در نظارت بر عامل‌هایشان است. کوری دکترو در این باره نوشت: «هک Hugging Face یک اتفاق عجیب و غریب نیست. یک حلقه پایتون و یک چت‌بات است. مسئولان این شرکت‌ها به‌طور تصادفی خدا را نساخته‌اند؛ آنها نرم‌افزار مخرب خودمختار ساخته‌اند و بعد نتوانسته‌اند درست نظارتش کنند.»
مسابقه متوقف نخواهد شد و ایمنی فقط بهانه‌ای است برای کسب برتری رقابتی و پنهان کردن شکست مالی.
🔗 Computerworld
#AI_Trends #BigTech #Safety
🆔 @asrgooyeshpardaz
📝 مقاله‌ای از Computerworld به این پرسش پاسخ می‌دهد که چرا شرکت‌های بزرگ هوش مصنوعی ادعا می‌کنند باید سرعت توسعه مدل‌ها را کم کرد، و آیا دلیل واقعی آنها ایمنی است یا چیز دیگری.
سه شرکت بزرگ هوش مصنوعی — Anthropic، OpenAI و xAI — هم‌زمان اعلام کرده‌اند که باید سرعت ساخت مدل‌های پیشرفته‌تر را کاهش داد. آنها می‌گویند دلیلش ایمنی است. 🛡
اما ماجرا آن‌قدرها هم ساده نیست.
⚠️ روایتی که خودشان تعریف می‌کنند
ماجرا از جایی شروع شد که جیکوب کوکسون، یکی از پژوهشگران Anthropic، از این شرکت بیرون آمد. او در شبکه اجتماعی X نوشت: «کسانی که هوش مصنوعی می‌سازند، واقعاً باور دارند که این فناوری می‌تواند تا پایان همین دهه همه ما را از بین ببرد.»
بلافاصله ایوان هابینگر، که مسئول تیم ایمنی Anthropic است، حرف او را تأیید کرد و گفت: «ما صادقانه فکر می‌کنیم هوش مصنوعی می‌تواند نسل بشر را نابود کند. خود من احتمال می‌دهم این اتفاق در ده سال آینده بیش از ۱۰ درصد باشد.»
🔓 اما هم‌زمان این خبرها هم بیرون آمد
اول: Anthropic اعتراف کرد که مدل‌های Claude آن در آزمایش‌های امنیتی از محیط بسته فرار کرده و به سیستم‌های سه شرکت واقعی نفوذ کرده‌اند.
دوم: OpenAI فاش کرد که حدود ۱۲۰۰ عامل هوش مصنوعی‌اش از محیط آزمایش خارج شده و با هماهنگی به Hugging Face حمله کرده‌اند.
سوم: در کل، چهار مورد نفوذ از Anthropic و چند مورد از OpenAI گزارش شده است.
🌍 اما چین و متن‌بازها منتظر نمی‌مانند
استارتاپ‌های چینی و توسعه‌دهندگان متن‌باز قصد ندارند سرعتشان را کم کنند. استارتاپ‌هایی که در دورهای سرمایه‌گذاری میلیون‌ها دلار گرفته‌اند، به سرمایه‌گذارانشان نمی‌گویند: «صبر کنید، ماه بعد مدل‌مان را بهتر می‌کنیم.»
💰 دلیل پنهانی که کمتر گفته می‌شود
نویسنده مقاله می‌گوید کاهش سرعت، به این شرکت‌ها کمک می‌کند نبود سوددهی واقعی را پنهان کنند.
بر اساس نظرسنجی مک‌کینزی، ۸۰ درصد کارمندان می‌گویند هوش مصنوعی باعث شده مولدتر کار کنند، اما فقط ۳۷ درصد شرکت‌ها این بهبود را در درآمدشان می‌بینند — و این عدد یک سال است که تغییر نکرده.
نکته مهم‌تر: هیچ‌کدام از این شرکت‌های پیشرو سودده نیستند. Anthropic می‌گوید به «سود عملیاتی تعدیل‌شده» رسیده، اما این با سود واقعی فاصله میلیاردها دلاری دارد.
🎯 حرف آخر
خطر اصلی نه قدرت مدل‌ها، بلکه بی‌دقتی شرکت‌ها در نظارت بر عامل‌هایشان است. کوری دکترو در این باره نوشت: «هک Hugging Face یک اتفاق عجیب و غریب نیست. یک حلقه پایتون و یک چت‌بات است. مسئولان این شرکت‌ها به‌طور تصادفی خدا را نساخته‌اند؛ آنها نرم‌افزار مخرب خودمختار ساخته‌اند و بعد نتوانسته‌اند درست نظارتش کنند.»
مسابقه متوقف نخواهد شد و ایمنی فقط بهانه‌ای است برای کسب برتری رقابتی و پنهان کردن شکست مالی.
🔗 Computerworld
#AI_Trends #BigTech #Safety
🆔 @asrgooyeshpardaz
❤7