🌟 تن‌سنت از خانواده مدل‌های امبدینگ (Embedding) چندوجهی WeMM-Embedding رونمایی کرد
تیم WeChat شرکت تن‌سنت، خانواده‌ای از مدل‌های تعبیه چندوجهی را به‌صورت متن‌باز منتشر کرده است. این مدل‌ها که WeMM-Embedding نام دارند، برای ایجاد بردارهای نمایشی یکپارچه از محتوای مختلف طراحی شده‌اند.
---
✨ قابلیت‌های کلیدی:
🔹 چندوجهی بودن: این مدل‌ها با متن، تصویر، ویدئو، اسناد بصری پیچیده و محتوای ترکیبی کار می‌کنند و همه را در یک فضای معنایی واحد قرار می‌دهند.
🔹 آموزش با Matryoshka Representation Learning: این روش به کاربران اجازه می‌دهد در زمان استفاده، ابعاد بردار را کاهش دهند و در مصرف حافظه و محاسبات صرفه‌جویی کنند.
🔹 معماری مبتنی بر Qwen3.5: نسخه‌ی کوچک‌تر بردارهای نرمال‌شده با ابعاد ۲۰۴۸ و نسخه‌ی بزرگ‌تر با ابعاد ۴۰۹۶ تولید می‌کند.
🔹 حفظ کیفیت با کاهش ابعاد: مدل ۲ میلیاردی با فشرده‌سازی تا ۲۵۶ بُعد، همچنان ۹۸.۷٪ از کیفیت اولیه را در وظایف تصویری و ویدئویی حفظ می‌کند.
---
📊 عملکرد در بنچمارک‌ها:
· مدل ۹ میلیاردی با امتیاز ۸۰.۶ در بنچمارک MMEB-v2 رکورد جدیدی ثبت کرده است.
· مدل ۲ میلیاردی از مدل Qwen3-VL-Embedding که ۴ برابر بزرگ‌تر است، بهتر عمل کرده.
---
💼 کاربرد در دنیای واقعی:
این مدل‌ها هم‌اکنون در سیستم‌های جستجو و توصیه‌گر WeChat برای پردازش کانال‌ها، حساب‌های کاربری و تجارت الکترونیک استفاده می‌شوند و در ۱۴ آزمایش A/B آنلاین بهبود عملکرد را نشان داده‌اند.
---
⚙️ دسترسی و مجوز:
وزن‌های مدل در سه اندازه ۲، ۴ و ۹ میلیارد پارامتری با مجوز Apache 2.0 منتشر شده‌اند و از کتابخانه‌های Transformers، vLLM و SGLang پشتیبانی می‌کنند.
تنها محدودیت فعلی، عدم پشتیبانی از ورودی صوتی است.
---
🔗 لینک‌های مفید:
📄 مقاله:
arxiv.org/abs/2608.12345
🤗 وزن‌ها:
huggingface.co/WeChat/WeMM-Embedding
💻 گیت‌هاب:
github.com/wechat/WeMM-Embedding
---
#Tencent #WeMM_Embedding #هوش_مصنوعی #پردازش_چندوجهی
🆔 @asrgooyeshpardaz
تیم WeChat شرکت تن‌سنت، خانواده‌ای از مدل‌های تعبیه چندوجهی را به‌صورت متن‌باز منتشر کرده است. این مدل‌ها که WeMM-Embedding نام دارند، برای ایجاد بردارهای نمایشی یکپارچه از محتوای مختلف طراحی شده‌اند.
---
✨ قابلیت‌های کلیدی:
🔹 چندوجهی بودن: این مدل‌ها با متن، تصویر، ویدئو، اسناد بصری پیچیده و محتوای ترکیبی کار می‌کنند و همه را در یک فضای معنایی واحد قرار می‌دهند.
🔹 آموزش با Matryoshka Representation Learning: این روش به کاربران اجازه می‌دهد در زمان استفاده، ابعاد بردار را کاهش دهند و در مصرف حافظه و محاسبات صرفه‌جویی کنند.
🔹 معماری مبتنی بر Qwen3.5: نسخه‌ی کوچک‌تر بردارهای نرمال‌شده با ابعاد ۲۰۴۸ و نسخه‌ی بزرگ‌تر با ابعاد ۴۰۹۶ تولید می‌کند.
🔹 حفظ کیفیت با کاهش ابعاد: مدل ۲ میلیاردی با فشرده‌سازی تا ۲۵۶ بُعد، همچنان ۹۸.۷٪ از کیفیت اولیه را در وظایف تصویری و ویدئویی حفظ می‌کند.
---
📊 عملکرد در بنچمارک‌ها:
· مدل ۹ میلیاردی با امتیاز ۸۰.۶ در بنچمارک MMEB-v2 رکورد جدیدی ثبت کرده است.
· مدل ۲ میلیاردی از مدل Qwen3-VL-Embedding که ۴ برابر بزرگ‌تر است، بهتر عمل کرده.
---
💼 کاربرد در دنیای واقعی:
این مدل‌ها هم‌اکنون در سیستم‌های جستجو و توصیه‌گر WeChat برای پردازش کانال‌ها، حساب‌های کاربری و تجارت الکترونیک استفاده می‌شوند و در ۱۴ آزمایش A/B آنلاین بهبود عملکرد را نشان داده‌اند.
---
⚙️ دسترسی و مجوز:
وزن‌های مدل در سه اندازه ۲، ۴ و ۹ میلیارد پارامتری با مجوز Apache 2.0 منتشر شده‌اند و از کتابخانه‌های Transformers، vLLM و SGLang پشتیبانی می‌کنند.
تنها محدودیت فعلی، عدم پشتیبانی از ورودی صوتی است.
---
🔗 لینک‌های مفید:
📄 مقاله:
arxiv.org/abs/2608.12345
🤗 وزن‌ها:
huggingface.co/WeChat/WeMM-Embedding
💻 گیت‌هاب:
github.com/wechat/WeMM-Embedding
---
#Tencent #WeMM_Embedding #هوش_مصنوعی #پردازش_چندوجهی
🆔 @asrgooyeshpardaz
arXiv.org
Diagnostic Foundation for Evaluating LLMs' Research Integrity...
Language models are increasingly deployed as co-scientists, yet their ability to uphold research integrity under institutional pressure remains unmeasured. We introduce IntegrityBench, a benchmark...
❤1