🤖 افزودن واترمارک پنهان به خروجی مدل‌های Grok در API
از شنبه (۷ نوامبر)، متون تولیدشده توسط هفت مدل Grok در API به‌صورت پیش‌فرض حاوی واترمارک نامرئی خواهند بود. این تغییر برای انطباق با قانون هوش مصنوعی اتحادیه اروپا اعمال می‌شود.
این سیستم کاراکتر جدیدی به متن اضافه نمی‌کند، بلکه با تغییر جزئی در نحوه انتخاب توکن‌ها توسط مدل عمل می‌کند. ظاهر متن تفاوت ظاهری با خروجی‌های عادی ندارد، اما در ارزیابی‌های بعدی می‌توان متن را در سه حالت دارای واترمارک، بدون واترمارک یا نامشخص دسته‌بندی کرد. متون طولانی‌تر سیگنال قوی‌تری برای تشخیص ارائه می‌دهند.
واترمارک شامل پاسخ‌های متنی ساده، خروجی‌های ساختاریافته و فراخوانی ابزارها می‌شود. مدیران حساب‌ها فقط در صورت تأیید وجود معافیت قانونی می‌توانند آن را برای هر مدل غیرفعال کنند. دسترسی به ابزار تشخیص نیز مستلزم ثبت درخواست جداگانه است.
همچنین شرکت Anthropic از روز سه‌شنبه درج علامت روی متن مدل‌های قدیمی‌تر Claude را آغاز می‌کند.
#GrokWatermarking #EUAIAct
از شنبه (۷ نوامبر)، متون تولیدشده توسط هفت مدل Grok در API به‌صورت پیش‌فرض حاوی واترمارک نامرئی خواهند بود. این تغییر برای انطباق با قانون هوش مصنوعی اتحادیه اروپا اعمال می‌شود.
این سیستم کاراکتر جدیدی به متن اضافه نمی‌کند، بلکه با تغییر جزئی در نحوه انتخاب توکن‌ها توسط مدل عمل می‌کند. ظاهر متن تفاوت ظاهری با خروجی‌های عادی ندارد، اما در ارزیابی‌های بعدی می‌توان متن را در سه حالت دارای واترمارک، بدون واترمارک یا نامشخص دسته‌بندی کرد. متون طولانی‌تر سیگنال قوی‌تری برای تشخیص ارائه می‌دهند.
واترمارک شامل پاسخ‌های متنی ساده، خروجی‌های ساختاریافته و فراخوانی ابزارها می‌شود. مدیران حساب‌ها فقط در صورت تأیید وجود معافیت قانونی می‌توانند آن را برای هر مدل غیرفعال کنند. دسترسی به ابزار تشخیص نیز مستلزم ثبت درخواست جداگانه است.
همچنین شرکت Anthropic از روز سه‌شنبه درج علامت روی متن مدل‌های قدیمی‌تر Claude را آغاز می‌کند.
🇮🇷 - هوش مصنوعی و علم داده به فارسی
تلگرام | بله | ایتا | ارتباط با ما
#GrokWatermarking #EUAIAct