‏🧠 توابع فعال‌ساز در یادگیری عمیق

‏توابع فعال‌ساز با وارد کردن غیرخطی‌بودن به شبکه عصبی، امکان یادگیری الگوهای پیچیده را فراهم می‌کنند. در ادامه مهم‌ترین این توابع و کاربرد آن‌ها آورده شده است:

‏* Sigmoid: خروجی بین ۰ و ۱ تولید می‌کند و معمولاً در لایه‌های خروجی برای دسته‌بندی دوتایی (Binary) به کار می‌رود.
‏* Tanh: خروجی را بین ۱- و ۱ نگاشت می‌کند و به دلیل مرکزیت در صفر، اغلب عملکرد بهتری نسبت به Sigmoid دارد.
‏* ReLU: مقدار ورودی‌های منفی را صفر می‌کند و برای لایه‌های پنهان به دلیل سادگی و سرعت محاسباتی، انتخاب استانداردی است.
‏* Leaky ReLU: با تخصیص مقدار کوچکی به ورودی‌های منفی، از مشکل مرگ تدریجی نورون‌ها (Dying ReLU) جلوگیری می‌کند.
‏* PReLU: مشابه Leaky ReLU است با این تفاوت که شیب بخش منفی را در حین آموزش یاد می‌گیرد.
‏* Softmax: خروجی‌ها را به صورت توزیع احتمالی (مجموع برابر با ۱) برمی‌گرداند و برای مسائل دسته‌بندی چندکلاسه (Multi-class) استفاده می‌شود.

🇮🇷 - هوش مصنوعی و علم داده به فارسی
تلگرام | بله | ایتا | ارتباط با ما

#ActivationFunctions #Softmax