نرخ یادگیری

Learning Rate

تعریف

یک مقدار عددی که در آموزش مدل با روش کاهش شیب (gradient descent) استفاده می‌شود. در هر گام، الگوریتم کاهش شیب مقدار نرخ یادگیری را در گرادیان‌ها یا شیب‌ها ضرب می‌کند. حاصل ضرب این‌ها گام شیب نامیده می‌شود.

نرخ یادگیری یک ابرپارامتر (hyperparameter) کلیدی است.