استفاده از dropout در یادگیری عمیق - هفت خط کد انجمن پرسش و پاسخ برنامه نویسی

استفاده از dropout در یادگیری عمیق

0 امتیاز
188 بازدید
سلام.

دوستان dropout چه نقشی تو عملیات یادگیری داره ؟
سوال شده فروردین 12  بوسیله ی korosh (امتیاز 133)   1 3 21

2 پاسخ

+2 امتیاز
 
بهترین پاسخ

یعنی به جای آموزش کل نودهای شبکه  فقط برخی از نودها را به صورت تصادفی انتخاب کنید و آموزش بدید.پیاده سازی آن هم به نظر من خیلی ساده هست و تو همه فریم ورک های یادگیری عمیق هم وجود داره.به شکل زیر نگاه کنید.

dropout

درصد مشخصی از نود ها در هر مرحله از آموزش خروجی آنها صفر می کنیم و بدین ترییب نود ها را غیر فعال می کنیم.میزان این صفر کردن به ترتیب 50 و 25 درصد برای لایه ورودی و لایه های مخفی است.همچنین این تکنیک باعث میشه تا مدل  overfiiting نشه.

پاسخ داده شده تیر 6 بوسیله ی sharp man (امتیاز 121)   2
+1 امتیاز
سلام.
باعث میشه اون نرون هایی که بود و نبودشون ان چنان تاثیری در خروجی نداره کلا از ساختار خارج بشن و به نوعی شبکه ساختار سبک تری نسبت به قبل پیدا کنه
پاسخ داده شده خرداد 25 بوسیله ی mlghost (امتیاز 100)   3
...