اخبار ، مقالات و تحقیقات گروهی را دنبال کنید.
آموزش انتخاب بهترین هایپرپارامترها در یادگیری عمیق
وقتی شروع به یادگیری هر چیز جدیدی می کنید، یکی از چیزهایی که با آن دست و پنجه نرم می کنید، زبان زمینه ای است که در آن وارد می شوید. درک واضح اصطلاحات (و در برخی موارد نمادها و کلمات اختصاری) مورد استفاده در یک زمینه، اولین و اساسی ترین گام برای درک خود موضوع است. زمانی که در…
وقتی شروع به یادگیری هر چیز جدیدی می کنید، یکی از چیزهایی که با آن دست و پنجه نرم می کنید، زبان زمینه ای است که در آن وارد می شوید. درک واضح اصطلاحات (و در برخی موارد نمادها و کلمات اختصاری) مورد استفاده در یک زمینه، اولین و اساسی ترین گام برای درک خود موضوع است. زمانی که در یادگیری ماشینی شروع به کار کردم، مفهوم پارامترها و فراپارامترها بسیار سردرگم کننده بود. اگر به دنبال یک آموزش برای آشنایی با هایپرپارامتر ها هستید، فکر می‌کنم برای شما هم این مفاهیم گیج کننده بوده است.
اساساً، هر چیزی در یادگیری ماشینی و یادگیری عمیق که مقادیر آنها را تعیین کنید یا پیکربندی آنها را قبل از شروع آموزش انتخاب کنید و مقادیر یا پیکربندی آنها در پایان آموزش ثابت بماند، یک فراپارامتر است.
هایپرپارامتر ها یا فراپارامتر ها، پارامترهایی هستند که مقادیر آنها فرآیند یادگیری را کنترل می‌کند و مقادیر پارامترهای مدلی را تعیین می‌کند که یک الگوریتم یادگیری به یادگیری آنها ختم می‌شود. پیشوند “hyper_” نشان می دهد که آنها پارامترهای “سطح بالا” هستند که فرآیند یادگیری و پارامترهای مدل ناشی از آن را کنترل می کنند.
به عنوان یک مهندس یادگیری ماشین که یک مدل را طراحی می کند، مقادیر فراپارامتری را انتخاب و تنظیم می کنید که الگوریتم یادگیری شما قبل از شروع آموزش مدل از آنها استفاده می کند. هایپرپارامترها خارج از مدل هستند زیرا مدل نمی تواند مقادیر خود را در طول یادگیری/آموزش تغییر دهد. در پایان فرآیند یادگیری، ما پارامترهای مدل آموزش دیده را داریم و هایپرپارامترهایی که در طول آموزش مورد استفاده قرار گرفتند بخشی از این مدل نیستند.
مشخصات آموزش
- مدرس: زهرا طباطبایی
- تخصص: پردازش تصویر با کمک به کاری الگوریتم های نوین یادگیری ماشین/یادگیری عمیق.
- دانشجوی دکتری دانشگاه پلی تکنیک والنسیا (UPV) – دانشگاه استاوانگر – نروژ
- موضوع: آنالیز بهترین هایپرپارامترها در یادگیری عمیق
- مدت زمان آموزش: 135 دقیقه
- نرم افزار: پایتون
- نوع آموزش: ویدیویی
- مخاطب: تمامی رشته ها (برق – کامپیوتر – معماری – عمران – مکانیک – فیزیک و… .)
- پیش نیاز: پردازش تصویر در متلب برمبنای کتاب گنزالس، پایتون مقدماتی، رگرسیون در پایتون، طبقه بندی در پایتون، خوشه بندی و کاهش ویژگی در پایتون، شبکه های عصبی مصنوعی در پایتون و به کار گیری شبکه های عصبی در پردازش تصویر.
تهیه آموزش
جهت تهیه آموزش بر روی دکمه زیر کلیک کنید:
توضيحات آموزش
در یادگیری عمیق همواره با چالش های مختلفی روبرو هستیم تا بتوانیم بهترین مدل را برای داشتن بهترین خروجی طراحی کنیم. برای به دست آوردن بهترین دقت عملکردی همواره به تنظیم مقادیر مختلف از هایپرپارامتر ها نیاز داریم. کوچکترین تغییری در هر یک از آن ها می تواند اثرات قابل توجهی بر نتیجه داشته باشد. به همین دلیل، لازم است ابتدا مفاهیم هر کدام را بدانیم تا بتوانیم اثرات ناشی از تغییر مقدار آن ها را بررسی کنیم. پس از به دست آوردن آگاهی لازم از مفاهیم هر یک از این پارمتر ها، باید بدانیم برای هر کدام چه مقداری می تواند بهترین تاثیر را بر نتایج داشته باشد.
در این دوره به آموزش مفاهیم هر یک از هایپرپارامتر ها می پردازیم سپس با ارائه روش های مختلف چگونگی انتخاب بهترین مقدار را به شما آموزش می دهیم.
لازم است بدانیم.. هیچگاه.. هیچکس.. نمی تواند مقدار دقیق هایپرپارامتر های مدل طراحی شده ی شما را مشخص کند. پس بهتر است مفاهیم را بدانید تا بر مبنای آن ها بهترین تصمیم را اتخاذ کنید.
عناوين آموزشی:
مهم ترین عناوين آموزشی این محصول عبارت اند از:
- تابع Loss
- Batch size
- Optimizer
- Activation function
- Learning rate
- Learning rate Schedular
- KerasClassifier
- GridSearchCV
- Keras.constraints
- Maxnorm
- Train-test split ratio
- Drop out
- تعداد لایه های لازم برای طراحی یک مدل
- بررسی اثرات افزایش و کاهش لایه های یک مدل
- تعداد نورون های لازم برای طراحی یک مدل
- بررسی اثرات افزایش و کاهش نورون های یک مدل
- بررسی لایه های Fully connection
- بررسی دیتا ست heart.data_
- بررسی مقالات اخیر با رویکرد مطالعه ی هایپرپارامتر ها
تمامی آموزش ها هم در محیط پایتون و هم به صورت تئوری هستند.
نمونه تدریس مدرس:
تهیه آموزش:
جهت تهیه آموزش بر روی دکمه زیر کلیک کنید:
سایر آموزش های یادگیری عمیق:
- آموزش کاربرد شبکه های عصبی و یادگیری عمیق در پردازش تصویر با پایتون
- رگرسیون: گام اول Deep Learning یا یادگیری عمیق در پایتون – یادگیری عمیق با پایتون
- طبقه بندی: گام دوم Deep Learning یا یادگیری عمیق در پایتون
- خوشه بندی و کاهش ویژگی: گام سوم و چهارم از یادگیری عمیق در پایتون
- شبکه های عصبی مصنوعی: گام پنجم از یادگیری عمیق در پایتون
نوشته های مرتبط :
آموزش های رایگان پیشنهادی :
نحوه تشخیص لکههای نفتی با تصاویر ماهواره ای
1,059 بازدید
آموزش ساخت DEM در ArcGIS به زبان ساده
2,160 بازدید
کار با داده های زیست محیطی در سنجش از دور
1,150 بازدید
2 دیدگاه. ارسال دیدگاه جدید
با سلام و احترام
من طبق آموزش تنظیم هایپرپارامتر ها، شبکه ای را ایجاد کردم و از همان پارامتر هایی استفاده کردم که در Best آن ها را نمایش داد و به این خروجی رسیدم.
Model: “sequential”
_________________________________________________________________
Layer (type) Output Shape Param #
=================================================================
dense (Dense) (None, 4) 1432
dense_1 (Dense) (None, 3) 15
=================================================================
Total params: 1,447
Trainable params: 1,447
Non-trainable params: 0
_________________________________________________________________
Epoch 1/2
2/2 [==============================] – 1s 235ms/step – loss: 1.0905 – accuracy: 0.3333 – val_loss: 1.0841 – val_accuracy: 0.3333
Epoch 2/2
2/2 [==============================] – 0s 32ms/step – loss: 1.0864 – accuracy: 0.3333 – val_loss: 1.0792 – val_accuracy: 0.3333
1/1 [==============================] – 0s 26ms/step – loss: 1.1054 – accuracy: 0.3333
366/366 [==============================] – 0s 1ms/step
چنین مقادیر loss و val_loss و val_accuracy در حد معمول و قابل قبول است یا این که اشتباهه و نتیجه پرتی به دست آمده است؟
من از 0.8 داده ها برای آموزش استفاده کردم و از 0.2 باقی مانده هم برای validation و test
سلام وقتتون بخیرباشه..
تعداد ایپاک ها بسیار بسیار کم است.
مقدار دقت بسیار کم است.
مقدار خطا و از دست رفته بسیار بالا.
باید تلاش کنید مقدار دقت بالا باشد در حالی که مقدار از دست رفت زیر مقدار یک باشد.
0.33 دقت عملا مدل اموزشی دریافت نکرده است.
موفق باشید
با احترام طباطبایی