למידה עמוקה

למידה עמוקה הוא שם כולל לאוסף שיטות בלמידת מכונה המבוססות על רשתות נוירונים מלאכותיות בעלות שכבות רבות של רכיבים פשוטים המקושרים זה לזה, בדומה למבנה מוח האדם. מראשית שנות האלפיים הניבו אלגוריתמים אלו פריצות דרך בתחומי מחקר ושימוש רבים דוגמת זיהוי אובייקטים בתמונה ותרגום אוטומטי וכיום אפשר למצוא אותם בשימושים מרובים נוספים.

מטרת הקורס היא להציג את העקרונות הבסיסיים של תכנון מבנה רשתות נוירונים מלאכותיות ואת השיטות השונות לאימונן למטרות שונות כגון סיווג או רגרסיה.

הקורס מבוסס על הרצאות מוקלטות באנגלית ומדריך למידה בעברית.

במהלך הקורס הסטודנטים יגישו מטלות מעשיות הכרוכות בכתיבת קוד בשפת Python.

חלק ראשון: נושאים בסיסיים

• שימוש בספריה PyTorch לבניית ואימון מודלים של למידה עמוקה.
• הפרספטרון הרב שכבתי כמודל למידה עמוקה בסיסי.
• פונקציות מטרה שונות, למטרות שונות.
• אלגוריתמים לאימון רשתות נוירונים: אופטימיזציה ורגולריזציה.

חלק שני: ארכיטקטורות רשתות נוירונים מלאכותיות

• רשתות נוירונים קונבולוציוניות (CNNs)
• רשתות נוירונים נשנות (RNNs)
• ארכיטקטורות מקודד-מפרש

חלק שלישי : שימושים של רשתות נוירונים מלאכותיות

• עיבוד שפה טבעית
• ראיה ממוחשבת
• מודלים גנרטיביים