תואר ראשון במדעי הנתונים

שימוש שיטות "מרוכבות" לחישוב אינטגרלים ממשיים. שימושים בהתמרות אינטגרליות – של Fourier, Laplace.

במסגרת הקורס ינתן בסיס מקיף ליסודות של בינה מלאכותית. חלקו הראשון של הקורס יתמקד במושגי בינה מלאכותית של Search & Planning. החלק השני יתמקד בשיטות של Probabilistic reasoning. החומר התאורטי ילווה בדוגמאות

סטטיסטיקה תיאורית, אמידה, תכונות אומדים ושיטות אמידה, רווחי סמך, בדיקת השערות על פרמטרים שונים (מבחני Z, מבחני T, מבחן חי-בריבוע, מבחן F) מבחני טיב התאמה ואי תלות, רגרסיה לינארית פשוטה (אם יישאר זמן), שיטות א-פרמטריות. שימוש בתוכנת R לצורך הרצת חישובים.

אינטרפולציה: שיטות לגרנז' וניוטון, אינטרפולציה הרמיטית, ספליין. גזירה נומרית. אינטגרציה נומרית: שיטת הטרפז, סימפסון ונקודת האמצע. שיטות האינטגרציה לפי גאוס. קירוב ריבועים מינימליים. קירוב לפתרון משוואה דיפרנציאלית: שיטות טיילור,הון ורונגה קוטה, שיטות סתומות. קירוב לפתרון משוואה לא ליניארית ,שיטת החצייה, שיטת ניוטון-רפסון , מיתר ושיטות איטרטיביות של נקודת השבת. קירוב לפתרון מערכת משוואות ליניארית: שיטת הדירוג של גאוס, מוצגות של מטריצה, שיטות איטרטיביות ופירוק LU.

תקציר נושאי הקורס: מבוא לתכנון לינארי. סימפלכס , בעיה פרימלית ודואלית. בעיית התובלה ובעיית ההשמה. תכנות דינאמי .טיפוס נתונים גרף, ייצוגים שונים של גרפים. ואלגוריתמים בסיסיים עליהם. אלגוריתמים למציאת סגור טרנזיטיבי: באמצעות כפל מטריצות ולפי האלגוריתם של וורשל. מסלולי אוילר והמילטון. חיפוש לרוחב - BFS, חיפוש לעומק - DFS. רכיבים קשירים היטב(רק"חים) וגרף על . מיון טופולוגי , מסלולים קריטיים, מסלולים קצרים בגרף – DAG. מסלולים קצרים ביותר ממקור יחיד – מסלולים קצרים ביותר. האלגוריתמים של דייקסטרה ושל בלמן-פורד. מסלולים קצרים ביותר בין כל הזוגות. האלגוריתם: פלויד-וורשאל. אלגוריתמים חמדניים קידוד ועצי הופמן. עץ פורש מינימלי – "הצמחת" עץ פורש מינימלי, האלגוריתמים של קרוסקל ושל פרים. מסלולי אוילר והמילטון.

טורי פוריה: פיתוח לטור פוריה בקטע סופי, מקדמי פוריה. הצורה המרוכבת של טורי פוריה. התכנסות הטור, פונקצית Dirichlet , התכנסות בנקודת קפיצה. תופעת Gibbs . הזהות של פרסוול. התמרת פוריה, הגדרה, תכונות וטבלת הטרנספורם. שימושי התמרת פוריה בעיבוד אותות ובפתרון משוואות דיפרנציאליות. התמרת Laplace ושימושיה בפתרון משוואות דיפרנציאליות. פתרון המשוואה באמצעות התמרת לפלס במקרים בהם פונקצית האילוץ היא פונקצית מדרגה ופונקצית דלתא.

רקורסיה כפרדיגמת חשיבה אינטרדיסציפלינרית, ניתוח אלגוריתמים ושיעור הגידול, גידול של פונקציות וסכומים, גבולות וטורים, נוסחאות נסיגה, שיטת ההצבה, שיטת האיטרציה, שיטת הרקורסיה. חיפוש איבר ברשימה ממוינת ולא ממוינת, מינימום, מכסימום, מיזוג סדרות ממוינות, ניתוח סיבוכיות זמני הריצה שלהם. טיפוסי נתונים, ייצוגם ושימושיהם. רשימה כטיפוס נתון מופשט ,רשימה מעגלית ורשימות דו-כיווניות, מחסנית, חישוב ביטויים אלגבריים ותחביריים בעזרת מחסנית, תור. עץ בינארי, יישומים בעזרת עצים.סריקות שונות של עצים ועץ חיפוש בינארי , אלגוריתם של ג'וזפוס, עצים כלליים ועצים מאוזנים. ערמה, מיון באמצעות ערימה, מיון מהיר,מיון מנייה, מיון בסיס, מיון דלי, ניתוח סיבוכיות זמני הריצה שלהם. שיטות חיפוש, חיפוש בסיסי, חיפוש בעזרת עצים, טבלאות גיבוב - Hashing.

למידת מכונה (Machine Learning) לעיתים מכונה גם למידה חישובית היא תת-תחום במדעי המחשב ובבינה מלאכותית המשיק לתחומי הסטטיסטיקה והאופטימיזציה. התחום עוסק בפיתוח אלגוריתמים המיועדים לאפשר למחשב ללמוד מתוך דוגמאות, ופועל במגוון משימות חישוביות בהן התכנות הקלאסי אינו אפשרי או אינו כדאי. למידת מכונה היינו תחום חדש באופן יחסי ולאחרונה אחראי לפריצות דרך משמעותיות בעולמות הבינה המלאכותית, כריית המידע וגילוי אוטומטי של ידע מתוך נתונים. בבסיס תחום זה עומדת היכולת לגרום למחשבים לפעול ״עצמאית״ מבלי לתכנת אותם, וזאת ע״י אנליזה וניתוח כמויות גדולות של מידע מהעבר שיאפשר לזהות תבניות ולחזות התנהגותיות בעתיד. התרגולים: מפגשי התרגול ישלימו את החומר התיאורטי בעזרת תרגילים, הדגמות ועבודות תכנות.

שימוש במודלים מתמטיים לתכנון ולתפעול מערכות, תכנון לינארי כולל פתרון גרפי, ניסוח מודלים לינראיים לאופטימיזציה, שיטת הסימפלקס, דואליות וניתוח רגישות, בעיות תובלה, בעיית ההשמה, תכנון דינמי, מבוא לתורת ההחלטות.

תקציר נושאי הקורס: מבוא לתכנון לינארי. סימפלכס , בעיה פרימלית ודואלית. בעיית התובלה ובעיית ההשמה. תכנות דינאמי .טיפוס נתונים גרף, ייצוגים שונים של גרפים. ואלגוריתמים בסיסיים עליהם. אלגוריתמים למציאת סגור טרנזיטיבי: באמצעות כפל מטריצות ולפי האלגוריתם של וורשל. מסלולי אוילר והמילטון. חיפוש לרוחב - BFS, חיפוש לעומק - DFS. רכיבים קשירים היטב(רק"חים) וגרף על . מיון טופולוגי , מסלולים קריטיים, מסלולים קצרים בגרף – DAG. מסלולים קצרים ביותר ממקור יחיד – מסלולים קצרים ביותר. האלגוריתמים של דייקסטרה ושל בלמן-פורד. מסלולים קצרים ביותר בין כל הזוגות. האלגוריתם: פלויד-וורשאל. אלגוריתמים חמדניים קידוד ועצי הופמן. עץ פורש מינימלי – "הצמחת" עץ פורש מינימלי, האלגוריתמים של קרוסקל ושל פרים. מסלולי אוילר והמילטון.

אתגר מרכזי בארגון הינו: הפיכת הנתונים הרבים הנצברים במערכות המחשוב המגוונות ובמחסן הנתונים הארגוני לתובנות ולידע (Knowledge) עסקי אינטגרטיבי בעל ערך למקבלי החלטות בארגון מתוך מטרה למנף את תשואות הארגון ולהשיג יתרון אסטרטגי בתחרות העסקית על פני המתחרים שאלות כגון: מה הם הפרמטרים המסבירים נטישת לקוחות, אילו לקוחות מתאימים ביותר למבצע המכירות החדש של מוצר מסוים, אילו מוצרים נקנים בהסתברות גבוהה עם מוצר/ים אחר/ים, נדונות, מנותחות ומקבלות תשובה מושכלת. תחקור אנליטי ויזואלי בסביבה רב ממדית וכן הליכי כריית נתונים ו- BIG DATA נמצאים בפסגת הטכנולוגיות האנליטיות בארגון (BI), ומהווים את הנושאים החמים ביותר כיום בתחום זה. בקורס יילמדו ארכיטקטורות לעיצוב מחסן נתונים אפקטיבי וכן ארכיטקטורות של מוצרי BI. כמו כן יילמדו בקורס מתודולוגיות לאיתור המוטיבציה העסקית בעזרת ניתוח מושכל של הנתונים ומציאת קשרים ביניהם, וכן אלגוריתמים ומודלים אנליטיים מתחום הסטטיסטיקה והאינטליגנציה המלאכותית והעסקית. הקורס יעסוק בחלק התיאורטי/אקדמאי של הנושאים הרלוונטית כמו גם בפן המעשי תוך כדי הכרת ותרגול כלים ממוחשבים מובילים כגון: - SAS VIYA VA - תחקור אנליטי - כלי ייעודי - Visual Analytics Self-Service IBM Planning Analytics (OLAP) - תחקור רב-ממדי בסביבה רבת ממדים, - IBM Watson Modeler / Orange - Data Mining – כריית נתונים - SAS MINER VDMML - BIG DATA - Text Mining לפיתוח והטמעה יישומים בתחומים הרלוונטיים.

היכולת לעבד מידע ולהסיק מסקנות ממנו ביעילות הינה קריטית בהתמודדות עם כמויות המידע הענקיות של מהפכת האינפורמציה (Big Data). מכונות לומדות לצורך חיזוי ומציאת תבניות כבר הוכיחו את חשיבותם בתחומים כמו זיהוי דיבור, אינטלגנציה עיסקית (BI), ראיה ממוחשבת, זהוי הונאות, ועוד. מכונות לומדות הם גם הטכנולוגיה בעלת הפוטנציאל הגדול ביותר לחזון יצירת רובוטים או סוכנים אשר מתנהלים בעולם האמיתי ובדומה ליצורים מבוססי פחמן, מתאימים עצמם ולומדים כדי להשיג מטרתם. בעזרת רשתות נוירונים מלאכותיות שהינן מודלים אדפטיביים המקבלים את השראתם מהמוח וממערכת העצבים המרכזית. רשתות נוירונים עמוקות הינן היום בחזית הטכנולוגיה של למידת מכונה ומשמשות במערכות מסחריות רבות כמו זיהוי ספרות בצ'קים או מיקוד על מעטפות דואר, זיהוי רגש בקול או בתמונה, ראיה ממוחשבת ומכוניות אוטונומיות, תירגום אוטומטי ועוד.... בקורס זה נלמד את היסודות האלגוריתמיים והסטטיסטיים של רשתות נוירונים ונלמד סוגי למידה שונים, כגון למידה מונחית, ולמידה שאינה מונחית (unsupervised). נראה כיצד רשתות נוירונים עמוקות ומייצרים היררכיה של features "טובים", המאפשרים למידה מונחית מדויקת יותר. נלמד את אלגוריתם חלחול השגיאה אחורה ומגוון ארכיטקטורות המאפשרות להתגבר על בעיות באלגוריתם הבסיסי. נסקור רשתות קונוולוציה עמוקות המשמשות בראיה ממוחשבת, רשתות Recurrent ומנגנוני Attention, , לעיבוד שפה טבעית. נלמד גם מודלים שאינם מונחים כמו: autoencoders. self-supervised, ויצירת Embeddings.

מחזור חיים של פיתוח יישומים המבוססים על ניתוח נתוני עתק, כתיבת קוד מקבילי יעיל בסביבות SPARK ו-KAFKA

בקורס זה נסתכל על למידת מכונה מנקודת מבט הסתברותית. ההנחה הבסיסית היא שהנתונים מגיעים מאיזושהי התפלגות (לעיתים לא ידועה). נלמד שיטות סטטיסטיות בייזיאניות לאמידת פרמטרים לא ידועים של התפלגויות שונות, נשתמש בשיטות קירוב כגון MCMC כדי לאמוד צפיפויות, נסתכל על למידת מכונה מנקודת מבט של תורת ההחלטות וכן נדון במספר בעיות סיווג. נושאים אופציוניליים נוספים הם מודלים הסתברותיים כגון רשתות בייזיאניות ושרשראות מרקוב חבויות, שיטות clustering ואלגוריתם EM. חלק מהחומר הנלמד ניישם באמצעות תוכנת R.

במהלך הקורס יוצגו מספר בעיות מעשיות לניתוח ודיון משותף בכיתה. בעיות דומות יינתנו בעבודות בית כמשימה לניתוח ופתרון עצמאי. הנושאים העיקריים הם אופטימיזציה במרחב רציף: בעיות אופטימיזציה ללא אילוצים, נלמד שיטות חיפוש שונות כגון שיטת ניוטון, חיפוש קואורדינטות מחזורי, שיטת המורד התלול, מושגי יסוד באנליזה קמורה (בעיות אופטימיזציה תחת אילוצים) שיטות אנליטיות כגון לגרנז', ותנאי KKT, ושיטות נומריות כגון קנס ומחסום. נלמד על בעיות אופטימיזציה במרחב בדיד וכן נאפיין את הסיבוכיות של שיטות שונות לפתרון בעיות במרחב בדיד כגון תכנון דינמי, תכנון בשלמים לעומת שיטות היוריסטיות לפתרון בעיות גדולות.

מחזור חיים של פיתוח יישומים המבוססים על ניתוח נתוני עתק, כתיבת קוד מקבילי יעיל בסביבות SPARK ו-KAFKA

בקורס זה נסתכל על למידת מכונה מנקודת מבט הסתברותית. ההנחה הבסיסית היא שהנתונים מגיעים מאיזושהי התפלגות (לעיתים לא ידועה). נלמד שיטות סטטיסטיות בייזיאניות לאמידת פרמטרים לא ידועים של התפלגויות שונות, נשתמש בשיטות קירוב כגון MCMC כדי לאמוד צפיפויות, נסתכל על למידת מכונה מנקודת מבט של תורת ההחלטות וכן נדון במספר בעיות סיווג. נושאים אופציוניליים נוספים הם מודלים הסתברותיים כגון רשתות בייזיאניות ושרשראות מרקוב חבויות, שיטות clustering ואלגוריתם EM. חלק מהחומר הנלמד ניישם באמצעות תוכנת R.