איתי בן דן
איתי בן דן

על חתולים והתגלית ששינתה את העשור

מה הקשר בין תמונות של חתולים ברשת, המהנדסים של גוגל ומניית אנבידיה? ואיך יכול מחשב לזהות את אותו חתול ספציפי בכל התמונות והסרטונים ברשת?
איתי בן דן | (4)

מה זה חתול? האם חשבתם מה גורם לכם כשאתם רואים חתול להבין שמדובר בחתול ולא בכלב, שועל, נמייה, גבר משופם ומדושן מעונג. מה מאפשר לנו בתור אנשים להבדיל, לזהות אנשים שאנחנו מכירים. עצרו לכמה שניות תעשו לרגע את התרגיל המחשבתי של מה גורם לנו כשאנחנו רואים חתול לזהות חתול.

טיק-טוק טיק-טוק... עשיתם? השפם? הפרווה? העיניים? הזנב? אם זו אחת התשובות שלכם אז אתם שקרנים. חתול הוא חתול כי ככה למדנו איך חתול נראה לרוב לפני שלמדנו לדבר כהלכה וזה מחווט אצלנו במוח.

מחשב לעומת זאת מקבל אלפי-מיליוני-מילארדי תמונות ומשתמש בעיבוד מידע מתוחכם בשביל ללמוד ממאפיינים שונים ומשונים של התמונה המתקבלת. אגדה בודהיסטית (אודנה, יש גם מקור הינדי) שממחישה את דרך הפעולה: שישה עיוורים שטרם נתקלו בפיל צריכים על ידי מישוש להגיע להבנה של מה זה פיל כאשר כל עיוור ממשש חלק אחר של הפיל בנפרד, חדק, אוזן ,פנים, רגל, עור הגוף, זנב, ישבן... האם העיוורים יוכלו להשתמש בתיאור המישוש הקולקטיבי להבין שמדובר בחיה שטרם מוששה על ידם ולהבין שמדובר בפיל?

במקום עיוורים ותחושות המישוש שלהם, למחשב יש פיצ׳רים, כאשר פיצ׳רים יכולים להיות חלקים מהתמונה, מספר הצבעים השונים ולמעשה כל פונקציה שאתם יכולים להעלות על דעתכם שמופעלת על התמונה או חלקים ממנה.

פיצ׳רים לזיהוי אופנוע

תנסו לחשוב כמה אנשים תוכלו לזהות, ממש לנקוב בשמם (כולל ידוענים וקים קרדשיאן) על סמך תמונה שיראו לכם, אם תגיעו למספר אלפים מצבכם טוב. כמה אנשים תצטרכו בשביל לזהות 100 אלף איש שונים??? לאנדרו נג (מדען עם התמחות בתחום למידת מכונה, לטעמי האדם עם ההבנה הרחבה והמעמיקה ביותר בתחום) ולמהנדסי גוגל היה ברור שפתרון של הבעיה יהווה הוכחה ניצחת לעליונות הטכנולוגית של טכניקות למידת המכונה והעיבוד המקבילי שהם פיתחו.

  

אנחנו אנושיים, ולכן ההתחלה מנסה לחקות באיזשהו אופן חשיבה אנושית, באופן גס ההבדל בין מחשבים לאנשים הוא שהזכרון ויכולת החישוב האנושי מוגבלת, מה שאנחנו עושים בלי להרגיש הוא המון קישורים אסוציאטיבים שכרגע (וככל הנראה גם בעתיד) נגיע להבנה מוגבלת של איך הקישורים האלה מתבצעים אם בכלל.

נחזור לבעיית החתולים. השאלות שהטרידו את חוקרי גוגל היו האם מחשב יוכל להבין מה הוא חתול בלי שיצטרכו להגדיר לו חתול? והאם מחשב יוכל לזהות את כל המופעים של חתול ספציפי בכל התמונות והסרטונים ברשת.

קיראו עוד ב"ניתוחים ודעות"

הבעיה הייתה שמדובר במיליארדי תמונות, בניית מאגרי הנתונים תיקח משאבי זכרון עצומים וגם אם זה יתבצע בהצלחה תהליך לימוד שינסה למצוא פתרון אופטימלי על כל הדוגמאות יהיה תלוי במכפלה של מספר הדוגמאות במספר העיבודים של כל דוגמא כלומר במקרה הטוב יארך אלפי שנים.

לקראת סוף העשור של שנות ה-2000 היו התקדמויות משמעותיות בתחום החישוב המקבילי, במילים אחרות חישוב שבו מספר תהליכים מתבצעים במקביל. השאלה הגדולה הייתה האם ניתן לבצע לימוד חלקי, כלומר על חלק מהדוגמאות, שהתוצאה בלימוד הזה תשפר משמעותית את התוצאה הכללית.

התשובות שניתנו לשאלה הזו בהקשר של למידת מכונה היו חלקיות ותאורטיות. בשביל להגיע לפתרון כלשהו של בעיית זיהוי כל תמונות החתולים ברשת לא הייתה ברירה חוץ מלהפוך את הבעיה לאוסף של המון תתי בעיות קטנות. המספר שאליו הגיעו מהנדסי גוגל הוא 160 אלף. כלומר הם היו צריכים לגרם לכ-160 אלף מחשבים (או מעבדים) לעבוד במקביל ולתקשר ביניהם על מנת ליצור מודל שבהנתן תמונת חתול ידע כי:

  1. מדובר בחתול.
  2. יימצאו את כל מופעי תמונת אותו חתול ברשת.
לכל מי שמזלזל מדובר לטעמי בהישג שאינו נופל משליחת רובוט למאדים (קיוריאסיטי 2012) בגלל הצורך בבעלי מקצוע מהשורה הראשונה בכל מה שקשור לחישוב מקבילי, הבנה בחומרה (קרי ניתוב מהיר, חיבורים פיזיים, תפירה של מערכות הפעלה ייעודיות), קומפילציה, עיבוד אותות ועוד ועוד. ההצלחה הגדולה הגיעה ממספר פריצות דרך משמעותיות:
  1. ייצוג חכם של תוצרי עיבוד הנתונים ובחירת ארכיטקטורת תוכנה וחומרה יעילה ויציבה.
  2. אופטימזציה רב שלבית חכמה (בניגוד לבעיות דומות כאן אין בדיוק דוגמאות שיש להן תוויות שניתן למדוד דיוק ביחס אליהן).
  3. חיבור מודלים שהתקבלו ממקורות שונים וביצוע אופטימיזציה של המודל  המאוחד.

בניית מחשב העל שזיהה חתולים עלתה מיליוני דולרים. בשביל להפוך את הגילוי ליעיל היה צורך במעבדים חזקים, מהירים, זולים יחסית, וביכולת להשמיש אותם כאן נכנסה לתמונה (תרתי משמע) לקראת 2013 חברה שפיתחה מאיצים גרפיים למשחקי מחשב בשם NVDIA.

בגלל הפוזיציה הקטנה שלהם, הם איפשרו גישה חופשית למהנדסים של גוגל על מנת להשמיש את המעבדים הגרפיים שלהם לדברים נוספים שישמשו אותם בחישובים, כך במקום מחשב על במיליוני דולרים אפשר היה לבנות מכונה בעלת יכולות דומות בעלות של עשרות אלפי דולרים. המנייה של NVDIA ותחום למידת המכונה מאז….

ב-2015 התפרסם שיתוף הפעולה בין גוגל ל-NVIDIA והשאר כמו שתראו בגרף המנייה של NVIDIA להלן.

כותב המאמר: איתי בן דן, מתמטיקאי, מומחה בשווקים הפיננסיים, עוסק בפיתוח של אלגוריתמים מתקדמים למסחר בבורסות שונות ופיתוח של כלים מתקדמים להשקעה

תודה לנטע שוהם ושימרית עובדיה על העזרה עם המאמר

תגובות לכתבה(4):

הגב לכתבה

השדות המסומנים ב-* הם שדות חובה
  • 4.
    הגהה חובה 25/02/2020 19:36
    הגב לתגובה זו
    מה יהיה עם הכתבות כאן? מי עובר על זה?
  • 3.
    ICייסי 25/02/2020 18:18
    הגב לתגובה זו
    איך קורה ששימוש במעבד גרפי חוסך מיליונים שהיו הולכים להשקעה במעבד מרכזי?
  • 2.
    פיני 25/02/2020 16:03
    הגב לתגובה זו
    כך מציגים ציר אופקי??
  • 1.
    איפה שיש חתול יש תרבות-:) (ל"ת)
    חיים 25/02/2020 15:58
    הגב לתגובה זו
יסודות אסדת לווייתן
צילום: אלבטרוס

לפני שאיבדה את הריבונות הביטחונית, ישראל איבדה את הריבונות האנרגטית

יעקב צלאל |
נושאים בכתבה גז מפת הקידוחים

מדינת ישראל מעולם לא היתה ריבונית לגמרי, כשלאורך עשרות השנים האחרונות היא תלויה בסיוע צבאי ואזרחי אמריקני. אולם אם עד לאחרונה אזרחי המדינה העדיפו להעלים עין ממציאות זו, הרי שבשבועות האחרונים התלות והעדר הריבונות והעצמאות הפכו לבוטות יותר, כאשר ממשל טראמפ כפה הסכם הפסקת אש ברצועת עזה ומפקח עליו בקפדנות, בשלב זה, ממתקן צבאי אמריקני בקרית גת.

אולם יש תחום נוסף, קריטי למשק, שמעולם לא היה בריבונות ישראלית: משק הגז הטבעי. בשניים וחצי העשורים מאז התגלו מאגרי גז ראשוניים וביותר מ-15 השנים מאז התגלה מאגר תמר, התלות הישראלית בחברות אמריקניות להפקת הגז הטבעי ובממשל האמריקני לאסדרת משק הגז הטבעי, היתה מוחלטת.

אמנם בשנים האחרונות, משק הגז הטבעי הישראלי, שהוא בעל חשיבות אסטרטגית למדינה, הפך למערב פרוע. אבל עדיין יש בו שריף אחד, השולט בשקט בכל הנעשה, ענקית האנרגיה שברון. אקדוחנים אחדים, אמנם נלחמים על הפירורים, שעדיין שווים מיליארדי דולרים לאורך השנים ועושים כותרות, אבל חשיבותם לפיתוח משק הגז אפסית. אלי כהן, שר האנרגיה, הודיע לפני שבוע על התנגדותו לאשר את החוזה החדש ליצוא הגז למצרים, עד שיוסדרו עלויות גז נוחות לשוק המקומי, אבל אף אחד אינו מתייחס אליו ברצינות. רה״מ, בנימין נתניהו, נפגש בשבוע שעבר עם נציגי שברון כדי לפתור את המשבר, דווח בדה מרקר. מר כהן לא הוזמן לפגישה. הבעיה תיפתר בקרוב וההסכם ייחתם.

מבני הבעלות על מאגרי לוויתן, כריש ותמר הינם יציבים, מבנה הבעלות על תמר פטרוליום, המחזיקה בכ-17% ממאגר תמר, משתנה חדשות לבקרים, כאילו היה מדובר בגן שעשועים. וכך, קבוצה אקלקטית של משקיעים, חלקם זרים, מבקשת להגדיל את רווחיה על חשבון הציבור הישראלי (ואין לה כל עניין בהשקעות ובפיתוח משק הגז). מכאן הידיעות שהתפרסמו לאחרונה על סירובם של משקיעים בתמר פטרוליום, ובהם גם ישראמקו, לחתום על הסכם הספקת גז חדש מול חברת החשמל, שאמור היה להוזיל את הגז וכתוצאה מכך את עלות החשמל, כבר בשנים הקרובות. להערכתם מחירי הגז הטבעי בשנים הקרובות יעלו. במידה והערכה זו תתגשם, הרי שתהיה בכך פגיעה קשה בציבור הישראלי, שלבד מכך שאוצרות הטבע שייכים לו, הוא גם ממן את פעילות הפקת הגז בסכומים לא ידועים, באמצעות מתן הגנה ביטחונית למתקני הפקת הגז בים התיכון. בנוסף, חברות האנרגיה חדלו מלבצע חיפושים אחר מאגרי גז נוספים, ומנסות להגביר את קצב ההפקה, כך שלפי הערכות מלאי הגז במאגרים הישראליים יאזל בתוך כ-20-25 שנים. אזילת הגז תציב את המשק הישראלי בפני משבר אנרגטי חמור, מאחר שעד שיאזל הגז הטבעי, חלק ניכר מפעילות המשק תוסב לגז טבעי. יבוא גז טבעי לישראל, בתצורת LNG, צפוי להיות יקר ויגדיל באופן ניכר את העלות שתוטל על משקי הבית ועל עסקים מקומיים. הוא גם יגדיל את רווחי החברות שייבאו את הגז, שלפחות בחלקן שותפות כיום להפקתו, למשל שברון.

(כמובן שאנחנו בפתח עידן האנרגיה הירוקה, אבל לישראל אסור בשלב זה לוותר על האופציה של שימוש בגז טבעי בעשורים הקרובים).

נובל אנרג׳י, החברה האחראית לתגליות הגז הגדולות של ישראל, היתה חברת אנרגיה בינונית. אולם מאז נרכשה ע״י שברון, קבוצת האנרגיה השניה בגודלה בארה״ב, בסוף 2020, השתנה לגמרי מבנה השליטה בשוק הגז הטבעי המקומי. שברון מחזיקה כיום בכ-40% מתמר וב-25% מלווייתן, ומשמשת כמפעילה של שני המאגרים וכך מנופי השליטה שלה בשוק הגז המקומי הינם בלתי מוגבלים. אם לנובל אנרג׳י היו מהלכים מוגבלים בממשל האמריקני, הרי ששברון היא חלק אינטגרלי מהממשל, שענקיות האנרגיה תמיד נעזרו בו והוא נעזר בהן לפעילות ושליטה בשווקי האנרגיה העולמיים, ראו איום הנוכחי לפלישה אמריקנית לוונצואלה, ממפיקות הנפט הגדולות בעולם. ניסיון של ממשלת ישראל להגביל את יצוא הגז הטבעי, ידווח מיידית לבעל בריתה של שברון, דונלד טראמפ, שיורה לבנימין נתניהו, או לכל ראש ממשלה אחר, להימנע מהגבלת היצוא.

יסודות אסדת לווייתן
צילום: אלבטרוס

לפני שאיבדה את הריבונות הביטחונית, ישראל איבדה את הריבונות האנרגטית

יעקב צלאל |
נושאים בכתבה גז מפת הקידוחים

מדינת ישראל מעולם לא היתה ריבונית לגמרי, כשלאורך עשרות השנים האחרונות היא תלויה בסיוע צבאי ואזרחי אמריקני. אולם אם עד לאחרונה אזרחי המדינה העדיפו להעלים עין ממציאות זו, הרי שבשבועות האחרונים התלות והעדר הריבונות והעצמאות הפכו לבוטות יותר, כאשר ממשל טראמפ כפה הסכם הפסקת אש ברצועת עזה ומפקח עליו בקפדנות, בשלב זה, ממתקן צבאי אמריקני בקרית גת.

אולם יש תחום נוסף, קריטי למשק, שמעולם לא היה בריבונות ישראלית: משק הגז הטבעי. בשניים וחצי העשורים מאז התגלו מאגרי גז ראשוניים וביותר מ-15 השנים מאז התגלה מאגר תמר, התלות הישראלית בחברות אמריקניות להפקת הגז הטבעי ובממשל האמריקני לאסדרת משק הגז הטבעי, היתה מוחלטת.

אמנם בשנים האחרונות, משק הגז הטבעי הישראלי, שהוא בעל חשיבות אסטרטגית למדינה, הפך למערב פרוע. אבל עדיין יש בו שריף אחד, השולט בשקט בכל הנעשה, ענקית האנרגיה שברון. אקדוחנים אחדים, אמנם נלחמים על הפירורים, שעדיין שווים מיליארדי דולרים לאורך השנים ועושים כותרות, אבל חשיבותם לפיתוח משק הגז אפסית. אלי כהן, שר האנרגיה, הודיע לפני שבוע על התנגדותו לאשר את החוזה החדש ליצוא הגז למצרים, עד שיוסדרו עלויות גז נוחות לשוק המקומי, אבל אף אחד אינו מתייחס אליו ברצינות. רה״מ, בנימין נתניהו, נפגש בשבוע שעבר עם נציגי שברון כדי לפתור את המשבר, דווח בדה מרקר. מר כהן לא הוזמן לפגישה. הבעיה תיפתר בקרוב וההסכם ייחתם.

מבני הבעלות על מאגרי לוויתן, כריש ותמר הינם יציבים, מבנה הבעלות על תמר פטרוליום, המחזיקה בכ-17% ממאגר תמר, משתנה חדשות לבקרים, כאילו היה מדובר בגן שעשועים. וכך, קבוצה אקלקטית של משקיעים, חלקם זרים, מבקשת להגדיל את רווחיה על חשבון הציבור הישראלי (ואין לה כל עניין בהשקעות ובפיתוח משק הגז). מכאן הידיעות שהתפרסמו לאחרונה על סירובם של משקיעים בתמר פטרוליום, ובהם גם ישראמקו, לחתום על הסכם הספקת גז חדש מול חברת החשמל, שאמור היה להוזיל את הגז וכתוצאה מכך את עלות החשמל, כבר בשנים הקרובות. להערכתם מחירי הגז הטבעי בשנים הקרובות יעלו. במידה והערכה זו תתגשם, הרי שתהיה בכך פגיעה קשה בציבור הישראלי, שלבד מכך שאוצרות הטבע שייכים לו, הוא גם ממן את פעילות הפקת הגז בסכומים לא ידועים, באמצעות מתן הגנה ביטחונית למתקני הפקת הגז בים התיכון. בנוסף, חברות האנרגיה חדלו מלבצע חיפושים אחר מאגרי גז נוספים, ומנסות להגביר את קצב ההפקה, כך שלפי הערכות מלאי הגז במאגרים הישראליים יאזל בתוך כ-20-25 שנים. אזילת הגז תציב את המשק הישראלי בפני משבר אנרגטי חמור, מאחר שעד שיאזל הגז הטבעי, חלק ניכר מפעילות המשק תוסב לגז טבעי. יבוא גז טבעי לישראל, בתצורת LNG, צפוי להיות יקר ויגדיל באופן ניכר את העלות שתוטל על משקי הבית ועל עסקים מקומיים. הוא גם יגדיל את רווחי החברות שייבאו את הגז, שלפחות בחלקן שותפות כיום להפקתו, למשל שברון.

(כמובן שאנחנו בפתח עידן האנרגיה הירוקה, אבל לישראל אסור בשלב זה לוותר על האופציה של שימוש בגז טבעי בעשורים הקרובים).

נובל אנרג׳י, החברה האחראית לתגליות הגז הגדולות של ישראל, היתה חברת אנרגיה בינונית. אולם מאז נרכשה ע״י שברון, קבוצת האנרגיה השניה בגודלה בארה״ב, בסוף 2020, השתנה לגמרי מבנה השליטה בשוק הגז הטבעי המקומי. שברון מחזיקה כיום בכ-40% מתמר וב-25% מלווייתן, ומשמשת כמפעילה של שני המאגרים וכך מנופי השליטה שלה בשוק הגז המקומי הינם בלתי מוגבלים. אם לנובל אנרג׳י היו מהלכים מוגבלים בממשל האמריקני, הרי ששברון היא חלק אינטגרלי מהממשל, שענקיות האנרגיה תמיד נעזרו בו והוא נעזר בהן לפעילות ושליטה בשווקי האנרגיה העולמיים, ראו איום הנוכחי לפלישה אמריקנית לוונצואלה, ממפיקות הנפט הגדולות בעולם. ניסיון של ממשלת ישראל להגביל את יצוא הגז הטבעי, ידווח מיידית לבעל בריתה של שברון, דונלד טראמפ, שיורה לבנימין נתניהו, או לכל ראש ממשלה אחר, להימנע מהגבלת היצוא.