התקלה שגרמה הפסד של 440 מיליון דולר, ניתן היה למנוע?
440 מיליון דולר. זה הסכום שאיבדו המשקיעים בחברת ההשקעות נייט קפיטל כתוצאה מתקלה טכנית. לפי דיווחים, התקלה אירעה כאשר תוכנת מחשב רדומה חזרה בטעות לחיים כתוצאה מהתקנת תוכנה חדשה במערכת. כך, במשך 45 דקות, שיכפלה התוכנה הישנה את הוראות המסחר שיצאו לבורסה בלא פחות מ-1,000 פעם. על אף שהתקלה אותרה ונמסר דיווח לגביה לבורסה, המערכת הצליחה להשתלט עליה רק אחרי שקרוב לחצי מיליארד דולרים כבר נמחקו.
מקרה נייט קפיטל מדליק "נורה אדומה" וממחיש עד כמה טכנולוגיות, שהפכו רווחות כל-כך בחיי המסחר שלנו, עלולות לצאת משליטה. האלגוריתמים החכמים יודעים כיום לבצע כמות גדולה של חישובים מורכבים במהירויות שרק הולכות וגוברות, והלכה למעשה, מחליפים אט אט את בני האדם בקבלת ההחלטות וביצוען. התקלה בארה"ב היא אפוא לקח מהדהד למחיר שנשלם כולנו אם לא ננקוט אמצעי זהירות ואם לא נשתלט בזמן על האלגוריתמים למיניהם.
על הבדיקות שיכולות להציל מטביעה
תקלה כמו זו שאירעה בנייט קפיטל עלולה להתרחש גם בישראל בכל רגע נתון. אמנם, השימוש בשיטת מסחר אלקטרוני לצורך מסחר בניירות ערך החלה אצלנו כבר ב-1999 ומאז פרסמו המפקח על הבנקים והממונה על שוק ההון באוצר הוראות לפיקוח על התחום. אך אין די בכך.
בפועל, לא כל חברה עורכת בדיקות יסודיות של פיתוחים מתקדמים או מערכות מידע חדשות טרם הפעלתם, ולא תמיד יש הקפדה מספקת על תהליכי הבקרה הנדרשים לטובת הנושא. פעמים רבות, בגלל צרכים תחרותיים ואחרים, הגופים העסקיים ממהרים להפעיל מערכות רגישות עוד לפני שוידאו כי הן ערוכות להתמודד עם תקלות אפשריות. הגישה הכללית בקרב חברות רבות, שחבל לבזבז זמן על בדיקות, בקרה וניטור אם אפשר פשוט להתחיל להשתמש במערכת ולעשות עסקים לצורך קיצור ה-Time to Market.
זו עלולה להתברר כטעות קשה שעלולה לעלות ביוקר. במקום להסתפק ב"לעשות וי" על בדיקות ובקרות חיוניות או מילוי הוראות הרגולטור בנושאים הרלוונטיים, על החברות הישראליות להקדים תרופה למכה ולשכלל את מנגנוני הבקרה והניטור. אלה האחרונים עשויים למנוע תקלות וטעויות רבות שיחסכו להן כסף רב.
בראש ובראשונה, מומלץ לשים דגש על הבדיקות שעוברות מערכות בטרם כניסתן לשימוש. הדבר נכון לגבי כל מערכת שעברה פיתוח מסיבי ובמיוחד לגבי טכנולוגיה חדשה שהותקנה במערכת. במצבים כאלה, יש להקפיד על ביצוע מבדקי מסירה יסודיים של המערכת, כמו גם מבדקי קבלה כוללים ומורכבים לאחר מכן, על ידי המשתמשים העסקיים המפעילים אותה. מבדקים אלה כוללים בין היתר, סימולציות המדמות מגוון תרחישי קיצון שיבדקו בו זמנית את יכולות וביצועי המערכת מחד, ורמת הבקרה שלה מאידך.
האם מנגנוני ההתרעה מספיקים למיגון?
בנוסף, מומלץ להתקין בכל מערכת מנגנון שיתריע בזמן על תקלות בהתאם לפרמטרים שיוגדרו מראש, כדוגמת כמות ההוראות המקסימלית שהמערכת תורשה לשדר באופן רציף בפרק זמן נתון. אך למרות זאת, אין להסתפק רק במנגנוני התרעה. על המערכת לכלול בין היתר, מנגנון שיעצור אותה באופן אוטומטי או על-ידי שליטה מרחוק במידה וזוהתה תקלה שמצריכה את הפסקתה. סביר להניח, שאם בנייט קפיטל היו מקפידים על קיום מנגנונים כאלה, התקלה הייתה נמנעת או מתמזערת.
מעבר לכך, מומלץ לחזק את המרכיב האנושי בפיקוח על טכנולוגיות המידע. מהדיווחים שהעבירה נייט קפיטל לאחר התקלה, עולה כי לא היה בחברה חבר הנהלה או דירקטוריון שהיה אחראי על תחום הכלים הטכנולוגים. אובדן השליטה האנושית בטכנולוגיה הינו גורם משמעותי ביצירת תקלות או באי מניעתן. לכן, חשוב להגדיר באופן ברור מי הגורמים האחראים על ההטמעה והפיקוח של מערכות רגישות כאמור, ולוודא שיהיו להם את הסמכויות והכישורים המתאימים לכך. כמו כן, מומלץ להגדיר גורם שיהיה אחראי על תקינות המערכת בזמן פעילותה באופן שוטף.
הטכנולוגיה לא נחה לרגע. היא מתפתחת ומשתכללת - וטוב שכך. אך כדי להבטיח שלא תצא מכלל שליטה, ושלא יתממשו החזונות האפוקליפטיים מהסוג שראינו עד כה רק בסרטי המדע הבדיוני, על החברות במשק לשכלל את אמצעי הבקרה כדי להגן טוב יותר על עצמן ועל ציבור לקוחותיהן והמשקיעים.
- 7.תום 23/08/2012 20:06הגב לתגובה זואין ספק שמדובר בתופעה שיש לתת עליה את תשומת הלב. שמחתי לקרוא את הכתבה
- 6.lepxii 22/08/2012 12:54הגב לתגובה זוכל הדיון בנושא (בהקשרים שליליים) מזכיר דיון של "עגלונים נגד קטרי רכבת" במאה ה-19. כסף ניתן להפסיד גם ללא מסחר אוטומטי, משברים קורים ללא מסחר אוטומטי. פאניקה של סוחרים ומשקיעים - קרה בעבר ויקרה פחות בעתיד (כי יש יותר אוטומטים חסרי רגשות).
- 5.רוקי וחצי 22/08/2012 01:51הגב לתגובה זוב- 6 למאי 2010 הוכח שבשנייה אחת מחשבים יכולים למחוק מעל טריליון דולר והרגולטור לא מסוג לשחזר את הטעות. היום יותר משנתיים אחרי עדיין לא נגמרה החקירה והשחזור. מעניין לומר שהתנודה של "טעויות זניחות" בקורלציה ישירה וחיובית לקיטון בזמן התגובה, הולכת ונהיית תנודה לא זניחה בכלל. 23.3.12 אפל - הפסד תנודה של עשרות מליוני דולרים. 18.5.12 פייסבוק - הפסד תנודה של חצי מיליארד. ועכשיו נייט עם 440 מליון. במקרה של נייט לא הייתה שום תוכנה ישנה ושום בטיח, זה סיפורים, הם הכניסו תוכנה חדשה לעשיית השוק הטריוויאלית שלהם ונפלו שדודים מול HFT עם נזילות מחוץ לשוק שנאלצו למכור לגולדמן סאקס בהפסד של 440 מיליון דולר. במאמר המטופש רשום במפורש איך HFT נוגסים בעושי השוק כל פעם מחדש כולל המנגנון הבכלל לא מטופש שלא פורסם מעולם בשום מאמר אקדמי. היה דיון ער ב- SEC על הצורך במנגנוני הגנה, אבל המוסדיים עושי השוק לא מוכנים להקריב זמן מעבד בשביל חישוב הגנות, כי HFT עושים מהם צחוק, גם זה רשום במפורט במאמר המטופש. ותאמין לי שמפרסום של דבר כזה לא עושים לא גאונות ולא קריירה, להפך זו הקרבה של קריירה.
- 4.ז'ופה 21/08/2012 20:24הגב לתגובה זו1. סחרנים קטנים וטכנופוביים שנשארו מאחור, חבל להרחיב עליהם את הדיבור. 2. כותבי מאמרים שחסר להם על מה לכתוב אז הם רוכבים על הטרנד של להכנס במערכות מסחר אוטומטיות. כשמערכת מסחר אוטומטית נכשלת, גם אם היא מפרקת ערימות של כסף בשוק ומפילה נייר לכמה דקות, ההשפעה שלה זניחה. אם מישהו מפסיד זה רק החברה שהפעילה את המערכת מסחר, לא הציבור. (ראו מקרה ג'ונסון אנד ג'ונסון ב- 2010) וכיוצא בזה. מערכות מסחר לא הולכות להרוס את הכלכלה העולמית. מי שיהרוס את הכלכלה העולמית זה אותם אנשים שהרסו אותה בעבר - פוליטיקאים, אינטרסנטים, ספקולנטים וממונפים לדעת. אבל העיקר שיש את מי להאשים לא ?
- 3.נוח 21/08/2012 16:45הגב לתגובה זואבל האמת היא שהצרות הרבה יותר גדולות. החברות משתדלות לבטל מנגנוני הגנה כי זה מבזבז זמן תגובה ומוביל לנחיתות. הבעיות הרבה יותר מורכבות. מעניין שיש מי שצפה את התקלות האלה: http://ssrn.com/abstract=1877592
- ז'ופה 21/08/2012 20:17הגב לתגובה זוהבנו שיש לך רצון עז שיכירו בך כגאון הדור. כל הכבוד לך גאון של אמא.
- 2.אחד ששמע פעם אריאל ז 21/08/2012 16:39הגב לתגובה זוזה הכי נכון לבוא ולהגיד את מה שאתה אומר לאחר שהמקרה קרה, אני בטוח שחכמים יותר/ פחות ממני וממך כבר עלו על זה קודם...
- 1.מעיין 21/08/2012 12:05הגב לתגובה זוכיום, בעולם טכנולוגי מפותח, בו אנו נדרשים לעיתים קרובות לסמוך על מערכות המידע שאלו יעשו את המצופה מהם, חייב שתהיה בקרה ובדיקות מהימנות למערכות המידע שבשימוש.
איור: דפדפן אטלס של OpenAIברוכים הבאים לטיסה, הקברניט שלכם היום הוא… בינה מלאכותית
כשהטכנולוגיה המהפכנית מוצאת את דרכה לכל תחום בחיינו ומשנה אותו, היא מגיעה גם אל תחום התעופה. איפה הבינה המלאכותית משתלבת בו כבר כעת, ועד כמה רחוק היום שבו נמצא את עצמנו ממריאים במטוס שהקוקפיט שלו ריק מאדם
מטוסי נוסעים ללא טייס בקוקפיט צפויים לשנות את פני התעופה ולהפוך אותה לבטוחה, יעילה וחסכונית יותר. למרות שעדיין קיימים אתגרים, במיוחד סביב אמון הציבור והרגולציה, העתיד האוטונומי בשמיים קרוב יותר משחושבים, והוא עומד לתרום למהפכה טכנולוגית ותחבורתית אדירה ואולי גם בטוחה יותר. אבל איך נשמור על אנושיות במערכת שבקרוב לא תזדקק לנו?
כשאנחנו עולים כיום במדרגות המטוס בדרכנו לחופשה מרעננת בחו״ל, צוות המטוס והדיילות מקבלים את פנינו בחיוך ונוסכים בנו ביטחון שאנחנו בידיים טובות במסענו האווירי. בעתיד הלא רחוק, בעלייה למטוס, חוויית המפגש עם צוות המטוס תתחלף במקרה הטוב בדיילת רובוטית שתחייך חיוך מושלם, אך אנחנו נדע כי מאחורי החיוך וקבלת הפנים עומדת הבינה המלאכותית והיא זו שתקבל את פנינו, תקבל החלטות באוויר ואולי גם תציל חיים ללא כל מגע אנושי.
האם תהיו מוכנים לטוס במטוס נוסעים ללא טייס אנושי מעל האוקיינוס? האם תהיו בטוחים כי בשעת תקלה לא צפויה, ה-AI ישקיע את ״נשמתו״ להצלת הנוסעים? האם במצבים לא צפויים יידע הטייס הלא אנושי להגיב נכון ולהנחיתנו בשלום?
התקופה שלפני כמאה שנים, בה הטסת מטוס דרשה מיומנות, אומץ ויכולת שליטה על גבול העל אנושי כמעט, חלפה מהעולם. כבר כיום, רוב העבודה אינה נעשית בידי הטייסים. המחשבים החכמים והתוכנה שבתוכם תפסו את מקומם. הדור הראשון של טייסים אוטומטיים הופיע עוד בשנות ה־40. הם שמרו על גובה וכיוון, ותו לא. בעשורים האחרונים נוספו מערכות ניווט, בקרת מזג אוויר, טייס אוטומטי רב־שלבי ואפילו נחיתה עצמאית. ובכל זאת, עצם ישיבת הקברניט בתא הטייס נוסכת בנוסעים ביטחון. האם גם זה יעבור מהעולם והמשפט ״הטובים לטיס״ ייעלם גם הוא?
- מה אומרים הגרפים על השורט של מייקל ברי?
- מהפכת התעופה הירוקה: הסטארט-אפ השבדי שמאתגר את בואינג ואיירבוס
- המלצת המערכת: כל הכותרות 24/7
שילוב ה-AI - מטעמי בטיחות, לא רק חיסכון
המעבר לכיוון אוטונומיה אינו נובע רק מתוך רצון לחיסכון בכוח אדם. חברות התעופה והיצרנים טוענים כי הוצאת הגורם האנושי מהקוקפיט עשויה דווקא לשפר את הבטיחות באוויר. על פי הירחון פורבס, מחקרים מראים שחלק גדול מתאונות המטוסים התרחשו בשל טעויות אנוש, בעוד המערכות החדשות, בניגוד לבני אדם, אינן מתעייפות, אינן מתבלבלות ויכולות לעבד מידע רב בזמן קצר.
איור: דפדפן אטלס של OpenAIברוכים הבאים לטיסה, הקברניט שלכם היום הוא… בינה מלאכותית
כשהטכנולוגיה המהפכנית מוצאת את דרכה לכל תחום בחיינו ומשנה אותו, היא מגיעה גם אל תחום התעופה. איפה הבינה המלאכותית משתלבת בו כבר כעת, ועד כמה רחוק היום שבו נמצא את עצמנו ממריאים במטוס שהקוקפיט שלו ריק מאדם
מטוסי נוסעים ללא טייס בקוקפיט צפויים לשנות את פני התעופה ולהפוך אותה לבטוחה, יעילה וחסכונית יותר. למרות שעדיין קיימים אתגרים, במיוחד סביב אמון הציבור והרגולציה, העתיד האוטונומי בשמיים קרוב יותר משחושבים, והוא עומד לתרום למהפכה טכנולוגית ותחבורתית אדירה ואולי גם בטוחה יותר. אבל איך נשמור על אנושיות במערכת שבקרוב לא תזדקק לנו?
כשאנחנו עולים כיום במדרגות המטוס בדרכנו לחופשה מרעננת בחו״ל, צוות המטוס והדיילות מקבלים את פנינו בחיוך ונוסכים בנו ביטחון שאנחנו בידיים טובות במסענו האווירי. בעתיד הלא רחוק, בעלייה למטוס, חוויית המפגש עם צוות המטוס תתחלף במקרה הטוב בדיילת רובוטית שתחייך חיוך מושלם, אך אנחנו נדע כי מאחורי החיוך וקבלת הפנים עומדת הבינה המלאכותית והיא זו שתקבל את פנינו, תקבל החלטות באוויר ואולי גם תציל חיים ללא כל מגע אנושי.
האם תהיו מוכנים לטוס במטוס נוסעים ללא טייס אנושי מעל האוקיינוס? האם תהיו בטוחים כי בשעת תקלה לא צפויה, ה-AI ישקיע את ״נשמתו״ להצלת הנוסעים? האם במצבים לא צפויים יידע הטייס הלא אנושי להגיב נכון ולהנחיתנו בשלום?
התקופה שלפני כמאה שנים, בה הטסת מטוס דרשה מיומנות, אומץ ויכולת שליטה על גבול העל אנושי כמעט, חלפה מהעולם. כבר כיום, רוב העבודה אינה נעשית בידי הטייסים. המחשבים החכמים והתוכנה שבתוכם תפסו את מקומם. הדור הראשון של טייסים אוטומטיים הופיע עוד בשנות ה־40. הם שמרו על גובה וכיוון, ותו לא. בעשורים האחרונים נוספו מערכות ניווט, בקרת מזג אוויר, טייס אוטומטי רב־שלבי ואפילו נחיתה עצמאית. ובכל זאת, עצם ישיבת הקברניט בתא הטייס נוסכת בנוסעים ביטחון. האם גם זה יעבור מהעולם והמשפט ״הטובים לטיס״ ייעלם גם הוא?
- מה אומרים הגרפים על השורט של מייקל ברי?
- מהפכת התעופה הירוקה: הסטארט-אפ השבדי שמאתגר את בואינג ואיירבוס
- המלצת המערכת: כל הכותרות 24/7
שילוב ה-AI - מטעמי בטיחות, לא רק חיסכון
המעבר לכיוון אוטונומיה אינו נובע רק מתוך רצון לחיסכון בכוח אדם. חברות התעופה והיצרנים טוענים כי הוצאת הגורם האנושי מהקוקפיט עשויה דווקא לשפר את הבטיחות באוויר. על פי הירחון פורבס, מחקרים מראים שחלק גדול מתאונות המטוסים התרחשו בשל טעויות אנוש, בעוד המערכות החדשות, בניגוד לבני אדם, אינן מתעייפות, אינן מתבלבלות ויכולות לעבד מידע רב בזמן קצר.
