מחשבים מסלול מחדש: המחוקקים בארה"ב דורשים לעצור מערכת AI לניהול טיסות ב-875 מיליון דולר
25 מחוקקים בארצות הברית דורשים להשהות את השימוש במערכת בינה מלאכותית שהוכנסה לפעילות בשדות תעופה באזור וושינגטון, במסגרת חוזה בהיקף של 875 מיליון דולר; הם דורשים תשובות על בדיקות הבטיחות, הכשרת העובדים והפיקוח האנושי עד 19 באוקטובר. האם המחלוקת תעכב את הרחבת הפרויקט?
הבינה המלאכותית כבר נכנסה למערכות שמסייעות לנהל את תנועת המטוסים בארצות הברית, אבל כעת היא נתקלת בהתנגדות מצד הקונגרס. 25 מחוקקים אמריקאים דורשים להשהות את השימוש במערכת SMART, שהוכנסה לפעילות בשדות תעופה באזור וושינגטון, עד שרשות התעופה הפדרלית תציג תשובות לשאלות הנוגעות לבדיקות הבטיחות, להכשרת העובדים ולפיקוח על השימוש בטכנולוגיה.
הדרישה החדשה מגיעה שבועות ספורים לאחר שהמערכת החלה לפעול במסגרת חוזה ל-12 שנה בהיקף של 875 מיליון דולר. המערכת נועדה לנתח נתונים ולסייע בחיזוי עומסים ועיכובים בתנועת המטוסים. כעת השאלה היא האם הטכנולוגיה הוכנסה לשימוש לפני שהושלמו כל הבדיקות הנדרשות, והאם החששות שמעלים המחוקקים עלולים לעכב את הרחבת הפרויקט.
מה מטריד את המחוקקים?
בפנייה לרשות התעופה הפדרלית ולמשרד התחבורה האמריקאי ביקשו המחוקקים לקבל מידע על בדיקות הבטיחות שנערכו למערכת, על הכשרת העובדים ועל הנהלים שנקבעו לשימוש בה. הם דורשים להשהות את פעילותה עד לבירור השאלות, והציבו לרשויות מועד למסירת תשובות - 19 באוקטובר.
החשש המרכזי נוגע להסתמכות על המלצות שמפיקה מערכת אוטומטית בסביבה שבה החלטות תפעוליות משפיעות על תנועת מטוסים ועל בטיחות הנוסעים. המערכת אינה מחליפה את פקחי הטיסה ואינה נותנת הוראות ישירות לטייסים, אבל היא מספקת מידע ותחזיות שעשויים להשפיע על תכנון התנועה.
במערכות כאלה, השאלה אינה מסתכמת בשיעור הדיוק של התחזיות. חשוב גם להבין כיצד אנשי הצוות מזהים המלצה שגויה, מתי עליהם להתעלם ממנה, מי נושא באחריות במקרה של תקלה והאם קיימים נהלים ברורים להמשך הפעילות אם המערכת אינה זמינה.
23 מהמחוקקים פנו גם למשרד מבקר המדינה האמריקאי בבקשה לבחון את הסיכונים הכרוכים בשימוש בטכנולוגיה. עם זאת, הדרישה לפתוח בבדיקה אינה מעידה כשלעצמה על כך שהתגלו כשלים במערכת, ועד כה לא דווח על תאונה שנגרמה כתוצאה מהפעלתה.
שיבושים במערכת התעופה כבר המחישו בעבר עד כמה היא רגישה לתקלות ולמחסור בכוח אדם. כעת, בארצות הברית, מתעורר חשש מכיוון אחר: דווקא מערכת הבינה המלאכותית שנועדה לייעל את ניהול הטיסות עלולה להוסיף סיכון חדש, אם ההמלצות שהיא מפיקה אינן מדויקות או אם הפיקוח האנושי עליה אינו מספק.
שר התחבורה האמריקאי שון דאפי הבהיר כי המערכת אינה מחליפה את פקחי הטיסה, וכי ההחלטות התפעוליות נשארות בידיהם. גם רשות התעופה הפדרלית מדגישה שהטכנולוגיה משמשת כלי עזר בלבד, ואף הזמינה מחוקקים לצפות בהדגמה של פעילותה.
מנהל רשות התעופה, בריאן בדפורד, הציג בעבר את המערכת ככלי שיכול לשפר את איכות ההחלטות המתקבלות בניהול התנועה האווירית. בשלב הראשון השימוש בה מתמקד בסיוע לשינוי לוחות הזמנים של טיסות שנפגעו מתנאי מזג האוויר, ובהמשך מתוכננת הרחבת יכולותיה.
- זנזאפ נחשפת עם גיוסים של 44 מיליון דולר: משלבת סוכני AI בצ'אט של העבודה
- האג"ח של קורוויב צונחות - האם משבר האשראי של ה-AI מתחיל להתפשט?
האם המחלוקת תעכב פרויקט של 875 מיליון דולר?
הדרישה להשהות את השימוש במערכת מעמידה בסימן שאלה את לוח הזמנים להרחבת הפרויקט. חברת אייר ספייס אינטליג'נס, שזכתה בחוזה, אמורה לספק לרשות התעופה פתרון ארוך טווח לשיפור ניהול התנועה האווירית. אם הרשות תידרש לבצע בדיקות נוספות או לשנות את נהלי ההפעלה, ייתכנו עיכובים בהטמעת המערכת בשדות תעופה נוספים.
עם זאת, אין בשלב זה החלטה על ביטול החוזה או נתונים המאפשרים להעריך את העלות הכספית של השהיה אפשרית. גם אין ראיות לכך שהשימוש במערכת כבר גרם לנזק תפעולי או בטיחותי.
למחלוקת יש משמעות רחבה יותר עבור השקעות בטכנולוגיות בינה מלאכותית בתשתיות ציבוריות. הרשויות מבקשות לייעל שירותים ולצמצם עלויות, אך הטמעה של מערכות חדשות מחייבת גם בדיקות, הכשרת עובדים ומנגנוני פיקוח. ככל שהדרישות האלה מתבררות רק לאחר תחילת השימוש, כך גדל הסיכון לעיכובים ולעלויות נוספות.
כעת ממתינים המחוקקים לתשובת רשות התעופה עד 19 באוקטובר. ההחלטה אם להמשיך בהפעלה הנוכחית, להשהות אותה או להוסיף בדיקות תקבע גם את קצב התקדמותו של אחד הפרויקטים הבולטים לשילוב בינה מלאכותית בניהול התעופה האמריקאית.
