דלויט שוב מסתבכת עם AI: שגיאות בדוח שעלול להשפיע על מיליארדי דולרים
דלויט, אחת מארבע פירמות ראיית החשבון והייעוץ הגדולות בעולם, מסתבכת שוב באוסטרליה בגלל שימוש בבינה מלאכותית בדוח ממשלתי. הפעם מדובר בניתוח עלות-תועלת שהזמינה ממשלת מערב אוסטרליה לקראת מיזוג אפשרי של שלוש אוניברסיטאות ציבוריות. הדוח עלה לקופה הציבורית כ-116 אלף דולר (166 אלף דולר אוסטרלי), ובתוכו נמצאו הפניות שגויות למחקרים אקדמיים.
על הפרק עומד איחוד של אוניברסיטת מערב אוסטרליה, אוניברסיטת קרטין ואוניברסיטת מרדוק, שלושתן בפרת'. מיזוג כזה ישנה את מפת ההשכלה הגבוהה במדינה ויגע באלפי עובדים וסטודנטים. ראש אוניברסיטת מרדוק, אנדרו דיקס, תקף את הנחות הדוח וטען שדלויט הניחה שסטודנט שלא סיים את התואר בתוך שש שנים לא יסיים אותו לעולם.
5.3 מיליארד דולר (7.6 מיליארד דולר אוסטרלי) הוא הרף העליון של הדוח: זו התועלת נטו שמיזוג מוצלח יכול להניב לאורך 20 שנה, אחרי ניכוי עלויות המיזוג. בתרחיש הזהיר ביותר התועלת יורדת לכ-1 מיליארד דולר (1.5 מיליארד דולר אוסטרלי). את העלויות עצמן, כולל איחוד המערכות ותמיכה במוסדות אחרי המהלך, מעריכה דלויט בכ-120 עד 365 מיליון דולר (175 עד 522 מיליון דולר אוסטרלי) בערכים נוכחיים, לפי היקף המיזוג שייבחר. בפירמה עצמה כתבו שהעלויות ודאיות יותר מהתועלות, שנשענות בעיקר על הנחות לגבי גידול בהכנסות ממחקר.
השגיאות התגלו ברשימת המקורות. בשלוש הפניות שמות המחברים שגויים, ושתי הפניות אחרות מייחסות למחקרים דברים שלא כתובים בהם. קישור נוסף מוביל למאמר אקדמי אחר לגמרי מזה שמצוין בדוח.
הידעת?מי הן "ארבע הגדולות" של ראיית החשבון?
מה שמביך את דלויט במיוחד הוא ההצהרה שלה עצמה. בפרק על השימוש בבינה מלאכותית כתבה הפירמה שהכלים שימשו לאיסוף מחקרים, לתמצות מידע ולהגהה, שאף חלק מהניסוח או מהמודל הכלכלי לא הופק בידי AI, ושכל תוצר שנעזר בו עבר בקרת איכות מקיפה של אנשי המקצוע בפירמה.
בדלויט הגדירו את השגיאות טעויות קלות בהפניות, אמרו שהן בתיקון וטענו שהן לא משנות את ממצאי הניתוח, שמבוסס על נתונים פומביים של האוניברסיטאות. בזה הם צודקים, כי טעות ברשימת המקורות אינה הוכחה לטעות בחישוב. אבל אם פרטים שאפשר לבדוק בפתיחת המאמר המקורי חמקו מהבודקים, מותר לשאול כמה ביסודיות נבדקו ההנחות הכלכליות, שקשה הרבה יותר לבדוק אותן.
בפרלמנט של פרת' הדוח כבר הפך לנשק פוליטי. ראש האופוזיציה, בזיל זמפילס, אמר שסטודנט שהיה מגיש עבודה כזו היה נכשל. השר טוני בוטי, שמוביל את המהלך, הודיע שיבקש מדלויט להחזיר חלק מהתשלום.
זו הפרשה השנייה של דלויט באוסטרליה בתוך שנה. בשנה שעברה התברר שדוח ממשלתי קודם שהכינה דלויט בעזרת AI כלל הפניות למחקרים שלא היו קיימים, וגם ציטוט מפסק דין של בית המשפט הפדרלי שלא נאמר מעולם.
הדוח ההוא נכתב למשרד התעסוקה הפדרלי ובדק את המערכת הממוחשבת שמטילה סנקציות על מקבלי קצבאות. החוזה עמד על כ-307 אלף דולר (כ-440 אלף דולר אוסטרלי), ודלויט החזירה כ-68 אלף דולר (כמעט 100 אלף דולר אוסטרלי), פחות מרבע מהסכום. בגרסה המתוקנת הודתה הפירמה שחלקים מהדוח נכתבו בעזרת מודל GPT-4o של אופן איי, ובכל זאת עמדה על כך שהמסקנות לא השתנו.
- דלויט נקנסת ב-6 מיליון ליש"ט: 30 מיליון ליש"ט מכספי הציבור נשארים אצל המבוקר
- Deloitte ישראל מקימה מרכז פעילות למדידת כלכלת ה-AI
הידעת?איזו מילה נבחרה למילת השנה בגלל AI?
ההשקעה בתחום ממשיכה לגדול. דלויט הודיעה שתשקיע יותר מ-3 מיליארד דולר בבינה מלאכותית יוצרת עד סוף העשור, והיא מוכרת ללקוחות שלה גם שירותי הטמעה של AI. כל פרשה כזו פוגעת בדיוק בנכס שהפירמה מוכרת: חתימה של אנשי מקצוע על מסמך שמישהו יקבל לפיו החלטה.
הזיות AI, והדרכים לזהות אותן במסמכים מקצועיים, מוכרות היטב בענף. מודל שפה יכול לייצר הפניה שנראית אמינה, עם שם מחבר, שנה וכתב עת, גם כשהמאמר לא קיים או לא אומר את מה שמיוחס לו. התופעה כבר הגיעה גם לבתי המשפט בישראל, כשעורך דין הגיש בקשה לייצוגית שכללה הזיות AI.
ממשלת מערב אוסטרליה ממשיכה לקדם את המיזוג, והשלב הבא הוא תוכנית עסקית מפורטת. מנהלת אוניברסיטת קרטין, הרלין היין, מתנגדת למהלך ורואה בו בעיקר בזבוז כסף.
