דלויט הכינה דוח עם הזיות AI; נאלצה להחזיר את רוב התמורה

דלויט נאלצת להחזיר כסף לממשלת אוסטרליה לאחר דו"ח AI כושל - חברת החשבונאות והייעוץ הענקית מובכת בגלל שימוש בצ'אטים בכתיבת דוח לממשלת אוסטרליה. הדוח עם הזיות ומפנה למקורות לא קיימים. מעבר לביקורת ולפגיעה בתדמית, הפירמה החזירה את רוב התשלום - 440 אלף דולר.  

דלויט היא אחת מחברות הייעוץ הגדולות והמכובדות בעולם וזה לא באמת מפתיע שהיא משתמשת ב-AI, והיא כמובן לא לבד. אבל השאלה הגדולה היא הפיקוח והבקרה-עריכה על ה-AI. כשמשלמים 440 אלף דולר על דוח - ראוי שתהיה בדיקה. 

ביולי, דלויט הגישה למשרד התעסוקה ל ממשלת אוסטרליה דו"ח מקיף על מנגנון הענישה האוטומטי במערכת הרווחה המקומית. הדו"ח, שנועד לבחון את יעילות המערכות הממוחשבות לאיתור הונאות ברווחה, הפך במהרה לבושה כאשר התגלו בו שגיאות בסיסיות שהובילו לחקירה ציבורית.

מי שחשף את השערורייה היה ד"ר כריסטופר ראג' מאוניברסיטת סידני, חוקר אקדמי שקרא את הדו"ח במסגרת מחקרו. ראג' גילה רשימה ארוכה של שגיאות בעייתיות: הפניות לכתבי עת שלא קיימים, ציטוטים מחוקרים שמעולם לא פרסמו את המאמרים המיוחסים להם, ואף אזכור לפסק דין מפורסם שרלבנטי לדוח, תוך אזכור לפסקי דין לא קיימים.  

• פירמות ראיית החשבון הגדולות בעולם - ומה המצב בישראל?
• שופרסל: רו"ח גיל וייס ימונה לסמנכ"ל הכספים
• המלצת המערכת: כל הכותרות 24/7

"מה שאנו רואים כאן הוא תופעה קלאסית של 'הזיות AI' - מצב שבו המודל ממציא מידע שנראה סביר אך אינו מבוסס על עובדות", מסביר ראג' את ממצאיו. "הבעיה היא שכאשר מדובר בדו"ח ממשלתי רשמי, המחיר של שגיאות כאלה יכול להיות קטלני למדיניות ציבורית."

תגובת דלויט

בעקבות החשיפה, דלויט הודתה כי השתמשה במודלי GPT-4o בהכנת הדו"ח, עם זאת, היא התעקשה כי השגיאות "קטנות" ולא משפיעות על המסקנות העיקריות של המחקר."השינויים שבוצעו לא משפיעים על תוכן הדו"ח, מסקנותיו או המלצותיו", נכתב בהודעה הרשמית של החברה. "אנו ממשיכים לעמוד מאחורי המסקנות המקצועיות והמתודולוגיה שהובילה אליהן."

אך ההודעה הזו לא הרגיעה את המבקרים. "כאשר אתה משלם חצי מיליון דולר לחברת ייעוץ מובילה, אתה מצפה לקבל עבודה אנושית מקצועית, לא תפוקה של רובוט" היו התגובות מסביב,  והביקורת הפוליטית היתה קשה - הסנאטורית מממפלגת הלייבור, דברה אוניל, שכיהנה בוועדת החקירה להתנהלות חברות ייעוץ באוסטרליה, תקפה את דלויט בחריפות במליאת הסנאט.

• לקראת דוחות מטא: האנליסטים צופים אפסייד של 34%
• טתר הגדילה את החזקות הזהב בכ־27 טונות ברבעון הרביעי
• תוכן שיווקי שוק הסקנדרי בישראל: הציבור יכול כעת להשקיע ב-SpaceX של אילון מאסק
• המשקיעים מושכים מיליארדים מקרנות המניות בארה״ב

"נראה ש-AI מבצע את כל העבודה בדלויט - יש להם בעיה של חוסר אינטליגנציה אנושית", היא אמרה במהלך דיון סוער. "זה היה יכול להיות מגוחך אם זה לא היה כל כך עצוב. הציבור זוכה לשירות לקוי בעלות גבוהה."

אוניל המשיכה בטון עוקצני: "מי שמחפש לשכור חברות ייעוץ צריך לשאול - מי באמת עושה את העבודה? אולי במקום לשלם מאות אלפי דולרים לחברה שמשתמשת בצ'אט GPT, עדיף פשוט לקחת מנוי ישיר לשירות ולחסוך כסף לציבור."

בשנה האחרונה נחשפו מקרים דומים ברחבי העולם, שבהם חברות ייעוץ ועורכי דין השתמשו בבינה מלאכותית מבלי לגלות זאת ללקוחותיהם, לעיתים עם תוצאות קשות. בניו יורק, עורכי דין נקנסו לאחר שהגישו לבית המשפט כתב טענה המבוסס על פסקי דין שהומצאו על ידי ChatGPT. בלונדון, חברת יעוץ ניהולי אחרת נחקרת על שימוש לא מוצהר ב-AI בדו"חות אסטרטגיים ללקוחות Fortune 500.

תגובת הממשלה האוסטרלית הייתה מתונה. משרד התעסוקה הודיע כי למרות שהוא מקבל את הטענה שהתיקונים "קטנים" ואינם משפיעים על המסקנות העיקריות, הוא מחייב את דלויט להחזיר את התשלום האחרון בחוזה. "אנו מצפים מקבלני משנה לספק עבודה באיכות הגבוהה ביותר ובשקיפות מלאה", נכתב בהודעה רשמית. "כל שימוש בכלים טכנולוגיים צריך להיות מוצהר מראש ומאושר על ידי הלקוח."

הסכום המדויק שיוחזר לא פורסם, אך מקורות בממשלה רומזים כי מדובר במאות אלפי דולרים - חלק ניכר מהתמורה הכוללת עבור הפרויקט.