18 מבחני הטיה: כך הבינה המלאכותית טועה כמו אדם
חוקרים העבירו למודל של OpenAI סדרת מבחנים קלאסיים בכלכלה התנהגותית וגילו שהוא נופל לאותן מלכודות מחשבה כמו בני אדם בכמחצית מהמקרים
ארגונים רבים מאמצים בינה מלאכותית מתוך הנחה שהיא תספק החלטות רציונליות, נקיות מההטיות שמלוות אנשים. מחקר חדש שפורסם בכתב העת Manufacturing & Service Operations Management בשנת 2025 מטיל ספק בהנחה הזאת. חוקרים העבירו למודל ChatGPT סדרה של מבחנים קלאסיים מתחום הכלכלה ההתנהגותית, ומצאו שהוא נופל לאותן מלכודות מחשבה שמאפיינות בני אדם בכמחצית מהמקרים.
המשמעות מטרידה במיוחד עבור העולם הפיננסי, שבו בינה מלאכותית כבר משמשת לתמחור, לניתוח סיכונים ולהמלצות השקעה. אם המודל אינו שופט ניטרלי אלא נושא בתוכו הטיות אנושיות, ההסתמכות העיוורת עליו עלולה לשכפל טעויות במקום לתקן אותן.
שמונה עשרה מלכודות מחשבה
הצוות, בהובלת ד"ר יאנג צ'ן (Yang Chen) מאוניברסיטת ווסטרן שבקנדה, יחד עם עמיתים מאוניברסיטת קווינס, מאוניברסיטת ניו סאות' ויילס ומאוניברסיטת מקמאסטר, בנה 18 מבחנים המבוססים על הטיות קוגניטיביות מוכרות. אלו אותם ניסויים שדניאל כהנמן ועמוס טברסקי, אבות הכלכלה ההתנהגותית, השתמשו בהם כדי לחשוף כשלים שיטתיים בחשיבה אנושית.
המודל הועמד במבחנים כמו ביטחון יתר, שנאת עמימות וכשל הצירוף - הנטייה להעריך צירוף של שני אירועים כסביר יותר מכל אחד מהם בנפרד. בכמחצית מהמבחנים המודל הגיב בדיוק כמו אדם מוטה. הוא גילה ביטחון יתר בהערכותיו, נרתע מבחירות עמומות שבהן ההסתברויות אינן ידועות, ונפל לכשל הצירוף.
לצד זאת, במבחנים אחרים המודל דווקא נמנע מהטיות אנושיות. הוא לא הפגין הזנחת שיעור בסיס, ולא נתפס בכשל העלות השקועה - הנטייה להמשיך להשקיע בפרויקט כושל רק מפני שכבר הושקעו בו משאבים. הממצא מצייר תמונה מורכבת: אין מדובר במכונה רציונלית לחלוטין ולא באדם מוטה לחלוטין, אלא ביצור ביניים.
"היא חושבת כמו אדם - הטיות וכל היתר"
"ככל שבינה מלאכותית לומדת מנתונים אנושיים, ייתכן שהיא גם חושבת כמו אדם - הטיות וכל היתר", אמרה ד"ר צ'ן. ההסבר טמון באופן שבו המודלים מאומנים. הם ניזונים מכמויות עצומות של טקסט אנושי, ובתוכו טבועים דפוסי החשיבה שלנו, כולל הכשלים השיטתיים. המודל אינו ממציא הטיות חדשות אלא סופג את אלה שכבר קיימות בשפה ובכתיבה האנושית.
פרופ' אנטון אובצ'יניקוב (Anton Ovchinnikov) מאוניברסיטת קווינס הצביע על החלוקה החדה בין סוגי משימות. "כשלהחלטה יש תשובה נכונה ברורה, הבינה המלאכותית קולעת בול", אמר. "אך כשמעורב שיקול דעת, היא עלולה ליפול לאותן מלכודות קוגניטיביות כמו אנשים". ההבחנה הזאת מעשית מאוד: לחישובים מתמטיים ולבעיות עם תשובה מוגדרת המודל אמין, אך בהחלטות שדורשות שיפוט - כמו הערכת סיכון או ניחוש התנהגות שוק - הוא חשוף להטיות.
לא שופט ניטרלי
פרופ' סמואל קירשנר (Samuel Kirshner) מאוניברסיטת ניו סאות' ויילס ניסח את האזהרה בחדות. "בינה מלאכותית אינה שופט ניטרלי", אמר. "אם משאירים אותה ללא בקרה, ייתכן שהיא לא רק שלא תתקן בעיות בקבלת החלטות - היא עלולה להחמיר אותן". ההיגיון פשוט: כלי שמשכפל הטיות אנושיות בקנה מידה גדול ובמהירות רבה עלול להפיץ אותן רחוק יותר מכל אדם בודד.
בהקשר של שוקי הון, הסכנה מוחשית. אם אלגוריתמים רבים מבוססים על מודלים דומים שסופגים אותן הטיות, הם עלולים להגיב באופן דומה לאותם אירועים, ולהגביר תנודתיות במקום למתן אותה. עדריות אנושית קיבלה שותף חדש - עדריות אלגוריתמית, שבה מכונות רבות זזות לאותו כיוון בו-זמנית.
- מניית AMD כבר הכפילה את עצמה השנה, וב-UBS בטוחים שיש עוד מקום לעליות
- מיקרון חצתה טריליון דולר ונכנסה לעשירייה הפותחת של S&P 500
כשההטיה מוכפלת במהירות מכונה
ההבדל בין אדם מוטה למכונה מוטה הוא היקף. אדם בודד מקבל מספר מוגבל של החלטות ביום, ואילו מערכת אוטומטית יכולה לקבל אלפי החלטות בדקה. אם ההטיה טבועה במודל, היא משוכפלת בכל אחת מהן. חברת ביטוח שמסתמכת על בינה מלאכותית לתמחור, או בנק שמשתמש בה לאישור אשראי, עלולים להפיץ ביטחון יתר או שנאת עמימות על פני מיליוני לקוחות, בלי שאיש יבחין בכך.
החוקרים בדקו גם אם אפשר לצמצם את ההטיות באמצעות ניסוח שונה של השאלות. במקרים מסוימים הדבר עזר, ובאחרים המודל נותר מוטה גם כשההנחיה עודכנה. הממצא הזה מלמד שאי אפשר להסתמך רק על שינוי ניסוח כדי לנקות את המודל מהטיות. נדרשת בקרה שיטתית על התוצאות, ולא רק על אופן הפנייה.
דוגמה מוחשית עולה מתחום ההשקעות. יועץ רובוטי שמפגין ביטחון יתר עלול להציג תחזיות ודאיות מדי, ולגרום ללקוחות להסתכן יותר משהיו רוצים. מודל שנרתע מעמימות עלול לדחות הזדמנויות טובות רק מפני שהמידע עליהן חלקי. בשני המקרים, ההטיה האנושית שנספגה במכונה פוגעת בלקוח.
ההשוואה בין המודל לאדם מעלה גם שאלה על אחריות. כשיועץ אנושי טועה מתוך הטיה, אפשר לזהות את מקור הטעות ולתקן. כשמודל טועה מאותה סיבה, קשה יותר לאתר היכן ההטיה נכנסה, מפני שהיא מפוזרת על פני כמות עצומה של נתוני אימון. שקיפות לגבי אופן קבלת ההחלטה הופכת לתנאי לשימוש אחראי.
מה עושים עם הממצא
המסקנה אינה לזנוח בינה מלאכותית אלא להתאים את השימוש בה לסוג ההחלטה. במשימות עם תשובה נכונה ומדידה, כמו חישובים או עיבוד נתונים, אפשר לסמוך עליה. בהחלטות שדורשות שיקול דעת, כמו הערכת שווי, ניהול סיכונים או המלצת השקעה, נדרשת בקרה אנושית שתזהה מתי המודל נגרר להטיה.
עבור מנהלים, ההמלצה של החוקרים ברורה. יש להתייחס לפלט של בינה מלאכותית כמו להמלצה של יועץ אנושי מוכשר אך מוטה - לבדוק אותה, לאתגר אותה ולא לקבל אותה כאמת מוחלטת. ארגון שמכניס בקרת איכות על ההיגיון של המודל, ולא רק על התוצאה הסופית, יימנע משכפול טעויות שיטתיות בקנה מידה מסוכן.
הממצא מחזיר לקדמת הבמה עיקרון ותיק מהכלכלה ההתנהגותית: מודעות להטיה היא הצעד הראשון בהתמודדות איתה. כשם שאדם שמכיר את נטיותיו יכול לתקן אותן, כך ארגון שמבין שהבינה המלאכותית שלו נושאת הטיות אנושיות יכול לבנות מנגנוני בדיקה שמפחיתים את הנזק. ההנחה שהמכונה נקייה משגיאות אנוש היא עצמה הטיה שכדאי לזנוח.
