הזיות: למה המודל ממציא, ואיך מזהים את זה בזמן

הזיה: תשובה שנשמעת נכונה ואינה נכונה

אתם שואלים צ'אט של בינה מלאכותית שאלה עובדתית פשוטה. חוזרת פסקה מסודרת ובה מספר מדויק, שם חוקר, שנת פרסום וסעיף חוק. הכול נשמע סמכותי, וחלק מהפרטים אינם קיימים בעולם.

לתופעה קוראים הזיה, והשם מטעה: הוא רומז על תקלה חריגה, ואילו מדובר בתוצר הרגיל של האופן שבו המכונה בנויה. מה שהופך אותה למסוכנת הוא האחידות. התשובה השגויה כתובה באותה עברית ובאותה נימה של הנכונה, ואין סימן חיצוני שמבדיל ביניהן.

מדובר בטעות בתום לב של מערכת שאין לה מושג שהיא טועה, בשונה משימוש מכוון בכלים כאלה לייצור תוכן מטעה, שנסקר במדריך על הטיה, מניפולציה ודיפ פייק. התמונה הרחבה נמצאת במדריך המלא לעולם צ'אטי הבינה המלאכותית.

למה זה קורה: המכונה מנחשת המשך סביר

מודל שפה אינו מחזיק בסיס נתונים ואינו שולף רשומה. הוא מחזיק מיליארדי משקלים שהותאמו באימון, ופעולתו היחידה היא לחזות מהי היחידה הבאה הסבירה ביותר בהמשך לטקסט שלפניה, ואז את הבאה אחריה. הרחבה על המנגנון שמאמן את המודל ומייצר תשובה יחידה אחרי יחידה מפרטת את התהליך.

מכאן נובע הכול. המודל ממוטב לסבירות ולא לאמת. כשהוא נשאל על חברה ישראלית בינונית שהופיעה באימון פעמיים, אין לו רשומה לשלוף; יש לו תבנית של תשובה כזאת, והוא ממלא אותה בערכים סבירים. אותו מנגנון מייצר גם את התשובות המצוינות, ולכן אי אפשר לכבות אותו ולהשאיר את שאר היכולות.

שכבה שנייה נוגעת לתמריצים. עבודה של חוקרי OpenAI מספטמבר 2025 הראתה שהמבחנים שבהם מודדים מודלים מענישים אמירת “איני יודע” בדיוק כמו תשובה שגויה. מודל שמנחש צובר ניקוד גבוה יותר ממודל שנמנע, והאימון מטמיע ניחוש כברירת מחדל. ההמצאה אינה תקלה בקוד, היא התנהגות שהשיטה תגמלה עליה.

חמישה סוגים של המצאה

עובדה שגויה. מספר, תאריך, שיעור מס או נתון שוק שהיה נכון בשנה קודמת, או שמעולם לא היה נכון. הסוג השכיח והקשה ביותר לזיהוי.

מקור בדוי. שם מחקר, שם חוקר, כתב עת ושנה שמורכבים לרשומה משכנעת. לרוב כל רכיב לחוד קיים, והצירוף לא.

ציטוט מומצא. משפט שמיוחס לשופט, למנכ״ל או לנגיד. הניסוח מתאים לדובר, הרוח מתאימה להקשר, והמשפט מעולם לא נאמר.

• איך כותבים פרומפט טוב: מה באמת עובד
• השוואה מעשית: איזה צ'אט AI מתאים לאיזו משימה, וכמה זה עולה

פסיקה, תקנה או סעיף שאינם קיימים. מספר תיק בפורמט תקין, שמות צדדים סבירים, סעיף בפקודה. הסוג שהגיע לאולמות בתי המשפט וגרר קנסות.

קישור שבור. כתובת שנראית תקנית ומחזירה שגיאה, או מפנה לעמוד הבית במקום למסמך. גם קישור שנפתח אינו הוכחה, כי לעיתים העמוד קיים ואינו מכיל את מה שיוחס לו.

מקרים מתועדים: מבית המשפט ועד דוח ממשלתי

המקרה שפתח את הסדרה קרה בניו יורק ב-2023. שני עורכי דין הגישו כתב טענות בתביעה נגד חברת תעופה, ובו שישה פסקי דין שקיבלו מ-ChatGPT. אף אחד מהם לא היה קיים, והשופט קווין קסטל הטיל עליהם ועל משרדם קנס של 5,000 דולר. מאז זו הפכה לתופעה מדידה: מאגר פומבי שמרכז החלטות שיפוטיות שבהן צד הסתמך על חומר מומצא עבר את 1,600 המקרים בעולם עד אמצע 2026, מעל אלף מהם בארצות הברית.

ישראל אינה יוצאת דופן. בעתירה לבג״ץ בעניין גירושין נכללו 36 פסקי דין של בית המשפט העליון שכלל לא היו קיימים, והשופטת גילה כנפי שטייניץ קבעה שאפשר להטיל סנקציות על מי שנשען בעיוורון על כלים כאלה. בבית המשפט המחוזי בתל אביב נמחקה בקשה לתובענה ייצוגית של כ-3.8 מיליארד שקל בגלל אסמכתאות בדויות, ועל עורך הדין הוטלו הוצאות אישיות של 5,000 שקל. במרץ 2026 הרחיב בית המשפט העליון את הקו לרשויות ציבוריות: עיריית רמת גן חויבה ב-30,000 שקל הוצאות אחרי שנשענה על חוזר מנכ״ל משרד החינוך שאינו קיים ועל פסיקה מומצאת כדי לדחות בקשה להסעות חינוך מיוחד.

הזליגה מגיעה גם למגזר העסקי. דלויט אוסטרליה נדרשה להחזיר כ-97 אלף דולר אוסטרלי מתוך חוזה של 440 אלף, על דוח שהזמין משרד ממשלתי, אחרי שהתגלו בו ציטוט בדוי מפסק דין פדרלי והפניות למאמרים אקדמיים שאינם קיימים. במקרה אחר, טריבונל בקולומביה הבריטית חייב את אייר קנדה לפצות נוסע שקיבל מהצ'אט של האתר מדיניות הנחות אבל שאינה קיימת, ודחה את טענת החברה שהצ'אט הוא ישות נפרדת האחראית לעצמה.

• הזולה בשוק מייקרת מחירים: מה מגלה מהלך המחירים של דיפסיק על העלות האמיתית של הבינה המלאכותית
• פעם שלישית ברצף: ה-AI של מטא יצא משליטה, אז למה אף אחד לא לוקח אחריות?

למה בהקשר הישראלי שיעור השגיאות גבוה יותר

מחקר אקדמי שבדק שיעורי הזיה ב-30 שפות, בעזרת מאגר בשם mFAVA, מצא שדווקא בעברית נרשם החלק הגבוה ביותר של יחידות טקסט מומצאות, כ-16.8%, מול כ-5.8% בשפה שהצטיינה. המסקנה המעשית: תשובה בעברית מחייבת בדיקה קפדנית יותר מהמקבילה באנגלית.

כמה גורמים מצטברים כאן. כמות הטקסט העברי באימון קטנה בסדרי גודל מהאנגלי. ישויות ישראליות, שמות חברות, רשויות, חוקים ופסקי דין, מופיעות בתדירות נמוכה, ולכן המודל משלים אותן מתבנית במקום מזיכרון. ושמות עבריים נכתבים בכמה תעתיקים לועזיים, כך שהמודל עלול למזג שתי ישויות לאחת.

נלווית לכך בעיית אורך. עברית נחתכת ליותר יחידות מאנגלית, ולכן אותו טקסט נספר ביותר טוקנים ומייקר את החשבון וגם ממלא מהר יותר את חלון ההקשר שבו המודל מחזיק את החומר. כשהמסמך המקורי נדחק מחוץ לחלון, המודל משלים את החסר מהתבנית הכללית, וזה הרגע שבו נולדת המצאה בתוך משימה שנראתה בטוחה.

דוגמה: שאלה אחת שמייצרת שלוש טעויות

מנהלת חשבונות שאלה צ'אט שאלה שנשמעת תמימה: “מה תקרת ההפקדה המוכרת לקרן השתלמות לעצמאי בשנת המס הנוכחית, מאיזה סעיף בפקודת מס הכנסה זה נובע, וצרפי קישור למקור”.

חזרה פסקה אחת בת שלושה משפטים, בלי סייג: סכום מדויק בשקלים, מספר סעיף, וקישור לאתר רשות המסים. שלושתם נראו סבירים ושלושתם היו פגומים. הסכום היה של שנת מס קודמת, מספר הסעיף היה קיים אך עסק בנושא אחר, והקישור החזיר שגיאת עמוד שאינו נמצא.

השאלה מייצרת הזיה כמעט בוודאות, מפני שהיא מבקשת ערך שמתעדכן מדי שנה, אסמכתה חוקית מדויקת וקישור. אלה בדיוק הדברים שהמודל אינו מחזיק כרשומה, ושהוא יודע להרכיב מתבנית משכנעת.

מה שהיה צריך לקרות לפני שהמספר נכנס לדוח: לפתוח את הקישור, פעולה של עשר שניות שבה מתגלה הטעות הראשונה; לחפש את מספר הסעיף באתר החקיקה, חצי דקה נוספת; ולשאול את אותה שאלה בשיחה חדשה ובניסוח אחר, למשל “איזה סכום מוכר לניכוי לעצמאי בקרן השתלמות, ומה המקור לכך”. כששתי שיחות מחזירות סכומים שונים, זה הסימן החד ביותר. הבדיקה נמשכת דקה, והתיקון אחרי ההגשה נמשך שעות.

סימני האזהרה שאפשר לתפוס בעין

ביטחון מוגזם בפרט שולי. המודל עונה על הליבה בזהירות, ואז זורק בדרך אגב הפניה לסעיף או לשנה שלא ביקשתם. ככל שהפרט צדדי והניסוח החלטי, כך גדל הסיכון שהוא הומצא.

מספרים חדים מדי או עגולים מדי. “כשליש מהעסקים” סביר. “31.7% מהעסקים הקטנים בישראל” בלי מקור הוא דגל אדום, וכך גם סכום שנוחת על מספר עגול.

מקור שאי אפשר לאמת. שם מאמר ומחבר בלי קישור, או קישור שמוביל לעמוד הבית של אתר אמיתי ולא למסמך.

עקביות מדומה. שאלתם “אתה בטוח”, המודל אישר, וזה נראה כמו אימות. אין כאן אימות: התשובה הקודמת יושבת בחלון ההקשר והמודל ממשיך אותה. בדיקה אמיתית מתחילה בשיחה חדשה ובניסוח שונה.

הסכמה מוחלטת עם ההנחה שלכם. אם ניסחתם שאלה שמכילה הנחה שגויה, המודל נוטה לאמץ אותה ולבנות עליה, כמתואר בכתבה על הנטייה של הצ'אטים לאשר את המשתמש במקום לחלוק עליו.

מה באמת מקטין את הסיכון

לתת למודל את החומר במקום לבקש שישלוף מהזיכרון. המהלך היעיל ביותר בפער גדול. כשמעלים את המסמך ומבקשים תשובה ממנו בלבד, המודל עובר מהשלמת תבנית לקריאה, ושיעור ההמצאות צונח.

לבקש מקור עם קישור ותאריך, ולפתוח אותו. הבקשה עצמה משנה את התנהגות המודל, והפתיחה בפועל תופסת את מה שנשאר.

להצליב. אותה שאלה בשני כלים שאומנו על חומר שונה, או מול המקור הראשוני.

לחלק את המשימה. שאלה שדורשת שליפה, חישוב וניסוח בבת אחת מזמינה טעות; פיצול לשלבים מאפשר בדיקה.

לאשר במפורש תשובה חלקית. משפט בהנחיה בסגנון “אם אינך בטוח, אמור זאת במקום להשלים” מקזז חלק מהתמריץ לנחש. ניסוח הנחיות שמקטין המצאות מפרט עוד שיטות מהסוג הזה.

לבחור כלי עם גישה לחיפוש חי. מודל שמחפש ברשת לפני שהוא עונה שוגה פחות בנתונים משתנים. זו הקטנה ולא ביטול: הוא עדיין יכול לקרוא לא נכון מקור אמיתי או לצרף קישור שאינו תומך במשפט. גם במשימה החסומה ביותר שיש, סיכום מסמך שניתן למודל, מדידות ציבוריות מראות פערים גדולים בין הדגמים.

מה נשאר באחריות שלכם

כל האמצעים האלה מקטינים סיכון ואינם מאפסים אותו. אין היום מודל שיודע לסמן בעצמו מתי הוא טועה, מפני שמבחינתו הטעות והאמת נוצרו באותו תהליך, ולכן הבדיקה חייבת להיות חיצונית וידנית. ההיבט המשפטי כבר הוכרע: לא הטריבונל בקולומביה הבריטית ולא בית המשפט העליון בישראל קיבלו את הטענה שהכלי אשם. מי שהגיש, פרסם או החליט נושא באחריות.

הכלל המעשי פשוט: כל מספר, שם, תאריך, ציטוט, סעיף חוק וקישור שנכנס למשהו בעל השלכה כספית, משפטית, רפואית או פומבית עובר אימות מול המקור. הבנה, סיעור מוחות וניסוח מחדש של טקסט שאתם מכירים אינם דורשים את זה, וההפרדה בין שני סוגי השימוש היא ההרגל שמונע את רוב הנזק. הצד הרחב יותר של הבעיה מתואר בכתבה על מה קורה כשהבינה המלאכותית מפסיקה להזות ומתחילה לחבל.

שאלות ותשובות

ההזיות ייעלמו בגרסאות הבאות?

השיעור יורד מדור לדור, אך ביטול מלא אינו נראה באופק, מפני שאותו מנגנון שמייצר המצאה מייצר גם את היכולת לענות על שאלה שלא נראתה קודם.

אם המודל נתן קישור, זה אומר שהמקור אמיתי?

לא בהכרח. קיימים שלושה מצבים: קישור שבור, קישור לעמוד אמיתי שאינו מכיל את הטענה, וקישור תקין ותומך. שני הראשונים שכיחים, ולכן הבדיקה היא הפתיחה בפועל.

לשאול “אתה בטוח” עוזר?

מעט מאוד. השאלה נשאלת בתוך אותה שיחה, שבה התשובה השגויה כבר יושבת בהקשר, ולכן המודל בדרך כלל מאשר את עצמו. לעיתים הוא אפילו הופך תשובה נכונה לשגויה כדי לרצות אתכם.

עדיף לשאול באנגלית?

בנושאים בינלאומיים יש לכך יתרון מדיד. בשאלות על ישראל היתרון מצטמצם, כי החומר דליל בשתי השפות. הפתרון החזק יותר הוא לצרף את המסמך.

מה עושים כשצריך מספר ואין זמן לאמת?

מסמנים אותו כטיוטה בגוף המסמך ולא נותנים לו להיכנס לגרסה שנשלחת. ברוב המקרים האימות נמשך פחות זמן מהתיקון בדיעבד.

אפשר לבקש מהמודל לדרג את מידת הביטחון שלו?

אפשר, וזה עוזר חלקית. הדירוג נובע מאותו מנגנון חיזוי ואינו מדידה אמיתית. השתמשו בו כמסנן ראשוני ולא כאישור.

עדכונים

2026 - מאגר המקרים המשפטיים שבהם צד הסתמך על חומר מומצא עבר את 1,600 ההחלטות ברחבי העולם, ובישראל הרחיב בית המשפט העליון במרץ את הסנקציות גם לרשויות מינהליות. במקביל נכנסו לתוקף ב-2 באוגוסט 2026 חובות השקיפות של חוק הבינה המלאכותית האירופי: יידוע המשתמש שהוא משוחח עם מכונה, סימון מכונה של תוכן שנוצר או שעבר מניפולציה, וגילוי בעת שימוש בזיהוי רגשות. הקנס המרבי הוא 15 מיליון אירו או 3% מהמחזור העולמי, ולמערכות שכבר היו בשוק ניתנה ארכה בסימון עד דצמבר 2026. בצד המודלים, כמה מהדגמים המובילים אומנו להימנע מתשובה כשרמת הוודאות נמוכה.