הטיה, מניפולציה ודיפ פייק: הצד האפל של הבינה המלאכותית
מאיפה מגיעות ההטיות במודלים ולמה קשה לנקות אותן, מה אפשר לזייף היום בתמונה בווידאו ובקול, אילו הונאות כבר פועלות בישראל, ומה בפועל עוצר אותן
מאיפה מגיעה ההטיה
מודל שפה לומד מטקסט שכתבו בני אדם, ומודל תמונה מתמונות שצילמו בני אדם. כל העדפה וכל חוסר איזון שקיימים בחומר נכנסים פנימה יחד עם הידע השימושי, והמודל אינו מבחין בין השניים: כל שהוא עושה הוא ללמוד אילו דפוסים חוזרים. מנגנון הלמידה מוסבר בהסבר איך מודל שפה עובד באמת ומה קורה בשלב האימון.
לנתונים מצטרפים שני מקורות. בחירת מה למדוד: מערכת שאמורה לחזות משהו קשה למדידה נשענת על תחליף נוח שנושא איתו את עיוותי המציאות. והכוונון האנושי, שבו אנשים מדרגים תשובות ומשקפים בכך את עצמם ואת ההנחיות שקיבלו.
ההטיות שכבר תועדו
ארבעה מקרים מתועדים מדגימים ארבעה סוגי כשל.
גיוס עובדים. באוקטובר 2018 דיווחה רויטרס שאמזון גנזה מערכת ניסיונית לסינון קורות חיים שדירגה מועמדות נמוך יותר. היא אומנה על עשור של פניות, רובן מגברים, ולמדה להוריד ניקוד למסמכים שכללו את המילה "נשים" ולבוגרות של שני מוסדות לנשים.
בריאות. מחקר בכתב העת Science מאוקטובר 2019 בדק אלגוריתם לאיתור מטופלים הזקוקים לטיפול מוגבר. הוא השתמש בעלות הטיפול כתחליף לצורך, ומכיוון שהוצא פחות כסף על מטופלים שחורים באותה רמת חולי, סיווג אותם כבריאים יותר.
מודלים של היום. מחקר של אוניברסיטת וושינגטון שהוצג בכנס AIES בסוף 2024 בחן שלושה מודלים מסחריים שמדרגים קורות חיים. במיליוני השוואות בין מסמכים זהים שנבדלו בשם בלבד, שמות המזוהים עם לבנים הועדפו בכ-85 אחוז.
תיקון יתר. ההטיה עובדת גם הפוך. בפברואר 2024 השהתה גוגל את יצירת התמונות של בני אדם בג'מיני, אחרי שהמודל הפיק דמויות בעלות מגוון אתני בהקשרים היסטוריים שאינם מתאימים, וסונדר פיצ'אי כינה זאת בלתי מקובל.
למה קשה לנקות את זה
הניסיון הראשוני היה למחוק ביטויים בעייתיים ולאמן את המודל לסרב לאמירות גזעניות. זה עובד על פני השטח, ומחקר שפורסם בכתב העת Nature באוגוסט 2024 הראה שהבעיה נשארת מתחת אליו: כשהוזן למודלים טקסט בניב אנגלית אפרו אמריקאית, בלי אזכור של גזע, הם ייחסו לכותבים תכונות שליליות, שיבצו אותם במשלחי יד פחות יוקרתיים והמליצו על ענישה חמורה יותר. יתרה מזו, הכוונון האנושי שנועד לצמצם גזענות גלויה הגדיל את הפער בין העמדה המוצהרת להחלטות בפועל.
מכאן שלושה קשיים. אי אפשר לנקות מה שלא ידוע שקיים, וכל בדיקה מאתרת את ההטיה שחיפשו. סילוק סימן אחד משאיר את הסימנים המתואמים איתו: סגנון כתיבה, שם, מקום מגורים. וההגדרה של תשובה מאוזנת שנויה במחלוקת, וכל בחירה נראית למישהו כהטיה הפוכה. גישות הבטיחות מתוארות בסקירת Anthropic וקלוד וההימור על בטיחות המודלים.
מה אפשר לזייף היום, וכמה זה עולה
בתמונת סטילס המשחק הוכרע: דיוקן של אדם שאינו קיים, או השתלת פנים של אדם קיים בסצנה שלא התרחשה, נוצרים בשניות ובעלות אפסית.
בווידאו הקפיצה קרתה בשנתיים האחרונות. המודלים המובילים של OpenAI ושל גוגל מייצרים קטעים באורך עשרות שניות עם פסקול מסונכרן ודיבור בשפה נבחרת. התמחור בממשקי המתכנתים נע סביב עשרות סנטים לשנייה, ומנוי בעשרות דולרים לחודש מספיק לכמויות.
הקול הוא החוליה הזולה והמסוכנת. שכפול משכנע דיו לשיחה קצרה נבנה מכמה שניות של הקלטה, כזו שקיימת בכל סרטון ברשת חברתית או בהודעה קולית. לכן רוב ההונאות שמגיעות לציבור הרחב הן קוליות.
הספקיות הציבו מחסומים: OpenAI מתירה שימוש בדמותו של אדם לאחר שהעלה את עצמו ואישר מי רשאי להשתמש בה, וגוגל חוסמת יצירת אישי ציבור. אלה חלים על השירותים המסחריים, ומודלים פתוחים שרצים על מחשב פרטי אינם כפופים להם, כמתואר בסקירת מטא, xAI והמודלים הפתוחים.
ההונאות שכבר קורות בישראל
היחידה להזדהות וליישומים ביומטריים במערך הסייבר הלאומי דיווחה על כ-250 פניות בנוגע לסרטוני דיפ פייק בשנה, ומספר זה סופר דיווחים ולא מקרים.
הדפוס הראשון הוא התחזות קולית לבן משפחה או למנהל, עם בקשה דחופה להעביר כסף. המקרה הידוע ביותר אירע בהונג קונג בתחילת 2024, כשעובד בחברת ההנדסה Arup השתתף בשיחת וידאו שכל שאר משתתפיה היו מזויפים והעביר כ-25 מיליון דולר.
- הזיות: למה המודל ממציא, ואיך מזהים את זה בזמן
- הזולה בשוק מייקרת מחירים: מה מגלה מהלך המחירים של דיפסיק על העלות האמיתית של הבינה המלאכותית
השני הוא הונאות השקעה עם דמויות מוכרות. לפי קו הסיוע של איגוד האינטרנט הישראלי מופצות בישראל מודעות ממומנות עם סרטונים מזויפים של נגיד בנק ישראל, של פוליטיקאים ושל ידוענים, המפנות לפלטפורמות מסחר פיקטיביות, ובין הפונים היו אנשים שאיבדו 250 אלף שקל ו-150 אלף שקל. בנק ישראל התריע במאי 2025 על התגברות ההונאות ועל שימוש גובר בדיפ פייק. סקירה עדכנית מופיעה בכתבה על הקול בטלפון שנשמע בדיוק כמו הבן ונוצר במחשב.
השלישי הוא פישינג בעברית תקינה. הסיכום השנתי של מערך הסייבר ל-2025 מדווח על 31,657 מתקפות דיוג שטופלו, פי שבעה מקודמתה, ומציין שהתוקפים נעזרים בבינה מלאכותית כדי לנסח הודעות מדויקות ומותאמות, בעיקר בהתחזות למפעילת כביש 6, לבנקים ולדואר ישראל. השגיאות הלשוניות שהיו סימן ההיכר הבטוח נעלמו. בעולם, דוח ה-FBI ל-2025 תיעד 22,364 תלונות על הונאות כאלה בנזק של כ-893 מיליון דולר.
מה באמת עוצר הונאה כזאת
הנה תרחיש מהסוג שמגיע לעסקים קטנים בישראל. מנהלת החשבונות בחברה שמעסיקה 12 עובדים מקבלת ביום חמישי אחר הצהריים הודעה קולית בוואטסאפ מהמנכ"ל. הקול שלו בדיוק, כולל ההיסוס האופייני לו, מפני שנלקח מהרצאה שהעלה לרשת. הוא מבקש להעביר 180 אלף שקל לספק חדש לפני סגירת הבנק. אחריה מגיעה הודעת טקסט עם פרטי החשבון, ולבסוף שיחת וידאו מרצדת שבה רואים אותו מהנהן.
מה היה עוצר את זה: חזרה טלפונית ביוזמתה למספר ששמור אצלה מקודם, ולא לזה שממנו הגיעה ההודעה; מילת קוד פנימית שסוכמה בעל פה; אימות שינוי פרטי בנק של ספק מול איש קשר ידוע אצלו; וחתימה שנייה על העברה מעל סכום שנקבע מראש. ארבעת המחסומים עולים אפס שקלים ואינם תלויים ביכולת שלה לזהות זיוף.
סימנים חזותיים עדיין קיימים ונחלשים: בווידאו כדאי להתבונן בשיניים ובאוזניים, בגבול בין השיער לרקע ובאיחור בין השפתיים לצליל, ובקול לחפש נשימות שאינן במקום ורקע שקט מדי. בקשה לפנות את הראש הצידה עדיין מקשה על חלק מהמערכות. העיקרון המעשי: אימות עדיף על זיהוי. במקום להכריע אם מה שראיתם אמיתי, פנו בערוץ אחר שאתם יזמתם. גם כיוונים מחקריים רחוקים, כמו אימות מיקום המבוסס על פיזיקה קוונטית, מנסים לענות על אותה שאלה.
מידע כוזב בקנה מידה
עד היום העלות של פרסום כוזב הייתה זמן אנושי. היום המחיר של אתר חדשות שלם, מלא בכתבות בעברית ובלי שום עורך, נמדד בדולרים בודדים לחודש. ארגון NewsGuard, שמנטר אתרי תוכן אוטומטיים, דיווח ביוני 2026 על 3,749 חוות תוכן כאלה בשש עשרה שפות, יותר מכפליים מהמספר שנה קודם לכן.
שתי השפעות מתועדות. הראשונה היא הצפה שעולה על יכולת הבדיקה של גופי אימות. השנייה מכונה דיבידנד השקרן: מי שנתפס יכול לטעון שההקלטה שמפלילה אותו מזויפת, וטענה כזאת כבר הועלתה בבתי משפט. עד כמה זה משפיע על תוצאות בחירות שלמות עדיין שנוי במחלוקת בין חוקרים, ומי שמציג את הקשר כמוכח חורג מהעדויות. מודלים ממציאים גם בלי כוונת זדון, כמפורט במדריך ההזיות ואיך מזהים תשובה שהומצאה בזמן.
גניבת קול ודמות: החוק בישראל
ההגנה קיימת ומפוזרת בין כמה חוקים. סעיף 2(6) לחוק הגנת הפרטיות מגדיר כפגיעה בפרטיות "שימוש בשם אדם, בכינויו, בתמונתו או בקולו, לשם ריווח", ומכסה במפורש גם קול. פגיעה במזיד כזאת היא עבירה פלילית שעונשה עד חמש שנות מאסר, ולצידה עילת תביעה אזרחית. מצטרפים לכך חוק איסור לשון הרע כשהזיוף מבזה אדם, ודיני עשיית עושר כשמישהו הרוויח מהדמות. בינואר 2026 הבהירה הרשות להגנת הפרטיות שהצגת אדם בעירום בכלים דיגיטליים וללא הסכמתו עשויה להיות עבירה פלילית.
בכנסת מונחות הצעות חוק פרטיות לתיקון חוק העונשין, שיוצרות עבירת "זיוף עמוק" ייעודית עם ענישה מדורגת לפי מטרת הזיוף, והן טרם הפכו לחוק. מה שכן נחקק הוא הסדר ממוקד לבחירות: ביולי 2026 אישרה הכנסת בחוק הבחירות לכנסת ה-26 חובת גילוי לתעמולה שהיא "נחזות עמוקה", תוכן חזותי או קולי שנערך דיגיטלית ועשוי להיראות כמתועד במקור. יושב ראש ועדת הבחירות פרסם כללי סימון, ובהם גופן בגודל של לפחות חמישה אחוזים מגובה התוכן.
סימון וזיהוי, והמגבלות
שני מנגנונים פועלים היום. האחד הוא סימן מים סטטיסטי שנשתל בתוכן בעת היצירה, כמו SynthID של גוגל, שלפי החברה סימן עד מאי 2026 יותר ממאה מיליארד תמונות וסרטונים ונשאר קריא גם אחרי חיתוך ודחיסה. השני הוא תקן C2PA, שמצרף לקובץ רשומה חתומה המתארת במה נוצר ומה נערך.
שתי המגבלות מהותיות. סימן מים מזהה תוכן שנוצר בכלי שמשתף פעולה, ומודל פתוח שרץ על מחשב פרטי אינו מטביע דבר, וזה הכלי שיבחר מי שמתכוון לזייף. רשומת מקור נמחקת כשפלטפורמה מקודדת מחדש תמונה, ולא אחת דווקא צילום אותנטי מגיע בלי רשומה ונחשד בטעות. מזהים אוטומטיים מדויקים בתנאי מעבדה ומאבדים דיוק כשהתמונה דחוסה או קטנה.
חוק הבינה המלאכותית האירופי מחיל חובת גילוי כלפי משתמשים מאוגוסט 2026 וחובת סימון תוכן מדצמבר 2026, והיא חלה על ספקים מוסדרים ולא על מי שפועל ממילא מחוץ לחוק. התמונה הרחבה מופיעה במדריך האב על עולם צ'אטי הבינה המלאכותית, והמידע שאתם עצמכם מוסרים מפורט במדריך הפרטיות ואבטחת המידע בצ'אטים.
שאלות ותשובות
אפשר לזהות דיפ פייק בעין בלתי מזוינת?
לפעמים, ופחות ופחות. עדיף נוהל אימות שאינו תלוי ביכולת ההבחנה שלכם, משום שהאיכות משתפרת מהר מהעין האנושית.
מה זו מילת קוד משפחתית ואיך קובעים אותה?
ביטוי קצר שסוכם בעל פה ואינו מופיע בשום התכתבות. כשמגיעה בקשה דחופה לכסף, מבקשים אותו. כדאי לבחור משהו שאין לו קשר לשמות, לתאריכים או לחיות מחמד.
מישהו זייף את הקול שלי, מה עושים?
מתעדים את התוכן עם קישור וצילום מסך, מגישים תלונה במשטרה, פונים לפלטפורמה בבקשת הסרה, ואפשר לשקול תביעה אזרחית.
הצ'אט שאני משתמש בו מוטה פוליטית?
לכל מודל יש נטיות שנובעות מהנתונים ומהכוונון, ומדידות שונות מגיעות לתוצאות שונות. בקשו את הטיעונים לשני הצדדים, ואמתו כל טענה עובדתית במקור חיצוני.
למה החברות לא פשוט מנקות את ההטיה?
מפני שהיא אינה רשימת מילים אלא דפוסים סטטיסטיים המפוזרים על פני מיליארדי פרמטרים ומתואמים עם סימנים תמימים לכאורה. סינון גלוי עלול להסתיר אותה מהבדיקה.
אם יש סימן מים, למה עדיין יש בעיה?
מפני שהסימן קיים בכלים שבחרו לשתף פעולה. מי שמתכוון להונות משתמש במודל פתוח בלי סימון, ולכן היעדר סימן מים אינו מעיד שהתוכן אמיתי.
עדכונים
2026 - ביולי 2026 אישרה הכנסת בחוק הבחירות לכנסת ה-26 חובת גילוי לתעמולה שהיא "נחזות עמוקה", ובסוף אותו חודש פרסם יושב ראש ועדת הבחירות כללי סימון. הצעות חוק ליצירת עבירת זיוף עמוק בחוק העונשין עדיין תלויות ועומדות. ה-FBI הקדיש בדוח השנתי לראשונה פרק להונאות מבוססות בינה מלאכותית, ו-NewsGuard דיווח ביוני 2026 על 3,749 אתרי תוכן אוטומטיים. באיחוד האירופי חובת הגילוי כלפי משתמשים חלה מאוגוסט 2026 וחובת סימון התוכן מדצמבר 2026.
