האינטרנט מוצף בדיפ־פייק, אם זה קטעי קול, תמונות או סרטוני וידאו שיצרו כלי AI, בכל אחד מהז'אנרים יש אלמנט של אנשים שנשמעים, נראים, אומרים ועושים דברים שלא היו ולא נבראו, מצולמים לכאורה במקומות בהם לא היו מעולם ומשנים את הופעתם. זה יכול להיות אובמה בסרבל כתום או הפשטה והצגת אנשים בעירום מזויף. השימוש נרחב ויכול לשמש להונאה, לבידור או לפגיעה בתדמית של פוליטיקאים ודמויות ציבוריות. הזינוק המטאורי והבלתי פוסק של הטכנולוגיה מאפשר ליצור דיפ־פייק משכנע תוך זמן קצר ובקליקים בודדים. הרגולטורים מנסים להיאבק בתופעה, אבל נראה שכרגע ידם על התחתונה, והזירה כמעט ופרוצה לגמרי. על פי מקורות, בשלושת השנים האחרונות נסיונות הונאה שמתבססים על דיפ־פייקים גדלו פי 20.

וכך, כאשר לפני ימים ספורים פרסם דונלד טראמפ סרטון דיפ־פייק בו ברק אובמה נעצר לכאורה בחדר הסגלגל, זו לא היתה שערורייה כפי שניתן היה לצפות. הסרטון הועלה בטיקטוק ולאחר מכן שוב באפליקציית Truth Social, בלי הבהרות נוספות מהנשיא. 

מתחזים השתמשו בכלים לחיקוי קול כדי להתחזות לפוליטיקאים כמו ביידן ורוביו. במהלך הבחירות של 2024 שיתף אילון מאסק קמפיין דיפ־פייק של קמלה האריס ללא תיוג מתנה, והקול בו נשמע כקול מתקיף זכה למיליוני צפיות. בעקבות זאת חתם מושל קליפורניה גאווין ניוֹסום חוק שאוסר דיפ־פייקים פוליטיים באותו ספטמבר. ב־ינואר 2024 הופצו תמונות דיפ־פייק של טיילור סוויפט עירומה. באוגוסט 2023 חולקו תמונות מזויפות של שריפות במאווי כדי לטעון שמדובר בנשק מזג־אוויר סודי. במאי אותה שנה נרשמה ירידה בשוק המניות בעקבות תמונה מזויפת של הפנטגון בוער. בפברואר 2023 הופץ קובץ קול מזויף שבו נשמע מועמד לנשיאות ניגריה מתכנן זיוף בחירות. ב־2021 הופץ וידיאו מזויף של נשיא אוקראינה קורא לחייליו להתנגד לפלישה. עם זאת קיימים גם דיפ־פייקים תמימים, כמו סרטון של כריסטיאנו רונאלדו קורא שירים בערבית.

הבעיה האמיתית מתחילה כשהגבולות בין המציאות לבדיה מיטשטשים עד כדי כך שגם אנשים שמכירים היטב את התחום מתקשים לזהות זיוף. סרטונים עם איכויות קולנועיות, הקפדה על פרטים קטנים כמו תאורה, תזמון דיבור, הבדלי מבטא ותנועות פנים כל אלה משולבים כיום בקלות באלגוריתמים המאפשרים לבנות זהויות פיקטיביות או להלביש תוכן שקרי על דמויות קיימות. המידע הקיים ברשת, לרבות תמונות וסרטונים של אנשים ממגוון זוויות, משמש חומר גלם עשיר עבור יוצרי הדיפ־פייק, כך שלא נדרש עוד ידע טכני רב או תקציב גבוה כדי ליצור אשליה אמינה להפליא. ככה יכול כמעט כל אחד להפוך למטרה חשודה.

• מה זה דיפ-פייק, איך זה קשור לפייק ניוז והאם זה כאן כדי להישאר?
• המלצת המערכת: כל הכותרות 24/7

אבל כמו שאומרים אליה וקוץ בה - הדיפייק יכול גם להוביל אותנו לכיוונים מפתיעים. בעולם שבו כל דבר ניתן לזיוף נוצר באופן פרדוקסלי גם מרחב חדש של "אליבי". אם כל סרטון או קובץ קול יכולים להיות מזויפים, אז תמיד קיימת האפשרות לטעון ש"זה לא אני". הפוליטיקאי שנתפס אומר משהו גזעני, המנכ"ל שנשמע מבטיח רווחים שקריים, או כל אדם פרטי שצולם לכאורה עושה מעשה פלילי כולם יכולים להכחיש. 

במובן מסוים, האמת עצמה נעשית ניתנת לערעור. דווקא בגלל זה, מתחיל להתפתח שוק חדש סביב טכנולוגיות ווריפיקציה: כלים שמטרתם לאמת את מקוריות התוכן הדיגיטלי ולספק ראיות בלתי ניתנות לערעור לכך שאירוע מסוים התרחש או שלא. מה שהיה בעבר צורך של גופי ביטחון בלבד, הופך כעת להזדמנות עסקית עבור סטארטאפים, ענקיות טכנולוגיה וגופי תקשורת, שמנסים להחזיר מעט מהוודאות לעולם של עיניים שמטעות ואוזניים שלא יודעות מה הן שומעות.

תעשיה שמנסה להחזיר את האמון

את חוסר האמון שיוצר הדיפייק יש תעשיה של חברות וותיקות וגם חדשות שמנסות לשקם. בין השחקנים הבולטים בזירה הזו ניצבת Adobe, Adobe Systems Inc -0.17%   שהשיקה את יוזמת Content Authenticity Initiative (CAI) פרויקט שמציע להטמיע בנתוני הקובץ הדיגיטלי עצמו את כל שרשרת היצירה: מי יצר את התוכן, מתי, באיזו תוכנה, האם נעשה שימוש בבינה מלאכותית, והאם התבצעו בו עריכות. התוצאה היא תמונה או וידאו עם "תעודת זהות" דיגיטלית שניתנת לבדיקה גם לאחר הפצה ברשת. יוזמות דומות מוביל הסטארטאפ האמריקאי Truepic, שמפתח מצלמות דיגיטליות מאובטחות אשר מתעדות כל צילום עם חתימה קריפטוגרפית, טביעת זמן, מיקום גיאוגרפי, ואפילו פרטים על רמת התאורה וסוג המכשיר. המטרה ליצור סטנדרט חדש של "תיעוד מאומת" כזה שיכול לשמש ראיה בבית משפט, או  גם כדי לסנן מידע כוזב ברשתות החברתיות.

• אין AI בלי אנרגיה - האם המהפכה בדרך להיעצר בגלל חסמים באנרגיה?
• מהאופציה ועד ההנפקה: ESOP מבית הפניקס ו-Slice Global משיקות פלטרפומה לניהול תגמול הוני
• תוכן שיווקי שוק הסקנדרי בישראל: הציבור יכול כעת להשקיע ב-SpaceX של אילון מאסק
• אין AI בלי אנרגיה - האם המהפכה בדרך להיעצר בגלל חסמים...

במקביל, מפתחות ענקיות כמו מיקרוסופט מערכות לזיהוי תוכן מזויף, ביניהן Project Origin, שמנסה לבסס תו תקן עולמי לסימון תכנים דיגיטליים באמינותם המקורית. המיזם, בשיתוף גופי מדיה כמו BBC ו־ניו יורק טיימס, מציע להוסיף חתימה מוצפנת לסרטונים וכתבות כך שנוכל להתחקות אחרי הגוף העיתונאי שיצר אותם. גם סטארטאפים כמו Amber Video ו־Sensity AI נכנסים לעובי הקורה ומציעים טכנולוגיות לזיהוי אוטומטי של דיפ־פייקים, תוך ניתוח תנועות עיניים, השתקפויות אור, מאפייני קול והבעות פנים. מערכות אלו כבר שולבו בניטור תוכן ברשתות חברתיות כמו ב-X וגם ביוטיוב.