הונאת הקול של AI: נשמע כמו הילד שלכם ומבקש כסף

הונאות טלפוניות היו כאן תמיד, אבל הבינה המלאכותית משנה את כללי המשחק. פעם היה אפשר לזהות עוקץ לפי מבטא, ניסוח מוזר, מספר טלפון חשוד או סיפור מוגזם מדי. היום זה כבר עולם אחר ומסוכן הרבה יותר. השיחה יכולה להגיע ממספר שנראה מוכר, על המסך יכולה להופיע תמונה של בן משפחה, ובצד השני אפשר לשמוע קול שנשמע בדיוק כמו הילד, הילדה, האח, האמא או בן הזוג.

זה מה שהופך את הדור החדש של ההונאות לקשה לחשיפה ומסוכן יותר. אתם שומעים את הילדים, האחרים, ההורים, של אנשים קרובים. אתם נותנים אמון ונופלים להונאה מתוחכמת. איך זה עובד? הנה מקרה לדוגמה - אדם מקבל שיחה שמתחילה בבכי או בקול נואש של ילד ש"נפגע", "נחטף", "נתקע בחו"ל" או "צריך עזרה מיידית". כמה רגעים אחר כך עולה לקו אדם שמציג את עצמו כשוטר, רופא, עורך דין או גורם ביטחוני, ודורש העברת כסף מהירה. הכל נשמע אמיתי כי הקול של הקרוב זהה לקול האמיתי. 

התרמית עובדת כי היא מחברת שלושה דברים חזקים: קול מוכר, לחץ זמן ופחד. כאשר אדם שומע קול שנשמע כמו בן משפחה במצוקה, המוח עובר למצב חירום. במקום לבדוק פרטים, הוא מנסה להגן ולפתור. זה בדיוק הרגע שהנוכלים מחפשים.

היום כלי AI מסוגלים לייצר קול סינתטי מדגימות קצרות מאוד, לעיתים כמה שניות עד עשרות שניות של הקלטה. הדגימות מגיעות מסרטונים ברשתות חברתיות, הודעות קוליות, ראיונות, סטוריז או כל תוכן פומבי שבו אדם מדבר. לזה מצטרף זיוף מספר טלפון, כך שהשיחה נראית כאילו היא מגיעה ממספר מוכר.

• הונאת ביטוח: שלושה נידונו למאסר אחרי שביימו התקפת דוב על רכבי יוקרה
• הונאות הרשת מתרבות - הפתרון מגיע מעולם הקוואנטים
• המלצת המערכת: כל הכותרות 24/7

לפי נתוני הרשויות בארה"ב, הונאות מתחזים הן מהסוגים המדווחים ביותר של הונאות צרכניות, עם היקף נזק של מיליארדי דולרים בשנה. בישראל גם הרשויות והבנקים מזהירים מעלייה בתחכום של הונאות פיננסיות, לרבות שימוש ב AI, התחזות דיגיטלית, זיוף מסרים, השתלטות על חשבונות ושיחות שמפעילות לחץ רגשי. זה כבר פחות נוכל בודד ויותר תעשייה: מוקדים, תסריטים, מאגרי מידע, זיוף קול וכלים אוטומטיים שמגדילים את היקף הפעילות.

להרחבה: ככה לא תיפלו בהונאות פיננסיות דיגיטליות - מדריך חשוב

ככה תימנעו מהונאות פיננסיות דיגיטליות - מדריך חשוב, חלק ב'

גם שיחות שמתחזות לבנק, לחברת אשראי, לרשות המסים או למשטרה יכולות להישמע אמינות מאוד. גם עובדים חשופים לסיכון דומה, כאשר קול שנשמע כמו מנכ"ל או סמנכ"ל כספים מבקש העברה דחופה לספק, אישור תשלום או שליחת מסמך רגיש. בארגונים, אירוע כזה יכול להסתיים בהפסד ענק, לפעמים בתוך דקות.

• S&P משאירה את ישראל בדירוג A: המשק מקבל קרדיט, הגירעון נשאר הסיפור המרכזי
• למה רוב העסקים המשפחתיים לא שורדים לדור השני?
• תוכן שיווקי שוק הסקנדרי בישראל: הציבור יכול כעת להשקיע ב-SpaceX של אילון מאסק
• תוכנית להצלת שער הדולר באמצעות משרד האוצר

הכלל המרכזי פשוט: בשיחה נכנסת עוצרים לפני פעולה. מוסרים פרטי חשבון, סיסמאות, קודי אימות או פרטי אשראי רק אחרי בדיקה עצמאית מול הגוף הרלוונטי. שיחה מלחיצה מהבנק? מנתקים ומתקשרים למספר שמופיע באתר הרשמי או באפליקציה. שיחה מילד במצוקה? מנתקים ומנסים להגיע אליו דרך מספר אחר, בן משפחה, בית הספר, מקום העבודה או חבר קרוב.

כלי פשוט נוסף הוא מילת קוד משפחתית. מילה או משפט שרק בני המשפחה מכירים, ומשמשים במקרה חירום. כאשר מתקבלת שיחה דרמטית, מבקשים את מילת הקוד. תשובה נכונה מרגיעה. תשובה מתחמקת היא סימן לעצירה ובדיקה בערוץ אחר.

כדאי גם לצמצם פרסום של קטעי קול ארוכים ברשתות חברתיות, בעיקר של ילדים ובני משפחה. אין צורך להיכנס לפאניקה, אבל צריך להבין שכל סרטון שבו אדם מדבר יכול להפוך לחומר גלם לחיקוי קול. ככל שיש יותר תוכן פומבי, כך קל יותר לבנות חיקוי משכנע.

הטכנולוגיה שמאפשרת זיוף קול מתקדמת מהר, והפתרונות נגדה רק מתחילים להיבנות. חוקרים עובדים על שיטות אימות מתקדמות, כולל טכנולוגיות מעולם הקוונטים שיכולות בעתיד לאמת מיקום וזהות בצורה חזקה יותר. זה עדיין רחוק משימוש יומיומי רחב, אבל הכיוון ברור: בעולם שבו קול ותמונה ניתנים לזיוף, האימות יצטרך להיות חכם יותר.

להרחבה: הונאות הרשת מתרבות - הפתרון מגיע מעולם הקוואנטים

העידן שבו קול מוכר היה הוכחה לזהות הסתיים. זה לא אומר שצריך להפסיק לדבר בטלפון, אלא לשנות הרגלים. בעידן ה AI, שיחה מלחיצה היא סיבה לעצור, לנתק, לבדוק ואז להחליט. הרשויות והבנקים משפרים מערכות, אבל ההגנה החזקה ביותר מתחילה אצל כל אחד: בדיקה שנייה, מילת קוד, ספקנות בריאה ופעולה רק אחרי אימות.