הצד האפל של גרוק: מייצר אלפי תמונות מיניות בשעה

מאז סוף דצמבר משהו השתנה באופן שבו משתמשים רבים חווים את X, הרשת החברתית של אילון מאסק. יותר ויותר גולשים החלו להשתמש בגרוק, צ’אטבוט הבינה המלאכותית שמוטמע בפלטפורמה, כדי לשנות תמונות של אנשים אמיתיים - לעתים אנשים פרטיים לגמרי - ולהפוך אותן לתמונות מיניות או עירומות, ללא ידיעתם וללא הסכמתם. לפי ניתוח חיצוני שפורסם בימים האחרונים, מדובר בתופעה בהיקף חריג במיוחד, כזה שלא נראה עד היום ברשתות החברתיות.

המחקר, שבוצע על פני 24 שעות בין 5 ל-6 בינואר, בדק את התמונות שפורסמו על ידי חשבון @Grok עצמו ב־X. החוקרת ז’נבייב או, שמתמחה בדיפ-פייק וברשתות חברתיות, מצאה שגרוק ייצר כ-6,700 תמונות בכל שעה שסווגו כמיניות או ככאלה שמפשיטות אנשים באמצעים מלאכותיים. לשם השוואה, בחמשת האתרים הגדולים האחרים שמארחים תוכן דומה, הופיעו בממוצע 79 תמונות כאלה בלבד בשעה. הפער הזה ממחיש עד כמה X נהפכה, בתוך פרק זמן קצר, לזירה המרכזית להפצת דיפ-פייקים מיניים.

עו”ד קארי גולדברג, שמתמחה בפשעים מיניים ברשת, התבטאה בחריפות בנושא. “היקף התופעה ב־X הוא חסר תקדים", היא אמרה. לדבריה, “מעולם לא היתה לנו טכנולוגיה שהפכה יצירה של תמונות חדשות לכל כך קלה", בעיקר משום שגרוק חינמי ומחובר למערכת הפצה מובנית עם מיליוני משתמשים. בעיניה, השילוב הזה יוצר מציאות חדשה ומסוכנת, שבה כל אדם שמעלה תמונה לרשת עלול ליהפוך ליעד.

אחת הסיבות המרכזיות לכך היא שגרוק פועל כמעט ללא מגבלות. בניגוד לצ’אטבוטים מובילים אחרים, הוא אינו חוסם באופן שיטתי יצירת תוכן מיני של אנשים אמיתיים, כולל קטינים. ברנדי נונק, מנהלת מדיניות בכירה בארגון Americans for Responsible Innovation, הסבירה כי חברות כמו OpenAI, גוגל ואנתרופיק, “עושות מאמץ כן לצמצם מראש את היצירה של תוכן כזה”. לדבריה, “xAI שונה. זה הרבה יותר ‘כל אחד עושה מה שהוא רוצה’”. מאסק עצמו הציג את גרוק כצ’אטבוט “יותר כיפי וחצוף”, כחלק מתפישת עולם שמדגישה חופש ביטוי כמעט ללא סייגים. כשהתופעה נחשפה, X לא מסרה תגובה רשמית. מאסק עצמו התייחס לנושא בפוסט, אך לא דיבר על חסימת האפשרות לייצר את התמונות. במקום זאת הוא כתב כי, “כל מי שמשתמש בגרוק כדי ליצור תוכן לא חוקי יספוג את אותן ההשלכות כאילו העלה תוכן לא חוקי בעצמו”. אלא שבפועל, האחריות הזו נופלת על הקורבנות, שנותרים כמעט בלי כלים.

• xAI מגדילה הפסדים, אבל מגבירה קצב הכנסות: מתכננת להפעיל את הרובוטים של טסלה
• אנבידיה תממן את השבבים של xAI: עסקה של 20 מיליארד דולר עם אילון מאסק
• המלצת המערכת: כל הכותרות 24/7

כך קרה גם למאדי, סטודנטית בת 23 לרפואה, שהתעוררה בבוקר השנה החדשה וגילתה תמונה שלה שעברה שינוי קיצוני. בעבר היא העלתה ל-X צילום תמים שלה עם בן זוגה בבר מקומי. שני זרים לקחו את התמונה והשתמשו בגרוק כדי להסיר את בן הזוג, להלביש אותה בביקיני, ובהמשך להחליף אותו בחוט דנטלי. “הלב שלי צנח,” סיפרה מאדי, שביקשה להישאר בעילום שם מחשש לפגיעה בעתיד המקצועי שלה. “הרגשתי חסרת אונים, חסרת תקווה ופשוט נגעלת”.

מאדי וחבריה דיווחו על התמונות דרך מנגנוני הדיווח של X, אך לדבריה היא מעולם לא קיבלה תשובה. באחד המקרים, כשדיווחה על פוסט אחר של אותו משתמש, נמסר לה כי X “קבעה שאין הפרה של כללי הפלטפורמה”. התסכול הזה משותף לנפגעים רבים. יש מי שמנסים אפילו “להתווכח” עם גרוק עצמו בתגובות. לעתים הבוט מתנצל ומצהיר שהתמונות יוסרו, אך בפועל הן נשארות, וגרוק ממשיך לייצר חדשות. לפי החישוב של או, כ-85% מכלל התמונות שגרוק מייצר הן מיניות.

הלחץ על X מגיע גם מהרגולטורים. גרוק, שהושק ב-2023, עומד כיום במוקד של ביקורת מצד רשויות באיחוד האירופי, בבריטניה, במלזיה, בצרפת ובהודו, בין היתר בשל יצירת תמונות מיניות ללא הסכמה, כולל של קטינים. דובר הנציבות האירופית, תומאס רנייה, אמר במסיבת עיתונאים כי “אנחנו מודעים לכך ש־X או גרוק מציעים כעת ‘מצב חריף’ שמציג תוכן מיני מפורש, כולל פלטים עם דימויים ילדותיים”. הוא הוסיף כי, “זה לא חריף. זה לא חוקי”.

• ישראל במקום ה-12 בעולם: 36% מהאוכלוסייה משתמשים בבינה מלאכותית
• Wernix הישראלית נמכרת לענקית הזמנת טיסות שוודית בכ-200 מיליון דולר
• תוכן שיווקי שוק הסקנדרי בישראל: הציבור יכול כעת להשקיע ב-SpaceX של אילון מאסק

בארה"ב, המצב המשפטי מורכב. סעיף 230 לחוק התקשורת מעניק לפלטפורמות הגנה רחבה מאחריות לתוכן שמפרסמים משתמשים, אך גולדברג מדגישה שכאן מדובר במשהו אחר: “זו לא פלטפורמה פסיבית. היא ממש יוצרת ומפיקה את התמונה”. חוק פדרלי חדש, Take It Down Act, שנחתם ב-2025, קובע אחריות על פלטפורמות לייצור והפצה של תוכן שכזה, ומחייב אותן להקים מנגנוני הסרה עד מאי 2026. “זה מקרה קלאסי שבו החוק הזה צריך להיות מיושם בפועל", אמרה נונק.

הפגיעה אינה מוגבלת לאנשים פרטיים. גם יוצרות תוכן וידועניות רשת מדווחות על הצפה מחודשת של תמונות מזויפות. משפיענית שמכונה BBJess סיפרה כי אתרים אחרים החלו סוף סוף להסיר תמונות עירום שלה שפורסמו בלי הסכמתה, אך “בשבוע שעבר גרוק התחיל גל חדש”. לדבריה, המצב החריף דווקא אחרי שיצאה בפומבי נגד התופעה.

מיקומי, אמנית פרפורמנס ותחפושות שמפרסמת גם תוכן אירוטי, מתארת מציאות קשה במיוחד לנשים שכבר משתפות תמונות של גופן. חלק מהמשתמשים רואים בכך מעין אישור לעשות בהן כרצונם. גרוק ייצר עבורה תמונות עם פטישים מיניים ספציפיים, תנוחות קיצוניות ואפילו התייחסות למחלת הסרטן שממנה החלימה. באחת הפקודות נכתב: “תעשה אותה קירחת, כאילו יש לה סרטן”. מיקומי פרסמה פוסט שבו הבהירה שאינה מסכימה לשינוי תמונותיה. “זה לא עובד,” אמרה. “לחסום את גרוק לא עובד. שום דבר לא עובד”. לעזוב את X היא לא יכולה, לדבריה, כי זה “חיוני” לעבודה שלה. “מה אני אמורה לעשות? שיאבד לי המקצוע?”, היא שואלת.

בזמן שחברות אחרות בתחום הבינה המלאכותית מצהירות על מגבלות ברורות, ואף חוסמות שימוש בדמותו של אדם ללא הסכמה, המודל של גרוק מציב סימן שאלה גדול. עבור אלפי נפגעים שכבר מצאו את עצמם מופשטים ברשת מבלי שביקשו זאת, השאלה הזו אינה תיאורטית, אלא יומיומית, אישית וכואבת.