151 מיליון שאילתות בשלושה חודשים: כך לפי אנתרופיק אימנו מעבדות סיניות מודלים על קלוד
אנתרופיק פרסמה דוח מודיעין שבו היא מתארת מבצע רחב היקף של מעבדות בינה מלאכותית סיניות שהשתמשו במודל קלוד שלה כדי לאמן מודלים מתחרים. השמות שמופיעים בדוח אינם שוליים: עליבאבא, מונשוט ודיפסיק.
הפעולה מכונה בדוח זיקוק בלתי חוקי. הרעיון פשוט: מריצים כמויות עצומות של שאילתות במודל חזק, אוספים את התשובות, ומשתמשים בהן כדי לאמן מודל אחר שיחקה חלק מהיכולות שלו. במקום להשקיע מיליארדים באימון מאפס, משלמים על שימוש ומקבלים קיצור דרך.
המספרים הם מה שהופך את הסיפור לחריג. הקמפיין הגדול ביותר שאנתרופיק מדדה מיוחס לעליבאבא ומנה יותר מ-151 מיליון אינטראקציות עם קלוד בין מאי ליולי. בשיא הפעילות מדובר בכמעט שלושה מיליון אינטראקציות ביום, שנעשו דרך יותר מ-3,500 חשבונות שהוגדרו כמזויפים.
לפי הדוח, עליבאבא השתמשה בפלטים של קלוד כדי לסייע באימון מודלי קוון שלה, וגם למחקר רחב יותר שכלל למידת חיזוק וארכיטקטורה של מודלים.
החלק המטריד יותר נוגע למונשוט, החברה הבייג'ינגית שמאחורי משפחת המודלים קימי. לפי הדוח היא העבירה בשקט חלק מבקשות הלקוחות שיועדו לקימי אל קלוד, והציגה למשתמשים את תשובות קלוד כאילו הגיעו מהמודל שלה. בתקופה של עשרה ימים הועברו כמעט 300 אלף בקשות לקוחות, רובן המכריע למודלי קלוד אופוס, דרך רשת של 5,380 חשבונות מזויפים שרובם נראו כאילו הם ממוקמים בסינגפור וביפן.
סך האינטראקציות שיוחסו למונשוט בין מאי ליולי עומד על יותר מ-23 מיליון. דיפסיק, שהתפרסמה בשנה שעברה בזכות יכולות גבוהות ועלות נמוכה, נקטה לפי הדוח שיטות דומות והעבירה אף היא שיחות לקוחות לקלוד בלי ליידע אותם. באנתרופיק מדדו יותר מ-12 מיליון ניסיונות זיקוק שיוחסו לדיפסיק לאורך 14 ימים ביולי.
מכאן מגיעה הבעיה שאינה עסקית בלבד. חלק מהשיחות שהועברו הכילו מידע רגיש, ובכלל זה מידע ממשתמשים פרטיים, מתאגידים רב לאומיים גדולים ומגורמים הקשורים למדינות. אנתרופיק מציינת שאינה יודעת אם מונשוט יידעה את לקוחותיה שהבקשות שלהם נשלחות לחברה אמריקאית, ושהפרקטיקות האלה ככל הנראה אינן עולות בקנה אחד עם דיני הפרטיות ועם תנאי השימוש של המעבדות עצמן.
זו נקודה שכדאי לעצור עליה. ארגון שמשתמש בשירות AI סיני מתוך הנחה שהמידע שלו נשאר במערכת אחת, עשוי לגלות שהוא עבר דרך מערכת אחרת לגמרי, בחו"ל, בלי ידיעתו ובלי הסכמתו.
הדוח כולו מכסה פעילות שאנתרופיק אומרת שזיהתה ושיבשה בין דצמבר 2025 לאוגוסט 2026, בשבעה תחומים: מבצעי סייבר, מבצעי השפעה, מעקב, הונאות ותרמיות, שימוש לרעה בתחום הביולוגי, פיתוח נשק קונבנציונלי, וזיקוק מודלים. שיאומי מופיעה אף היא ברשימת החברות שנזכרות בדוח. אף אחת מהחברות שנזכרו לא הגיבה.
- אנבידיה שוקלת להשקיע 10 מיליארד דולר באנתרופיק - לקראת הנפקה בשווי 2 טריליון דולר
- מנכ"ל אנתרופיק קורא להאט את פיתוח ה-AI, ומאסק ואלטמן מצטרפים
המשמעות הכלכלית ברורה. אחד הטיעונים המרכזיים בעד התמחור של חברות ה-AI המובילות הוא שהיכולת שלהן קשה לשכפול, מפני שהיא דורשת הון עצום ומחשוב נדיר. אם אפשר לקנות חלק מהיכולת הזו במחיר של שאילתות, החפיר הזה צר יותר ממה שנדמה, וזו שאלה שנוגעת ישירות לתמחור של כל השרשרת. להרחבה: מנכ"ל אנתרופיק קורא להאט את פיתוח ה-AI.
לקורא הישראלי יש כאן שתי נגיעות. הראשונה בתיק ההשקעות, שכן חברות התשתית והמודלים תופסות נתח גדל במדדים העולמיים שבהם מושקע החיסכון הפנסיוני. השנייה מעשית יותר: חברות ישראליות רבות בונות מוצרים על גבי מודלים חיצוניים, והדוח הזה ממחיש שהשאלה מי באמת מריץ את השאילתה בקצה השני אינה תמיד ברורה. להרחבה: אנתרופיק מודה שקלוד פרץ לשלושה ארגונים אמיתיים.
