סטודנטים, היזהרו: בקרוב יידעו שהעתקתם מהבינה המלאכותית
סטודנט שהדביק בעבודה סמינריונית פסקאות שלמות מצ'אט של בינה מלאכותית סמך עד עכשיו בעיקר על דבר אחד: קשה מאוד להוכיח מאיפה הגיע הטקסט. הגלאים שמוסדות לימוד הפעילו בשנים האחרונות מנחשים לפי סגנון, ולעתים קרובות טועים. OpenAI עצמה הורידה ב-2023 את הכלי שלה לזיהוי טקסט של מכונה בגלל דיוק נמוך, ומחקר אמריקאי מאותה שנה מצא שגלאים כאלה סימנו יותר ממחצית החיבורים של כותבים שאנגלית היא שפה שנייה עבורם כטקסט שנכתב במכונה. גם המעבדות עצמן מקשות על הזיהוי, כשהן מלמדות את המודלים לכתוב טבעי יותר. להרחבה: אנתרופיק רוצה להיפטר מהכתיבה ה"קלודית": המודל החדש זול ב-40% ומהיר יותר
המערכת שאנתרופיק פרסמה, FlashProve, היא סימן נוסף שהתקופה הזו מתקרבת לסופה. היא מצמידה לכל תשובה הוכחה מתמטית שמראה איזה מודל בדיוק הפיק אותה, וכל אחד יכול לבדוק את ההוכחה על מחשב רגיל בתוך שניות, בלי לראות את המודל עצמו.
צריך לדייק במה שהיא עושה. FlashProve נבנתה בשביל בעיה אחרת: לקוח שמשלם על מודל יקר ורוצה לוודא שהספק לא החליף אותו בשקט במודל זול יותר. ההוכחה נוצרת בשרת של הספק ברגע הכתיבה ונשמרת כקובץ נפרד, בגודל של כ-19 מגה-בייט לכל בקשה. סטודנט שמעתיק את הטקסט למסמך משאיר את הקובץ מאחור, ולמרצה אין מה לבדוק. גם הביצועים רחוקים משימוש המוני: הניסוי נעשה על מודל הלאמה הפתוח של מטא (META), הפקת ההוכחה דורשת פי 70 עד 95 יותר זמן עיבוד מהרצת המודל, ואנתרופיק מבהירה שאין לה כרגע תוכנית להכניס את המערכת למוצרים שלה.
הכלי שקרוב יותר לשולחן של המרצה כבר פועל, אצל אלפאבית (GOOGL). גוגל משלבת בטקסט שג'מיני כותב באפליקציה ובאתר סימן מים סמוי בשם SynthID. מודל שפה כותב מילה אחרי מילה, ובכל שלב בוחר מתוך כמה אפשרויות. הסימן מטה קלות את הבחירות האלה לפי דפוס שמוכר לגוגל, כך שהקורא רואה טקסט רגיל לגמרי, ותוכנה שמחזיקה במפתח המתאים מזהה את הדפוס. בצילומים, בסרטונים ובקבצי שמע גוגל כבר סימנה יותר מ-180 מיליארד פריטים, ופתחה לכלל הציבור כלי שבודק אותם.
גם כאן יש גבולות. הזיהוי סטטיסטי, כלומר הוא נותן סבירות ולא הוכחה, והוא נחלש מאוד כשהטקסט עובר שכתוב יסודי או תרגום. סטודנט שמבקש מהצ'אט תשובה באנגלית ומתרגם אותה לעברית כנראה מוחק את רוב הסימן. מודלים פתוחים שרצים על מחשב ביתי כותבים בלי סימן בכלל, ובדיקת הטקסט עצמה שמורה בינתיים בעיקר אצל גוגל.
ובכל זאת, השילוב בין שני הכלים מסמן כיוון. במקום לנחש לפי סגנון, התעשייה עוברת לראיות: סימן שנטמע בטקסט ברגע הכתיבה, והוכחה קריפטוגרפית שמוצמדת אליו. הרגולציה דוחפת לשם: חוק הבינה המלאכותית של האיחוד האירופי מחייב ספקים של מערכות שמייצרות תוכן לסמן את התוצרים בצורה שמכונה יכולה לזהות. כשסימון כזה יהפוך לברירת מחדל אצל הספקים הגדולים, העתקה של עבודה שלמה מצ'אט מסחרי תהפוך להימור מסוכן הרבה יותר.
הסיפור רחב מהאקדמיה. מעסיק שנותן למועמד מטלת בית, הוצאה לאור שמקבלת כתב יד, לקוח שמשלם לכותב תוכן על מאמר, כולם מתמודדים עם אותה שאלה: מי כתב את הטקסט. גם הוויכוח בין המו"לים לחברות הבינה המלאכותית נשען בסופו של דבר על היכולת לדעת מאיפה הגיע טקסט. להרחבה: בית הדין של האיחוד האירופי מתקרב להכרעה: התשובות של ג'מיני עלולות להפר את זכויות המו"לים. והמגמה חוצה תחומים, עד סימן מים לחלבונים שתוכננו בבינה מלאכותית.
נראה שהשינוי העמוק הוא בנטל ההוכחה. FlashProve נותנת לצד שרוצה להיות שקוף דרך להראות את זה, ומי שיצרף אסמכתה לטקסט שלו ירוויח אמינות. סטודנט שנעזר במודל בגלוי, לפי הכללים של הקורס ועם תיעוד, יוצא מחוזק. מוסדות שכבר החזירו בחינות בעל פה וכתיבה בכיתה עשויים לגלות שזה היה הצעד הראשון, ושהשלב הבא הוא מדיניות ברורה: מתי מותר להיעזר, ואיך מדווחים על זה.
לסטודנטים ההשלכה מוחשית: עבודה שנכתבה כולה בצ'אט מסחרי עשויה לשאת סימן שקשה לראות ושקל יחסית לבדוק, והמפתח לבדיקה נמצא אצל החברה שכתבה אותה.
