הכול התחיל ב-1989 במעבדות CERN בשוויץ. טים ברנרס-לי, פיזיקאי בריטי צנוע, המציא משהו שישנה את העולם לנצח - את הרשת העולמית, ה-World Wide Web. אבל הפריצה האמיתית התחילה רק באמצע שנות התשעים, כשהדפדפן Mosaic שוחרר ב-1993 והאינטרנט הפך לזמין מסחרית ב-1995. תוך שנים ספורות, מיליארדי בני אדם חיברו את עצמם לרשת גלובלית של מידע, תקשורת ומסחר. זו הייתה מהפכת התקשורת הגדולה ביותר מאז המצאת הדפוס.

ביום שני זה קורה: הוועידה הכלכלית של ביזפורטל. מוזמנים לשמוע את המנהלים הבכירים במשק, לקבל תובנות על השקעות, להבין את השפעות ה-AI על חברות והאם זה הזמן לצמצם פוזיציה במניות? וגם - לראות ולקבל את הדירוג של ביזפורטל למניות פיננסיות (הדירוג לחברות התשתיות שיצרנו לקראת הועידה הקודמת שהתמקדה בתשתיות ייצר תשואה עודפת) - להרשמה

שלושים שנה חלפו, ובנובמבר 2022 החלה מהפכה נוספת - OpenAI שחררה את ChatGPT לעולם, ופתאום, מה שאלן טיורינג הגדיר ב-1950 כסימן ההיכר האולטימטיבי של אינטליגנציה - היכולת ליצור טקסט איכותי בשפה טבעית - הפך לזמין לכל אחד עם חיבור לאינטרנט. אבל כאן מתחיל הסיפור המטריד שמעלה פרופסור משה י. ורדי, מדען מחשב בכיר מאוניברסיטת רייס, במאמר מרתק שפורסם בכתב העת היוקרתי Communications of the ACM.

"אני תוהה," כותב ורדי בנימה שמסתירה חרדה, "אם מהפכת ה-AI הגנרטיבי תבלע בסופו של דבר את מהפכת הרשת". זו לא סתם תהייה פילוסופית. ורדי מציג טיעון מפורט ומנומק לכך שהטכנולוגיה החדשה ביותר שלנו עלולה להרוס את התשתית הדיגיטלית שעליה נשען העולם המודרני.

• עליבאבא מאותתת ל־OpenAI: אפליקציית Qwen נפתחת בסערה עם יותר מ־10 מיליון הורדות בשבוע
• המדוזה שלומדת ללא מוח ואיך זה קשור ל-AI
• המלצת המערכת: כל הכותרות 24/7

המידע רוצה להיות חופשי

כדי להבין את העומק של הבעיה, ורדי מביא דוגמה פשוט. הוא מציין כי בעבר מקליד בגוגל 'איך לאזן גלגלים ברכב?' וגוגל הייתה שולחת אותו לעמוד אינטרנט על איזון גלגלים. היום הוא שואל צ'אטבוט את אותה השאלה בדיוק ומקבל תשובה מפורטת, בלי לבקר בשום עמוד אינטרנט. לכאורה, זה נשמע מושלם - יעילות, נוחות, חיסכון בזמן. אבל ורדי מזכיר לנו משהו שקל לשכוח: כל המערכת האקולוגית של האינטרנט בנויה על כך שאנשים מבקרים באתרים. כבר ב-2018 הוא הצביע על הבעייתיות - "Information wants to be free", המידע רוצה להיות חופשי. הסלוגן הזה, שנולד הוביל למודל העסקי שמניע את גוגל ואת רוב האינטרנט - פרסום.

גוגל שולחת משתמשים לעמודי אינטרנט, ללא תשלום, שמקושרים לפרסומות גוגל שמשולמות על ידי מפרסמים. אבל משתמשים בדרך כלל רוצים מידע, לא עמודי אינטרנט. עמודי אינטרנט הם רק אמצעי להשגת מידע. והנה הפאנץ' של ורדי "אם משתמשים מאבדים את המוטיבציה לבקר בעמודי אינטרנט, אז מפרסמים מאבדים את המוטיבציה לשלם עבור פרסומות גוגל. אם אנחנו יכולים למצוא מידע על ידי שאילת AI גנרטיבי, מי צריך את הרשת?"

הבעיה כבר לא תיאורטית. ורדי מציין שגוגל עצמה כבר מציגה "AI Overview" בראש דפי התוצאות שלה, מה שמייתר את הצורך לבקר באתרים. זו לא רק בעיה עבור בעלי האתרים - זו בעיה עבור כל המודל העסקי של האינטרנט כפי שאנחנו מכירים אותו. אבל המודל העסקי הקורס הוא רק קצה הקרחון. ורדי חושף בעיה עמוקה הרבה יותר, בעיה שנוגעת לעצם היכולת של AI להמשיך להתפתח ולהשתפר. "הסיכון לא נעלם גם אם מפתחי עמודי אינטרנט ימשיכו לפרסם עמודים ציבוריים", הוא כותב, ואז מצטט את הפסוק המקראי "בזיעת אפיך תאכל לחם", כדי להזכיר לנו אמת בסיסית על הטבע האנושי - אנחנו לא אוהבים לעבוד קשה.

• גיוס 10 מיליון דולר ל Blast Security - המטרה: ענן מוגן כברירת מחדל
• מחקר: רוב מתקפות הסייבר מתרחשות בסופ"שים ובחגים
• תוכן שיווקי שוק הסקנדרי בישראל: הציבור יכול כעת להשקיע ב-SpaceX של אילון מאסק
• 350 מיליארד דולר ב-4 שנים: איך אנתרופיק הביסה את ChatGPT...

"כתיבה היא עבודה קשה," מדגיש ורדי, "לא פיזית אבל מנטלית. אבל עכשיו יש לנו AI גנרטיבי! יותר ויותר אנשים משתמשים ב-AI גנרטיבי כדי ליצור טקסט: זה כל כך הרבה יותר קל מלכתוב". כדי להמחיש את הנקודה, ורדי מספר שהוא עצמו שאל את ChatGPT: "האם AI תהרוס את הרשת העולמית?" והתשובה שקיבל הייתה: "לא סביר - אבל זה עלול לשחוק את ערכה אלא אם כן תהיה רגולציה ושימוש אחראי". הצ'אטבוט אפילו הציע ניתוח מפורט של הסוגיה.

כאן מגיע הטוויסט. "אני פחות אופטימי מ-ChatGPT", כותב ורדי. "זה כל כך קל ליצור טקסט באמצעות AI גנרטיבי שאנשים בהכרח ייצרו טקסט לעמודי אינטרנט ציבוריים באמצעות AI גנרטיבי. אבל כפי שציינתי קודם, עמודי אינטרנט ציבוריים הם הנתונים הגולמיים לאימון מודלי שפה גדולים. מה קורה כשמודלי שפה גדולים מאומנים על טקסטים שנוצרו על ידי מודלי שפה גדולים?"

משחק "טלפון שבור" דיגיטלי

התשובה לשאלה הזו הגיעה במאמר מדעי שפורסם ביולי 2024 בכתב העת היוקרתי Nature, תחת הכותרת הדרמטית "AI Models Collapse when Trained on Recursively Generated Data" - מודלי AI קורסים כשהם מאומנים על נתונים שנוצרו באופן רקורסיבי. ורדי מצטט את הממצא המרכזי של החוקרים: אנחנו מוצאים ששימוש לא מבחין בתוכן שנוצר על ידי מודלים באימון גורם לפגמים בלתי הפיכים במודלים התוצאתיים, שבהם זנבות של התפלגות התוכן המקורית נעלמים. 

במילים פשוטות יותר, כשמודלי AI לומדים מתוכן שנוצר על ידי AI אחרים, האיכות מתדרדרת באופן קטסטרופלי. המגוון נעלם. המידע הייחודי, המעניין, החריג - כל מה שנמצא ב"זנבות" של ההתפלגות הסטטיסטית, פשוט מתאדה. זה כמו משחק "טלפון שבור" דיגיטלי, שבו כל איטרציה מאבדת עוד קצת מהמורכבות והעושר של המקור. ורדי מציין שיש טיעון נגדי - שקריסת המודלים אינה בלתי נמנעת. "היא יכולה להימנע אם תוכן שנוצר באמצעות מודלי שפה גדולים מתווסף לתוכן שנוצר על ידי בני אדם, במקום להחליף אותו". אבל מיד הוא שואל את השאלה הקריטית: "האם אנחנו במשטר של תוכן תוספתי או במשטר של תוכן חלופי? רק הזמן יגיד".

ורדי מביא לדיון מושג שטבע הסופר והאקטיביסט קורי דוקטורוב - "enshittification" - מילה שמתארת את האסטרטגיה העסקית של פלטפורמות אונליין. "לתפוס משתמשים עם מוצרים מפתים, רק כדי להרע אותם מאוחר יותר על ידי הסטת ערך מהמשתמשים", מסביר ורדי. "האם הרשת עוברת אנשיטיפיקציה?" הוא שואל ומסביר שהרשת הפכה שימושית להפליא כי הרבה אנשים יצרו תוכן, וגוגל מצאה את התוכן האיכותי ביותר בתגובה לשאלות שלנו. אבל האיכות הנוכחית של תשובות שנוצרו על ידי AI גנרטיבי היא כזו שאנשים טוענים ש'כל האינטרנט חוזר לגרסת בטא'.

הראיה לכך ברורה לכל מי שמשתמש היום בגוגל. למעשה בתחתית כל תשובה שנוצרה על ידי AI, גוגל מוסיפה את כתב הוויתור, בפונט קטן, 'תשובות AI עשויות לכלול טעויות'. ספק גדול אם גולשים הולכים למקור. 

זו אירוניה מרה. המודל שכולנו אוהבים לשנוא - זה שעוקב אחרי כל קליק שלנו, אוסף את הנתונים שלנו ומוכר אותם למרבה במחיר - הוא אותו מודל שאיפשר את פריחתה של הרשת החופשית והפתוחה. ועכשיו, כשמגיעה טכנולוגיה שלכאורה משחררת אותנו מהצורך לגלוש בין אתרים ולהיחשף לפרסומות, אנחנו מגלים שאולי זרקנו את התינוק עם המים.

הרשת תהפוך להד דיגיטלי של עצמה

המאמר של ורדי מסתיים בנימה פסימית במיוחד. "האם AI תהרוס את הרשת?" הוא שואל, ועונה: "אפילו ChatGPT מסכים שזה עלול לשחוק את ערכה אלא אם כן תהיה רגולציה ושימוש אחראי". אבל מה המשמעות האמיתית של "שחיקת ערך"? זה לא רק שפחות אנשים יבקרו באתרים. זה שהמידע עצמו יאבד את האיכות שלו, את המגוון שלו, את האנושיות שלו. הרשת תהפוך ממקום של יצירתיות אנושית אינסופית למעין הד דיגיטלי של עצמה, מראה מעוותת שמשקפת רק את מה שכבר נאמר מיליון פעמים קודם.

התמונה שמצטיירת היא של מעגל קסמים שהפך למלכודת. AI צריכה תוכן אנושי כדי ללמוד, אבל הנוחות שלה גורמת לבני אדם להפסיק ליצור תוכן מקורי. ככל שיותר תוכן באינטרנט נוצר על ידי AI, כך פוחתת האיכות של המודלים החדשים. וככל שהאיכות פוחתת, כך גדל הצורך בתוכן אנושי איכותי - אבל מי ייצור אותו? המאמר של ורדי מעלה שאלות שחורגות הרבה מעבר לטכנולוגיה. אלו שאלות על הטבע האנושי, על הערך של יצירתיות, על המשמעות של ידע ומידע בעידן הדיגיטלי.

האם כתיבה אנושית תהפוך למוצר יוקרה, משהו נדיר ויקר שרק מעטים יוכלו להרשות לעצמם? האם נראה את הולדתו של "אינטרנט אורגני", מקביל דיגיטלי למזון אורגני, שבו אתרים יתגאו בכך שכל התוכן שלהם נכתב על ידי בני אדם אמיתיים? או שמא נמצא דרך לשלב בין העולמות, ליצור סימביוזה בין היצירתיות האנושית לבין העוצמה החישובית של המכונות? ורדי לא מספק תשובות, אבל המסר שלו ברור: אנחנו עומדים בנקודת מפנה קריטית. ההחלטות שנקבל היום לגבי איך להשתמש ב-AI, איך לווסת אותה, ואיך לשמר את הערך של יצירה אנושית, יקבעו את פניה של הרשת, ואולי של התרבות האנושית כולה, לדורות הבאים.

האירוניה הגדולה היא שהטכנולוגיה שהייתה אמורה להיות השלב הבא באבולוציה הדיגיטלית, עלולה להיות בדיוק מה שיחזיר אותנו אחורה. לא לעידן הפרה-דיגיטלי, אלא למשהו גרוע יותר - עידן של מידע מנוון, של ידע שמאבד את צבעו ועושרו, של רשת שהפכה להד חיוור של עצמה. השאלה היא לא רק "האם AI תהרוס את הרשת?" אלא "האם אנחנו ניתן לה?" וזו, בסופו של דבר, שאלה שרק אנחנו, בני האדם, יכולים לענות עליה.