מייסד ויקיפדיה מזהיר: ה-AI מעמיק את משבר האמון ברשת
AI הבינה המלאכותית לא משנה רק את הדרך שבה אנשים כותבים, מחפשים מידע ומייצרים תוכן. לדבריו של ג'ימי וויילס, ממייסדי ויקיפדיה, היא גם מעמיקה בעיה רחבה יותר - משבר האמון. וויילס מזהה בשנים האחרונות ירידה מתמשכת באמון הציבור במוסדות, בתקשורת, בפוליטיקה ובעסקים. לדבריו, ה-AI הגנרטיבי מאיץ את התהליך הזה משום שהוא מקשה יותר ויותר להבחין בין תוכן אמיתי, תוכן שעבר עריכה ותוכן שנוצר כולו על ידי מכונה.
בכנס של וול סטריט ג'ורנל אמר וויילס כי "יש ירידה ארוכת שנים באמון", והוסיף שהמגמה הזו משפיעה על תחומים רבים. לדבריו, זו לא רק בעיה של עיתונות או של רשתות חברתיות, אלא תהליך רחב יותר שבו אנשים נוטים לפקפק כמעט בכל דבר שהם רואים ברשת, גם כשהוא אמיתי. הנקודה החריפה ביותר בדבריו נגעה לווידאו. במשך שנים וידאו נחשב לאחת הראיות החזקות ביותר. כשאנשים ראו אדם אומר או עושה משהו, היה קל יותר להאמין שזה אכן קרה. אבל בעידן שבו מודלים יכולים לייצר קולות, פנים, תנועות גוף וסצנות שלמות, גם היתרון הזה נשחק. וויילס אמר בכנס כי ה-AI הגנרטיבי "הרס" את האמון בווידאו. לדבריו, יותר ויותר אנשים מניחים מראש שהתוכן שהם רואים מזויף.
הבעיה אינה רק פייק ניוז, אלא שחיקה כללית באמון
הדיון סביב AI מתמקד בדרך כלל בשאלה אם מודל מסוים מדייק, אם הוא מחליף עובדים, אם הוא מפר זכויות יוצרים או אם הוא יוצר הזדמנויות עסקיות חדשות. אבל וויילס מצביע על בעיה עמוקה יותר. לדבריו, אם הציבור מאבד את היכולת להבחין בין אמת לשקר, כל המרחב הדיגיטלי משתנה. הדבר משפיע על חדשות, פוליטיקה, עסקים, פרסום, מסחר מקוון וגם על הקשר בין חברות ללקוחות.
סרטון של מנכ"ל יכול להיתפס כמזויף, הודעה של פוליטיקאי כמניפולציה ותמונה ממלחמה יכולה לעורר ספק גם אם היא אמיתית. במצב כזה, הבעיה אינה רק שהתוכן המזויף הופך למשכנע יותר, אלא שגם האמון בתוכן אמיתי נשחק. בעיניו של וויילס, זה עשוי להיות אחד האתגרים הגדולים של עידן ה-AI. השאלה אינה רק איך מייצרים מידע, אלא איך בודקים שהוא נכון. ככל שכלי היצירה הופכים לזולים ונגישים יותר, גדל הערך של מי שיודע לבדוק מידע, לאמת אותו ולהציג אותו בהקשר הנכון. לצד המודלים שמייצרים טקסט, תמונות וסרטונים, יהיה צורך גם בכלים ובמערכות שיסייעו להחזיר את האמון במידע.
ויקיפדיה לא ממהרת להיבהל
מעניין שוויילס לא רואה בויקיפדיה את אחד הנפגעים המרכזיים של מהפכת ה-AI. לדבריו, כלי בינה מלאכותית לא מתאימים לכתיבת ערכים אנציקלופדיים, והקהילה של ויקיפדיה אפילו מעודדת להימנע משימוש בהם לצורך כתיבה. ערך אנציקלופדי דורש מקורות, בדיקות, עריכה ודיוק. מודל שפה יכול לכתוב בצורה טובה, אבל הוא גם עלול להמציא פרטים, לערבב בין מקורות וליצור טקסט שנשמע משכנע גם כשהוא לא נכון.
במובן הזה, ויקיפדיה פועלת בצורה שונה לגמרי. במקום מערכת שנותנת תשובה מיידית, מדובר בקהילה של עורכים שבודקים מידע, מתקנים טעויות ומסתמכים על מקורות. זה לוקח יותר זמן, אבל גם מאפשר לראות איך המידע נבדק ונערך. דווקא בתקופה שבה הרשת מוצפת בתוכן שנוצר במהירות, לתהליך הזה יש ערך גדול יותר. למרות זאת, גם ויקיפדיה מרגישה את השינוי. כלי AI כבר משתמשים בערכים שלה כדי לאמן מודלים או לענות למשתמשים בלי לשלוח אותם לאתר עצמו. זה מביא לפחות גולשים שנכנסים לאתר, אבל וויילס לא רואה בכך איום משמעותי. לדבריו, ויקיפדיה לא בנויה כמו אתר תוכן רגיל שמבוסס רק על כניסות ופרסום.
המאבק הבא: מי יזכה לאמון המשתמשים
הדברים של וויילס מתחברים לשאלה רחבה יותר שמעסיקה את כל תעשיית האינטרנט: מי יהיה מקור האמת בעידן שבו כל אחד יכול לייצר כמעט כל דבר? גוגל, מטא, OpenAI, אנתרופיק, מיקרוסופט ואתרי התוכן הגדולים מנסים לבנות מערכות שמספקות תשובות מהירות, אבל ככל שהתשובות האלה מחליפות את הגלישה למקורות המקוריים, עולה גם האחריות שלהן לדיוק.
זה נכון במיוחד בשווקים רגישים כמו בריאות, משפט, פיננסים, פוליטיקה וביטחון. טעות בתשובה על מתכון היא דבר אחד. טעות במידע רפואי, פיננסי או ביטחוני היא כבר סיכון אחר לגמרי. לכן נראה שהשלב הבא של ה-AI לא יהיה רק מודלים חזקים יותר, אלא מודלים שאפשר לסמוך עליהם יותר, עם מקורות ברורים, יכולת בדיקה, שקיפות ותיקון טעויות.
ועדיין, גם זה לא פותר הכל. אם הציבור מתרגל לחשוד בכל וידאו, בכל תמונה ובכל טקסט, גם תוכן אמיתי צריך לעבוד קשה יותר כדי להוכיח את עצמו. זו כנראה הסיבה שוויילס מתעקש שהבעיה אינה רק טכנולוגית. היא חברתית. AI לא יצר את משבר האמון, אבל הוא בהחלט נתן לו מנוע חזק יותר.
- ChatGPT הגיע למיליארד משתמשים חודשיים - המתחרות צומחות פי 10
- ג'דיפיי גייסה 33 מיליון דולר כדי לאפשר לסוכני AI להבין את ההקשר הארגוני
