בדיקה של אלפי חיפושים: הבינה המלאכותית של גוגל מציגה סיכון חמור לילדים
מכון אמריקאי לבטיחות בינה מלאכותית מצא שהכלים המובנים במנוע החיפוש של גוגל פספסו סימני מצוקה, סיפקו מידע מסוכן והשיבו על שיעורי בית שלמים; מהחברה נמסר שהבדיקה בחנה מקבץ מצומצם של שאילתות שרחוקות מהאופן שבו אנשים מחפשים באמת
כלי הבינה המלאכותית המובנים במנוע החיפוש של גוגל מציבים סיכון חמור לילדים ובני נוער, כך עולה מדוח חדש של מכון אמריקאי לבטיחות בינה מלאכותית, שפועל במסגרת עמותה העוסקת בהשפעת המדיה על ילדים. הממצאים מציבים סימן שאלה מעל אחד המוצרים הנפוצים בעולם, שמשמש מיליארדי אנשים מדי יום.
החוקרים הפעילו חשבונות שהוגדרו כמתאימים לקטינים, וביצעו יותר מ-2,500 חיפושים שחיקו את האופן שבו ילדים שואלים שאלות. לפי הדוח, המערכת פספסה סימנים לאובדנות, הגדירה תסמין של הפרעת אכילה כתקין, ואף סיפקה הנחיות ליצירת תוכן מזויף. באחד המקרים הפנתה המערכת לקו סיוע להפרעות אכילה שהפסיק לפעול עוד ב-2023. בסך הכל, כך נטען, המוצר הפר שבעה מתוך שמונה עקרונות שקבעה העמותה להתנהגות בינה מלאכותית. החוקרים אף בדקו יותר מ-2,000 מקורות שהמערכת הסתמכה עליהם, ומצאו שחלקם הובילו לפורומים ולתכנים בעייתיים. במקרה אחר סיפקה המערכת דרכים לעקוף כלים שאמורים לזהות תוכן מזויף, גם כשהבקשה הגיעה מחשבון של קטין.
מה שמייחד את המקרה הוא שכלי הבינה המלאכותית של גוגל מוטמעים ישירות בחוויית החיפוש שמגיעה כברירת מחדל במכשירים אישיים ובמחשבים של בתי ספר. הדוח בחן שני רכיבים: תקצירי הבינה המלאכותית שמופיעים מעל תוצאות החיפוש, והמצב השיחתי שמאפשר דיאלוג עם המערכת. במקום להפנות לרשימת קישורים חיצוניים, הכלים מנסחים תשובה ישירה בעמוד ומציגים סיכום אוטומטי כמעין תשובה סופית. מנכ"ל גוגל עצמו תיאר בעבר שינוי עמוק שמגיע לאינטרנט, כפי שעולה בכתבה להרחבה: מנכ"ל גוגל: "האינטרנט כמו שאנחנו מכירים אותו עומד להשתנות". על המהפכה בתיבת החיפוש עצמה אפשר לקרוא כאן: גוגל מחסלת את מילות המפתח: תיבת החיפוש תוחלף במערכת שיחה עם בינה מלאכותית.
פרק נוסף בדוח נגע לשיעורי הבית. המערכת השיבה בקלות על שאלות ממטלות לימודיות, ואפשרה לתלמידים עם מחשבים ניידים מבית הספר לקבל קיצורי דרך מבוססי בינה מלאכותית, בעוד המורים נותרו בלי כלי לחסום את השימוש. הבדיקה העלתה גם חוסר עקביות: כ-43% מהשאלות בהיסטוריה קיבלו תשובה שונה בין חיפוש לחיפוש, וכ-29% מהמקורות שצוטטו הגיעו מרשתות חברתיות ומפורומים בלי פיקוח עריכתי.
מגוגל נמסר בתגובה שהבדיקה התמקדה במקבץ מצומצם של שאילתות שרחוקות מהדרך שבה אנשים מחפשים באמת, ושהיא מחמיצה את מדידת הבטיחות והתועלת של המוצר. החברה הוסיפה שהורים יכולים לכבות את החיפוש כולו בחשבון של ילד, אף שהאפשרות לכבות את רכיבי הבינה המלאכותית בלבד עדיין חסרה. לדברי גוגל, בבדיקות הפנימיות שלה עלו תשובות באיכות גבוהה יותר, וחלק מהשאילתות נשאו כוונה עמומה שהמערכת מיטיבה לפענח כשמגיעות שאלות המשך.
הדוח מתפרסם בתקופה שבה מדינות שונות מהדקות את הרגולציה על קטינים ברשת. אוסטרליה, בריטניה וחלקים מאירופה קידמו הגבלות על שימוש ברשתות חברתיות מתחת לגיל 16, ובארצות הברית ניתנו פסקי דין נגד חברות טכנולוגיה בשל תכנון פלטפורמות שנקשר למשבר בבריאות הנפש של בני נוער. עם זאת, הרגולציה על בינה מלאכותית יוצרת בסביבה הדיגיטלית של ילדים עדיין בחיתוליה.
הארגון שמאחורי הדוח מקבל מימון חלקי משחקניות בתעשייה, בהן מתחרות של גוגל כמו OpenAI ואנתרופיק, אך מדגיש שהוא שומר על עצמאות עריכתית. הפרסום מצטרף לשורת חששות סביב תוכן שנוצר בבינה מלאכותית, לרבות גל של תכנים מזויפים בכלים אחרים בשוק. מניית אלפאבית, החברה האם של גוגל, נסחרה סביב 359.5 דולר, עלייה קלה של כ-2%, סימן שהמשקיעים בשלב זה מפרידים בין הסערה הציבורית לבין ההשפעה העסקית.
