ה-AI הופך לאנושי יותר, אבל האם גם אנחנו הופכים לרובוטיים?

החשש המרכזי סביב הבינה המלאכותית בשנים האחרונות היה שמחשבים יהפכו דומים מדי לבני אדם. מחקר חדש מציע להסתכל על התהליך גם מהכיוון ההפוך: בזמן שאנחנו מלמדים את המכונות לדבר, להגיב ולהתנהג כמונו, ייתכן שאנחנו מתחילים להתנהג באופן שנוח יותר למכונות להבין.

המחקר, שפורסם כתב העת המדעי AI & Society, מכנה את התופעה האפשרית בשם "אנושיות רובוטית". החוקרים סלסן אוזטורקג'אן, ז'אן פול דה קרוס פרונאר ואינצ'י טוראל מנסון אינם טוענים שבני אדם יהפכו לרובוטים במובן המילולי, אלא שאינטראקציה ממושכת עם מערכות AI עשויה לדחוף אותנו להציג את עצמנו בצורה ברורה, צפויה יותר, ובעיקר בצורה שקל יותר לאלגוריתם לעבד.

מערכות AI כבר אינן רק כלי שמחכה לפקודה. צ'אטבוטים, מערכות המלצה, נציגי שירות ורובוטים חברתיים מסוגלים לנהל שיחה, לזכור מידע, להתאים תשובות ולהעניק למשתמש תחושה שהמערכת מכירה אותו.

מכאן עשויה להיווצר לולאה: האדם מדבר עם המערכת, המערכת בונה עליו מודל, מחזירה תשובות בהתאם למודל הזה, והאדם לומד בהדרגה כיצד לדבר ולהתנהג כדי לקבל ממנה תגובה טובה ומדויקת יותר.

לאורך זמן, מציעים החוקרים, ייתכן שלא רק ה-AI ילמד אותנו. גם אנחנו נלמד להיות האנשים שה-AI מצליח להבין.

הבינה המלאכותית כבר הפכה לחלק משגרת העבודה, הלימודים והחיים האישיים, ולכן השאלה הזאת רלוונטית הרבה מעבר לרובוט שירות בחנות. ככל שהמערכות נכנסות ליותר תחומים, כך גדל מספר האינטראקציות שבהן אנחנו מתאימים את עצמנו לכללים שלהן.

חלק גדול מהדיון הציבורי על AI מתמקד בפרטיות, הטיות, אבטחת מידע, תעסוקה ומידע שגוי. המחקר החדש מצביע על סיכון מסוג אחר: השפעה אפשרית על האופן שבו האדם מבין ומציג את עצמו.

מערכת ממוחשבת אינה יכולה להתמודד עם מלוא המורכבות של אדם. כדי לחזות מה נרצה לקנות, לראות, לקרוא או לעשות, היא הופכת אותנו למאפיינים שניתן למדוד ולסווג.

מבחינת האלגוריתם, משתמש יכול להיות אוסף של העדפות, היסטוריית רכישות, דפוסי גלישה, שאלות, מיקומים, תגובות והסתברויות לגבי הפעולה הבאה שלו.

• הרובוט שעולה 399 דולר קיבל הזמנות של 2.6 מיליון דולר ביום
• חשבון ה-AI מגיע למיקרוסופט: עובד אחד צרך טוקנים בשווי 28 אלף דולר בחודש

האדם האמיתי פחות מסודר. בני אדם משנים דעה, סותרים את עצמם, מנסים דברים חדשים, מתחרטים ורוצים היום דברים שלא רצו אתמול.

הבעיה מתחילה כאשר הפרופיל המצומצם שבנתה המערכת חוזר אלינו שוב ושוב באמצעות התאמה אישית. אם האלגוריתם קבע שאנחנו אוהבים סוג מסוים של תוכן, הוא מציע לנו ממנו עוד. אם אנחנו מגיבים להצעה, המערכת מקבלת חיזוק לכך שהסיווג שלה היה נכון.

כך האלגוריתם אינו רק מתאר את העבר. הוא מתחיל להשפיע על האפשרויות שנפגוש בעתיד.

שלושה שלבים בדרך ל"אנושיות רובוטית"

בלב המחקר נמצא מנגנון בן שלושה שלבים:

בשלב הראשון נוצרת מעין מציאות חברתית מלאכותית. מערכת AI מתקדמת אינה נתפסת עוד כמחשבון או כמנוע חיפוש. היא מנהלת שיחה, מגיבה בצורה אישית ולעיתים אף מייצרת תחושה של אמפתיה והדדיות. ככל שהיא נתפסת כחברתית יותר, המשתמש עשוי לייחס לאינטראקציה איתה משמעות גדולה יותר.

• נאס"א שיגרה טלסקופ ב-4.3 מיליארד דולר: המשימה שתנסה להבין ממה באמת עשוי היקום
• האם וויגובי וזפבאונד הופכות לתרופות אריכות חיים?

בשלב השני המערכת בונה ייצוג חישובי של המשתמש. היא מחלצת מהאינטראקציות את הדברים שניתן לזהות, לסווג ולחזות, ואז מחזירה את הייצוג הזה לאדם באמצעות שירות מותאם אישית.

מבחינת המשתמש, התחושה יכולה להיות שהמערכת "יודעת מי אני". בפועל, היא מכירה מודל סטטיסטי שנבנה מתוך המידע שהיה זמין לה.

השלב השלישי הוא ההתאמה של האדם למערכת. כאשר המשתמש מגלה איזה ניסוח, התנהגות או בחירה מניבים תגובה טובה יותר, הוא עשוי לשנות את האופן שבו הוא מציג את עצמו.

במקום שהמכונה בלבד תלמד לדבר בשפה אנושית, האדם לומד לדבר בצורה שקל למכונה להבין.

מכאן יכולה להתפתח לולאת משוב: האדם נעשה קריא יותר למערכת, המערכת מצליחה לחזות אותו טוב יותר והחיזוי המוצלח מחזק את הדפוסים הקיימים.

הנקודה החשובה היא שגם בני אדם משפיעים זה על זה. אנחנו מדברים אחרת עם מנהל, חבר, בן זוג או אדם זר. הזהות שלנו תמיד התפתחה גם באמצעות תגובות של אחרים.

ההבדל שמדגישים החוקרים נמצא באופי של הצד השני. אדם יכול לא להסכים איתנו, לפרש אותנו בצורה אחרת או להפתיע אותנו. אינטראקציה אנושית מלאה בחיכוך ובאי הבנות.

אלגוריתם בנוי כדי לזהות דפוסים ולהשתפר בחיזוי שלהם. אם צפינו בכמה סרטונים בנושא מסוים, מערכת המלצה תציג עוד סרטונים מאותו סוג. כל צפייה נוספת מחזקת את הסיווג המקורי.

החוקרים מעלים אפשרות שמנגנון דומה יכול להתרחב מהעדפות צרכניות אל האופן שבו אנחנו מציגים את עצמנו. אדם עשוי לבחור בהדרגה בניסוח ברור יותר, לצמצם סתירות או להישאר בתוך דפוסים שהמערכת כבר למדה לזהות.

המאמר מציע השערות שניתן יהיה לבחון במחקרים עתידיים. אחת מהן היא שככל שמערכת יוצרת תחושה חזקה יותר של נוכחות חברתית והדדיות, כך המשתמש ישקיע יותר בניהול האופן שבו הוא מציג את עצמו בפניה.

השערה נוספת עוסקת בהתאמה אישית. ככל שהמערכת מסיקה יותר מסקנות על האדם ומחזירה אותן אליו, כך הוא עשוי לעבור מתפיסה מורכבת וסיפורית של עצמו לתפיסה שקל יותר להפוך לנתונים. החוקרים מתארים זאת כמעין דחיסה של הזהות.

ההשערה השלישית נוגעת לאינטראקציה החוזרת. שימוש ממושך במערכת עשוי, לטענתם, לעודד ביטוי עצמי ברור, עקבי וצפוי יותר, משום שאלה התכונות שקל יותר למערכת לעבד.

אם ההשערה הזאת תאומת, האלגוריתם לא רק ילמד כיצד בני אדם מתנהגים. בני האדם עצמם ילמדו כיצד להתנהג באופן שקל יותר לאלגוריתם ללמוד.

האפשרות הזאת נעשית מעניינת יותר ככל שמערכות שיחה הופכות אישיות. מנוע המלצות בחנות פוגש אותנו בעיקר כאשר אנחנו קונים. צ'אטבוט יכול ללוות אותנו בעבודה, לימודים, כתיבה, תכנון נסיעות, צרכנות וקבלת החלטות.

ככל שאנחנו חולקים יותר מידע אישי עם מערכות AI, גדלות גם השאלות סביב האופן שבו המידע משמש לבניית התגובה שנקבל. מערכת שזוכרת ומכירה העדפות יכולה להיות מועילה יותר, אך גם לבסס מהר יותר תמונה מסוימת של המשתמש.

כשהמערכת מכירה אותנו טוב יותר, האם אנחנו מצטמצמים?

אחת הנקודות המעניינות במחקר היא שהסיכון המתואר בו, אם הוא אכן קיים, לא חייב להרגיש כמו פגיעה. להפך.

שירות מהיר יותר, המלצות מדויקות, פחות צורך לחזור על מידע וחוויית משתמש חלקה הם יתרונות ברורים. ככל שהמערכת מכירה אותנו טוב יותר, היא יכולה לצמצם את החיכוך.

השאלה שמעלים החוקרים היא מה קורה כאשר הפחתת החיכוך גם מצמצמת את מגוון האפשרויות שאנחנו פוגשים.

אם מערכת יודעת מראש מה אנחנו כנראה רוצים, היא יכולה להציע זאת לפני שבחנו משהו אחר. אם היא חוזרת על התהליך שוב ושוב, ההיסטוריה שלנו מתחילה להשפיע על מגוון האפשרויות שנראה בעתיד.

כך התאמה אישית עלולה, לפחות תיאורטית, להפוך לנבואה שמחזקת את עצמה.

הדיון משמעותי במיוחד לחברות שמטמיעות AI בשירות לקוחות. מבחינת עסק, מערכת שמכירה את הלקוח ומצליחה לצפות את צרכיו יכולה לקצר שיחות, לשפר המרות ולהקטין עלויות.

המחקר מציע להוסיף שאלה נוספת: איזו התנהגות המערכת מתגמלת כדי להגיע ליעילות הזאת?

אם מערכת עובדת טוב יותר כאשר הלקוח מתנסח בצורה צפויה, בוחר מתוך קטגוריות ברורות ונשאר בתוך דפוסים שכבר זוהו, היא עשויה ליצור תמריץ סמוי להתיישר לפי המבנה שלה.

הסוגיה עשויה להיות רגישה במיוחד במערכות בעלות מעמד סמכותי יותר, למשל בריאות, שירותים ציבוריים או תהליכים ביורוקרטיים. במקומות כאלה למשתמש קשה יותר להתעלם מהקטגוריות ומהמסלול שהמערכת מציבה בפניו.

החוקרים אינם טוענים שכל אדם יגיב באותה דרך. הם מציעים שההשפעה עשויה להיות חזקה יותר כאשר מערכת מציגה תכונות אנושיות יותר ומצליחה ליצור תחושה של נוכחות חברתית.

גם מאפייני המשתמש עשויים להשפיע. אנשים שפחות בטוחים בהגדרה העצמית שלהם או רגישים יותר למשוב חיצוני עשויים להגיב בצורה שונה ממי שמחזיקים בתחושת זהות יציבה יותר.

מכאן מגיע רעיון רחב שמעלה המאמר: לצד הזכות לפרטיות, ייתכן שבעידן ה-AI יהיה צורך לחשוב גם על הזכות של אדם לא להיות מצומצם לפרופיל שהמערכת בנתה עבורו.

מערכות חישוביות חייבות לפשט את העולם כדי לעבוד. הסיכון מתחיל כאשר הפישוט חוזר אל האדם שוב ושוב כאילו הוא תיאור מלא שלו.

מערכת אחראית, לפי הגישה הזאת, צריכה לאפשר למשתמש לערער על ההנחות שהיא מסיקה לגביו, לשנות כיוון ולא להיתקע בתוך סיווג שנבנה מהתנהגות קודמת.

דווקא האפשרות של המערכת לטעות לגבינו, והיכולת שלנו לתקן אותה, עשויות להיות חשובות לשמירה על חופש הבחירה.

יש לציין כי זהו מאמר תיאורטי שמציג מנגנון והשערות למחקר עתידי. החוקרים עצמם קוראים לערוך ניסויים ומחקרי אורך כדי לבדוק האם התופעה אכן קיימת, באילו תנאים היא מופיעה ועד כמה היא משמעותית.

לכן מוקדם לקבוע שה-AI גורם לנו להתנהג כמו רובוטים. מה שהמחקר ב-AI & Society כן עושה הוא להפוך את השאלה.