אנתרופיק לא מתחמקת: שאלו אותנו את השאלות הקשות על AI

חברת אנתרופיק, שמפתחת את קלוד, פונה לציבור בבקשה קצת לא שגרתית לחברת טכנולוגיה: אל תשאלו אותנו רק מה המודל יודע לעשות, אלא גם מה עלול להשתבש. במסגרת מיזם חדש שנקרא "שאלות קשות" החברה מזמינה אנשים לשלוח שאלות על ההשפעה של AI על מקומות עבודה, ילדים, משפחות, מדע, בריאות, ביטחון והחברה בכלל.

השאלות שאנתרופיק עצמה מציגה נותנות מושג לאן היא מכוונת: מי מחליט מהם הכללים ל-AI? האם הוא ייתן לילדים שלנו עתיד טוב יותר? האם הוא יהפוך את העולם למסוכן יותר? והאם הוא יוכל לעזור למדענים לרפא מחלות? לכאורה, אפשר לראות במהלך הזה בעיקר יחסי ציבור. חברה שבונה אחת הטכנולוגיות החזקות בעולם מבקשת מהציבור להגיד לה ממה הוא מפחד. אבל מאחורי הקמפיין נמצא ויכוח רציני בהרבה: חברות AI משחררות לשוק מערכות שמשתפרות בקצב מהיר מאוד, בעוד שממשלות, מקומות עבודה, בתי ספר ואפילו המשתמשים עצמם עדיין מנסים להבין את ההשפעה שלהן.

הפער הזה הולך וגדל. מודל יכול להשתנות מהותית בתוך חצי שנה, בעוד שחוק, מערכת חינוך או הסכם עבודה מתעדכנים לאורך שנים. לכן חלק מהשאלות שרק לפני שנתיים היו תיאורטיות - למשל האם עובד זוטר עדיין נחוץ כשמודל יכול לכתוב קוד או לנתח מסמך - הופכות מהר מאוד לשאלות ניהוליות של ממש. קלוד עצמו כבר עבר מצ'אטבוט שעונה על שאלות לכלי שמסוגל לקרוא בסיסי קוד, לערוך קבצים ולבצע משימות מורכבות, והיכולות האלה כבר הופכות אותו לכלי עבודה משמעותי עבור מפתחים וארגונים.

64% מפחדים מאובדן מקומות עבודה

אנתרופיק כבר אוספת מידע בהיקפים גדולים כדי לנסות להבין מה הציבור חושב על השינוי הזה. בסקר ראשון של מיזם "הרשומה הציבורית" השתתפו כמעט 52 אלף אמריקאים, והתוצאות מראות פער מעניין בין התקוות מהטכנולוגיה לבין החששות ממנה.

כמעט מחצית מהנשאלים, 48%, מציבים ריפוי מחלות כמו סרטן ואלצהיימר בין שלוש התקוות הגדולות שלהם מ-AI. עוד 36% מקווים שהטכנולוגיה תעזור לאנשים עם מוגבלויות, ו-23% מציינים התקדמות טכנולוגית או הפיכת החיים לקלים יותר. כלומר, לצד הוויכוח על הסיכונים, חלק ניכר מהציבור עדיין תולה בטכנולוגיה ציפיות גבוהות בתחומים שבהם ההתקדמות יכולה להיות בעלת השפעה ישירה על איכות החיים.

בצד השני נמצאת העבודה. 64% מציינים אובדן מקומות עבודה כתוצאה מ-AI כאחד החששות המרכזיים שלהם, והוא מופיע במקום הראשון בכל מדינה בארצות הברית. 56% חוששים מתלות קוגניטיבית - מצב שבו נתרגל לתת למודל לחשוב עבורנו ונאבד חלק מהיכולת לעשות זאת בעצמנו. 52% מודאגים ממידע שקרי.

החששות האלה מגיעים גם עם דרישה להתערבות. יותר מ-70% מהמשתתפים סבורים שלממשלה צריך להיות תפקיד ברגולציה של AI, והתחומים שבהם הם רוצים לראות אותה מתערבת בולטים במיוחד: פרטיות, בטיחות ילדים ואחריות במקרה שהמערכת גורמת נזק. אנתרופיק עצמה כבר קראה למחוקקים בארצות הברית לחייב בדיקות בטיחות ודיווח על תקלות, כך שבמקרה הזה לפחות יש חפיפה מסוימת בין הדרישה שעולה מהסקר לבין העמדה הפומבית של החברה.

ועדיין, הנתון על אובדן מקומות עבודה אינו בהכרח תחזית לכך ש-64% מהציבור חושבים שיפוטרו. הוא מלמד בעיקר איפה נמצאת החרדה. גם אם AI ייצור בסופו של דבר יותר מקצועות משהוא יבטל, המעבר עצמו יכול להיות כואב מאוד לעובדים מסוימים, במיוחד בתחומים שבהם חלק גדול מהעבודה הוא כתיבה, ניתוח, שירות לקוחות, מחקר או קוד.

החשש גם אינו מנותק ממה שכבר קורה בשוק. כלי AI עוברים בהדרגה ממתן תשובות לביצוע פעולות, ואנתרופיק עצמה מפתחת מערכות שמסוגלות לעבוד עם קבצים, תוכנות ותהליכי עבודה. ככל שהמודל מקבל יותר יכולת לבצע את המשימה ולא רק לסייע לעובד שמבצע אותה, השאלה אילו תפקידים ישתנו ואילו ייעלמו נעשית פחות תיאורטית.

• שאלות ותשובות על קלוד: מנוי מול API, מלכודת הדורות הישנים והמכסה הנעלמת
• רגע לפני ההנפקה: הלקוחות של אנתרופיק מעדיפים את המודלים הזולים יותר

80 אלף איש סיפרו לקלוד מה הם רוצים מ-AI

אנתרופיק לא הסתפקה בסקר עמדות. במחקר אחר היא נתנה לקלוד לראיין את המשתמשים שלו. 80,508 אנשים מ-159 מדינות וב-70 שפות השתתפו בשיחות שבהן נשאלו כיצד AI כבר משפיע על חייהם, מה הם רוצים שהוא יעשה בעתיד וממה הם חוששים.

גם כאן התקבלה תמונה מורכבת יותר מהחלוקה הפשוטה בין "אוהבי AI" ל"מתנגדי AI". אותם אנשים שמספרים שהטכנולוגיה עוזרת להם לעבוד מהר יותר, ללמוד דברים חדשים או לקבל עזרה בנושאים מורכבים, מביעים במקביל חשש מהסתמכות מוגזמת עליה. מבחינתם, היתרון והסיכון אינם בהכרח שני צדדים מנוגדים: דווקא ככל שהכלי נעשה שימושי יותר, קל יותר להתרגל לתת לו לעשות חלק גדול יותר מהעבודה.

בקרב משתמשים פעילים, אחד החששות הגדולים ביותר אינו דווקא פיטורים אלא אמינות. כ-27% מהחששות שעלו במחקר נגעו לטעויות ולהזיות של המודלים. אחריהם הגיעו השלכות על מקומות עבודה והכלכלה ואובדן עצמאות אנושית. זה הגיוני. מי שכמעט אינו משתמש ב-AI מפחד בעיקר ממה שהוא שומע עליו. מי שעובד איתו בכל יום כבר מכיר בעיה הרבה יותר פרקטית: הוא יכול לחסוך שעתיים של עבודה ואז, בתוך אותה תשובה, להמציא פרט שגוי לחלוטין. ככל שהמודלים מקבלים יותר אחריות, טעות כזאת אינה רק מטרד שמחייב לשאול שוב - היא יכולה להפוך לבעיה עסקית.

יש כאן גם פער מעניין בין שימוש אישי לשימוש ארגוני. אדם פרטי יכול לבדוק תשובה ולנסות שוב. בחברה גדולה, טעות של מודל יכולה להיכנס למסמך ללקוח, לקוד שמגיע למוצר או להחלטה פיננסית. ככל שהמערכות נעשות אוטונומיות יותר, שאלת האחריות עוברת מהמשתמש הבודד למנהלים ולחברות עצמן. 

אנתרופיק, למשל, כבר מציעה סוכני AI לבנקים ולגופים פיננסיים, בין היתר לניתוח דוחות כספיים ולמשימות ציות - בדיוק מסוג השימושים שבהם טעות יכולה להיות בעלת משמעות גדולה בהרבה מתשובה שגויה בצ'אט.

• אנבידיה מאיצה את סוכני ה-AI: המערכת החדשה נכנסת לייצור
• מסמארטפונים ועד מכוניות: שיומי בונה לעצמה מערך שבבים

כשהחתול שומר על השמנת: מי מפקח על אנתרופיק?

השאלה הזאת מעניינת במיוחד במקרה של אנתרופיק, משום שהחברה עיצבה חלק משמעותי מהזהות שלה סביב בטיחות. היא הוקמה כחברת תועלת לציבור, מבנה משפטי שאמור לשלב מטרת רווח עם מטרות ציבוריות. החברה הקימה גם מכון מחקר שעוסק בהשפעות ה-AI על הכלכלה, הביטחון והחברה, ולצדו פועל גוף פיקוח שנועד לוודא שהחברה עומדת לאורך זמן במטרות התועלת הציבורית שהגדירה לעצמה.

המבנה הזה אינו פרט שולי בסיפור של אנתרופיק. החברה הוקמה בידי יוצאי OpenAI, ובהם המנכ"ל דריו אמודאי, על רקע מחלוקות בנוגע לקצב פיתוח הבינה המלאכותית ולמשקל שצריך לתת לבטיחות. מאז היא מנסה למצב את עצמה כחברה שמוכנה להציב גבולות גם כשהטכנולוגיה עצמה מאפשרת ללכת רחוק יותר.

המיזם משתלב היטב בקו הזה. במסגרת המיזם החברה מתחייבת לפרסם לא רק את השאלות שהציבור שולח לה, אלא גם לעקוב באופן פומבי אחר הפעולות שהיא נוקטת ולהגיד היכן היא אינה עומדת ביעדים שהציבה לעצמה. במילים אחרות, היא אינה מבטיחה רק להקשיב לחששות, כי אם ליצור תיעוד שאמור לאפשר לציבור לבדוק מה נעשה בעקבותיהם. זו התחייבות מעניינת, אבל המגבלה ברורה: אנתרופיק עדיין חוקרת את הטכנולוגיה שהיא עצמה בונה ומוכרת. 

היא יכולה להזמין ביקורת, לפרסם סקרים ולבנות מנגנוני פיקוח פנימיים, אבל היא גם חברה שמתחרה ב-OpenAI, בגוגל ובשחקנים נוספים על לקוחות, מפתחים, כוח מחשוב והכנסות. שקיפות מצד חברות AI חשובה, אך היא אינה תחליף למחקר עצמאי ולרגולציה חיצונית.

והמתח הזה צפוי רק לגדול ככל שהחברות והמודלים נעשים גדולים יותר. אנתרופיק יכולה להזהיר מפני הסיכונים של AI ובמקביל להידרש להשיק יכולות חדשות במהירות כדי לא להישאר מאחור. למעשה, המתח בין בטיחות, רגולציה ותחרות כבר הפך לחלק מרכזי בסיפור של אנתרופיק, שבנתה את המוניטין שלה במידה רבה סביב הניסיון להוכיח שאפשר לפתח מודלים מתקדמים בלי לוותר על מגבלות ופיקוח.

לכן המבחן של המיזם לא יהיה אילו שאלות קשות יתפרסמו באתר. קל יחסית לשאול אם AI יפגע במקומות עבודה, בילדים או ביכולת שלנו לחשוב בעצמנו, וקשה הרבה יותר להחליט מה עושים כאשר התשובה מחייבת להאט מוצר, לוותר על שימוש מסוים או להציב מגבלה שמתחרה אחרת אינה מציבה. המבחן האמיתי יהיה מה אנתרופיק תעשה כאשר התשובות לשאלות שהיא עצמה הזמינה יתנגשו בצמיחה, בלקוחות ובאינטרסים העסקיים שלה.