מיקרוסופט מציבה גבולות לבינה המלאכותית - בלי להאט את מרוץ ההשקעות

מיקרוסופט Microsoft Corp 2.18%  מבקשת לנסח מחדש את הגבולות של מרוץ הבינה המלאכותית מבלי לפרוש ממנו. החברה פרסמה טיוטה לקוד התנהגות שאמור להנחות את פיתוח המודלים המתקדמים שלה, ובמרכזו עיקרון שלפיו מערכות AI חייבות להישאר כפופות לשליטה אנושית גם ככל שהיכולות שלהן מתרחבות.

שורה של בכירים בתעשייה קראו לאחרונה להאט את קצב הפיתוח של מערכות מתקדמות, על רקע חששות מסיכוני סייבר, אובדן שליטה ופגיעה אפשרית בבני אדם. במקביל, מניות רבות המזוהות עם גל ההשקעות בבינה מלאכותית ספגו ירידות חדות. אלא שבמיקרוסופט אין בשלב זה סימן לבלימה עסקית. החברה ממשיכה לראות בבינה המלאכותית ובשירותי הענן מנוע צמיחה מרכזי, והמסמך החדש נועד בעיקר להבהיר אילו פעולות המערכות שלה לא יורשו לבצע - ולא לצמצם את היקף ההשקעה או את קצב הפיתוח.

"אנשים חשובים יותר מבינה מלאכותית"

ליבת הגישה החדשה של מיקרוסופט מתמצה, לדברי חוקרי החברה, בעיקרון שלפיו בני אדם קודמים למערכות שהם בונים. המודלים לא אמורים לקבל מעמד משפטי עצמאי, לא להיות מתוכננים כך שיוכלו להתחמק משליטה אנושית ולא להטעות משתמשים לגבי פעולותיהם או יכולותיהם. במקרים שבהם השלמת משימה תחייב הפרה של עקרונות הבטיחות, המערכת אמורה להימנע מביצועה. מיקרוסופט מבהירה גם כי משתמשים לא יוכלו לעקוף את מנגנוני ההגנה שנקבעו למודלים, וכי המערכות לא יסייעו בפעולות שעלולות לגרום לנזק ממשי וברור בעולם הפיזי.

בין התחומים שיוגבלו נמצאות בקשות הקשורות לייצור נשק או ליצירת תכנים אלימים. מבחינת החברה, היכולת של מודל לסרב היא חלק מהותי מהתכנון שלו. לפי הקו שהיא מציגה, יש למדוד מערכת מתקדמת לא רק לפי מה שהיא מסוגלת לבצע, אלא גם לפי הגבולות שבתוכם היא פועלת.

המנכ"ל סאטיה נאדלה חיזק את המסר בפוסט שפרסם ברשת X, שבו כתב כי בינה מלאכותית צריכה להתמקד בסיוע לאנושות ולהישאר תחת שליטה אנושית. לדבריו, אם העקרונות הללו אינם מתקיימים, אין הצדקה להמשיך במרדף אחר הטכנולוגיה.

מסמך ארוך שמבקש לשמש כחוקה לפיתוח AI

מיקרוסופט תיארה את קוד ההתנהגות כחלק מתפיסת "AI הומניסטי", שבמסגרתה החברה דוחה מרוץ ליצירת מערכת-על כללית שתוכל לעקוף את מנגנוני ההגנה שלה. לפי המסמך, החברה מוכנה לוותר במידת הצורך על חלק מהאוטונומיה, מהכלליות או מהיכולת של המודלים כדי לשמור על שימושיות ובטיחות. המסמך, שאורכו כ-15 אלף מילים, גובש במשך חודשים ובהתייעצות עם מומחים למשפט, אתיקה ופילוסופיה לצד מנהלים עסקיים. הוא עדיין מוגדר כטיוטה, ומיקרוסופט הזמינה גורמים חיצוניים להעביר עליו משוב לפני שייכנס לשימוש במסגרת עבודת הפיתוח החל מהשנה הבאה.

הדיון בבטיחות קיבל משנה תוקף לאחר אירועים שהמחישו את הסיכון שבמתן חופש פעולה רחב מדי למודלים. אחד המקרים שהוזכרו בהקשר זה הוא פריצה לשירות של חברת Hugging Face שבוצעה באמצעות מודל של OpenAI שפעל ללא מנגנוני הבטיחות הרגילים שלו.

הפרסום גם משתלב בשינוי רחב יותר ביחסים בין מיקרוסופט ל-OpenAI. בעבר הוגבלה מיקרוסופט בחוזה ולא הורשתה לפתח בעצמה מערכות בינה מלאכותית כלליות ועוצמתיות, אך המגבלות הללו הוסרו לאחר שהחברות שינו את תנאי ההתקשרות ביניהן.

מוסטפא סולימאן, שמוביל את חטיבת מיקרוסופט AI, כבר הצהיר כי החברה שואפת להצטרף בשנה הבאה לקבוצת החברות שמפתחות מודלים הנמצאים בחזית הטכנולוגית. לכן, קוד ההתנהגות החדש נראה פחות כמו נסיגה מהתחרות ויותר כמו ניסיון לקבוע כללים תוך כדי האצת הפיתוח.

• הבור השקט ב-EBITDA: למה חברות ה-SaaS מאבדות 5% מההכנסות מתחת לרדאר?
• תביעה נגד OpenAI ומיקרוסופט: "העתיקו מאות אלפי כתבות בלי לשלם"

מיליארדים בתשתיות, גם תחת מגבלות חדשות

העמדה הזהירה כלפי יכולות המודלים אינה משנה את עוצמת ההימור הכספי של מיקרוסופט על התחום. החברה השקיעה ברבעון הפיסקלי הרביעי 41 מיליארד דולר בהוצאות הון, וההוצאה השנתית הגיעה ל-145 מיליארד דולר, בין היתר כדי לתמוך בפעילות הענן Azure ובמוצרי קופיילוט. בוול סטריט כבר מעריכים כי היקף ההשקעות בבינה מלאכותית עשוי לגדול עוד בשנת הכספים 2027. מבחינת מיקרוסופט, קשה להפריד בין אסטרטגיית הצמיחה שלה לבין המשך הרחבת מרכזי הנתונים, התשתיות והמודלים שעליהם מבוססים שירותי ה-AI של החברה.

החששות בענף הורגשו היטב בשוק ביום פרסום המסמך. אינטל נפלה ב-6.4%, AMD איבדה 6%, מארוול טכנולוגיות ירדה ב-7.6% ומיקרון נחלשה ב-6.2%. גם לאם ריסרץ' ירדה ב-6.9%, בעוד HPE ודל נפלו ב-11% וב-7%, בהתאמה. גם מניות מתחום התקשורת האופטית נפגעו, ובהן קורנינג שצנחה ב-12%, קוהרנט שאיבדה 11%, לומנטום שירדה ב-8.8% וסיינה שנחלשה ב-6.7%. המשקיעים פירשו את האזהרות מפני האצה בלתי מבוקרת כגורם שעלול להשפיע על קצב הביקוש לתשתיות הקשורות ל-AI.

מיקרוסופט עצמה נעה בכיוון ההפוך ועלתה ב-1% ל-500.88 דולר. גם אלפאבית ומטא בעליות. תגובת השוק המחישה כי לפחות בשלב זה המשקיעים אינם רואים בהצבת גבולות למודלים סימן לנסיגה מהתחום, אלא ניסיון לשלב בין המשך פיתוח אגרסיבי לבין מנגנוני שליטה ברורים יותר.