ראש הבינה המלאכותית במיקרוסופט: "תפסיקו לחפש מודעות ברובוטים"

מוסטפא סולימן, ראש חטיבת הבינה המלאכותית במיקרוסופט, ביקר השבוע את מה שהוא רואה כמגמה בעייתית בתעשייה. לדבריו, מפתחים וחוקרים צריכים להפסיק לנסות לבנות מערכות שנראות כבעלות מודעות. סולימן טוען שרק יצורים ביולוגיים מסוגלים למודעות אמיתית, וכל ניסיון ליצור "מודעות מלאכותית" הוא בזבוז של זמן ומשאבים.

סולימן, שהצטרף למיקרוסופט השנה לאחר שהחברה רכשה את הסטארטאפ שהקים תמורת 650 מיליון דולר, אמר בראיון ל־CNBC במהלך כנס AfroTech ביוסטון כי העולם שואל את השאלה הלא נכונה. "כשאתה שואל שאלה לא נכונה, אתה מקבל תשובה לא נכונה", הסביר. מבחינתו, הדיון הזה אינו רק פילוסופי, הוא נוגע ישירות לאופן שבו מושקעים מיליארדים בפיתוח טכנולוגיות בינה מלאכותית.

מודעות יכולה להתקיים רק במוח ביולוגי

בזמן שמטא ואילון מאסק מפתחים בוטים שמדמים קשרים אישיים, ו־OpenAI של סם אלטמן שואפת לפתח בינה כללית הדומה ליכולות אנושיות, סולימן משרטט גבול. מיקרוסופט לא תיכנס לשוק הבוטים הרגשיים, ולא תנסה ליצור מערכות שמדמות תודעה אנושית. הטיעון שלו נשען על תיאוריה פילוסופית המכונה "נטורליזם ביולוגי", שגיבש הפילוסוף ג'ון סירל. לפי התיאוריה, מודעות יכולה להתקיים רק במוח ביולוגי. סולימן מסביר שהסיבה שאנו מעניקים זכויות לבני אדם היא היכולת שלהם לחוות כאב ולהימנע ממנו. לדבריו, למודלים של בינה מלאכותית אין תודעה, רגשות או חוויה סובייקטיבית, הם רק מדמים תגובה.

ההבחנה הזו, לדבריו, קריטית לעתיד התחום. כשמערכת בינה מלאכותית "חווה" כאב, אין כאן רגש אמיתי או סבל. מדובר בסימולציה שמדמה חוויה, אך לא בחוויה עצמה. סולימן מדגיש שהמטרה של הטכנולוגיה היא לסייע לבני אדם, לא להחליף אותם. לדבריו, זה אולי נשמע עקרוני בלבד, אך יש לכך השלכות אתיות ועסקיות משמעותיות. הגישה הזו באה לידי ביטוי במוצרים החדשים של מיקרוסופט. החברה הכריזה השבוע על יכולות חדשות לשירות Copilot, בהן בוט לשיחות קבוצתיות ודמות אינטראקטיבית בשם מיקו. כל הפיצ'רים מתוכננים כך שידגישו את זהותם כיישומי בינה מלאכותית, לא כיישויות עצמאיות. המיקוד הוא ביצירת כלים שעובדים עבור המשתמש, לא במקומו.

• אמזון מוכיחה: ההימור על הבינה המלאכותית משתלם
• אמזון עקפה את הציפיות - המניה מזנקת ב-9%
• המלצת המערכת: כל הכותרות 24/7

"אם אתה לא מפחד ממנה, אתה כנראה לא מבין אותה״

סולימן הציג גם תכונה חדשה בשם "Real Talk" - מצב שיחה שבו הקופיילוט מאתגר את המשתמש במקום להסכים איתו. הוא סיפר שבמהלך הניסויים הכלי "תקף" אותו בבדיחות כשכינה אותו "אוסף של סתירות", על כך שהוא מזהיר מפני הסכנות של בינה מלאכותית בזמן שהוא עצמו מוביל את הפיתוח שלה. לדבריו, זהו לב הסתירה של התחום כולו - טכנולוגיה שמרתקת ומאיימת בעת ובעונה אחת. "אם אתה לא מפחד ממנה, אתה כנראה לא מבין אותה", אמר. "הפחד הוא בריא. הוא מחייב אותנו להיזהר". סולימן סבור שהגישה של מיקרוסופט צריכה להיות מדודה וזהירה, בניגוד לאופטימיות האגרסיבית של חלק מהמתחרות.

המתיחות הזו ניכרת גם ביחסים בין מיקרוסופט ל־OpenAI. אף שהחברות שיתפו פעולה מאז 2019, לאחרונה ניכרת התרחקות. OpenAI החלה לשתף פעולה עם חברות כמו גוגל ואורקל, בעוד שמיקרוסופט משקיעה בבניית תשתיות בינה מלאכותית פנימיות ובפיתוח עצמאי של מוצרים. לדבריו, החברה רוצה להיות פחות תלויה באחרים ולפתח "מערכת אקולוגית עצמאית".

הקו שסולימן מוביל מהדהד גם ברמה הרגולטורית. באוקטובר חתם מושל קליפורניה על חוק המחייב בוטים להצהיר שהם בינה מלאכותית, ולומר לקטינים מדי שלוש שעות לקחת הפסקה. מהלך זה מצביע על מודעות הולכת וגוברת לצורך להבחין בין אדם למכונה. השאלה, אומר סולימן, אינה מה אפשר לעשות עם בינה מלאכותית, אלא מה נכון לעשות איתה. לדבריו, הצבת גבולות ברורה היא השקעה לטווח ארוך, גם אם משמעותה ויתור על רווחים מיידיים.

• Popai Health נחשפת עם גיוס של 11 מיליון דולר
• הרפורמה במס להייטק היא צ'ופר לקרנות הון סיכון - וממש לא להייטק עצמו
• תוכן שיווקי שוק הסקנדרי בישראל: הציבור יכול כעת להשקיע ב-SpaceX של אילון מאסק
• מהאופציה ועד ההנפקה: ESOP מבית הפניקס ו-Slice Global משיקות...