מוסטפא סולימן, ראש חטיבת הבינה המלאכותית במיקרוסופט, ביקר השבוע את מה שהוא רואה כמגמה בעייתית בתעשייה. לדבריו, מפתחים וחוקרים צריכים להפסיק לנסות לבנות מערכות שנראות כבעלות מודעות. סולימן טוען שרק יצורים ביולוגיים מסוגלים למודעות אמיתית, וכל ניסיון ליצור "מודעות מלאכותית" הוא בזבוז של זמן ומשאבים.

סולימן, שהצטרף למיקרוסופט השנה לאחר שהחברה רכשה את הסטארטאפ שהקים תמורת 650 מיליון דולר, אמר בראיון ל־CNBC במהלך כנס AfroTech ביוסטון כי העולם שואל את השאלה הלא נכונה. "כשאתה שואל שאלה לא נכונה, אתה מקבל תשובה לא נכונה", הסביר. מבחינתו, הדיון הזה אינו רק פילוסופי, הוא נוגע ישירות לאופן שבו מושקעים מיליארדים בפיתוח טכנולוגיות בינה מלאכותית.

מודעות יכולה להתקיים רק במוח ביולוגי

בזמן שמטא ואילון מאסק מפתחים בוטים שמדמים קשרים אישיים, ו־OpenAI של סם אלטמן שואפת לפתח בינה כללית הדומה ליכולות אנושיות, סולימן משרטט גבול. מיקרוסופט לא תיכנס לשוק הבוטים הרגשיים, ולא תנסה ליצור מערכות שמדמות תודעה אנושית. הטיעון שלו נשען על תיאוריה פילוסופית המכונה "נטורליזם ביולוגי", שגיבש הפילוסוף ג'ון סירל. לפי התיאוריה, מודעות יכולה להתקיים רק במוח ביולוגי. סולימן מסביר שהסיבה שאנו מעניקים זכויות לבני אדם היא היכולת שלהם לחוות כאב ולהימנע ממנו. לדבריו, למודלים של בינה מלאכותית אין תודעה, רגשות או חוויה סובייקטיבית, הם רק מדמים תגובה.

ההבחנה הזו, לדבריו, קריטית לעתיד התחום. כשמערכת בינה מלאכותית "חווה" כאב, אין כאן רגש אמיתי או סבל. מדובר בסימולציה שמדמה חוויה, אך לא בחוויה עצמה. סולימן מדגיש שהמטרה של הטכנולוגיה היא לסייע לבני אדם, לא להחליף אותם. לדבריו, זה אולי נשמע עקרוני בלבד, אך יש לכך השלכות אתיות ועסקיות משמעותיות. הגישה הזו באה לידי ביטוי במוצרים החדשים של מיקרוסופט. החברה הכריזה השבוע על יכולות חדשות לשירות Copilot, בהן בוט לשיחות קבוצתיות ודמות אינטראקטיבית בשם מיקו. כל הפיצ'רים מתוכננים כך שידגישו את זהותם כיישומי בינה מלאכותית, לא כיישויות עצמאיות. המיקוד הוא ביצירת כלים שעובדים עבור המשתמש, לא במקומו.

• אמזון מוכיחה: ההימור על הבינה המלאכותית משתלם
• אמזון עקפה את הציפיות - המניה מזנקת ב-9%
• המלצת המערכת: כל הכותרות 24/7

"אם אתה לא מפחד ממנה, אתה כנראה לא מבין אותה״

סולימן הציג גם תכונה חדשה בשם "Real Talk" - מצב שיחה שבו הקופיילוט מאתגר את המשתמש במקום להסכים איתו. הוא סיפר שבמהלך הניסויים הכלי "תקף" אותו בבדיחות כשכינה אותו "אוסף של סתירות", על כך שהוא מזהיר מפני הסכנות של בינה מלאכותית בזמן שהוא עצמו מוביל את הפיתוח שלה. לדבריו, זהו לב הסתירה של התחום כולו - טכנולוגיה שמרתקת ומאיימת בעת ובעונה אחת. "אם אתה לא מפחד ממנה, אתה כנראה לא מבין אותה", אמר. "הפחד הוא בריא. הוא מחייב אותנו להיזהר". סולימן סבור שהגישה של מיקרוסופט צריכה להיות מדודה וזהירה, בניגוד לאופטימיות האגרסיבית של חלק מהמתחרות.