גוגל בשיא, והיא רחוקה אחוזים בודדים מאנבידיה שקיבלה מכה חזקה מהשבבים החדשים של גוגל לתחום ה-AI. בחודש אחד גוגל דיווחה על כמה בשורות ששינו את מעמדה בתחום ה-AI. מחשש גדול שהיא תפסיד בקרב מול OpenAI היא צמצמה את הפער ולטענת רבים אפילו מובילה בעקבות השקת ג'ימיני 3 שמתמודד על ההובלה מול הצ'אטGPT של OpenAI.  בהמשך דיווחה על עסקה גדולה שנרקמת מול מטא ושמה את השבבים שלה על המפה כתחרותיים לחלק מהשבבים של אנבידיה. 

האירועים האלו הזינקו את המנייה ב-25% בחודש, החזירו את החברה לקדמת הבמה אחרי שהתחילה את השנה עם חששות גדולים הרגולטור שרוצה לחתוך ממנה פרוסות ומה-AI שרוצה לקחת לה את הרווחים של החיפוש. גוגל תדע להתמודד עם האיומים האלו.   

את ההישגים האלו רואה עובד גוגל לשעבר, ג'פרי הינטון, מרחוק. לא בטוח שהוא מרוצה מזה. למרות שהוא נחשב "הסנדק של ה-AI", הוא חושש שעלולה להיווצר מה-AI סוג של מפלצת. נחזור שנה לאחור. אנחנו פה בשביל המחקר והמדע של ג'ון הופילד וג'פרי הינטון שקיבלו את פרס נובל לפיזיקה על עבודתם על רשתות עצביות מלאכותיות. הינטון, עזב את גוגל כדי להזהיר מסכנות הבינה המלאכותית, חושש שהמכונות עשויות להפוך לחכמות יותר מבני אדם.

בשעה 3 בלילה, בחדר במלון זול בקליפורניה עם קליטת אינטרנט גרועה, קיבל ג'פרי הינטון את השיחה שתשנה את חייו. "המום לחלוטין", אמר הינטון לוועדת נובל כשהודיעו לו שזכה בפרס נובל לפיזיקה יחד עם ג'ון הופילד. "לא היה לי מושג שאפילו הייתי מועמד לפרס נובל בפיזיקה". "הייתי צריך לעבור בדיקת MRI היום, אבל אני מניח שאצטרך לבטל אותה."

• רגולציה על AI: איפה היא עומדת ומה מנסה ממשל טראמפ לקדם?
• מנסיכות נפט למעצמת AI: החזון הטכנולוגי והצבאי החדש של סעודיה
• המלצת המערכת: כל הכותרות 24/7

האקדמיה המלכותית השוודית למדעים הודיעה כי הופילד והינטון זכו בפרס "על תגליות והמצאות יסודיות שמאפשרות למידת מכונה באמצעות רשתות עצביות מלאכותיות". שני החוקרים יחלקו את פרס הכסף של 11 מיליון כתרים שוודיים - כמיליון דולר.

הרעיון שנולד מפיזיקה ונוירולוגיה

"כשאנחנו מדברים על בינה מלאכותית, אנחנו לעתים קרובות מתכוונים ללמידת מכונה באמצעות רשתות עצביות מלאכותיות", הסבירה ועדת נובל. "טכנולוגיה זו בהשראת מבנה המוח. ברשת עצבית מלאכותית, נוירונים של המוח מיוצגים על ידי צמתים בעלי ערכים שונים. צמתים אלה משפיעים זה על זה דרך חיבורים שניתן להדמות לסינפסות ושניתן לחזק או להחליש."

ג'ון הופילד, שנולד ב-1933 בשיקגו, התחיל את הקריירה שלו כפיזיקאי של חומר מעובה לפני שעבר לנוירומדע. הורייו היו פיזיקאים ופיזיקה לא הייתה נושא לימוד, היא היתה החיים. "האטום, הטרופוספירה, הגרעין, חתיכת זכוכית, מכונת הכביסה, האופניים שלי, הפטיפון, מגנט - כל אלה לא היו לימודים הם היו נושאי שיחה שוטפים בבית", כתב הופילד במסה שפרסם ב-2018.

• גלו את סוד הזיכרון: מחקרים מהפכניים חושפים כיצד להכפיל את יכולות הזיכרון שלכם בכל גיל
• המדוזה שלומדת ללא מוח ואיך זה קשור ל-AI
• תוכן שיווקי שוק הסקנדרי בישראל: הציבור יכול כעת להשקיע ב-SpaceX של אילון מאסק
• גלו את סוד הזיכרון: מחקרים מהפכניים חושפים כיצד להכפיל את...

ב-1982, הופילד פרסם מאמר על זיכרון אסוציאטיבי שהפך לנקודת מפנה בתחום. הוא יצר רשת שנקראת כיום "רשת הופילד" שמשתמשת בשיטה לשמירה ושחזור דפוסים. הרשת מתוארת באופן מקביל לאנרגיה במערכות ספין בפיזיקה, ומאומנת על ידי מציאת ערכים לחיבורים בין הצמתים כך שהתמונות השמורות יהיו בעלות אנרגיה נמוכה.

כמה שנים מאוחר יותר, הינטון שנולד ב-1947 בלונדון וסיים דוקטורט בבינה מלאכותית באוניברסיטת אדינבורו ב-1978, הרחיב את העבודה. יחד עם עמיתו טרנס סג'נובסקי, הוא בנה על רשת הופילד ופיתח משהו חדש: "מכונת בולצמן". הרעיון התבסס על מושגים מפיזיקה סטטיסטית,  הענף העוסק במערכות המורכבות מאלמנטים דומים רבים, כמו מולקולות בגז.

"למידת מכונה היא חשובה למדע כבר זמן רב, מכיוון שהיא מאפשרת ניתוח כמויות עצומות של נתונים", ציינה ועדת נובל. "הופילד והינטון השתמשו בכלים מפיזיקה כדי להניח את היסודות להתפתחות הנוכחית של למידת מכונה. היכולת של מחשבים ללמוד באופן אוטונומי, המבוססת על רשתות עצביות מלאכותיות, מחוללת כעת מהפכה במדע, הנדסה וחיי היומיום."

אלן מונס, יו"ר ועדת נובל לפיזיקה, הסבירה את ההשפעה: "עבודתם של הזוכים כבר הייתה לתועלת גדולה. בפיזיקה אנחנו משתמשים ברשתות עצביות מלאכותיות במגוון רחב של תחומים, כמו פיתוח חומרים חדשים עם תכונות ספציפיות." רשתות כאלה "גם הפכו לחלק מחיי היומיום שלנו, למשל בזיהוי פנים ותרגום שפות", הוסיפה.

במהלך שנות ה-90, חוקרים רבים איבדו עניין ברשתות עצביות מלאכותיות, אבל הינטון היה אחד מאלה שהמשיכו לעבוד בתחום. הוא גם עזר להניע את המהפכה החדשה - ב-2006 הוא ועמיתיו פיתחו שיטה לאימון מקדים של רשת עם סדרת מכונות בולצמן בשכבות, אחת על גבי השנייה. אימון מקדים זה נתן לחיבורים ברשת נקודת התחלה טובה יותר, מה שמיטב את אימונה לזהות אלמנטים בתמונות.

איך המכונה לומדת? 

הינטון ידוע גם בעבודתו על טכניקה שנקראת "התפשטות לאחור" (backpropagation), שהציע עם זוג עמיתים בשנות ה-80. זהו למעשה האלגוריתם שמאפשר למכונות ללמוד, והוא עומד בבסיס כמעט כל הרשתות העצביות כיום. אחד מהסטודנטים לתואר שני של הינטון היה איליה סוצקבר, שהמשיך להיות ממייסדי OpenAI ולהוביל את פיתוח ChatGPT. "קיבלנו את הרמזים הראשונים שהדבר הזה יכול להיות מדהים", אמר הינטון.

באמצע 2023, הינטון הודיע על התפטרותו מגוגל, שם עבד כסגן נשיא ומהנדס. "עזבתי כי הייתי בן 75, לא יכולתי יותר לתכנת כמו שנהגתי, ויש הרבה דברים בנטפליקס שלא הייתה לי הזדמנות לצפות בהם", אמר לפיננשל טיימס. "עבדתי קשה מאוד במשך 55 שנה, והרגשתי שהגיע הזמן לפרוש. וחשבתי, מכיוון שאני עוזב בכל מקרה, אוכל לדבר על הסיכונים."

מאז, הינטון הפך לאחד המבקרים הבולטים של התפתחות הבינה המלאכותית ללא פיקוח מתאים. "זה יהיה דומה למהפכה התעשייתית", אמר מיד לאחר ההכרזה על הפרס. "אבל במקום לעלות על אנשים בכוח פיזי, זה יעלה על אנשים ביכולת אינטלקטואלית. אין לנו ניסיון איך זה להיות עם דברים חכמים יותר מאיתנו."

"מודאג שההשלכה הכוללת של זה עשויה להיות מערכות חכמות יותר מאיתנו שבסופו של דבר ישתלטו", הוסיף הינטון. "אנחנו לא יודעים מה הולך לקרות, אין לנו מושג, ואנשים שאומרים לך מה הולך לקרות פשוט מטופשים. אנחנו בנקודה בהיסטוריה שבה משהו מדהים קורה, וזה עשוי להיות מדהים לטובה, וזה עשוי להיות מדהים לרעה."

הינטון הודה שיש לו חרטות מסוימות. "יש שני סוגים של חרטה. יש חרטות שבהן אתה מרגיש אשם כי עשית משהו שידעת שלא היית צריך לעשות. ואז יש חרטות שבהן עשית משהו שהיית עושה שוב באותן נסיבות אבל זה עשוי בסופו של דבר לא להסתדר טוב. הסוג השני הזה של חרטה יש לי."

הסיכונים: אבטלה, שליטה ואי-שוויון

הינטון חזה שהבינה המלאכותית תגרום לגל אבטלה ועלייה ברווחים של חברות. "מה שבאמת הולך לקרות הוא שאנשים עשירים ישתמשו בבינה מלאכותית כדי להחליף עובדים", אמר. "זה יצור אבטלה מאסיבית ועלייה עצומה ברווחים. זה יהפוך כמה אנשים להרבה יותר עשירים ואת רוב האנשים לעניים יותר. זו לא אשמת הבינה המלאכותית, זו המערכת הקפיטליסטית."

"הבעיה הגדולה בהאצלת החלטות לבינה מלאכותית נעוצה בחוסר החיזוי שלה", הסביר הינטון בכנס. "כי בעוד שקל ליצור מטרות לתת לה, לבינה מלאכותית יש יכולת ליצור תת-מטרות שאינן צפויות. אתן לכם דוגמה: אם תיתנו לבינה מלאכותית את המטרה לעצור את שינויי האקלים, הדרך הברורה ביותר לעשות זאת היא להיפטר מאנשים."

בנוגע לבריאות, הינטון רואה פוטנציאל חיובי. "בצפון אמריקה, יותר מ-200,000 אנשים מתים כל שנה בגלל אבחונים לא מספקים. לרופא יש שיעור דיוק של 40% באבחון, לבינה מלאכותית 50% (מאז שנאמרו הדברים יש שיפור לכיוון ה-80%) , ולבינה מלאכותית בשילוב עם רופא יש שיעור דיוק של 60%, מה שאומר 50,000 חיים שנחסכים בשנה, כל שנה." עם זאת הוסיף: "הבעיה היא תמיד האדם, לא הבינה המלאכותית."

הפסימיות גדלה בהתמדה. בסוף השנה שעברה אמר שיש "סיכוי של 10 עד 20 אחוז" שהבינה המלאכותית תהיה הגורם להכחדת האנושות בתוך שלושת העשורים הבאים. הוא הביע הפתעה מהמהירות שבה הבינה המלאכותית מתקדמת, ואמר שרוב המומחים מצפים שהבינה המלאכותית תתקדם, כנראה בעשרים השנים הקרובות, להיות "חכמה יותר מאנשים".

והנה מה שאמר בשנה האחרונה - 

״אני חושב שזה לגמרי סביר שהבינה המלאכותית עלולה להשמיד את האנושות אם לא תנוהל כראוי.״

״פוליטיקאים לא נוהגים לרגולציה מונעת.״

״חשבנו שיש לנו עשורים שלמים להתכונן, אבל הפיתוחים הקדימו את הציפיות.״

״המכונות האלו יידעו יותר מאיתנו... הן יהיו חכמות רגשית יותר מאיתנו, ולכן גם טובות יותר במניפולציות רגשיות.״

״אם אתה רוצה באמת לפגוע ביכולת של מדינה להוביל בעוד 20 שנה – כל מה שצריך זה לשבש את המימון של מדע בסיסי.״

כששאלו את הינטון אם הוא חושב שפרס נובל ישפיע על האופן שבו אנשים מתייחסים לאזהרותיו, הוא ענה: "כן, אני חושב שזה ישפיע. יש בית ספר שלם של בלשנות שמגיע מחומסקי שחושב שזה שטויות גמורות לומר שהדברים האלה מבינים, שהם לא מעבדים שפה באותה דרך כמונו. אני חושב שבית הספר הזה טועה. אני חושב שברור עכשיו שרשתות עצביות טובות בהרבה בעיבוד שפה מכל דבר שאי פעם יצר בית הספר של חומסקי."