בחודש דצמבר האחרון הודיעה גוגל כי מודל השפה הגדול שלה, ג'מיני אולטרה LLM, הצליח סוף סוף לעקוף את GPT-4 ולהציג ביצועים טובים יותר פי 32. אך יש לבחון את הממצאים מקרוב יותר: שיפור של פי 32 משמעותו שג'מיני ביצע את אותה המשימה 32 פעמים, ובחר את התשובה הטובה ביותר מכולן. במילים אחרות, הדבר דרש צריכת אנרגיה וזמן מחשוב גדולים פי 32 מהפעלה רגילה.

צריכת האנרגיה של בינה מלאכותית היא נושא שתופס הרבה מקום בשיח בקרב משקיעים בתחום. חברת האנרגיה Dominion Resources DOMINION ENERGY , המשרתת 6 מיליון לקוחות ב-15 מדינות בארה"ב, הגדילה באופן חד את צפי צריכת החשמל שלה בעשור הקרוב. הסיבה היחידה לשינוי: הביקוש הגובר מצד מרכזי נתונים. ייתכן ש-Dominion אינה מייצגת את כל חברות החשמל, אך לנוכח העלייה החדה כבר עכשיו במחירי ציוד שנאים, המעבר לתחבורה/חימום חשמליים וצריכת החשמל הגדולה מצד הבינה המלאכותית, חשמל עשוי להפוך למצרך נדיר יותר. חברות הייעוץ מקינזי, BCG ו-S&P Global צופות כולן כי הביקוש לחשמל בארה"ב יעלה ב-13%-15% בשנה עד 2030.

מאיפה תגיע האנרגיה לבינה המלאכותית?

השיח בתעשייה ער במיוחד בימים האחרונים בעקבות רכישה של מרכזי נתונים על ידי אמזון, יחד עם עד 40% מהתפוקה של תחנת הכוח הגרעינית ססקנהנה שבמדינת פנסליבניה, שניהם בבעלות טאלן אנרג'י. אמזון שילמה פרמיה של 50% מעל למה שטאלן יכלה להרוויח מהרשת, מה שהיא ללא מעט ביקורת כלפיה אולם, הרבה מהמבקרים פספסו נקודה חשובה: רכישת חשמל מהרשת הקיימת עלולה להיות בלתי אפשרית במקומות רבים.