כיצד טכנולוגיות הבינה המלאכותית מעצבות מחדש את תחום השרתים?
הפריצה של הבינה המלאכותית לחיינו מהווה מהפכה טכנולוגית מכוננת, בסדר גודל דומה להמצאת המחשב האישי, האינטרנט והטלפון הנייד. שוק הבינה המלאכותית גדל בקצב שנתי של 35%, ועל פי התחזיות יגיע לשווי של טריליון דולר עד 2028. כתוצאה מכך, תחום השרתים עובר מהפך דרמטי: לצד תחום השרתים המסורתיים, נפתח שוק ענק חדש, הגדל בקצב מסחרר, עבור שרתים ייעודיים התומכים ביישומי הבינה המלאכותית.
לאחרונה פורסמה באתר זה כתבה הטוענת כי הביקוש לשרתים מסורתיים צפוי להיפגע בעקבות הביקוש לשרתים המיועדים לבינה מלאכותית, וכי חברות כמו DELL ו-HP יצטרכו להתאים את עצמן למצב החדש. אך למעשה, החברות הללו הן בין המנועים החשובים של המהפכה הטכנולוגית העכשווית: הן מפתחת ומספקת כבר כיום שרתים ותוכנה המשמשים כתשתית ליישומי הבינה המלאכותית (AI).
מהו בעצם ההבדל בין השרתים ה"מסורתיים", לבין השרתים החדשים? השרתים החדשים תוכננו במיוחד לעמידה בעומסים ולביצועים הגבוהים הנדרשים בהפעלת מודלים ענקיים של למידת מכונה ובינה מלאכותית (AI/ML), ובפרט בינה מלאכותית גנרטיבית (Generative AI). לדוגמה, על פי הערכות, למודל GPT-4 יש למעלה מטריליון פרמטרים, והאימון שלו על גבי כ-25,000 שרתי A100 ארך מספר חודשים.
שרתי הבינה המלאכותית החדשים מכילים מספר רב של מעבדים גרפיים (GPU) מתקדמים ויקרים, ולכן חשוב שכל השרתים המשתתפים בתהליך העיבוד, הזרימה והאחסון של הנתונים יאפשרו ניצול מירבי של היכולות של המעבדים הללו, ויתמכו בקצבים גבוהים. כמו כן, השרתים מצוידים בתוכנה שתוכננה להקל על המשתמשים בבנייה ומימוש של מודלים בתחום הבינה המלאכותית הגנרטיבית.
- איך לקבל תשובות טובות יותר מה-ChatGPT?
- פי 5 בתשעה חודשים - מרקור שעובדת עם ChatGPT כבר שווה 10 מיליארד דולר
- המלצת המערכת: כל הכותרות 24/7
אז כיצד בעצם בונים מודל בינה מלאכותית? התהליך מתחיל בקריאה של כמות גדולה של מידע שמגיע מחיישנים, מחשבים, ומשתמשים. בהמשך מתבצעים ניקוי וטרנספורמציה של המידע, כדי לאפשר את השימוש בו, ונבנה בסיס הנתונים של המודל באמצעות ריכוז ושילוב המידעים. בשלב הבא, מאמנים את המודל במשך ימים או שעות, תוך שימוש בספריות למידה עמוקה (Deep Learning). לדוגמה, ניתן לבנות מודל בינה מלאכותית שיחזה את רמת הסיכון בטיסה בתנאי מזג אוויר מסוימים. במהלך האימון יוזנו למודל נתונים היסטוריים של תנאי מזג האוויר ושל תאונות טיסה באותה תקופה. המודל יבנה רשת נוירונים, המייצגת פונקציה הקושרת בין תנאי מזג האוויר לבין הסיכון לתאונה, ובשימוש במודל, יוזנו לו תנאי מזג האויר ביום מסוים, והמודל יעריך את רמת הסיכון. בתהליך זה, רוב המאמץ החישובי מושקע בבנייה ואימון המודל, ואלה מבוצעים כיום על גבי שרתים ייעודיים.
יכולות הבינה מלאכותית הן קריטיות לא רק לשירותים ואפליקציות הפועלות על גבי התשתיות של ארגונים גדולים (On Premise). לטכנולוגיות ה-AI יש חשיבות גדולה והולכת באזורים רבים ברשת – מהענן ועד למיחשוב הקצה (Edge) - עיבוד מידע המתבצע קרוב למקור הנתונים, למשל בחנויות גדולות או מפעלי ייצור.
- 2.Interesting overview of a key topic (ל"ת)Reader 28/08/2023 13:18הגב לתגובה זו
- 1.כתבה שלא אומרת כלום. אבל ממש כלום. מביך. (ל"ת)מהנדס AI 28/08/2023 10:56הגב לתגובה זו
ChatGPT (גרוק)איך לקבל תשובות טובות יותר מה-ChatGPT?
תנו לצ'אט להכיר אתכם - למה זה חשוב ואיך עושים את זה?
רוב המשתמשים ב-ChatGPT מתמודדים עם אותה בעיה: התשובות שהם מקבלים כלליות מדי, חסרות הקשר אישי ומחייבות הסברים חוזרים בכל שיחה. הם מוצאים את עצמם מתחילים כל דיאלוג מההתחלה, מסבירים שוב ושוב את התחום המקצועי שלהם, את קהל היעד ואת הסגנון המועדף עליהם. התוצאה היא בזבוז זמן יקר וחוויית שימוש מתסכלת.
הפתרון קיים כבר בתוך המערכת, אך רוב המשתמשים פשוט לא מודעים אליו. מדובר בפונקציית ההתאמה האישית (Custom Instructions או Personalization) שמאפשרת להגדיר פעם אחת את הפרופיל המקצועי והאישי שלכם, כך שכל שיחה עתידית תתבסס על המידע הזה.
המדריך המלא להגדרת הפרופיל האישי
הגישה לתפריט ההגדרות פשוטה: בגרסת הדפדפן תמצאו אותו תחת שם המשתמש בצד שמאל, ובאפליקציה דרך כפתור התפריט. בחרו באפשרות Personalization והפעילו את האפשרות Enable customization.
המערכת מציגה שני שדות מרכזיים. בשדה הראשון, "What would you like ChatGPT to know about you", תארו את הרקע המקצועי שלכם. כתבו באיזה תחום אתם עובדים, מהו התפקיד המדויק שלכם, מי קהל היעד שלכם, אילו כלים דיגיטליים אתם משתמשים בהם ומהן המטרות העסקיות שלכם. למשל: "אני מנהלת מוצר בחברת פינטק ישראלית, עובדת מול לקוחות עסקיים בינוניים, משתמשת ב-Jira ו-Figma, ומתמקדת בפיתוח פתרונות תשלומים דיגיטליים".
- פי 5 בתשעה חודשים - מרקור שעובדת עם ChatGPT כבר שווה 10 מיליארד דולר
- ציטט את ChatGPT כהוכחה רפואית - מה פסק השופט?
- המלצת המערכת: כל הכותרות 24/7
בשדה השני, "How would you like ChatGPT to respond", הגדירו את סגנון התשובות הרצוי. ציינו את אורך התשובה המועדף, הפורמט (פסקאות רצופות או נקודות), רמת הפירוט הטכני, השפה והטון. דוגמה: "תשובות ממוקדות של 200-300 מילים, בעברית מקצועית אך נגישה, עם דגש על יישום מעשי ודוגמאות קונקרטיות מעולם הפינטק".
