חוות שרתים
צילום: Pixbay

כיצד טכנולוגיות הבינה המלאכותית מעצבות מחדש את תחום השרתים?

ד"ר שאול דר מוביל תחום בינה מלאכותית ולמידת מכונה בחברת Dell מגיב לטענות לפיהן חברות מסורתיות יצטרכו להתאים את עצמן למצב החדש ומסביר מה ההבדל בין השרתים המסורתיים, לבין השרתים החדשים שתומכים בטכנולוגיות של בינה מלאכותית גנרטיבית
ד"ר שאול דר | (2)

הפריצה של הבינה המלאכותית לחיינו מהווה מהפכה טכנולוגית מכוננת, בסדר גודל דומה להמצאת המחשב האישי, האינטרנט והטלפון הנייד. שוק הבינה המלאכותית גדל בקצב שנתי של 35%, ועל פי התחזיות יגיע לשווי של טריליון דולר עד 2028. כתוצאה מכך, תחום השרתים עובר מהפך דרמטי: לצד תחום השרתים המסורתיים, נפתח שוק ענק חדש, הגדל בקצב מסחרר, עבור שרתים ייעודיים התומכים ביישומי הבינה המלאכותית.

לאחרונה פורסמה באתר זה כתבה הטוענת כי הביקוש לשרתים מסורתיים צפוי להיפגע בעקבות הביקוש לשרתים המיועדים לבינה מלאכותית, וכי חברות כמו DELL ו-HP יצטרכו להתאים את עצמן למצב החדש. אך למעשה, החברות הללו הן בין המנועים החשובים של המהפכה הטכנולוגית העכשווית: הן מפתחת ומספקת כבר כיום שרתים ותוכנה המשמשים כתשתית ליישומי הבינה המלאכותית (AI).

מהו בעצם ההבדל בין השרתים ה"מסורתיים", לבין השרתים החדשים? השרתים החדשים תוכננו במיוחד לעמידה בעומסים ולביצועים הגבוהים הנדרשים בהפעלת מודלים ענקיים של למידת מכונה ובינה מלאכותית (AI/ML), ובפרט בינה מלאכותית גנרטיבית (Generative AI). לדוגמה, על פי הערכות, למודל GPT-4 יש למעלה מטריליון פרמטרים, והאימון שלו על גבי כ-25,000 שרתי A100 ארך מספר חודשים.

שרתי הבינה המלאכותית החדשים מכילים מספר רב של מעבדים גרפיים (GPU) מתקדמים ויקרים, ולכן חשוב שכל השרתים המשתתפים בתהליך העיבוד, הזרימה והאחסון של הנתונים יאפשרו ניצול מירבי של היכולות של המעבדים הללו, ויתמכו בקצבים גבוהים. כמו כן, השרתים מצוידים בתוכנה שתוכננה להקל על המשתמשים בבנייה ומימוש של מודלים בתחום הבינה המלאכותית הגנרטיבית.

אז כיצד בעצם בונים מודל בינה מלאכותית? התהליך מתחיל בקריאה של כמות גדולה של מידע שמגיע מחיישנים, מחשבים, ומשתמשים. בהמשך מתבצעים ניקוי וטרנספורמציה של המידע, כדי לאפשר את השימוש בו, ונבנה בסיס הנתונים של המודל באמצעות ריכוז ושילוב המידעים. בשלב הבא, מאמנים את המודל במשך ימים או שעות, תוך שימוש בספריות למידה עמוקה (Deep Learning). לדוגמה, ניתן לבנות מודל בינה מלאכותית שיחזה את רמת הסיכון בטיסה בתנאי מזג אוויר מסוימים. במהלך האימון יוזנו למודל נתונים היסטוריים של תנאי מזג האוויר ושל תאונות טיסה באותה תקופה. המודל יבנה רשת נוירונים, המייצגת פונקציה הקושרת בין תנאי מזג האוויר לבין הסיכון לתאונה, ובשימוש במודל, יוזנו לו תנאי מזג האויר ביום מסוים, והמודל יעריך את רמת הסיכון. בתהליך זה, רוב המאמץ החישובי מושקע בבנייה ואימון המודל, ואלה מבוצעים כיום על גבי שרתים ייעודיים.

יכולות הבינה מלאכותית הן קריטיות לא רק לשירותים ואפליקציות הפועלות על גבי התשתיות של ארגונים גדולים (On Premise). לטכנולוגיות ה-AI יש חשיבות גדולה והולכת באזורים רבים ברשת – מהענן ועד למיחשוב הקצה (Edge) - עיבוד מידע המתבצע קרוב למקור הנתונים, למשל בחנויות גדולות או מפעלי ייצור.

תגובות לכתבה(2):

הגב לכתבה

השדות המסומנים ב-* הם שדות חובה
  • 2.
    Interesting overview of a key topic (ל"ת)
    Reader 28/08/2023 13:18
    הגב לתגובה זו
  • 1.
    כתבה שלא אומרת כלום. אבל ממש כלום. מביך. (ל"ת)
    מהנדס AI 28/08/2023 10:56
    הגב לתגובה זו
יואב שפרינגר וגלעד עזרא, מייסדים Apptor.ai צילום פרטייואב שפרינגר וגלעד עזרא, מייסדים Apptor.ai צילום פרטי
סטארטאפ להכיר

אין לנו מתחרים- הדרך להתחרות זה אם הלקוחות יתחילו לפתח את המוצר בעצמם

שיחה עם יואב  שפרינגר- המנכ"ל ושותף מייסד של  Apptor.ai



הדס ברטל |

ספר בקצרה על עצמך:

אני במקור מבית חנן בצפון. בצבא שירתי ב-8200, שם גם פגשתי את השותף שלי, גלעד עזרא, ובזמן השירות, עבדנו על פיתוח מודלים של פרדיקציה לצבא כדי לזהות התנהגויות, אבל הרעיון זה להתעסק ב-predictable AI. אחרי הצבא הייתי בפלייטיקה בעולמות ה-AI retention. את הסטארטאפ הקמנו במהלך המלחמה, והתחלנו לרוץ איתו ממש תוך כדי המילואים.

ספר על החברה ומניין בא הרעיון?

אלו דברים דומים שעשינו בצבא. חיפשנו איפה אפשר למקסם את מה שעשינו בצבא ולהשליך על שוק, שהוא ממש בלו אושן עבורנו ואין חברה שעושה משהו דומה. תעשיית ה- direct sales, שהיא מאוד אמריקאית ואנחנו בנינו כמה מודלים של פרדיקציה שעוזרים לחברות direct sales לייצר תקשורת טובה יותר עם הלקוחות שלהן. המודלים מזהים טוב יותר מה הלקוח רוצה לקנות, מה המוצר שכדאי להציע לו ומתי יספיק לקנות, כאשר המטרה היא לטרגט בצורה טובה יותר את הלקוחות דרך המודלים שאנחנו מריצים. זה דומה לאי קומרס אבל יש הבדלים כי דרך המכירה בחברות direct sales היא שונה מעט, ואותן חברות רואות את עצמן כתעשייה נפרדת. למשל הרבהלייף היא לקוחה שלנו, ואם ספורה מבחינים שאני עובד איתם, הם יחשבו "מעולה, חברה דומה לנו." לעומת זאת, אם הרבהלייף היו רואים שאני עובד עם ספורה הם היו חושבים שזה אי קומרס. בשנה אחת הגענו ללקוחות וחברות כמו הרבהלייף, שופ דוט קום, It works! Global ו-Immunotec.

אופן המכירה ב-direct sales זה דרך מפיצים שהם המשווקים את המוצרים של החברה. עד שאנחנו הופענו, כל החברות הללו היו בונות על המפיצים לעשות את עבודת השיווק והמכירות והכל היה קורה דרכם בלי ערוצים נוספים. המפיצים מביאים לקוחות והם מדברים עם לקוחות וכדומה. מה שקורה בפועל זה שמאחר וכיום יש עוד הרבה אלטרנטיבות לעשות הכנסה מ-gig economy ובגלל התחרות הרבה בשוק, אז המודל לפיו הם בונים רק על המפיצים כבר לא עובד. מה שאנחנו מביאים לשולחן זה שאנחנו מייצרים מודלים של פרדיקציה שעושים את הכל באופן אוטומטי, את ה-retention, ההמלצות על מוצרים כאשר אנחנו יודעים לזהות מה כל לקוח יקנה ומתי והחברות כבר לא צריכות לבנות על המפיצים אלא אנחנו עושים את זה בשבילם, הכל כבר הופך לאוטומטי.

מתי הוקמה וכמה עובדים?

קמנו ביולי 2024, אנחנו 10 עובדים, הרוב בישראל ואחת ביוטה.

מי המשקיעים?

זוהר גילון, יובל בר-גיל, ניר גרינברג, רן שריג, אפי כהן ועוד

הונאה ברשת (AI)הונאה ברשת (AI)

המלחמה בהונאות: TrueScontrol סטארט-אפ ישראלי יקבע אם האתר אמין; למה זה חשוב?

על רקע ההונאות והאכזבה משירותים ומוצרים שמקבלים ברשת האינטרנט, פותח מנגנון שיספק קוד אימון לאתרים ולאנשי מקצוע; המטרה: לצמצם את ההונאות בתחום הזה ולייצר לעסקים אמינים גושפנקא אובייקטיבית שתוכר על ידי הציבור

רן קידר |
נושאים בכתבה הונאה

בעשור האחרון הכלכלה הדיגיטלית צמחה בקצב מואץ, אך במקביל צמחה גם תופעה שפוגעת ישירות בשורה התחתונה של עסקים שמשתמשים בדיגיטל: הונאות שגורמות לשחיקת האמון ברשת. 

צרכנים נחשפים לאינספור אתרים, בעלי מקצוע ושירותים מקוונים אך מתקשים לדעת מי מהם אמין, מוסמך ובעל זהות ברורה. התוצאה היא לרוב היסוס, נטישת עסקאות ופגיעה בהכנסות של העסקים האלו. על הרקע הזה הוקם  הסטארט־אפ הישראלי TrueScontrol שמבקש להתמודד עם הבעיה דרך מתן ביטחון לגולשים. 

מנהלי החברה, גל חזיזה ושחר ישראל בוטבול מסבירים כי התופעה של בריחת לקוחות מעסקים בגל חוסר אמון הובילה אותם להבין שהציבור רוצה קוד אימון ולא להסתמך על הבטחות וה"יהיה בסדר" המוכר. הם רוצים לדעת שהעורך דין, יועץ מס, מכונאי, טכנאי מחשבים הוא אמין ואת זה הם מתכוונים לספק להם דרך  TrueScontrol. 

הם יצרו שכבה אוטומטית עם תוספת של אימות אנושי מול בעלי האתר ונותני השירותים וכך הם מעבדים והופכים את המידע שהתגבש אצלם למדד אמון. 


אובדן אמון = אובדן הכנסות


מחקרים רבים מצביעים על קשר ישיר בין רמת אמון לבין החלטות רכישה. אתרים שאינם נתפסים כאמינים סובלים משיעורי נטישה גבוהים, יחס המרה נמוך ופגיעה במוניטין לטווח ארוך. זה נכון לכל סוגי האתרים, גם אתרי תוכן וגם אתרים של אנשי מקצוע. בעולמות שבהם השירות ניתן מרחוק כמו: מסחר מקוון, ייעוץ, רפואה, משפטים והנדסה, חוסר הוודאות הופך לחסם כלכלי של ממשעסקים לגיטימיים נאלצים כיום "להוכיח את עצמם" שוב ושוב רק משום שהצרכן אינו יודע להבדיל בינם לבין גורמים מתחזים וכאן הפתרון של  TrueScontrol יכול לספק להם מענה טוב.