בזמן שמודלי השפה הגדולים ממשיכים להתקדם במהירות ברחבי העולם, רובם עדיין נשענים על אנגלית כשפה מרכזית, ורק בהמשך מקבלים עדכוני התאמה לשפות אחרות. היום מציגה דיקטה חלופה יוצאת דופן: סדרת Dicta-LM 3.0, אוסף מודלים גדולים וריבוניים בקוד פתוח, שתוכננו לספק יכולות עומק בעברית כבר משלב האימון הראשוני, לא כתוספת, אלא כבסיס.

בניגוד למודלי שפה בינלאומיים שנשענים כמעט לחלוטין על גופי מידע באנגלית, המודל של דיקטה מאומן מראש על מאגר דיגיטלי עצום של טקסטים עבריים, הכוללים מקורות פומביים, ארכיונים, אוספי תכנים מהספרייה הלאומית, חומרים שנמסרו לעמותה בידי גופים ציבוריים ופרטיים, ונתונים עבריים ייעודיים שפותחו במיוחד לצורכי המחקר. שילובם עם דאטה איכותי באנגלית יוצר מודלים שמבינים עברית ברמת עומק תרבותית ולשונית, תוך שמירה על יכולות ההסקה והידע הגלובלי של המודלים הבסיסיים שעליהם הותאמו.

ברמה הטכנית, מדובר באחת ההשקות החשובות ביותר בתחום ה-AI המקומי: מודלים במשקל 24 מיליארד (על בסיס Mistral), 12 מיליארד (על בסיס מודל בסיסי של אנבידיה) ו-1.7 מיליארד פרמטרים (שמיועד גם למכשירי קצה אישיים). המודלים הללו הוכשרו על כ-150 מיליארד טוקנים (כ-75% עברית, 25% אנגלית), תוך הרחבת חלון ההקשר המקורי של המודלים לכ-65 אלף טוקנים, כלומר כ-26 אלף מילים בעברית. כל שלושת המודלים זמינים לשימוש חופשי, ניתנים להורדה ישירות מ-HuggingFace, וניתנים להרצה הן בתצורה מלאה והן בגרסאות דחוסות כמו FP8 ו-4bit.

בנוסף, המודל הקטן זמין גם דרך אתר דיקטה. 

שלושה מודלים - שלוש מטרות

כאמור, המודל המוביל של הסדרה החדשה מבוסס על Mistral Small 3.1, והוא מותאם להנמקה מתקדמת ולשיחה ארוכת־טווח. בנוסף אליו, ישנו דגם קל משקל המבוסס על ארכיטקטורת אנבידיה Nemotron Nano V2, המאפשר חלון הקשר ארוך משמעותית וצריכת זיכרון נמוכה.

• אמזון משיקה שבב AI חדש שיתחרה באנבידיה- "השבב שלנו יעיל יותר וחוסך בעלויות"
• "אנבידיה נסחרת במכפיל שפל היסטורי" בנק אוף אמריקה ממליץ לנצל את ההזדמנות
• המלצת המערכת: כל הכותרות 24/7

המודל הקטן יותר, מיועד להרצה על חומרה צרכנית, כולל מחשבים אישיים ואפילו מכשירי קצה. בכל הדגמים ניתן למצוא תמיכה מובנית ב-tool calling, המאפשרת חיבור לכלים חיצוניים, API וסביבות מידע בזמן ריצה. השילוב הזה אמור להיות אטרקטיבי לארגונים ישראליים, עם פתרונות AI ריבוניים שיכולים לרוץ on-prem על תשתיות קיימות, מבלי להסתמך על ענן זר או העברת מידע רגיש לחו״ל.

כשמדברים על מחסור בכוח אדם בהייטק הישראלי, התמונה המצטיירת היא לרוב של מעסיקים נואשים המחפשים עובדים וחברות שתוכניות הפיתוח שלהן נפגעות. אבל מחקר של מכון RISE Israel, שפורסם השבוע, מציג מציאות שונה לחלוטין: המחסור אינו בהיצע כוח האדם, אלא בסוג הכישורים הנדרשים לעידן החדש של בינה מלאכותית.

המחקר, שנערך בשיתוף קרן טראמפ למצוינות בחינוך, כולל ראיונות עומק עם מנהלי טכנולוגיה והון אנושי מחברות מובילות כמו Google, Lightricks, Cellebrite, Fiverr ו-Hailo Technologies, בנוסף לניתוח של מאגרי נתונים מלינקדאין ומאתרי דרושים. התוצאה: תמונה מורכבת של שוק עבודה שעובר טרנספורמציה עמוקה, שבה הכללים הישנים כבר לא חלים.

"אולי יש מחסור באנשי AI אבל אין מחסור ב-Talent"

הממצא המפתיע ביותר עולה מפי אחת המרואיינות, שניסחה אותו בצורה תמציתית: "אולי יש מחסור באנשי AI אבל אין מחסור ב-Talent שניתן להכשיר כאנשי AI".  במספר המועסקים בהייטק הישראלי קיים קיפאון של שנתיים, כפי שעולה מנתוני הלשכה המרכזית לסטטיסטיקה. "הגורם המשפיע ביותר על התעסוקה בהייטק בכלל, ובמקצועות ה-AI בפרט, הוא מצב המאקרו - שוק העבודה בישראל רפוי, ולכן בסה"כ אין מחסור בהון אנושי", נכתב במחקר.

התוצאה: יש קיפאון של שנתיים במספר המועסקים בהייטק, מה שמוביל למצב של עודף ביקוש לתעסוקה. במקצועות מסוימים ההיצע מצומצם יחסית, מה שגורם לעליות שכר או להתפשרות של מעסיקים על חלק מהדרישות שלהם ממועמד 'אידיאלי', אך אף חברה מאלה שראיינו לא אמרה שהיא אינה יכולה לגייס עובדים, או שתכניות הפיתוח שלה נפגעות משמעותית בגלל מחסור בעובדים".

• OECD מזהיר מפני התפוצצות בועת AI והסלמת מלחמת הסחר
• העובדים הכי טכנולוגיים דווקא לא ממהרים לתת לבינה המלאכותית לעשות הכול
• המלצת המערכת: כל הכותרות 24/7

המחקר מתעד שינוי מהותי באופי התעסוקה בהייטק. "שימוש בכלי AI מייעל עבודות תכנות 'פשוטות' ולכן חלק מהחברות מקטינות, או מתכוונות להקטין את מספר המתכנתים העוסקים בעבודות אלה", נכתב בדוח. אבל זה רק חלק אחד של התמונה.