ג'נסן הואנג, מנכ"ל אנבידיה, בנאום המרכזי בכנס GTC בברלין (אנבידיה)
ג'נסן הואנג, מנכ"ל אנבידיה, בנאום המרכזי בכנס GTC בברלין (אנבידיה)

אנבידיה משחררת בחינם מודל תמלול ב-40 שפות, ומאיימת על שוק הסטארטאפים של הקול

Nemotron 3.5 Transcribe מתמלל הקלטות של עד שעה, מזהה עד שמונה דוברים ומתרגם 31 שפות לאנגלית ובחזרה, עם משקלים פתוחים ומאגר של יותר מ-460 אלף שעות הקלטה; המטרה: למכור עוד שבבים, מהרובוט ועד מרכז הנתונים
בן פלמון |

אנבידיה משחררת את Nemotron 3.5 Transcribe, מודל זיהוי דיבור עם משקלים פתוחים שזמין להורדה חופשית ב-Hugging Face. המודל מתמלל 40 שפות, מתרגם 31 מהן לאנגלית וממנה, מתמודד עם הקלטות באורך של עד שעה ומבחין בין עד שמונה דוברים. לצד המודל, החברה מפרסמת את Granary v2, מאגר פתוח של כ-463 אלף שעות דיבור ב-48 שפות, כמעט פי שניים במספר השפות לעומת הגרסה הקודמת.

החידוש המרכזי הוא האפשרות לכוון את התוצאה בהוראות בשפה טבעית. אותה הקלטה יכולה לצאת כתמליל מילה במילה, כולל היסוסים ו"אממ", או כטקסט נקי שבו מספרים מופיעים כספרות וסכומים עם סימן מטבע. מפתח יכול גם להזין רשימת מונחים מקצועיים, כמו שמות תרופות או מוצרים, כדי שהמודל יאיית אותם נכון. בבדיקה בתחום הרפואי, כוונון נוסף של המודל הוריד את שיעור שגיאות המילים בכ-46% לעומת שימוש בהוראות בלבד.

הידעת?כמה פרמטרים פעילים יש למודל?
המודל בנוי על מודל שפה מסוג תערובת מומחים עם כ-30 מיליארד פרמטרים, אבל בכל רגע פועלים כ-4.3 מיליארד מהם. המבנה הזה מאפשר להריץ אותו על שבב בודד ובעלות נמוכה יחסית.

לפי אנבידיה, המודל מוביל מבחני השוואה בתחום, כולל טבלת הדירוג הפתוחה לזיהוי דיבור של Hugging Face. עם זאת, Transcribe עובד על הקלטות קיימות, ולכן מתאים פחות לתמלול שיחה חיה בזמן אמת, למשל בכתוביות לשידור או במוקד שירות שמנתח שיחות תוך כדי. בתחום הזה ימשיכו לפעול מודלים ייעודיים לזרימה רציפה.

הכלי חינמי, השבב בתשלום

אנבידיה מציגה את המודל כמתאים להרצה על שבב יחיד, ממחשב הרובוטיקה Jetson AGX Thor ומחשב השולחן DGX Spark ועד שבבי Blackwell במרכזי נתונים. במשפחת Nemotron כולה החברה מחלקת מודלים ונתונים בחינם, ומרוויחה מהחומרה שעליה הם רצים. ככל שיותר מפתחים בונים מוצרים על המודלים שלה, כך גדל הביקוש לשבבים ולתוכנה שמותאמים להם.

הקהל המרכזי הוא מפתחים שבונים כלים לתמלול פגישות ותיעוד רפואי, שני תחומים שבהם בינה מלאכותית כבר חדרה לשגרת העבודה בהיקף רחב. בתי חולים, חברות ביטוח ומוקדי שירות מעדיפים לעתים להריץ מודל בתוך השרתים שלהם במקום לשלוח הקלטות רגישות לענן חיצוני, ומודל פתוח מאפשר זאת. היכולת לבחור היכן ההקלטה מעובדת חשובה במיוחד בארגונים שכפופים לכללי פרטיות מחמירים, כמו רגולציית הבריאות בארה"ב.

הידעת?מה מכיל המאגר Granary v2?
כ-463 אלף שעות דיבור ב-48 שפות מ-16 מקורות. לכל הקלטה נוצרים שלושה תמלילים בסגנונות שונים, וגם תרגומים, תיאורי שמע קצרים וזוגות של שאלה ותשובה, שמשמשים לאימון מודלים.

המהלך מגיע בתקופה עמוסה בשוק הקול: מיסטרל השיקה את Voxtral 3, ElevenLabs השיקה כלי לדיבור מיידי לסוכנים קוליים וסיילספורס הציגה מודל קול משלה. עבור סטארטאפים שגובים תשלום על תמלול לפי דקה, מודל חינמי באיכות גבוהה עלול לשחוק את המחירים, ולדחוף אותם לבדל את עצמם בממשק, באינטגרציות ובהתאמה לענפים ספציפיים. להרחבה: אנבידיה הפכה לבנק של עולם ה-AI, ועכשיו מגיע מבחן האשראי הראשון.

עבור משקיעי אנבידיה, המודל עצמו זניח מבחינת הכנסות. המשמעות שלו טמונה בחיזוק האקוסיסטם שמסביב לשבבים, בתקופה שבה ענקיות הענן, בהן אלפאבית ואמזון, מפתחות שבבים משלהן ומנסות לצמצם את התלות בה. מודלים פתוחים שמותאמים במיוחד לחומרה של אנבידיה ולספריות התוכנה שלה, כמו NeMo, מקשים על לקוחות לעבור לשבבים מתחרים, גם כשהמחיר שלהם נמוך יותר. להרחבה: אנבידיה משקיעה 3 מיליארד דולר במטא ומעמיקה את השותפות סביב Muse.

הוספת תגובה

תגובות לכתבה:

הגב לכתבה

השדות המסומנים ב-* הם שדות חובה