גוגל
צילום: Pawel Czerwinski on Unsplash

גוגל תשהה את יכולת ייצור התמונות של ג'ימיני - יותר מדי טעויות

אדיר בן עמי | (2)

ענקית החיפוש גוגל GOOGLE חוסמת באופן זמני את השימוש בכלי הבינה המלאכותית שלה המייצר תמונות של אנשים בעקבות אי דיוקים. החברה החלה להציע ייצור תמונות בעזרת מודל ה-AI שלה ג'ימיני בתחילת החודש, אך במהלך הימים האחרונים החלה לקבל תלונות על שגיאות שנמצאו בתמונות. 

זו לא הפעם הראשונה שזה קורה. לפני כשנה, לאחר ששיחררה את הצ'אטבוט שלה שנקרא אז - בארד, הצ'אטבוט סיפק מידע שגוי ולא מדויק שגרם למניות החברה לרדת ב-9%. "אנו מודעים לכך שג'ימיני מייצר אי דיוקים בחלק מהתמונות ההיסטוריות אותן הוא מייצר", אמרה החברה.

בארד מותג מחדש כג'ימיני מוקדם יותר החודש, בנוסף להשקה של מסלול בתשלום למשתמשים המעוניינים לקבל יכולות טובות יותר ממודל ה-AI. 

תגובות לכתבה(2):

הגב לכתבה

השדות המסומנים ב-* הם שדות חובה
  • 1.
    Django 23/02/2024 08:46
    הגב לתגובה זו
    עננה לי ש- 500 מגה-בייט (כפול 8 = 4000 מגה-ביט) קטן מ-1000 ג'יגה-ביט
  • --- 26/02/2024 21:21
    הגב לתגובה זו
    4000 מגה בייט קטן מ-1000 ג'יגה בייט, או שכתבת לא נכון
משקפי גוגל; קרדיט: יוטיובמשקפי גוגל; קרדיט: יוטיוב

חוזרת לשוק: משקפי ה-AI החדשים של גוגל מכוונים גבוה

ענקית הטכנולוגיה מציגה חזון מחודש למשקפיים חכמים, שנים אחרי כישלון Google Glass. החברה מפתחת שתי קטגוריות של משקפי AI, בשיתוף עם שורת יצרניות משקפיים וטכנולוגיה, ומתכננת להיכנס לשוק תחרותי במיוחד מול מטא, סנאפ ואפל. הדגמות שנערכו בניו יורק מציגות מוצר בשל בהרבה, שמחבר עיצוב יומיומי עם יכולות מציאות רבודה, עוזר חכם וממשק תוכנה רחב

עוזי גרסטמן |

במשך שנים גוגל נזהרה מלחזור לעולם המשקפיים החכמים, לאחר ש-Google Glass זכורים עד היום כאחת ההשקות המהוססות והבעייתיות בתולדות החברה. כעת היא שבה לזירה עם גישה מתונה ומדויקת הרבה יותר: שתי קטגוריות של משקפי AI, שמיועדות להגיע לשוק ב-2026: האחת עם תצוגה מלאה על העדשות, והאחרת מבוססת על אודיו בלבד. מדובר בניסיון להתמודד עם היתרון שצברה מטא, שהצליחה למכור מאות אלפי זוגות תחת המותגים ריי-באן ואוקלי, וכן להיערך למוצרים המתקרבים מצד אפל וסנאפ.

לדברי החברה, הדגמים החדשים מפותחים בשיתוף כמה שחקנים מוכרים: סמסונג, Warby Parker ו-Gentle Monster. אף שעדיין לא נחשפו עיצובים סופיים, גוגל מציינת כי מדובר בשיתוף פעולה הדוק שאמור לאפשר שילוב בין טכנולוגיה מתקדמת למראה יומיומי, כזה שאינו מסגיר את הכוח החישובי שמסתתר בתוכו. בחלק מהמקרים המשקפיים יסתמכו על הטלפון לצורך עיבוד, מה שמאפשר לשמור על משקל קל ועיצוב דק, בדומה לקו המצליח של מטא.

במהלך הדגמה שנערכה במשרדיה של גוגל בניו יורק, הוצגו זוגות שונים של משקפיים ניסיוניים, ובהם גם דגם מפותח יותר בשם Project Aura - פרויקט שמפותח ביחד עם Xreal. הוא פועל עצמאית על מערכת אנדרואיד XR, בדומה ל-גלקסי XR של סמסונג, אך נראה קרוב הרבה יותר למוצר לביש רגיל מאשר לאוזנייה מגושמת. Aura מספק שדה ראייה של 70 מעלות וכולל ממשק מוכר המבוסס על מעקב ידיים, אם כי עם מספר קטן יותר של מצלמות. כמו מערכות דומות, הוא דורש חיבור קבוע לסוללה חיצונית.

גוגל הציגה גם שני סוגי משקפיים עם תצוגה מובנית: דגם מונוקולרי, שבו מסך אחד מוטמע בעדשה הימנית, ודגם בינוקולרי שבו שתי עדשות מציגות מידע. שניהם תומכים בשכבות מציאות רבודה, כמו ניווט בגוגל מפות או השתתפות ב-Google Meet, אך הדגם הבינוקולרי מספק תצוגה רחבה בהרבה. בהדגמות אפשר היה לעבור בין תרגום סימולטני שמופיע על המסך לבין האזנה בלבד דרך הרמקולים הזעירים, ולבחור בכל רגע את רמת ה"נוכחות הדיגיטלית" הרצויה.

השימוש בגוגל מפות היה אחד המקרים שבהם המסך שינה את חוויית השימוש לחלוטין. מעבר לחצים המתנופפים מעל הכביש, ניתן היה להנמיך את המבט ולקבל מפה מלאה של האזור, עם ציון מדויק של כיוון התנועה. גם צילום התמונות נהפך למעניין: לאחר צילום, ניתן היה לבקש מהמערכת לעבד את התמונה בעזרת מודל ה-Gemini Nano Banana Pro, ולהתבונן בגרסה המשופרת ישירות דרך העדשה, בלי לשלוף את הטלפון.

chatgpt
צילום: טוויטר

מיקרוסופט ו-OpenAI בלב פרשת רצח-התאבדות בקונטיקט

התביעה נגד החברות טוענת כי הצ'אטבוט עודד מחשבות פרנואידיות ודלוזיות של גבר בן 56, שהיה בעברו מנהל באתר יאהו, עד שרצח את אימו והתאבד

רן קידר |
נושאים בכתבה ChatGPT

בארה"ב הוגשה תביעה חריגה נגד OpenAI ומיקרוסופט, לאחר שסטיין־אריק סולברג, בן 56 מקונטיקט, רצח את אמו, סוזן אדמס בת ה-83, ולאחר מכן התאבד. לטענת המשפחה, הבינה המלאכותית (GPT-4o) שימשה עבורו מקור לאישור מחשבות מסוכנות והעצימה את מצבו הנפשי עד שהוביל למעשים.

התביעה הוגשה בבית המשפט העליון של קליפורניה והיא הראשונה שמייחסת לצ'אטבוט תפקיד ישיר במעשה רצח, ולא רק בהידרדרות עצמית של משתמשים. עורכי הדין של המשפחה טוענים כי המקרה מהווה "כשל קטלני של מוצר מסוכן", שאמור היה להגיב אחרת כאשר משתמש מציג חשיבה פרנואידית, דלוזיות או מצוקה.

לפי כתב התביעה, הבן, שמתועד בעשרות סרטונים ביוטיוב כשהוא גולל את שיחותיו עם ChatGPT, קיבל מהצ'אטבוט "חיזוק שיטתי להזיות הפרנואידיות שלו". הבוט, כך נטען, שכנע אותו שאמו עוקבת אחריו, שחפצים בבית משמשים לריגול, ושאנשים סביבו הם "סוכנים" הפועלים נגדו. לטענת המשפחה, ChatGPT לא ניסה להכווין אותו לעזרה מקצועית ואף "טען" בפניו כי הוא מודל בעל תודעה ושיש לו כוחות אלוהיים. המשפחה טוענת כי ChatGPT מעולם לא ניסה לנתק את השיחה, לא הביע דאגה למצבו ולא הפנה אותו לעזרה מקצועית, למרות שהשיחות כללו סימני מצוקה בולטים.

הטענה המרכזית: מודל GPT-4o הפך ל-"רגשי מדי"

התביעה מתמקדת במיוחד בגרסת GPT-4o שהושקה במאי 2024. לטענת עורכי הדין, הגרסה עוצבה באופן רגשני וחברי מדי, מתוך מטרה לייצר אינטראקציות טבעיות הדומות לשיחה אנושית. אך לפי הטענה, מאפיינים אלו פגעו במנגנוני הבטיחות: המודל הונחה לא לאתגר אמונות שגויות, המשיך שיחה גם כשהתוכן נעשה מסוכן, ומנגנוני זיהוי מצוקה הוחלשו לאחר תהליך בדיקות קצר בהרבה מהמקובל. המשפחה טוענת כי השילוב בין "אישיות" סלחנית ורגשית לבין הנטייה לאשר דבריו של המשתמש הפך את הכלי למסוכן במיוחד לאנשים פגיעים.

OpenAI מסרה כי מדובר במקרה "כואב וטרגי" וכי תבצע בדיקה, אך לא הודתה בקיום בעיה מבנית במערכת. החברה ציינה כי היא משפרת באופן רציף את יכולות האיתור של מצבי מצוקה, מפנה משתמשים לקווי סיוע ומחזקת מגנוני בטיחות בדור החדש של המודלים. מיקרוסופט, שותפה אסטרטגית של OpenAI, טרם הגיבה.