גוגל תשהה את יכולת ייצור התמונות של ג'ימיני - יותר מדי טעויות
ענקית החיפוש גוגל GOOGLE חוסמת באופן זמני את השימוש בכלי הבינה המלאכותית שלה המייצר תמונות של אנשים בעקבות אי דיוקים. החברה החלה להציע ייצור תמונות בעזרת מודל ה-AI שלה ג'ימיני בתחילת החודש, אך במהלך הימים האחרונים החלה לקבל תלונות על שגיאות שנמצאו בתמונות.
זו לא הפעם הראשונה שזה קורה. לפני כשנה, לאחר ששיחררה את הצ'אטבוט שלה שנקרא אז - בארד, הצ'אטבוט סיפק מידע שגוי ולא מדויק שגרם למניות החברה לרדת ב-9%. "אנו מודעים לכך שג'ימיני מייצר אי דיוקים בחלק מהתמונות ההיסטוריות אותן הוא מייצר", אמרה החברה.
בארד מותג מחדש כג'ימיני מוקדם יותר החודש, בנוסף להשקה של מסלול בתשלום למשתמשים המעוניינים לקבל יכולות טובות יותר ממודל ה-AI.
- 1.Django 23/02/2024 08:46הגב לתגובה זועננה לי ש- 500 מגה-בייט (כפול 8 = 4000 מגה-ביט) קטן מ-1000 ג'יגה-ביט
- --- 26/02/2024 21:21הגב לתגובה זו4000 מגה בייט קטן מ-1000 ג'יגה בייט, או שכתבת לא נכון
האקרים מצפון קוריאה השתמשו ב-ChatGPT לייצור תעודת זהות מזויפת
חוקרי סייבר בדרום קוריאה חשפו כי האקרים מצפון קוריאה ניצלו את ChatGPT להפקת מסמכים מזויפים לצורכי פישינג והציגו באיזו קלות ניתן לעקוף מנגנוני הגנה בבינה מלאכותית ולבצע מתקפות ריגול דיגיטליות
חוקרי אבטחת מידע דרום קוריאניים חשפו השבוע מקרה בו קבוצת האקרים צפון קוריאנית השתמשה ב-ChatGPT ליצירת תעודת זהות צבאית מזויפת. המסמך המזויף שימש במסגרת התקפת סייבר שכוונה נגד יעדים בדרום קוריאה. המקרה מצטרף למגמה גוברת של שימוש בכלי בינה מלאכותית לפעילות ריגול.
קבוצת האקרים הידועה בשם "קימסוקי" יצרה מסמך מזויף של תעודת זהות צבאית דרום קוריאנית. המסמך היה אמור להפוך הודעת פישינג לאמינה יותר. ההודעה הכילה קישור לתוכנה זדונית המסוגלת לחלץ מידע ממחשבי הקורבנות. זו אינה הפעם הראשונה שצפון קוריאה עושה שימוש בבינה מלאכותית למטרות כאלה. באוגוסט דיווחה חברת אנתרופיק כי האקרים צפון־קוריאנים השתמשו בכלי Claude Code כדי להתחזות לעובדי טכנולוגיה ולהתקבל לעבודה בחברות אמריקניות, שם ביצעו משימות טכניות לאחר שהתקבלו.
OpenAI מסרה בפברואר כי חסמה חשבונות חשודים של גורמים מצפון קוריאה. לפי החברה, המשתמשים יצרו קורות חיים ומכתבי פנייה מזויפים כדי לגייס עובדים למיזמים שלהם. במקרה האחרון כוונו ההתקפות לעיתונאים, חוקרים ופעילי זכויות אדם העוסקים בנושאי צפון קוריאה. ייתכן שהנפגעים נבחרו בשל עיסוקם בפרסום מידע על המשטר.
הממשל האמריקני טוען כי צפון קוריאה משתמשת בהתקפות סייבר, בגניבת מטבעות דיגיטליים ובשירותי קבלנות טכנולוגית כדי לאסוף מידע ולממן את תוכניותיה, לרבות פיתוח נשק גרעיני, ובכך לעקוף סנקציות.
- דרך ה-SharePoint: האקרים סינים חדרו כמעט עד לתכנית הגרעין האמריקאית
- האם האקר AI טוב יותר מהאקר אנושי? על הסטארט אפ שגייס 75 מיליון דולר
- המלצת המערכת: כל הכותרות 24/7
במהלך המחקר, החוקרים ביצעו ניסוי כדי להבין איך נוצר המסמך המזויף. כאשר ביקשו מ-ChatGPT ליצור תעודת זהות ממשלתית - פעולה הנחשבת בלתי חוקית בדרום קוריאה - המערכת סירבה לבקשה. אולם כשהם שינו מעט את אופן ניסוח הבקשה, המערכת הסכימה ליצור את המסמך הרצוי. הממצא מעלה חששות לגבי הקלות שבה ניתן לעקוף מנגנוני הבטיחות של כלי בינה מלאכותית ולנצל אותם למטרות זדוניות. זה מדגים פער בין המדיניות המוצהרת של חברות הטכנולוגיה לבין היכולת הפרקטית לאכוף אותה.
האקרים מצפון קוריאה השתמשו ב-ChatGPT לייצור תעודת זהות מזויפת
חוקרי סייבר בדרום קוריאה חשפו כי האקרים מצפון קוריאה ניצלו את ChatGPT להפקת מסמכים מזויפים לצורכי פישינג והציגו באיזו קלות ניתן לעקוף מנגנוני הגנה בבינה מלאכותית ולבצע מתקפות ריגול דיגיטליות
חוקרי אבטחת מידע דרום קוריאניים חשפו השבוע מקרה בו קבוצת האקרים צפון קוריאנית השתמשה ב-ChatGPT ליצירת תעודת זהות צבאית מזויפת. המסמך המזויף שימש במסגרת התקפת סייבר שכוונה נגד יעדים בדרום קוריאה. המקרה מצטרף למגמה גוברת של שימוש בכלי בינה מלאכותית לפעילות ריגול.
קבוצת האקרים הידועה בשם "קימסוקי" יצרה מסמך מזויף של תעודת זהות צבאית דרום קוריאנית. המסמך היה אמור להפוך הודעת פישינג לאמינה יותר. ההודעה הכילה קישור לתוכנה זדונית המסוגלת לחלץ מידע ממחשבי הקורבנות. זו אינה הפעם הראשונה שצפון קוריאה עושה שימוש בבינה מלאכותית למטרות כאלה. באוגוסט דיווחה חברת אנתרופיק כי האקרים צפון־קוריאנים השתמשו בכלי Claude Code כדי להתחזות לעובדי טכנולוגיה ולהתקבל לעבודה בחברות אמריקניות, שם ביצעו משימות טכניות לאחר שהתקבלו.
OpenAI מסרה בפברואר כי חסמה חשבונות חשודים של גורמים מצפון קוריאה. לפי החברה, המשתמשים יצרו קורות חיים ומכתבי פנייה מזויפים כדי לגייס עובדים למיזמים שלהם. במקרה האחרון כוונו ההתקפות לעיתונאים, חוקרים ופעילי זכויות אדם העוסקים בנושאי צפון קוריאה. ייתכן שהנפגעים נבחרו בשל עיסוקם בפרסום מידע על המשטר.
הממשל האמריקני טוען כי צפון קוריאה משתמשת בהתקפות סייבר, בגניבת מטבעות דיגיטליים ובשירותי קבלנות טכנולוגית כדי לאסוף מידע ולממן את תוכניותיה, לרבות פיתוח נשק גרעיני, ובכך לעקוף סנקציות.
- דרך ה-SharePoint: האקרים סינים חדרו כמעט עד לתכנית הגרעין האמריקאית
- האם האקר AI טוב יותר מהאקר אנושי? על הסטארט אפ שגייס 75 מיליון דולר
- המלצת המערכת: כל הכותרות 24/7
במהלך המחקר, החוקרים ביצעו ניסוי כדי להבין איך נוצר המסמך המזויף. כאשר ביקשו מ-ChatGPT ליצור תעודת זהות ממשלתית - פעולה הנחשבת בלתי חוקית בדרום קוריאה - המערכת סירבה לבקשה. אולם כשהם שינו מעט את אופן ניסוח הבקשה, המערכת הסכימה ליצור את המסמך הרצוי. הממצא מעלה חששות לגבי הקלות שבה ניתן לעקוף מנגנוני הבטיחות של כלי בינה מלאכותית ולנצל אותם למטרות זדוניות. זה מדגים פער בין המדיניות המוצהרת של חברות הטכנולוגיה לבין היכולת הפרקטית לאכוף אותה.
