סורה 2OpenAI משיקה את Sora 2 ומאיימת על הוליווד; האם כל אחד יכול להיות במאי?
עורכי ווידאו, במאים, מעצבים, אפילו שחקנים - המקצוע שלכם בסכנה, הכירו את Sora 2; הדור החדש של מחולל הווידאו מעורר ביקורת על שימוש בדמויות מוגנות ויכולות דיפ-פייק מתקדמות, אבל הוא רק מוכיח שמדובר במהפכה של ממש
OpenAI חשפה את Sora 2, הדור המשודרג והמהפכני של כלי הווידאו שלה שיוצר סרטונים מטקסט בלבד. המוצר החדש לא רק משפר באופן דרמטי את איכות הווידאו והמציאותיות, אלא גם מציג יכולות חדשות שמעוררות דילמות אתיות ומשפטיות. בנוסף למנוע הווידאו המשודרג, נלווית אליו אפליקציה עצמאית ל-iOS בשם Sora, המשמשת כרשת חברתית שבה משתמשים יוצרים ומשתפים סרטונים שנוצרו על ידי המודל. תוך ימים ספורים מההשקה, האפליקציה זינקה למקום הראשון בחנויות האפליקציות בארצות הברית, אך בו זמנית עוררה סערה ציבורית. הטכנולוגיה הציגה יכולות מתקדמות ליצירת תוכן שעלול להפר זכויות יוצרים, ליצור סרטונים מזויפים של אנשים אמיתיים, ואף להפיק תוכן אלים וגזעני שחומק מהבקרות הטכנולוגיות של החברה.
המהפכה המתפתחת במהירות מעוררת שאלות מהותיות לגבי הגבול בין חדשנות טכנולוגית לבין אחריות חברתית. בעוד OpenAI מתגאה ביכולות המרשימות של המודל החדש, מומחים משפטיים, יוצרי תוכן ורגולטורים מזהירים מפני השלכות רחבות טווח על זכויות יוצרים, פרטיות אישית, ואפילו על עצם היכולת להבחין בין אמת לשקר בעידן הדיגיטלי.
מה חדש ב-Sora 2
Sora 2 מציג שיפורים משמעותיים על פני קודמו, כולל סנכרון מושלם בין וידאו וקול, אפקטים סביבתיים ומוזיקה שנוצרים באופן אוטומטי ומתואמים לפעולה הוויזואלית. המודל החדש מפגין שליטה משופרת בתנועה ובפיזיקה, יוצר אובייקטים שנעים באופן ריאליסטי וביטויי פנים טבעיים שמדמים רגשות אנושיות אמיתיות. התכונה המרכזית והשנויה ביותר במחלוקת היא יכולת ה-cameo – טכנולוגיה שמאפשרת למשתמש לצלם סרטון קצר של עצמו או של אדם אחר, ולאחר מכן להכניס את דמותו לתוך כל סצנה מדומיינת. המשתמש יכול ליצור סרטון שבו הוא רוקד עם מפורסמים, לוחם בקרבות או נואם בפני קהל ענק, הכול ללא צורך בציוד מקצועי או ידע טכני מתקדם.
OpenAI מתגאה ביכולת החדשה לייצר סרטונים באורך של עד 20 שניות ברזולוציה של 1080p, עם פרטים ריאליסטיים כמו השתקפויות במים, תנועת בדים ברוח, וביטויי פנים עדינים. המודל מסוגל להבין הוראות מורכבות כמו "צור סרטון של חתול שמנגן בפסנתר כאשר בחוץ יורד שלג, ובאמצע החתול מסתכל ישר למצלמה ומחייך", וליצור תוכן שנראה כאילו צולם במצלמה מקצועית.
היכולות הטכניות המרשימות כוללות גם הבנה מתקדמת של תאורה וצבעים, יצירת סצנות עם מספר דמויות שמקיימות ביניהן אינטראקציה מורכבת, ואפילו יכולת ליצור סרטונים בסגנונות שונים, מאנימציה ועד לריאליזם פוטוגרפי. רמת האיכות והפירוט מגיעה לנקודה שבה קשה להבדיל בין תוכן שנוצר בבינה מלאכותית לבין צילומים אמיתיים.
מדיניות Opt-Out: כשהנטל להגן על זכויות יוצרים עובר ליוצרים
אחד הנושאים הבעייתיים ביותר שמעורר ביקורת חריפה הוא מדיניות ה-"opt-out" של OpenAI בנוגע לזכויות יוצרים. במסגרת מדיניות זו, המודל רשאי להשתמש בדמויות, סצנות וסגנונות ויזואליים מוגני זכויות יוצרים, אלא אם כן בעלי הזכויות ביקשו מראש שלא להשתמש ביצירותיהם. המשמעות היא שכל יוצר, אמן, במאי או סטודיו שלא שלח בקשה מפורשת ל-OpenAI למנוע שימוש בעבודתו, עלול לגלות שהמודל מייצר גרסאות חדשות ודומות לעבודתו המקורית. זה יוצר מצב שבו הנטל להגן על זכויות יוצרים מועבר מהחברה הטכנולוגית לבעלי הזכויות עצמם, דפוס שמזכיר את המחלוקות הקודמות סביב מודלי השפה של OpenAI ושימושם בתוכן מוגן.
OpenAI טוענת שהיא שלחה התראות מוקדמות לסטודיואים גדולים ולבעלי זכויות ידועים, והציעה להם כלים טכנולוגיים למנוע שימוש לא רצוי ביצירותיהם. החברה פיתחה מערכת זיהוי אוטומטית שאמורה לחסום יצירת תוכן הזהה מדי לחומר מוגן זכויות יוצרים, ובמקרים מסוימים המערכת אכן פועלת כאשר בקשות ליצור דמויות כמו "דארת' ויידר" או "מיקי מאוס" נדחות אוטומטית.
אולם הביקורת מתרכזת בכך שהגישה הזו מעמידה את הרישוי בצד הלא נכון של המשוואה. במקום לקבל הסכמה מפורשת לפני השימוש, החברה מניחה שהשימוש מותר עד שמישהו מתנגד באופן אקטיבי. עורכי דין מתמחים בזכויות יוצרים מזהירים שזה עלול ליצור תקדים בעייתי שיאלץ יוצרים להילחם על זכויותיהם במקום ליהנות מהגנה טבעית.
הסכנות של הטכנולוגיה המתקדמת
תכונת cameo החדשה מעוררת חששות בנוגע לטכנולוגיות דיפ-פייק ולשימוש לרעה בדמותם של אנשים. היכולת ליצור סרטון של כל אדם בכל מצב, לאחר צילום קצר בלבד, פותחת פתח רחב לשימושים בעייתיים – מזיוף דמויות ציבוריות ועד לתוכן פורנוגרפי לא מורשה, מהטעיה פוליטית ועד לבריונות דיגיטלית. תוך שעות מההשקה, החלו להופיע ברשתות החברתיות סרטונים שהציגו אלימות גרפית, תיאורים מפורטים של מלחמות ואסונות, ואפילו סצנות גזעניות ומפלות. משתמשים גילו דרכים לעקוף את המסננים של OpenAI באמצעות ביטויים עקיפים או בקשות מרובות שלבים, מה שמעלה שאלות רציניות לגבי יעילות מערכות הבטיחות.
הבעיה מחריפה על ידי כך ש-Sora 2 יוצר תוכן ברמת איכות כה גבוהה שקשה להבדיל בינו לבין צילומים אמיתיים. זה אומר שסרטון מזויף של פוליטיקאי, מפורסם או אדם רגיל יכול להיראות משכנע מספיק כדי להטעות צופים שלא מודעים לכך שהתוכן נוצר באמצעות בינה מלאכותית.
התפתחות Sora 2 חשפה פער משמעותי במסגרות המשפטיות הקיימות. כשמודל בינה מלאכותית יוצר תוכן דומה ליצירה מוגנת זכויות יוצרים, השאלה היא האם מדובר בהפרת זכויות יוצרים, שימוש הוגן, או קטגוריה משפטית חדשה לגמרי. מקרי מבחן ראשונים כבר מתחילים להופיע במערכות המשפט, כאשר מפורסמים וחברות הפקה שוקלים תביעות משפטיות.
ממשלות ברחבי העולם מתחילות להבין שהטכנולוגיה מתקדמת מהר יותר מיכולתן להתמודד איתה. האיחוד האירופי בוחן הוספת הוראות ספציפיות לגבי יצירת תוכן ויזואלי, והצעות כוללות חובת סימון של תוכן שנוצר בבינה מלאכותית ועונשים כבדים על שימוש בדמויות ללא הסכמה. המסר ברור: העידן שבו ניתן להניח שתוכן וידאו משקף מציאות הגיע לקיצו.
