האיחוד האירופי רוצה שתדעו מה יצר AI: כך יעבוד הסימון החדש

עד היום היה קל יחסית לפרסם תמונה שנוצרה בבינה מלאכותית, סרטון שעבר מניפולציה או טקסט שנכתב בעזרת מודל AI בלי שהאדם שמסתכל עליהם ידע זאת. אבל ככל שהתוצרים נעשים משכנעים יותר, היכולת להבחין בין תוכן שיצר אדם לתוכן שיצרה בינה מלאכותית הולכת ונשחקת. האיחוד האירופי רוצה שההבחנה הזאת תהיה פחות תלויה בעין של המשתמש.

כללי השקיפות של חוק הבינה המלאכותית האירופי, ה-AI Act, נועדו בדיוק לנקודה הזאת. הם מחייבים סימון של סוגים מסוימים של תוכן שנוצר או שונה באמצעות בינה מלאכותית, אבל המנגנון מורכב יותר מהוספת הכיתוב "נוצר ב-AI" בפינת התמונה. יש הבדל בין החובות שמוטלות על החברות שמפתחות את המערכות לבין אלה שמוטלות על מי שמפרסם את התוכן, וגם בין תמונה, סרטון ואודיו לבין טקסט.

מבחינת המשתמש, השאלה המרכזית פשוטה: מתי אמורים לספר לו שה-AI היה מעורב במה שהוא רואה או קורא? מבחינת החברות והיוצרים, השאלות כבר מורכבות יותר: מי צריך להוסיף את הסימון, איך הוא אמור להיראות, האם גם שימוש חלקי ב-AI מחייב גילוי, ומה קורה כאשר אדם כתב את הטקסט אבל נעזר בבינה מלאכותית בעריכה או בשכתוב?

אז מה בעצם האיחוד האירופי מחייב?

כאן חשוב להפריד בין שני סוגים של שקיפות. הראשון הוא סימון טכני: ספקים של מערכות AI שמייצרות תוכן סינתטי מסוג תמונה, אודיו, וידאו או טקסט נדרשים לוודא שהתוצרים מסומנים בפורמט קריא למכונה וניתנים לזיהוי כתוכן שנוצר או עבר מניפולציה באמצעות בינה מלאכותית. הסימון אמור להיות בפורמט קריא למכונה, כך שפלטפורמות ומערכות אחרות יוכלו לזהות את מקור התוכן. הוא לא חייב להיות "סימן מים" גדול שהמשתמש רואה על המסך.

הסוג השני הוא גילוי לבני אדם. במקרים מסוימים לא מספיק שהמידע יהיה מוטמע בקובץ: מי שמפרסם או מפיץ את התוכן צריך להבהיר לציבור שהוא נוצר או שונה באופן מלאכותי. החובה הזאת רלוונטית במיוחד לדיפ-פייק ולסוגים מסוימים של טקסטים שנועדו ליידע את הציבור בעניינים בעלי עניין ציבורי.

האם כל תמונה שנוצרה ב-AI תקבל סימן מים?

לא בהכרח במובן שאנחנו רגילים לחשוב עליו. חוק ה-AI אינו קובע שכל תמונה מלאכותית צריכה להגיע עם כיתוב בולט על גביה. הדרישה היא שתוכן סינתטי שנוצר או עבר מניפולציה באמצעות AI יסומן בפורמט קריא למכונה, כך שניתן יהיה לזהות את מקורו. עם זאת, יש חריג לשימוש ב-AI לצורכי עריכה סטנדרטית או במקרים שבהם המערכת אינה משנה באופן מהותי את התוכן המקורי או את משמעותו.

ההבחנה חשובה משום שסימן מים חזותי אפשר לחתוך, למחוק או להסתיר. סימון טכני יכול להיות מוטמע במידע שמלווה את הקובץ או להיעשות באמצעות טכנולוגיות אחרות שמאפשרות לזהות את מקורו. מבחינת הגולש, המשמעות היא שלא תמיד נראה חותמת על התמונה; בחלק מהמקרים הפלטפורמה שבה התוכן מתפרסם היא זו שתוכל לזהות את הסימון ולהציג למשתמש מידע מתאים.

ומה לגבי טקסט שנכתב ב-צ'אטGPT?

כאן התשובה פחות גורפת. עצם העובדה שאדם השתמש במודל AI כדי לכתוב טקסט אינה הופכת כל מייל, פוסט, עבודה או כתבה למסמך שחייב לשאת תווית גלויה.

החוק מתייחס באופן ספציפי לטקסט שנוצר או עבר מניפולציה באמצעות בינה מלאכותית ומתפרסם במטרה ליידע את הציבור בעניינים בעלי עניין ציבורי. עם זאת, חובת הגילוי אינה חלה כאשר התוכן עבר בדיקה אנושית או בקרה מערכתית, ובמקביל אדם או גוף נושאים באחריות העריכה שלו לפרסום.

• "אפשר להשקיע את עיקר הזמן במציאת פתרונות משפטיים"
• בייטדאנס והאולפנים חותמים על הגנות זכויות ב-Seedance

לכן השאלה אינה רק אם נעשה שימוש ב-AI, אלא גם איזה תפקיד היה לו ביצירת התוכן, מה סוג התוכן, לאיזו מטרה הוא מתפרסם ומי נושא באחריות עליו.

ומה קורה בדיפ-פייק?

כאן הכללים ברורים יותר. מי שמשתמש במערכת AI כדי ליצור או לשנות תמונה, סרטון או אודיו המהווים דיפ-פייק נדרש לגלות שהתוכן נוצר או עבר מניפולציה באמצעות בינה מלאכותית.

המטרה היא להתמודד בדיוק עם המצבים שבהם קשה לצופה לדעת אם מה שהוא רואה אכן התרחש. סרטון שבו פוליטיקאי אומר דברים שמעולם לא אמר, הקלטה מלאכותית בקולו של מנכ"ל או תמונה של אירוע שלא התרחש הם הדוגמאות הברורות. במקרים כאלה, עצם היכולת הטכנית לזהות את הקובץ כתוצר AI אינה מספיקה, והציבור צריך לקבל גילוי על כך.

גם כאן יש התאמות. כאשר מדובר ביצירה אמנותית, סאטירית או בדיונית, חובת הגילוי עדיין קיימת, אבל היא אמורה להיעשות באופן שאינו פוגע באופן בלתי סביר בהצגת היצירה או בחוויית הצפייה בה.

ואם רק תיקנתי תמונה בעזרת AI?

זו אחת השאלות החשובות משום שכמעט כל תוכנת עריכה מתחילה לשלב כיום יכולות של בינה מלאכותית. לא כל תיקון קטן הופך בהכרח את התמונה ל"תוכן AI" במובן שבו הקורא עשוי להבין את המונח.

• ה-AirPods הבאות עשויות לראות את מה שאתם רואים - ואפל כנראה חשפה אותן בעצמה
• "התזרים החופשי של ענקיות הטק יהפוך לשלילי בשנתיים הקרובות" - הסיכון שלא מדברים עליו

החוק עצמו מחריג מחובת הסימון הטכני מערכות AI שמבצעות עריכה סטנדרטית, וכן מקרים שבהם השימוש ב-AI אינו משנה באופן מהותי את התוכן המקורי או את משמעותו. לכן תיקונים כמו חידוד תמונה או התאמות טכניות עשויים להיות שונים מיצירת אדם, חפץ או אירוע שלא הופיעו בתמונה המקורית.

זו גם אחת הסיבות לכך שהיישום אינו מסתכם בחותמת אחידה שתודבק לכל קובץ שעבר דרך מערכת AI. ככל שהבינה המלאכותית הופכת לחלק מתוכנות צילום, עריכה, כתיבה ועיצוב רגילות, הגבול בין "נוצר ב-AI" לבין "נעזר ב-AI" נעשה משמעותי יותר.

מי אחראי לסימון - חברת ה-AI או מי שמפרסם?

שניהם יכולים להיות אחראים, אבל המחויבויות שלהם שונות.

ספקי המערכות - כלומר החברות שמפתחות ומציעות מערכות שמייצרות תמונות, סרטונים, אודיו או טקסט - נדרשים לדאוג לכך שהתוצרים יהיו ניתנים לזיהוי כתוכן שנוצר או שונה באמצעות AI. במילים אחרות, חלק מהאחריות מתחיל כבר ברגע שבו התוכן יוצא מהמערכת.

לעומת זאת, חובת הגילוי לציבור במקרים כמו דיפ-פייק מוטלת על מי שמשתמש במערכת ומפרסם או מפיץ את התוצר. העובדה שהמערכת הטמיעה סימון טכני בקובץ אינה פוטרת בהכרח את המפרסם מחובת הגילוי לציבור.

מבחינת חברות שפועלות באירופה, המשמעות היא שהשאלה "מי יצר את התוכן?" הופכת גם לשאלת ציות. מחלקות שיווק, פרסום, תקשורת ורשתות חברתיות שמשתמשות ב-AI יצטרכו לדעת לא רק באיזה כלי השתמשו, אלא גם איזה סוג תוכן נוצר ומה חובת הגילוי שחלה עליו.

מתי הכללים נכנסים לתוקף?

חובות השקיפות הרלוונטיות בסעיף 50 של ה-AI Act נכנסו לתוקף ב-2 באוגוסט 2026. כלומר, מבחינת חברות שפועלות בשוק האירופי כבר מדובר בחובות מחייבות, גם אם העבודה על אופן היישום והסטנדרטים הטכניים עדיין נמשכת.

עם זאת, יש גם תקופת מעבר: מערכות בינה מלאכותית גנרטיביות שכבר הוצעו בשוק לפני 2 באוגוסט 2026 קיבלו ארכה עד 2 בדצמבר 2026 לעמוד בחובת הסימון הטכני. גם לגבי דיפ-פייק שנוצר לפני כניסת הכללים לתוקף אין חובת סימון רטרואקטיבית, אף שהאיחוד מעודד לסמן גם תוכן כזה.

ומה קורה למי שלא מסמן?

כאן הרגולציה מקבלת גם משמעות כספית. הפרת החובות הרלוונטיות לפי ה-AI Act עלולה לגרור קנס של עד 15 מיליון אירו או, במקרה של חברה, עד 3% מהמחזור העולמי השנתי שלה בשנה הפיננסית הקודמת. ככלל, לחברות התקרה נקבעת לפי הגבוה מבין השניים, בעוד שלעסקים קטנים ובינוניים חלים כללים מקלים יותר.

הסכומים המרביים אינם אומרים שכל תמונה שלא סומנה תוביל מיד לקנס של מיליוני אירו. האכיפה אמורה להביא בחשבון בין היתר את אופי ההפרה, חומרתה והנסיבות שלה. אבל עבור חברות גדולות, הסיכון הופך את סימון תוצרי ה-AI מסוגיה של מדיניות תוכן לסוגיית רגולציה וציות.

האם נראה את הסימון גם בישראל?

החוק האירופי אינו מחייב כשלעצמו סימון של תכני AI בישראל, אבל ההשפעה שלו אינה מוגבלת לחברות אירופיות. גם חברות שמקום מושבן מחוץ לאיחוד עשויות להיות כפופות לכללים כאשר הן מציעות את מערכות ה-AI שלהן בשוק האירופי.

כבר היום חברות ופלטפורמות שונות משתמשות בתוויות ובמידע טכני כדי לציין שתוכן נוצר או נערך באמצעות AI. הדרישות האירופיות עשויות להאיץ את המגמה ולדחוף לכיוון של סטנדרטים משותפים יותר.

מבחינת המשתמש הישראלי, לכן, ייתכן שהשינוי יורגש גם בלי שהכנסת תחוקק חוק זהה: אם מערכות יצירת התוכן והפלטפורמות הגדולות יאמצו מנגנוני זיהוי וסימון ברמה הגלובלית, אותם מנגנונים עשויים להופיע גם בתוכן שמגיע למסך בישראל.

לא כל שימוש ב-AI יקבל תווית

הכללים האירופיים אינם יוצרים עולם שבו ליד כל משפט, תמונה או סרטון שנעזרו בבינה מלאכותית תופיע חותמת AI. הם מנסים ליצור שכבות שונות של שקיפות: סימון טכני של תוצרים מצד ספקי המערכות, וגילוי ברור יותר לציבור במקרים שבהם הסיכון להטעיה משמעותי במיוחד.

עבור המשתמש, המטרה היא פשוטה יותר מהרגולציה שמאחוריה: כשהוא רואה אדם אומר משהו שמעולם לא אמר, תמונה של אירוע שלא התרחש או תוכן שנוצר באופן מלאכותי, הוא אמור לקבל יותר מידע על מקורו ולא להסתמך רק על היכולת שלו לזהות את הזיוף.

וככל שהיכולת להבחין בעין בין תוכן אנושי לתוכן מלאכותי הולכת ונשחקת, האיחוד האירופי מנסה להעביר חלק מהאחריות מהמשתמש אל מי שמייצר ומפיץ את התוכן: במקום שנצטרך לנחש אם AI יצר את מה שאנחנו רואים, המידע הזה אמור להגיע יחד איתו.