הירשמו
  1. ראשי
  2. BizTech
בינה מלאכותית
צילום: טוויטר

מה זה 'AI רעיל', ומה אפשר לעשות כדי למנוע אותו?

כמו שיש תוכן רעיל יש גם AI רעיל שנסמך על התכנים ברשת. האם מניעה או רגולציה יכולה לעכב את מהפכת ה-AI, מה קורה באירופה ואצלנו

רוי שיינמן | (1)
נושאים בכתבה מהפכת ה-AI

בתוך ים ההתלהבות מהבינה המלאכותית — עם היכולת שלה לכתוב, לתרגם, לצייר, להמליץ, להפתיע — צץ מושג חדש שמטריד רגולטורים, ממשלות וחברות טכנולוגיה: AI רעיל.

המונח הזה, שעד לאחרונה נשמע בעיקר באקדמיה ובכנסים סגורים, כבר מופיע במסמכים רשמיים של נציבות האיחוד האירופי. ובזמן שבישראל עוד מתווכחים אם צריך בכלל לפקח על GPT או לתת לו לזרום חופשי, באירופה יש מי שממש מודאגים.

אבל רגע לפני, מה זה אומר ש-AI הוא "רעיל"? למה זה פתאום נחשב לאיום אמיתי? ואיך בכלל בינה מלאכותית — מכונה חסרת כוונה — יכולה להפיץ שנאה, הסתה או מידע שגוי?

בינה מלאכותית לא "רעה" – אבל היא כן עלולה להזיק

המשמעות של "רעילות" בתחום הבינה המלאכותית היא לא שהמודל מקולקל, או שיש בו כוונה לפגוע. הכוונה היא לכך שבלי לשים לב — או בלי שבכלל מישהו התכוון — המודל עלול להפיק תכנים בעייתיים.

זה יכול להיות ניסוחים גזעניים, סטריאוטיפים מגדריים, שפה פוגענית, עידוד לאלימות, שיח אנטישמי, הפצת תיאוריות קונספירציה, הצגת עובדות שגויות, או פשוט מידע מעוות שמתחזה לאמת.

וזה קורה לא רק במודלים קטנים או פרוצים. גם מודלים של החברות הגדולות — OpenAI, Anthropic, Meta, Google — עדיין מייצרים לעיתים תכנים כאלה, גם אחרי תהליכי סינון והכשרה.

למה כולם מדברים על זה עכשיו?

כי אנחנו בשלב שבו המודלים הפכו נגישים, חזקים וזמינים לכולם. לא רק אנשי טכנולוגיה, אלא גם ילדים, קמפיינרים פוליטיים, בעלי אתרים, תלמידים ומורים – כולם משתמשים ב-GPT ובדומיו. ובדיוק כשהשימושים מתפשטים, מגיע גל של תקלות: תשובות שכוללות "בדיחות" אנטישמיות, תיאורים שמרמזים שנשים פחות מתאימות לניהול, או הצגת אירועים היסטוריים בצורה חלקית ומוטה. לפעמים אלה טעויות. לפעמים — תוצאה של דאטה לא מפוקח שעליו המודלים עברו אימון.

קיראו עוד ב"BizTech"

הבעיה היא שלמרות מאמצים לשפר, אי אפשר לחזות מראש מה יצא. ובמערכת של מיליארדי בקשות ביום, כל מקרה בעייתי עלול להפוך לויראלי, להשפיע על דעת קהל או לייצר נזק תדמיתי, פוליטי או חברתי.

באירופה כבר לא מחכים — הם פועלים

האיחוד האירופי לקח על עצמו להוביל רגולציה עולמית בתחום הבינה המלאכותית. הם ניסחו חוק בשם AI Act שמנסה להגדיר איזה שימושים מותרים, אילו מסוכנים, ומה דורש פיקוח. אבל החקיקה הזו נבנתה בקצב רגוע, והמציאות – דוהרת.

לאחרונה, עם השקת מודלים חדשים כמו GPT-4.5 ו־Claude 3, רגולטורים בגרמניה, צרפת, הולנד ואיטליה נשמעים לחוצים הרבה יותר. הם דורשים שקיפות, הגבלות, סנקציות – ואפילו אחריות פלילית במקרים מסוימים. ברקע, מתנהלים מגעים להקמת גוף בקרה אירופי עצמאי שיפקח על תכני בינה מלאכותית – בדומה למה שנעשה בתחום ההגבלים העסקיים.

מקרים שקרו באמת

בכמה כלי תקשורת באירופה דווח על כך שמודלים פופולריים הפיצו מידע שגוי על פוליטיקאים ערב בחירות, או נתנו המלצה מרומזת על גזע מסוים בבחירת מועמדים לעבודה.

באחד המקרים, GPT חיבר כתבה דמיונית על עיתונאית אמיתית, שבה נטען כי סילפה עובדות בכנס בינלאומי – למרות שהאירוע כלל לא קרה. התוכן הופץ בפורומים אנטי-תקשורתיים, וגרם לה לאיומים אישיים.

ומה קורה בישראל?

כרגע, אין רגולציה מסודרת לבינה מלאכותית. רשות החדשנות פרסמה מסמך עקרונות כללי. משרד המשפטים מקיים דיונים שקטים. אבל בפועל – אין חוק, אין גוף מפקח, ואין מדיניות מחייבת.

עם זאת, במגזר הציבורי כבר מתחילים להבין את הסיכון. גופים ממשלתיים וחלק מהאוניברסיטאות מטמיעים מנגנוני בקרה פנימיים – במיוחד על תכנים שנוצרים אוטומטית.


חברות הטכנולוגיה מוסיפות שכבות סינון, מגבילות גישה למודלים פתוחים, ומנסות לחנך את המשתמשים איך להפעיל את ה-AI בצורה אחראית. הבעיה היא שהרבה מהשיח מתנהל בדיעבד – אחרי שהתוכן כבר הופץ, פגע או השפיע. ולכן, מדינות רבות – לא רק באירופה – מתחילות לדרוש: מנגנוני שקיפות – לדעת מאיפה מגיע המידע שעליו ה-AI מתבסס, הגדרות אחריות – האם החברה אחראית למה שהמודל מייצר? סימון תכנים – חובה לציין כשמדובר ביצירה של AI, סנקציות – קנסות במיליונים על מקרים חמורים במיוחד.

האם זה פתיר?

התשובה מורכבת. בינה מלאכותית לומדת מתוך דאטה – וכשמאמנים אותה על האינטרנט, כולל טוקבקים, פורומים, סרטונים ורשתות חברתיות – הרעילות היא חלק מהמציאות. לא צריך כוונה רעה בשביל שזה יקרה.

האם אפשר לנקות לגמרי? כנראה שלא. אבל כן אפשר לצמצם, לפקח, ולוודא שלפחות בדברים הרגישים – יש בקרה אנושית.

תגובות לכתבה(1):

הגב לכתבה

השדות המסומנים ב-* הם שדות חובה
  • 1.
    פשוט מאוד להבין מה זה AI רעיל 13/04/2025 10:46
    הגב לתגובה זו
    חברות הימורים כמו PLAYTIKA MOONACTIVE משתמשות בצוותי AI כדי לגרום למשתמשים לבזבז יותר כסף על הימורים הם לא מודים בזה רשמית אבל מהכרות עם השוק זה בידיוק מה שעושים שםוזו רק דוגמא אחת
עובדים בהייטק ערב
צילום: דאלי

מה קורה בהייטק הישראלי - מפטרים או מגייסים? הנה התשובה

ההייטק הישראלי צומח בלי לגייס עובדים - ה-AI החליף את הג'וניורים ומה השלב הבא?, על התחומים הצומחים ועל התחומים שנמצאים בסיכון

אדיר בן עמי |
נושאים בכתבה בינה מלאכותית הייטק תכנות

ההייטק לא קורס - הוא פשוט כבר לא צריך אתכם

בחודשים האחרונים מתרבים הדיווחים על התקררות בשוק העבודה בהייטק המקומי. מדברים על קיפאון, מדברים אפילו על ירידה בכמות העובדים. אין ירידה בכמות העובדים. התמונה אומנם מורכבת, אבל אין דרמה אמיתית. ההייטק הישראלי לא נמצא בנסיגה, אלא בעיצומו של שינוי מבני עמוק, שמתרחש במקביל בכל מוקדי הטכנולוגיה בעולם.

נכון לסוף 2025, מספר המועסקים בהייטק בישראל נע סביב 410 אלף עובדים - רמה דומה מאוד לשנה הקודמת, ואף עלייה צנועה. זו אינה ירידה, אלא האטה בקצב הצמיחה. האטה שמגיעה לאחר יותר מעשור של גידול מהיר שנתפס כמובן מאליו. במובן הזה, הנתון החריג אינו ירידה במספר העובדים, אלא העובדה שההייטק כבר לא מגדיל מצבת כוח אדם בקצב משמעותי מאוד כפי שהורגלנו בעבר.

הגורם המרכזי לשינוי אינו משבר כלכלי, אלא חדירה מואצת של כלי בינה מלאכותית לתהליכי עבודה. על פי הערכות גורמים בתעשייה, בין 7,000 ל-10,000 משרות - בעיקר משרות ג'וניור ותפקידי ביניים, הוחלפו או צומצמו באמצעות אוטומציה ו-AI. משימות שבעבר דרשו צוותים של מפתחים צעירים מבוצעות כיום באמצעות קוד גנרטיבי, מערכות אוטומטיות וכלי פיתוח חכמים.

חברות ענק כמו מיקרוסופט, גוגל, אמזון, סיילספורס ואחרות פיטרו עובדים לא בשל ירידה בפעילות, אלא כחלק מהתייעלות מבנית ומעבר למודלים המסתמכים על AI. גם בישראל, ההייטק לא צריך פחות עבודה - אלא פחות עובדים בתפקידים מסוימים. עם זאת, בהחלט יש "חשיבה מחדש" ושינוי מודל עסקי אמיתי בחברות תוכנה שמאוימות על ידי ה-AI. קל היום לפתח תוכנה ופתרון אפליקטיביים וזה מעמיד את החברות האלו בסיכון גדול ובאיום גדול. חברות כמו נייס, מאנדיי וויקס נפגעו בבורסה ואכזבו את המשקיעים בדוחות האחרונים, והשאלה מה יהיה קדימה. ההנהלות של החברות האלו מדברות על התעצמות והתחזקות, אבל וול סטריט סקפטית. 


ממספרים לערך

ההייטק עובר ממודל עתיר כוח אדם למודל עתיר תפוקה, שבו השאלה המרכזית אינה כמה עובדים יש לחברה, אלא כמה ערך מייצר כל עובד. מערכות אוטומציה ופלטפורמות פיתוח חכמות מאפשרים לצוותים קטנים לייצר תפוקות שבעבר דרשו מחלקות שלמות. משימות תכנות, בדיקות, תיעוד, אנליזה ואפילו ניהול תהליכים מבוצעות היום במהירות גבוהה פי כמה ובפחות ידיים. התוצאה: חברות ממשיכות לגדול בהכנסות, במוצר ובחדירה לשווקים, בלי להגדיל את מצבת כוח האדם בהתאם.

להמשך הכתבה לחץ כאן
טראמפ בוחן מחשב קוונטי, נוצר באמצעות AIטראמפ בוחן מחשב קוונטי, נוצר באמצעות AI

אישור משפטי ליוזמת טראמפ: תשלום של 100 אלף דולר לבקשת אשרת H-1B

מאחורי הרטוריקה הגסה על “מי נכנס לאמריקה” מסתתרת מדיניות סדורה, ועוד אספקט של ה-MAGA: בית המשפט אישר את יוזמת המשטר להעלות דרמטית את אגרת העסקת עובדים זרים בהייטק , שיקטין דרמטית את ההגירה הכלכלית

רן קידר |
נושאים בכתבה טראמפ ויזה לארה"ב

״למה אנחנו לא יכולים להביא אנשים מנורווגיה או משוודיה? בואו ניקח כמה מדנמרק. אכפת לכם לשלוח לנו כמה אנשים? תשלחו לנו אנשים נחמדים. אכפת לכם? אבל אנחנו תמיד לוקחים אנשים מסומליה, ממקומות שהם אסון, נכון? מגיעים אלינו רק ממקומות מטונפים, מלוכלכים, דוחים ומוכי פשיעה". כך אמר נשיא ארה"ב לפני כשבועיים והתייחס באופן פרובוקטיבי למדיניות ההגירה של ארה"ב. 

האמירה הזאת היא צד אחר של יוזמה של טראמפ, שבמסגרתה ארה"ב תיגבה 100 אלף דולר עבור כל בקשה לאשרת H-1B, שאותה ניסתה לשכת המסחר האמריקאית לטרפד,בטענה כי המהלך חורג מסמכות הנשיא, והגישה תביעה לבית המשפט, שכעת דחה אותה וקבע כי ממשל טראמפ רשאי להמשיך בהטלת האגרה. האגרה החדשה, שהוכרזה בהצהרה נשיאותית מספטמבר 2025, מחליפה את העלויות הקודמות שנעו בין 2,000 ל-5,000 דולר לבקשה, תלוי בגודל החברה ובסוג ההגשה.

מהי תכנית H-1B?

תוכנית H-1B מאפשרת לחברות אמריקאיות להעסיק עובדים זרים בעלי השכלה אקדמית בתחומים כמו הנדסה, תוכנה, ביוטכנולוגיה ומדעי המחשב. בכל שנה פיסקלית מוקצות 85 אלף אשרות, 65 אלף רגילות ו-20 אלף נוספות לבעלי תארים מתקדמים מאוניברסיטאות אמריקאיות. הביקוש עולה על ההיצע בהרבה, עם מאות אלפי בקשות שנתיות, וההקצאה מתבצעת בהגרלה אקראית. בשנת 2025 נרשמו כ-442 אלף בקשות, כאשר כ-70-80% מהן הגיעו מעובדים הודים, המהווים את הרוב במגזר השירותים הטכנולוגיים.

האגרה החדשה חלה רק על בקשות חדשות שהוגשו לאחר 21 בספטמבר 2025, ואינה משפיעה על חידושים או הארכות של אשרות קיימות. היא נועדה להרתיע שימוש יתר בתוכנית, במיוחד על ידי חברות אאוטסורסינג שמעסיקות עובדים בשכר נמוך יחסית. לדוגמה, חברת טאטא קונסלטנסי סרוויסס ההודית, אחת המובילות בהגשת בקשות, ספגה בעבר קנסות על הפרות כמו העסקה בשכר נמוך והפרת כללי מיקום עבודה. עם האגרה החדשה, עלות גיוס עובד בודד עלולה להגיע ל-105 אלף דולר, כולל עמלות נלוות, מה שהופך את התהליך ללא כדאי עבור תפקידים בשכר ממוצע של 70-90 אלף דולר לשנה.

חברות טכנולוגיה גדולות כמו אמזון, שספנסרה מעל 10 אלף אשרות H-1B בשנת 2025, מיקרוסופט עם כ-6 אלף, ומטא עם כ-4 אלף, צפויות לספוג עלויות נוספות של מיליוני דולרים. באמזון, למשל, השכר הממוצע לעובדי H-1B עומד על 150 אלף דולר, אך האגרה תייקר את הגיוס הראשוני ב-67%. חברות קטנות יותר, כולל סטארט-אפים, עלולות לוותר על גיוס זר לחלוטין, שכן תקציבן מוגבל. כפי שפורט בדיווח על השפעות כלכליות של מדיניות הגירה בארה"ב בביזפורטל, שינויים כאלה עלולים להאט את קצב החדשנות במגזר הטק, שתורם כ-10% מהתמ"ג האמריקאי.

להמשך הכתבה לחץ כאן