בינה מלאכותית
צילום: טוויטר

ניו יורק מגבילה את הבינה המלאכותית: האם זה צעד חכם או חשש מוגזם?

מהפכת ה-AI מתקדמת, אבל הממשל והרגולטורים מתכוונים להגביל את השימוש - מה הסכנות ומה צפוי בהמשך?
עמית בר | (2)

האם הבינה המלאכותית הפכה ל"אח הגדול" של ימינו? מושלת ניו יורק, קת'י הוקול, חתמה על חוק תקדימי שמנסה לעשות סדר בעולם ה-AI. החוק החדש, שכולל דרישה לשקיפות ופיקוח הדוק, הוא לא רק ניסיון להבטיח שהטכנולוגיה לא תצא משליטה, אלא גם מסר חזק לעולם – אנחנו לא מוכנים לתת למכונות להחליט בשבילנו על דברים קריטיים.

 

מה אומר החוק?

החוק הזה לא בא לאסור על שימוש ב-AI, אלא לקבוע כללים ברורים איך ואיפה אפשר להשתמש בו במוסדות ממשלתיים.

אסור למכונות להחליט לבד בתחומים רגישים: קבלת החלטות בנושאים כמו זכאות לדמי אבטלה או סיוע במעונות יום – רק עם פיקוח אנושי. רוצים להבטיח שמישהו עם שכל ורגש יבדוק שההחלטה הגיונית.

שקיפות היא שם המשחק: כל סוכנות ממשלתית חייבת לפרסם דוחות שמסבירים איך בדיוק נעשה שימוש בטכנולוגיות AI. הדוחות האלה יועברו למושלת ולמחוקקים ויהיו זמינים לציבור באינטרנט.

 

למה יש חשש?

AI הוא לא רק כלי מגניב שמייצר ציורים או כותב טקסטים. כשמשתמשים בו להחלטות ממשלתיות, הוא עלול לגרום לנזקים רציניים.

הטיות באלגוריתמים: מכונות לומדות על סמך נתונים, ואם הנתונים לא מאוזנים או מוטים, גם ההחלטות שלהן יהיו כאלה. תחשבו על זה – אם הנתונים מתעדפים קבוצות מסוימות, אנשים אחרים עלולים להיפגע.

אין מי שיסביר למה: כשמכונה מקבלת החלטה, היא לא יכולה להסביר מה עמד מאחורי זה. זה בעייתי במיוחד כשמדובר בנושאים רגישים כמו קצבאות או זכאות לשירותים חיוניים.

 

דוגמאות מהעולם

ניו יורק לא לבד. בעולם כבר מתחילים להציב חוקים דומים:
  • האיחוד האירופי: עובד על חוקי רגולציה שיאסרו שימוש במערכות AI מסוכנות, כמו זיהוי פנים אוטומטי במקומות ציבוריים.
  • סין: מפתחת מערכת חוקים שמטרתה לשלוט בטכנולוגיות AI ולהגן על פרטיות האזרחים, תוך פיקוח הדוק מצד הממשלה.
  • ישראל: מתחילה לבחון את הצורך ברגולציה לשימוש ב-AI במגזר הציבורי, אבל עוד רחוקה מהישגים כמו ניו יורק.
 

איך זה משפיע עלינו?

הרעיון הוא להגן על הציבור. מצד אחד, הטכנולוגיה מציעה פתרונות מדהימים – היא יכולה לחסוך זמן, לשפר שירותים ואפילו למנוע טעויות אנוש. מצד שני, אם לא נהיה זהירים, היא עלולה לפגוע בזכויות שלנו, להטות החלטות ולהשאיר אנשים בלי פתרון הולם לבעיות שלהם.

קיראו עוד ב"BizTech"

לדוגמה, תחשבו שאתם מגישים בקשה לקצבה מסוימת, אבל בגלל טעות בנתונים שהוזנו למערכת, הבקשה שלכם נדחית. אם אין מישהו שמפקח על המערכת, אתם עלולים למצוא את עצמכם מתמודדים מול מכונה שאין לה לב או רגש.

 

תגובות מהשטח

הסנאטורית קריסטן גונזלס, שיזמה את החוק, הסבירה: "זה לא שאנחנו נגד טכנולוגיה, אנחנו פשוט רוצים לוודא שהיא משרתת אותנו ולא להפך."

גם המושלת הוקול הצהירה: "החוק הזה מבטיח שהטכנולוגיה תהיה כלי שבונה אמון ולא גורם שמערער אותו."

שאלות ותשובות על החוק שמגביל את הבינה המלאכותית

למה החוק הזה חשוב?

כי הוא מציב גבולות ברורים. בינה מלאכותית היא כמו אש – יכולה לחמם ולתת אור, אבל גם לשרוף אם לא נזהרים.

איך הציבור יכול לעקוב?

החוק מחייב לפרסם את כל הדוחות באינטרנט, כך שכל אחד יוכל לבדוק איך הטכנולוגיה הזו משפיעה על החיים שלנו.

האם זה יעכב חדשנות?

תגובות לכתבה(2):

הגב לכתבה

השדות המסומנים ב-* הם שדות חובה
  • 2.
    הלעטתם את הבינה מכל הבא ליד (ל"ת)
    הבינה לומדת 28/12/2024 19:31
    הגב לתגובה זו
  • 1.
    גידלת תינוק במהירות ועוד יקום על האנושות (ל"ת)
    הבינה לומדת 28/12/2024 19:30
    הגב לתגובה זו
דניאל שניידר קרדיט: Anybizדניאל שניידר קרדיט: Anybiz

"לקחנו את תפקיד המכירות ועשינו לו אוטומציה" - סטארטאפ להכיר

ראיון עם דניאל שניידר מנכ"ל ומייסד שותף Anybiz



הדס ברטל |

מה הרקע שלך?

דניאל: אני בן 35 במקור מבאר שבע, עכשיו אני גר בכל העולם כנווד דיגיטלי. בצבא הייתי באחת היחידות הטכנולוגיות ואחר כך למדתי שלושה תארים ב-10 שנים: תואר ראשון בהנדסת חשמל כדי שאבא יהיה שמח כי הוא מהנדס חשמל, את השני עשיתי בהנדסה ביו רפואית כדי שאמא שלי שהיא רופאה, תהיה שמחה. וכדי שאני אהיה שמח, עשיתי תואר נוסף במנהל עסקים.

ספר מה החברה עושה

דניאל: יצרנו סוכני AI שמבצעים את כל התהליך של הבאת לידים לחברות דרך 3 ערוצים, אימייל לינקדאין ושיחות טלפוניות. אם יש חברה שרוצה לידים חדשים אז יש בדרך כלל SDR, מעין איש מכירות להייטק (sales development representative) שעושה BizDev, אז אנחנו לקחנו את התפקיד ועשינו אוטומציה מלאה לחלק הראשוני שלו. החל מלמצוא את הלקוח הפוטנציאלי ולכתוב לו את האימייל המותאם אישי הראשוני, דרך פולו אפים ועד לנקודה שבו הלקוח אומר לי "מעניין אותי, רוצה לשמוע עוד". את הסיילס פיצ' לאחר מכן עושה האיש מקצוע, אבל את כל הפנייה החוזרת ונשנית שיש בהתחלה העברנו לאוטומציה מלאה. זה חוסך הרבה זמן של בן אדם ורואים את התוצאות, שהן לפעמים טובות בדיוק כמו של איש מכירות אנושי ולפעמים גם יותר טובות וזה גם חוסך יותר כסף ולשם העולם הולך.

מתי החברה הוקמה? כמה עובדים? 

דניאל: הקמנו את החברה ב-2021 והיא מונה כמעט 100 עובדים, מ-14 מדינות שונות. החברה היא ישראלית, אבל מאפשרים לעבוד ברימוט, לטייל בעולם ולהנות מהחיים. אני מאמין כשהעובדים שמחים התפוקה הרבה יותר גבוהה ויש הרבה יותר יצירתיות. 

מאיפה הרעיון לחברה?

דניאל: לפני כן היה לי עסק אחר של מוצרים פיזיים ורציתי לפנות לחנויות פיזיות בארה"ב ולהציע להם למכור את המוצר שלי בחנויות. חיפשתי כלי שיעזור לי לפנות אליהם בצורה מהירה, יסביר להם מה צריך ויעשה פולו עד שיגידו לי שמתעניינים ולא מצאתי והתחלתי להשתמש בכל הידע שלי מהאוניברסיטה ועשיתי משהו לעצמי. אז גם הבנתי שיש פה הזדמנות שתוכל לעניין אחרים וככה הכל התחיל. 

השקעתי כל כך הרבה שנים באוניברסיטה אז הכרתי AI לפני שכל העולם הכיר. לפני כמה שנים הייתי גם בתכנית הכרישים עם מוצר AI שמזהה מלנומה. זה חלק מההתמחויות שעשיתי באוניברסיטה והיה ברור שלשם העולם הולך. זהו אזור שהוא מאוד מאוד נוח עבורי, ותמיד ידעתי שבסוף המחשב יתחיל לקבל החלטות ולא הבן אדם.

מובילאיי
צילום: Photography courtesy of Nasdaq, Inc

משנה כיוון: מובילאיי מפטרת 200 עובדים - רובם בישראל

בחודשים האחרונים מובילאיי, מחברות ההייטק המובילות בישראל בעולם הרכב האוטונומי, הודיעה היום על מהלך נרחב של קיצוצים, שבמסגרתו יפוטרו מאות עובדים, רובם בישראל. לדברי החברה, “במסגרת בחינה מתמשכת של צורכי הפעילות המשתנים של החברה, אנו מבצעים התאמות בכוח האדם. לחברה תוכנית סדורה לתמיכה בעובדים שיושפעו מהמהלך"

עוזי גרסטמן |

מובילאיי תבצע מהלך של פיטורים נרחבים - צעד שמהווה נקודת מפנה לא פשוטה בחברה שעמדה בעבר בשורה הראשונה של חידושי בטיחות ורכב אוטונומי. 200 מעובדי החברה, רובם בישראל, יאבדו את מקום עבודתם כחלק מהמהלך. המהלך הזה לא קשור למהלכים קודמים שנקטה החברה בשנתיים האחרונות, כמו סגירת חטיבת After-Market. מדובר על קיצוץ רוחבי בתחומים שונים בחברה. 

בסוף אוקטובר פרסמה מובילאיי את הדו"חות שלה לרבעון השלישי של 2025 עם הכנסות של 504 מיליון דולר, עלייה של 4% לעומת התקופה המקבילה אשתקד. הרווח המתואם למניה היה 0.09 דולר, בהתאם לציפיות השוק, בעוד שההפסד על בסיס GAAP הסתכם ב-0.12 דולר למניה. בחברה ציינו לאחר פרסום הדו"חות כי הצמיחה נבעה מביקוש גבוה ליחידות EyeQ בכל תחומי הפעילות, כולל בשוק הסיני, לצד המשך הצמיחה בפרויקטים של מערכות הסיוע לנהג (ADAS). עם זאת, הן שיעור המרווח הגולמי והן שיעור המרווח הגולמי המתואם ירדו ברבעון השלישי של 2025 לעומת התקופה המקבילה אשתקד. הירידה הזו נובעת מירידה מתונה במחיר המכירה הממוצע (ASP) של EyeQ בעיקר עקב עלייה בכמויות בסין, שבה מחיר המכירה הממוצע נמוך יותר, וכן מעלות גבוהה יותר ליחידה הקשורה למוצרי EyeQ עקב תמהיל שונה של מוצריEyeQ 

חטיבת After-Market היתה אחת מהחטיבות ההיסטוריות של מובילאיי - זו שהביאה למכוניות רגילות מערכות בטיחות מתקדמות, כמו התראה על סטיה מנתיב או התקרבות לסכנה. לפני עשור, המערכות האלה נחשבו מהפכניות. ואולם עם הזמן, יצרניות הרכב התחילו לשלב מערכות ADAS כבר בתהליך הייצור של הרכב - מה שהפחית בצורה משמעותית את הביקוש למערכות מתקדמות שמותקנות לאחר הייצור. אף שהחטיבה עדיין ייצרה מחזור מכירות של כ-40 מיליון דולר בשנה, בחברה ציינו שהפעילות כבר אינה רווחית ולא תורמת לרווחיות הכוללת של החברה. לכן הם החליטו לסגור אותה. 

לאורך 2024 הודיעה מובילאיי גם על סגירה מתוכננת של חטיבת הפיתוח של חיישני LiDAR - טכנולוגיה שנחשבה בעבר חלק מהעתיד של הרכב האוטונומי. לפי ההודעה, מדובר בצעד אסטרטגי: החברה מעריכה שבמקום LiDAR היא תתמקד בטכנולוגיות אחרות, כמו רדאר דימות (imaging radar) ושימוש במערכות ראייה ממוחשבת. 

נכון לסוף 2023, עבדו במובילאיי בסך הכל כ-3,700 איש. על פי הערכות, המהלך מגיע כעת לא בגלל כישלון טכנולוגי, אלא בזכות הצלחה: מערכות ADAS נהפכו לנחלת יצרני הרכב, שחסכו לעצמם התקנה חיצונית אחרי הייצור. מה שהיה פעם קטליזטור לצמיחה, להפך לסחורה קבועה. מובילאיי עצמה כתבה אז בהודעתה שההחלטה “היתה קשה”, אבל היא באה לאחר “בחינה מעמיקה של התחזיות העסקיות וצורכי ההשקעה”.  עם זאת, החברה טענה שמדובר רק בשינוי כיוון, ולא בוויתור על עתיד בתחום הרכב האוטונומי. היא הדגישה שהיא ממשיכה לגייס עובדים למחלקות אחרות, וכי התחומים בהם תתמקד מעתה הם אלה שצפויים להיות רלוונטיים יותר בעתיד: מערכות eyes-off, רדאר דימות, תשתיות תוכנה וחיישנים חדשים.