בינה מלאכותית
צילום: טוויטר

ניו יורק מגבילה את הבינה המלאכותית: האם זה צעד חכם או חשש מוגזם?

מהפכת ה-AI מתקדמת, אבל הממשל והרגולטורים מתכוונים להגביל את השימוש - מה הסכנות ומה צפוי בהמשך?
עמית בר | (2)

האם הבינה המלאכותית הפכה ל"אח הגדול" של ימינו? מושלת ניו יורק, קת'י הוקול, חתמה על חוק תקדימי שמנסה לעשות סדר בעולם ה-AI. החוק החדש, שכולל דרישה לשקיפות ופיקוח הדוק, הוא לא רק ניסיון להבטיח שהטכנולוגיה לא תצא משליטה, אלא גם מסר חזק לעולם – אנחנו לא מוכנים לתת למכונות להחליט בשבילנו על דברים קריטיים.

 

מה אומר החוק?

החוק הזה לא בא לאסור על שימוש ב-AI, אלא לקבוע כללים ברורים איך ואיפה אפשר להשתמש בו במוסדות ממשלתיים.

אסור למכונות להחליט לבד בתחומים רגישים: קבלת החלטות בנושאים כמו זכאות לדמי אבטלה או סיוע במעונות יום – רק עם פיקוח אנושי. רוצים להבטיח שמישהו עם שכל ורגש יבדוק שההחלטה הגיונית.

שקיפות היא שם המשחק: כל סוכנות ממשלתית חייבת לפרסם דוחות שמסבירים איך בדיוק נעשה שימוש בטכנולוגיות AI. הדוחות האלה יועברו למושלת ולמחוקקים ויהיו זמינים לציבור באינטרנט.

 

למה יש חשש?

AI הוא לא רק כלי מגניב שמייצר ציורים או כותב טקסטים. כשמשתמשים בו להחלטות ממשלתיות, הוא עלול לגרום לנזקים רציניים.

הטיות באלגוריתמים: מכונות לומדות על סמך נתונים, ואם הנתונים לא מאוזנים או מוטים, גם ההחלטות שלהן יהיו כאלה. תחשבו על זה – אם הנתונים מתעדפים קבוצות מסוימות, אנשים אחרים עלולים להיפגע.

אין מי שיסביר למה: כשמכונה מקבלת החלטה, היא לא יכולה להסביר מה עמד מאחורי זה. זה בעייתי במיוחד כשמדובר בנושאים רגישים כמו קצבאות או זכאות לשירותים חיוניים.

 

דוגמאות מהעולם

ניו יורק לא לבד. בעולם כבר מתחילים להציב חוקים דומים:
  • האיחוד האירופי: עובד על חוקי רגולציה שיאסרו שימוש במערכות AI מסוכנות, כמו זיהוי פנים אוטומטי במקומות ציבוריים.
  • סין: מפתחת מערכת חוקים שמטרתה לשלוט בטכנולוגיות AI ולהגן על פרטיות האזרחים, תוך פיקוח הדוק מצד הממשלה.
  • ישראל: מתחילה לבחון את הצורך ברגולציה לשימוש ב-AI במגזר הציבורי, אבל עוד רחוקה מהישגים כמו ניו יורק.
 

איך זה משפיע עלינו?

הרעיון הוא להגן על הציבור. מצד אחד, הטכנולוגיה מציעה פתרונות מדהימים – היא יכולה לחסוך זמן, לשפר שירותים ואפילו למנוע טעויות אנוש. מצד שני, אם לא נהיה זהירים, היא עלולה לפגוע בזכויות שלנו, להטות החלטות ולהשאיר אנשים בלי פתרון הולם לבעיות שלהם.

קיראו עוד ב"BizTech"

לדוגמה, תחשבו שאתם מגישים בקשה לקצבה מסוימת, אבל בגלל טעות בנתונים שהוזנו למערכת, הבקשה שלכם נדחית. אם אין מישהו שמפקח על המערכת, אתם עלולים למצוא את עצמכם מתמודדים מול מכונה שאין לה לב או רגש.

 

תגובות מהשטח

הסנאטורית קריסטן גונזלס, שיזמה את החוק, הסבירה: "זה לא שאנחנו נגד טכנולוגיה, אנחנו פשוט רוצים לוודא שהיא משרתת אותנו ולא להפך."

גם המושלת הוקול הצהירה: "החוק הזה מבטיח שהטכנולוגיה תהיה כלי שבונה אמון ולא גורם שמערער אותו."

שאלות ותשובות על החוק שמגביל את הבינה המלאכותית

למה החוק הזה חשוב?

כי הוא מציב גבולות ברורים. בינה מלאכותית היא כמו אש – יכולה לחמם ולתת אור, אבל גם לשרוף אם לא נזהרים.

איך הציבור יכול לעקוב?

החוק מחייב לפרסם את כל הדוחות באינטרנט, כך שכל אחד יוכל לבדוק איך הטכנולוגיה הזו משפיעה על החיים שלנו.

האם זה יעכב חדשנות?

תגובות לכתבה(2):

הגב לכתבה

השדות המסומנים ב-* הם שדות חובה
  • 2.
    הלעטתם את הבינה מכל הבא ליד (ל"ת)
    הבינה לומדת 28/12/2024 19:31
    הגב לתגובה זו
  • 1.
    גידלת תינוק במהירות ועוד יקום על האנושות (ל"ת)
    הבינה לומדת 28/12/2024 19:30
    הגב לתגובה זו
און גולן, מנכ"ל מייסד 4Model קרדיט: יח"צאון גולן, מנכ"ל מייסד 4Model קרדיט: יח"צ
סטארטאפ להכיר

"יש היערכות עולמית למצב מתוח או למלחמה ופה אנחנו נכנסים"

שיחה עם און גולן, מייסד ומנכ"ל 4Model

הדס ברטל |

ספר בקצרה על עצמך:

במקור מחדרה, נשוי פלוס 2. מהנדס מכונות בהשכלה שלי, כאשר התחלתי בתור מתכנן בתחום הביטחוני. שירתי בשייטת במשך 6 שנים, ואת הפרויקט גמר של התואר עשיתי ביחידה. היום אני מנכ"ל 4Model ובנוסף אני בוחן פרויקטי גמר שהם מסווגים ונעשים עם חיל הים של סטודנטים במכללת אפקה, וזו סוג של סגירות מעגל עבורי כי גם אני למדתי בה.

ספר על החברה ומניין בא הרעיון?

כמהנדס, כאשר עובדים על פיתוח חדש, ברגע ששלב התכנון נגמר, צריך לייצר אותו, גם אם בכמויות נמוכות ולשם בדיקת המוצר. בנקודה הזו, הרגשתי שיש מצוקה בשוק. אם הייתי מסיים תכנון תוך ארבעה חודשים, כדי לייצר את המוצר היה לוקח עוד חצי שנה, כי צריך לעבור בין 5 ל-30 קבלני משנה רק כדי לייצר אבטיפוס, כאשר אצל כל אחד מהם אתה הלקוח הכי לא חשוב, וזה חונק הרבה חברות הנדסה.

התחלתי לחפש ספקים בסין, טסתי המון פעמים, יצרתי קשרים עם מפעלים. ראיתי שהייצור שם יעיל ומהיר, ואפשר לעשות את רוב העבודה במקום אחד. אחרי עשר שנים כמתכנן מכאני בעצמי, ובשנת 2022, פתחתי את 4Model.

החברה החלה עם ייצור בסין כאשר הלקוחות הראשונים היו חברות הנדסה וסטודיואים שיצרו מוצרים ונתקלו בבעיית ייצור. כיום אנחנו עובדים עם חמישה מפעלים בסין ובהודו. היום במדינת ישראל יש פיקוח של אפ"י כאשר יש חלקים שמותר לייצר בסין ויש כאלה שאסור, ואנחנו מייצרים בהודו במפעל מאושר תעשייה ביטחונית, כאשר הלקוחות שלי הם ברובן בתחום הדיפנסאפ"י זו מחלקה במשרד הביטחון, והיא הגוף המפקח על הייצור הביטחוני שמכתיב מה מותר ומה אסור. יש רשימה של מדינות שמותר לנו לעבוד איתן ואלו מדינות אסור לנו.

היום, גם מפעלי ייצור מקומיים מדברים על כך שלפני המלחמה או לפני חמש שנים, רק 30% מההלקוחות שלהם היו מהתעשייה הביטחונית ו-70% אזרחית. היום היחס הזה הוא הפוך. היום כשאנחנו מדברים על תעשייה ביטחונית, בין אם על מערכות התקפה או הגנה וציוד נלווה, ואפילו ייצור מדים ונעליים, הכל חווה גידול מטורף וזה הכל חלק מתעשיית הדיפנס.

סם אלטמן openaiסם אלטמן openai

open AI מעניקה אופציות בשווי 1.5 מיליון דולר לעובד

מדובר בשיא חסר תקדים כאשר החברה גם הרחיבה את מערך הבונוסים ושימור העובדים ואף מעניקה מענקי שימור בשווי מיליונים לעובדים משמעותיים

הדס ברטל |

חברת  OpenAI העניקה לעובדיה חבילות תגמול מבוססות מניות בשווי ממוצע של כ־1.5 מיליון דולר לעובד, נתון חסר תקדים בקרב סטארטאפים פרטיים, כך על פי דיווח של הוול סטריט ג'ורנל . מדובר בסכומים שמציבים את עובדי החברה בשורה אחת עם עובדים בכירים בחברות ציבוריות ותיקות, עוד לפני ש־OpenAI עצמה הונפקה או קבעה מסלול ברור להנפקה עתידית. העיתון מציין כי חלק ניכר מהתגמול אינו מגיע בשכר מזומן אלא באופציות וביחידות הון הצמודות לשווי החברה, שהוערך בעסקאות משניות בעשרות מיליארדי דולרים.

המרוץ העולמי אחר טאלנטים בתחום הבינה המלאכותית הפך בשנים האחרונות לאחד הגורמים המרכזיים שמעצבים את שוק ההייטק, ו־OpenAI ניצבת בלב הזירה הזו. לפי שורת פרסומים בעיתונות הכלכלית האמריקאית והבריטית, החברה פיתחה מדיניות תגמול חריגה בהיקפה, שבמרכזה מתן אופציות ומענקי הון לעובדים כמעט בכל הדרגים, במטרה לשמר כוח אדם איכותי ולהתמודד עם תחרות אגרסיבית מצד ענקיות טכנולוגיה וחברות AI חדשות.

לפי דיווחים ברשת בלומברג ובפייננשל טיימס, מדיניות האופציות של OpenAI עברה בשנה האחרונה שינוי עמוק. החברה צמצמה תחילה את תקופת ההבשלה המקובלת של אופציות, ובהמשך אף ביטלה לחלוטין מנהג המכונה vesting cliff, לפיו קיימת תקופת המתנה ראשונית שבה העובד אינו זכאי לאף חלק מההון. המשמעות היא שעובדים חדשים מקבלים זכות מיידית לחלק מהאופציות שלהם, מהלך חריג שנועד להקטין את הפיתוי לעבור לחברות מתחרות שמציעות תגמול מהיר וגבוה.

המהלך הזה אינו מתרחש בוואקום. לפי דיווחים, OpenAI מתמודדת עם לחצים כבדים מצד שחקנים כמו מטה, גוגל וסטארטאפים ממומנים היטב, שמוכנים לשלם סכומים עצומים עבור חוקרים ומהנדסים מובילים בתחום ה־AI. בתגובה, OpenAI הרחיבה גם את מערך הבונוסים ושימור העובדים, כולל מענקי שימור של מיליוני דולרים לעובדים מרכזיים, וגמישות רבה יותר בבחירה בין שכר מזומן לבין תגמול הוני.

עם זאת, העיתונות הכלכלית מדגישה כי למדיניות הזו יש גם מחיר. היקף התגמול ההוני מהווה מרכיב משמעותי בהוצאות החברה ותורם להפסדים התפעוליים המדווחים שלה. אנליסטים שצוטטו בפייננשל טיימס מציינים כי חלוקת אופציות בהיקפים כה גדולים עלולה ליצור דילול מהותי לבעלי המניות הקיימים ולהשפיע על האופן שבו משקיעים מעריכים את שווי החברה בעתיד.