בינה מלאכותית
צילום: טוויטר

ניו יורק מגבילה את הבינה המלאכותית: האם זה צעד חכם או חשש מוגזם?

מהפכת ה-AI מתקדמת, אבל הממשל והרגולטורים מתכוונים להגביל את השימוש - מה הסכנות ומה צפוי בהמשך?
עמית בר | (2)

האם הבינה המלאכותית הפכה ל"אח הגדול" של ימינו? מושלת ניו יורק, קת'י הוקול, חתמה על חוק תקדימי שמנסה לעשות סדר בעולם ה-AI. החוק החדש, שכולל דרישה לשקיפות ופיקוח הדוק, הוא לא רק ניסיון להבטיח שהטכנולוגיה לא תצא משליטה, אלא גם מסר חזק לעולם – אנחנו לא מוכנים לתת למכונות להחליט בשבילנו על דברים קריטיים.

 

מה אומר החוק?

החוק הזה לא בא לאסור על שימוש ב-AI, אלא לקבוע כללים ברורים איך ואיפה אפשר להשתמש בו במוסדות ממשלתיים.

אסור למכונות להחליט לבד בתחומים רגישים: קבלת החלטות בנושאים כמו זכאות לדמי אבטלה או סיוע במעונות יום – רק עם פיקוח אנושי. רוצים להבטיח שמישהו עם שכל ורגש יבדוק שההחלטה הגיונית.

שקיפות היא שם המשחק: כל סוכנות ממשלתית חייבת לפרסם דוחות שמסבירים איך בדיוק נעשה שימוש בטכנולוגיות AI. הדוחות האלה יועברו למושלת ולמחוקקים ויהיו זמינים לציבור באינטרנט.

 

למה יש חשש?

AI הוא לא רק כלי מגניב שמייצר ציורים או כותב טקסטים. כשמשתמשים בו להחלטות ממשלתיות, הוא עלול לגרום לנזקים רציניים.

הטיות באלגוריתמים: מכונות לומדות על סמך נתונים, ואם הנתונים לא מאוזנים או מוטים, גם ההחלטות שלהן יהיו כאלה. תחשבו על זה – אם הנתונים מתעדפים קבוצות מסוימות, אנשים אחרים עלולים להיפגע.

אין מי שיסביר למה: כשמכונה מקבלת החלטה, היא לא יכולה להסביר מה עמד מאחורי זה. זה בעייתי במיוחד כשמדובר בנושאים רגישים כמו קצבאות או זכאות לשירותים חיוניים.

 

דוגמאות מהעולם

ניו יורק לא לבד. בעולם כבר מתחילים להציב חוקים דומים:
  • האיחוד האירופי: עובד על חוקי רגולציה שיאסרו שימוש במערכות AI מסוכנות, כמו זיהוי פנים אוטומטי במקומות ציבוריים.
  • סין: מפתחת מערכת חוקים שמטרתה לשלוט בטכנולוגיות AI ולהגן על פרטיות האזרחים, תוך פיקוח הדוק מצד הממשלה.
  • ישראל: מתחילה לבחון את הצורך ברגולציה לשימוש ב-AI במגזר הציבורי, אבל עוד רחוקה מהישגים כמו ניו יורק.
 

איך זה משפיע עלינו?

הרעיון הוא להגן על הציבור. מצד אחד, הטכנולוגיה מציעה פתרונות מדהימים – היא יכולה לחסוך זמן, לשפר שירותים ואפילו למנוע טעויות אנוש. מצד שני, אם לא נהיה זהירים, היא עלולה לפגוע בזכויות שלנו, להטות החלטות ולהשאיר אנשים בלי פתרון הולם לבעיות שלהם.

קיראו עוד ב"BizTech"

לדוגמה, תחשבו שאתם מגישים בקשה לקצבה מסוימת, אבל בגלל טעות בנתונים שהוזנו למערכת, הבקשה שלכם נדחית. אם אין מישהו שמפקח על המערכת, אתם עלולים למצוא את עצמכם מתמודדים מול מכונה שאין לה לב או רגש.

 

תגובות מהשטח

הסנאטורית קריסטן גונזלס, שיזמה את החוק, הסבירה: "זה לא שאנחנו נגד טכנולוגיה, אנחנו פשוט רוצים לוודא שהיא משרתת אותנו ולא להפך."

גם המושלת הוקול הצהירה: "החוק הזה מבטיח שהטכנולוגיה תהיה כלי שבונה אמון ולא גורם שמערער אותו."

שאלות ותשובות על החוק שמגביל את הבינה המלאכותית

למה החוק הזה חשוב?

כי הוא מציב גבולות ברורים. בינה מלאכותית היא כמו אש – יכולה לחמם ולתת אור, אבל גם לשרוף אם לא נזהרים.

איך הציבור יכול לעקוב?

החוק מחייב לפרסם את כל הדוחות באינטרנט, כך שכל אחד יוכל לבדוק איך הטכנולוגיה הזו משפיעה על החיים שלנו.

האם זה יעכב חדשנות?

תגובות לכתבה(2):

הגב לכתבה

השדות המסומנים ב-* הם שדות חובה
  • 2.
    הלעטתם את הבינה מכל הבא ליד (ל"ת)
    הבינה לומדת 28/12/2024 19:31
    הגב לתגובה זו
  • 1.
    גידלת תינוק במהירות ועוד יקום על האנושות (ל"ת)
    הבינה לומדת 28/12/2024 19:30
    הגב לתגובה זו
אילוסטרציהאילוסטרציה

אחרי שהקים את ניוראלינק, סאם הודאק עובד על מיזוג תודעתי בין בני אדם

המייסד-השותף של ניוראלינק, החברה שכבר הצליחה להשתיל במח האנושי שבב לשליטה גופנית באמצעות המחשבה, פונה עכשיו למיזם שנשמע יותר מדי מדע בדיוני, ובחברה החדשה שלו, Science Corp, עובד על טכנולוגיות שמבקשות לא רק לשקם ראייה, אלא לשנות את ההבנה האנושית של התודעה, המוח והחיים עצמם; מהשתלת שבב ברשתית ועד חזון למיזוג תודעתי בין בני אדם: זו כבר לא מדע בדיוני, אלא תוכנית עבודה עם לוחות זמנים

רן קידר |

מקס הודאק נראה רחוק מהדימוי של מנכ"ל בתחום מדעי המוח. הוא החל את דרכו המקצועית כשהחל לתכנת בגיל 6, ובמהלך הדרך עבר במעבדתו של מדען המח מיגל ניקולליס, עד שהגיע להיות שותפו של אילון מאסק להקמת ניוראלינק וניהולה בפועל עד 2021. שם, לדבריו, למד איך לחשוב אחרת: "הייתי מציג למאסק שתי אפשרויות מנוגדות. הוא היה מצביע מיד על אחת, והבעיה היתה פשוט נעלמת".

עם הניסיון הזה, ובעזרת שלושה בוגרי ניוראלינק נוספים, הוא הקים לפני ארבע שנים את Science Corp., חברה שמצהירה בגלוי על מטרה שאפתנית: להבין את המוח האנושי עד כדי שינוי מושגי היסוד של תודעה, זיכרון וזהות.

700 חברות, מרוץ עולמי ופריצה הנדסית אמיתית

בעוד העולם מרוכז במהפכת ה-AI ובמלחמות הגיוס, תחום ה-BCI (ממשק מוח-מחשב) מתפתח במהירות יוצאת דופן. לפי נתוני הפורום הכלכלי העולמי, כמעט 700 חברות כבר פועלות בתחום. מיקרוסופט מובילה מחקר עצמאי, אפל חברה השנה ל-Synchron, ובסין כבר פורסמה תוכנית רשמית להגיע להובלה עולמית עד 2030.

המדע עצמו לא חדש, אומר הודאק, אך מהפכת המכשור, שכוללת מיזעור, הורדת צריכת חשמל ושיפור בטיחות ההשתלה, היא זו שמאפשרת לראשונה הפעלה אמיתית של חזון ממשק מוח-מחשב מלא.

כאמור, מיקרוסופט משקיעה מזה שבע שנים בפרויקט BCI ייעודי שמטרתו לבחון דרכים לשלב יכולות עצביות בפלטפורמות מחשוב עתידיות. החברה מפתחת כלים לא פולשניים לקריאת פעילות מוחית, בוחנת שילוב של מודלים עצביים עם AI, ומתמקדת ביישומים אפשריים לטיפול נוירולוגי ולשיפור ביצועים קוגניטיביים. מדובר בחזון שנע בין שיקום רפואי לבין דרכים חדשות לשלוט במחשבים ללא מגע.

דניאל שניידר, צילום: Anybizדניאל שניידר, צילום: Anybiz

"לקחנו את תפקיד ה-SDR ועשינו לו אוטומציה" - סטארטאפ להכיר

ראיון עם דניאל שניידר מנכ"ל ומייסד שותף Anybiz



הדס ברטל |

מה הרקע שלך?

דניאל: אני בן 35 במקור מבאר שבע, עכשיו אני גר בכל העולם כנווד דיגיטלי. בצבא הייתי באחת היחידות הטכנולוגיות ואחר כך למדתי שלושה תארים ב-10 שנים: תואר ראשון בהנדסת חשמל כדי שאבא יהיה שמח כי הוא מהנדס חשמל, את השני עשיתי בהנדסה ביו רפואית כדי שאמא שלי שהיא רופאה, תהיה שמחה. וכדי שאני אהיה שמח, עשיתי תואר נוסף במנהל עסקים.

ספר מה החברה עושה

דניאל: יצרנו סוכני AI שמבצעים את כל התהליך של הבאת לידים לחברות דרך 3 ערוצים, אימייל לינקדאין ושיחות טלפוניות. אם יש חברה שרוצה לידים חדשים אז יש בדרך כלל SDR, מעין איש מכירות להייטק (sales development representative) שעושה BizDev, אז אנחנו לקחנו את התפקיד ועשינו אוטומציה מלאה לחלק הראשוני שלו. החל מלמצוא את הלקוח הפוטנציאלי ולכתוב לו את האימייל המותאם אישי הראשוני, דרך פולו אפים ועד לנקודה שבו הלקוח אומר לי "מעניין אותי, רוצה לשמוע עוד". את הסיילס פיצ' לאחר מכן עושה האיש מקצוע, אבל את כל הפנייה החוזרת ונשנית שיש בהתחלה העברנו לאוטומציה מלאה. זה חוסך הרבה זמן של בן אדם ורואים את התוצאות, שהן לפעמים טובות בדיוק כמו של איש מכירות אנושי ולפעמים גם יותר טובות וזה גם חוסך יותר כסף ולשם העולם הולך.

מתי החברה הוקמה? כמה עובדים? 

דניאל: הקמנו את החברה ב-2021 והיא מונה כמעט 100 עובדים, מ-14 מדינות שונות. החברה היא ישראלית, אבל מאפשרים לעבוד ברימוט, לטייל בעולם ולהנות מהחיים. אני מאמין כשהעובדים שמחים התפוקה הרבה יותר גבוהה ויש הרבה יותר יצירתיות. 

מאיפה הרעיון לחברה?

דניאל: לפני כן היה לי עסק אחר של מוצרים פיזיים ורציתי לפנות לחנויות פיזיות בארה"ב ולהציע להם למכור את המוצר שלי בחנויות. חיפשתי כלי שיעזור לי לפנות אליהם בצורה מהירה, יסביר להם מה צריך ויעשה פולו עד שיגידו לי שמתעניינים ולא מצאתי והתחלתי להשתמש בכל הידע שלי מהאוניברסיטה ועשיתי משהו לעצמי. אז גם הבנתי שיש פה הזדמנות שתוכל לעניין אחרים וככה הכל התחיל. 

השקעתי כל כך הרבה שנים באוניברסיטה אז הכרתי AI לפני שכל העולם הכיר. לפני כמה שנים הייתי גם בתכנית הכרישים עם מוצר AI שמזהה מלנומה. זה חלק מההתמחויות שעשיתי באוניברסיטה והיה ברור שלשם העולם הולך. זהו אזור שהוא מאוד מאוד נוח עבורי, ותמיד ידעתי שבסוף המחשב יתחיל לקבל החלטות ולא הבן אדם.