האסיפה המחוקקת של מדינת ניו יורק אישרה השבוע את תקנות RAISE (Responsible Artificial Intelligence Systems and Evaluation הערכה אחראית של מערכות בינה מלאכותית ) שמהוות מהלך תקדימי שנועד להתמודד עם הסכנות הפוטנציאליות שבמודלים המתקדמים ביותר של בינה מלאכותית. החוק פונה בעיקר לחברות כמו גוגל, אנת'רופיק וכמובן OpenAI, ומחייב אותן לפרסם דוחות בטיחות מסודרים, לדווח על תקריות חריגות, ולהתנהל בשקיפות מול הציבור ורשויות האכיפה. מדובר בצעד רגולטורי ראשון מסוגו בארה״ב כלפי מה שמכונה "Frontier AI", מערכות בינה מלאכותית שנמצאות בחזית הטכנולוגית ונבנו בהשקעה של מאות מיליוני דולרים ומשפיעות על תחומי חיים נרחבים.

אישור תקנות RAISE מהווה ניצחון למחנה התומכים בבטיחות בתחום הבינה המלאכותית, שנחלש בשנים האחרונות לנוכח המדיניות של טראמפ שתומכת בחדשנות ובמהירות של טכנולוגיה אמריקאית. התקנות זוכות לתמיכתם של מדענים מובילים כמו חתן פרס נובל ג'פרי הינטון והחוקר יהושע בנג'יו, ונועדו להבטיח שמודלים עתידיים לא יובילו לאסונות בעלי פוטנציאל הרסני, כגון נזק של מעל מיליארד דולר או פגיעות חמורות בחיי אדם. "החלון להצבת גבולות בטיחות הולך ונסגר ככל שהטכנולוגיה מתקדמת," אמר הסנאטור אנדרו גונרדס, שיזם את ההצעה.

צעד קדימה ותגובת התעשייה

בניגוד לחקיקת SB 1047 שנפלה במדינת קליפורניה לפני מספר חודשים, החקיקה הניו יורקית אינה דורש "מתג השמדה" (kill switch) למודלים מתקדמים, אך כן מעניק לתובעת הכללית סמכות להטיל קנסות של עד 30 מיליון דולר על חברות שלא יעמדו בדרישות. החוק חל על חברות שחשפו מודלים מתקדמים לתושבי ניו יורק, ושנעשה בהם שימוש במשאבי מחשוב של מעל 100 מיליון דולר, וזאת במטרה להגן על החברות הקטנות ולהשית אחריות על חברות הענק. 

עם זאת, בענף הטכנולוגיה, לא כולם מרוצים. בחברת אנת'רופיק הביעו חשש מהשלכות החוק על שחקנים קטנים, בעוד ששותף בקרן ההשקעות Andreessen Horowitz כינה את החוק "טעות אסטרטגית שתפגע ביתרונה של ארה״ב". עם זאת, המחוקקים בניו יורק סבורים שהתקנות אינן מהוות נטל רגולטורי כבד, ולנוכח העובדה שמדינת ניו יורק היא הכלכלה השלישית בגודלה בארה״ב, ספק אם חברות יבחרו להתעלם מהתקנות. במידה ומושלת ניו יורק, קת'י הוקול, תחתום על החוק, ניו יורק עשויה להפוך לדוגמה עבור מדינות נוספות, בניסיון לאזן בין חדשנות טכנולוגית לאחריות ציבורית.

• אנתרופיק משיקה מודל שיכול לתכנת 30 שעות ברציפות
• וול סטריט מחפשת את הדור הבא של מניות הבינה המלאכותית
• המלצת המערכת: כל הכותרות 24/7

השפעת הרגולציה על המירוץ 

מעבר למלחמת הסחר המתוקשרת, ישנו מרוץ לא סמוי להובלה הטכנולוגית בענף הבינה המלאכותית. בתמיכת הממשל, אנבידיה אינה מספקת לסין את השבבים המתקדמים ביותר כדי למנוע מסין להוביל במירוץ. עם זאת, הסינים הוכיחו בתקופה האחרונה כי גם ללא יתרון החומרה הם יכולים לספק מודל בינה מלאכותית שיתחרה במודלים המתקדמים ביותר, כשהשיקו את DeepSeek שייצר גלים משמעותיים בתעשיה והצניח את מניות כל החברות שעוסקות בבינה מלאכותית. היו מספר דיווחים לא מאומתים על כך שהחברה שמאחורי DeepSeek משולבת בממשל הסיני, כך שמבחינת רגולציה, קשה לשער אם סין תתחיל גם היא ברגולציה כלשהו, כל עוד החברות והממשל הם צדדים שונים של אותו המטבע, לכאורה. 

לעומת זאת, באיחוד האירופי השיקו לפני למעלה משנה רגולציית AI  שהיתה הראשונה בעולם, עם חקיקה מקיפה בתחום הבינה המלאכותית. העקרונות המרכזיים בחוק היו דירוג המערכות על פי רמת הסיכון, החל במודלים "אסורים" ועד לכאלה שדורגו ב-"סיכון נמוך".המערכות שנאסרו היו מו זיהוי ביומטרי במרחב הציבורי בזמן אמת, ניקוד חברתי, ושימוש ב־AI לתמרון תודעתי. על מודלים של AI שהוגדרו בסיכון גבוה הושתה רגולציה מחמירה, בייחוד ביישום בתחומים של תעסוקה, חינוך, בריאות, משפט ועוד. עוד נכפה על כי תהיה שקיפות בממשקי AI לציבור וכי על המשתמש לדעת שהוא מתקשר עם מערכת אוטומטית. האכיפה הוגדרה כבדה יחסית, עם קנסות של עד 35 מיליון אירו או 7% מהמחזור השנתי (הגבוה מביניהם). הקמה של רשות AI אירופית ורגולטורים לאומיים בכל מדינה.

עם זאת, נכון לעכשיו, התקנות של האיחוד האירופי נגעו בעיקר במודלים שאינם מיוצרים באירופה, וכך ההשלכות על הפיתוח לא נגעו למחוקקי החוקים. כשמדובר בארה"ב, אנחנו רואים בפעולה שתי כוחות שונים שנוגעים במהפיכה שמשנה כמעט את כל האספקטים בחיינו. השאלה האם הרגולציה תהיה הכבדה מיותרת שתייקר ותסרבל חדשנות טכנולוגית תישאר כרגע ללא מענה חד משמעי.

• קלע רוכשת את פלנור בעסקה מוערכת ב־20-30 מיליון דולר
• מאנדיי משיקה: סוכני AI חדשים ומוצר לניהול קמפיינים כחלק מ-CRM
• תוכן שיווקי צברתם הון? מה נכון לעשות איתו?