מאות עובדי גוגל דורשים: אל תשתפו פעולה עם הפנטגון בפרויקטי AI מסווגים
יותר מ-560 עובדים, בהם גם בכירים, חתמו על מכתב לפיצ'אי נגד שימוש בבינה מלאכותית לצרכים צבאיים ומעקב - על רקע דיווחים על הסכם מתקרב עם משרד ההגנה והעימות בין הממשל לאנתרופיק
יותר מ-560 עובדי גוגל Alphabet 1.72% חתמו על מכתב פתוח למנכ"ל החברה, סונדאר פיצ'אי, שבו הם קוראים לו להימנע משיתוף פעולה עם ממשלת ארה"ב בפרויקטים מסווגים בתחום הבינה המלאכותית. המכתב נשלח בתחילת השבוע ומציף מתיחות פנימית סביב השימושים האפשריים בטכנולוגיות החברה.
החותמים מביעים חשש כי מערכות AI עלולות לשמש לפעולות פוגעניות, ובהן נשק אוטונומי קטלני ומערכות מעקב רחבות היקף. לדבריהם, יש להבטיח כי הטכנולוגיה לא תשמש ליישומים העלולים לפגוע בזכויות אדם או להוביל לפגיעה באזרחים. במכתב נטען כי הדרך היחידה למנוע שימושים מסוג זה היא סירוב גורף להשתתף בפרויקטים מסווגים. העובדים מדגישים כי בהיעדר שקיפות, אין להם יכולת לפקח על האופן שבו נעשה שימוש בטכנולוגיה או להתנגד לכך.
המהלך מגיע על רקע לחץ גובר על חברות טכנולוגיה להגדיר את עמדתן לגבי שיתופי פעולה עם גופי ביטחון ומודיעין. הדיון התעצם בעקבות עימות בין הפנטגון לחברת הבינה המלאכותית אנתרופיק. מנכ"ל אנתרופיק, דריו אמודיי, סירב לאפשר לממשל גישה מלאה למודלים של החברה, ודרש הצבת מגבלות שימנעו שימושים בתחומים כמו נשק אוטונומי ומעקב המוני. הסירוב הוביל להשלכות רגולטוריות משמעותיות.
בעקבות המחלוקת, הוגדרה אנתרופיק כסיכון בשרשרת האספקה, והממשל הורה לגופים פדרליים להפסיק להשתמש במוצרי החברה. החברה מצדה הגישה ערעור לבית המשפט נגד ההחלטה.
- אנבידיה תחת לחץ: גוגל משיקה שבבי AI חדשים
- מארוול מזנקת וברודקום יורדת; גוגל ומארוול במגעים לפיתוח שבבי AI
- המלצת המערכת: כל הכותרות 24/7
גוגל קרובה להסכם עם משרד ההגנה האמריקאי
בגוגל עוקבים אחר ההתפתחויות מקרוב, במיוחד לאור דיווחים כי החברה קרובה להסכם עם משרד ההגנה האמריקאי. לפי אותם דיווחים, המודל Gemini עשוי לשמש בפרויקטים מסווגים. העובדים החתומים על המכתב חוששים כי הסכם כזה יאפשר שימוש בטכנולוגיה ללא מגבלות ברורות, בדומה למודל שהממשל ביקש מאנתרופיק. לדבריהם, מדובר בסיכון שאינו תיאורטי בלבד.
אחד המעורבים ביוזמה ציין כי מערכות בינה מלאכותית כבר משמשות ככלי בידי משטרים סמכותניים, והזהיר מפני שימושים שעלולים לפגוע בחירויות אזרחיות גם במדינות דמוקרטיות. המכתב גובש בעיקר על ידי עובדים מחטיבת DeepMind, זרוע המחקר של גוגל בתחום הבינה המלאכותית. לפי גורמים המעורים בנושא, חלק ניכר מהחותמים מגיעים גם מחטיבת הענן של החברה.
לצד העובדים הזוטרים, גם מנהלים בכירים הצטרפו ליוזמה. יותר מ-18 בעלי תפקידים בדרגי הנהלה חתמו על המכתב, בהם מנהלים בדרגת דירקטור וסמנכ"ל. חלק מהחותמים בחרו להזדהות בשמם, בעוד אחרים העדיפו להישאר אנונימיים.
- המניה שמזנקת היום פי 4
- למה מניות הביטחון יורדות דווקא בזמן מלחמה?
- תוכן שיווקי גידור בנאמנות: הראל Multi-Strategy (4D) מובילה את הטבלה
- ספייס אקס, אנדוריל ולוקהיד זכו בחוזים ראשונים לבניית "כיפת...
עקרונות ה-AI של החברה עודכנו
בתוך הנהלת החברה עצמה נשמעים קולות ביקורתיים. המדען הראשי של גוגל, ג'ף דין, התבטא בעבר נגד שימושים במעקב המוני וציין כי הם עלולים לפגוע בזכויות חוקתיות. הדיון הנוכחי מזכיר מחלוקות קודמות בגוגל סביב שיתופי פעולה עם מערכת הביטחון. בשנת 2018 מחו עובדים נגד פרויקט Maven, שבו נעשה שימוש בבינה מלאכותית לצורכי תקיפות רחפנים.
בעקבות המחאה אז, גוגל בחרה שלא להאריך את ההתקשרות והצהירה כי לא תפתח טכנולוגיות שמטרתן פגיעה באנשים. עם זאת, בשנה האחרונה עודכנו עקרונות ה-AI של החברה באופן מהותי. במסגרת העדכון הוסרה התחייבות מפורשת שהופיעה בעבר, שלפיה גוגל לא תפתח “נשק או טכנולוגיות שמטרתן לגרום לפגיעה באנשים או להקל עליה”. השינוי נעשה בשקט יחסית, אך סימן תפנית בגישה של החברה.
מנכ"ל DeepMind וממייסדי התחום בגוגל, דמיס חסאביס, הסביר כי הסביבה השתנתה מאז 2014, וכי כיום קיימים מודלים מתקדמים רבים מחוץ לגוגל, מה שמצמצם את היכולת של החברה להשפיע לבדה על השימושים בטכנולוגיה. לדבריו, לחברות טכנולוגיה אמריקאיות יש גם אחריות לסייע למדינה להגן על עצמה, במיוחד בעידן שבו בינה מלאכותית הופכת לכלי אסטרטגי בזירה הבינלאומית.
כעת, המחלוקת חוזרת למרכז הבמה, כאשר העובדים מזהירים כי החלטות בתחום עלולות להשפיע על המוניטין של גוגל ועל תפקידה בזירה הבינלאומית.
