הצ׳אטבוטים כבר יודעים לסייע בפיתוח נשק ביולוגי - והחוק עדיין לא מחייב דיווח

השיפור המהיר ביכולות הביולוגיה והכימיה של מערכות בינה מלאכותית יצר פער חדש בין עוצמת הטכנולוגיה לבין מנגנוני הפיקוח עליה. לפי עדויות של עובדים וחוקרים בענף, משתמשים ניסו להיעזר בצ׳אטבוטים כדי לקבל מידע על רעלים, גורמי מחלה ותכנון מתקפות ביולוגיות - ולעיתים קיבלו תשובות שנחשבו מדויקות ומעשיות.

OpenAI זיהתה מאות חשבונות שהפנו למערכותיה שאלות מסוג זה לאחר שדרוג יכולות המודלים. החברה חסמה את המשתמשים, אך ברוב המקרים לא העבירה דיווח לרשויות, משום שבארה״ב אין כיום חובה פדרלית כללית לדווח על שיחות שבהן משתמש מבקש סיוע בתכנון פגיעה המונית. היעדר החובה אינו ייחודי ל־OpenAI. חברות כמו אנתרופיק, גוגל וחברות נוספות נדרשות לקבוע בעצמן מתי בקשה חשודה הופכת לאיום ממשי, מתי יש לחסום חשבון ומתי נכון לערב את רשויות אכיפת החוק. בפועל, ההחלטה נשענת על מדיניות פנימית ועל הערכת הסיכון של כל חברה.

היכולת המדעית התקדמה מהר מהצפוי

כאשר ChatGPT הושק ב־2022, הידע שלו בביולוגיה ובכימיה היה מוגבל יחסית, ולכן הסיכון לשימוש בו לצורך פיתוח נשק לא עמד בראש סדר העדיפויות. בתוך שנים ספורות השתפרו המודלים במידה שאפשרה להם להסביר תהליכים מורכבים, לנתח תקלות ניסוי ולהציע דרכי פעולה למשתמשים בעלי ידע מדעי חלקי.

החשש המרכזי הוא לא שהצ׳אטבוט יחליף מעבדה, ציוד או מומחיות מעשית, אלא שהוא יקצר את הדרך אליהם. מערכת שמרכזת מידע, מסבירה מדוע ניסוי נכשל ומסייעת בתכנון רכש יכולה להפחית את רמת הידע הנדרשת ממשתמש שמבקש לגרום נזק.

מומחי ביטחון מעריכים כי בטווח הקרוב הסיכון הסביר יותר הוא מתקפה מצומצמת מצד יחידים בעלי הכשרה מדעית מסוימת. בטווח ארוך יותר, ארגונים בעלי משאבים עלולים להשתמש במודלים כתחליף חלקי למומחים, וכך להרחיב את היכולת לתכנן אירועים מורכבים יותר. הסיכון גדל גם בשל התפשטותם של מודלים פתוחים וזולים, שניתן להוריד, להתאים ולהפעיל ללא פיקוח של החברה שפיתחה אותם. בניגוד לשירות מקוון, שבו ניתן לחסום משתמש או לעקוב אחר פעילות חריגה, מודל שמופעל באופן עצמאי מאפשר להסיר חלק ממנגנוני ההגנה.

מנגנוני הסירוב לא תמיד מחזיקים מעמד

חברות הבינה המלאכותית מאמנות את המודלים לסרב לבקשות הקשורות לייצור נשק או לפגיעה באנשים. אלא שבדיקות פנימיות וחיצוניות הראו כי משתמשים עיקשים מסוגלים לעיתים לעקוף את ההגנות באמצעות ניסוח עקיף, הצגת תרחיש בדיוני או ניהול שיחה ארוכה שבה המודל מאבד בהדרגה את ההקשר הבטיחותי.

חוקרים בסיסקו מצאו כי בכמה סבבים קצרים של שיחה ניתן לעיתים לגרום לצ׳אטבוטים מרכזיים למסור מידע שאותו סירבו לספק בתחילת השיחה. הממצא ממחיש כי בטיחות אינה תלויה רק בתשובה הראשונה, אלא ביכולת לשמור על מגבלות לאורך רצף של שאלות. OpenAI טוענת כי חיזקה משמעותית את ההגנות, בוחנת מודלים לפני השקתם ומנטרת את השימוש במערכות המתקדמות שלה. החברה גם מציעה תגמול לחוקרים שמצליחים לעקוף מגבלות בתחום הביולוגי, ומדווחת לרשויות כאשר היא מזהה סכנה מיידית ואמינה לאחרים.

עם זאת, היקף הפעילות מקשה על פיקוח ידני. ChatGPT מקבל לפי החברה כ־2.5 מיליארד שאילתות ביום, ולכן הזיהוי תלוי במערכות אוטומטיות שאמורות להבחין בין מחקר לגיטימי, סקרנות תאורטית וניסיון ממשי להכין מתקפה.

חסימה רחבה מדי עלולה לפגוע גם במחקר

הבעיה לא מסתכמת בשאלה כיצד לחסום מידע מסוכן. אותם מודלים משמשים חוקרים, חברות תרופות, גופי בריאות ומעבדות לצורך ניתוח נתונים, תכנון ניסויים ומעקב אחר מחלות. מגבלות נוקשות מדי עלולות למנוע מהם גישה למידע הדרוש לעבודה רפואית לגיטימית.

• מהיום: חובת סימון של תעמולת בחירות שנוצרה בידי AI
• מרכזי הנתונים עולים לחלל: האם החשמל הזול יצדיק את המחיר העצום?

עובדים בגופי בריאות התקשו להשתמש במודל של אנתרופיק בעת מעקב אחר התפרצות מחלה, משום שהמערכת סירבה לענות לשאלות שכללו מונחים הקשורים לגורמי מחלה. החברה טענה כי נעשה שימוש במודל כללי במקום בגרסה המותאמת לעבודה ממשלתית.

כדי להתמודד עם הבעיה, OpenAI וחברות אחרות מציעות מסלולי גישה מיוחדים לארגונים ולחוקרים שעברו בדיקה. אלא שתהליכי האישור עשויים להיות איטיים, והם אינם פותרים את השאלה כיצד לאפשר מחקר רגיש בלי לפתוח את אותה יכולת גם למשתמשים עוינים.

הממשל האמריקאי עובר בהדרגה מגישה זהירה מפני התערבות לגישה שמכירה בצורך בפיקוח. משרד המסחר כבר הגביל זמנית שימוש זר במודלים מסוימים של אנתרופיק, ומחוקקים הציעו לחייב חברות לדווח על סימנים לאיומים חמורים, לרבות חשד לשימוש במודלים לצורך פיתוח נשק ביולוגי. הצעות נוספות מבקשות לתת לממשלה סמכות להגביל או להשבית מודלים שיוגדרו מסוכנים במיוחד. במקביל, בכירים בענף קוראים להטיל בקרות מחמירות יותר על הזמנות של DNA ו־RNA סינתטיים, מתוך חשש שהתקדמות ה־AI תקל על גורמים עוינים לתכנן חומרים ביולוגיים ולרכוש את רכיביהם.