אין מיקור חוץ למשפט הציבורי: בינה מלאכותית והאחריות המינהלית

הבינה המלאכותית כבר משנה את האופן שבו רשויות ציבוריות אוספות מידע, מנהלות ידע, מעניקות שירותים ומקבלות החלטות. היא יכולה לקצר הליכים, לזהות טעויות, לשפר תכנון, לחסוך משאבים ולאפשר מיצוי טוב יותר של זכויות. היא אף עשויה לצמצם חוסר אחידות ושרירותיות אנושית. דווקא משום כך, השאלה המרכזית איננה אם ראוי שהמגזר הציבורי יעשה שימוש ב-AI, אלא באילו תנאים ניתן לעשות זאת מבלי לפגוע בעקרונות שעליהם מושתת המשפט הציבורי.

ביהמ"ש העליון מחמיר את הצעדים נגד שימוש בפברוקים תוצרת AI

הדיון הזה אינו תיאורטי. בשאלון שערך משרד מבקר המדינה בדצמבר 2025, דיווחו 47 גופים ציבוריים על מעורבות ב-144 פרויקטים בתחום. במאי 2026 פרסמו מערך הדיגיטל הלאומי ומחלקת ייעוץ וחקיקה במשרד המשפטים מדריך לשימוש אחראי בכלי AI במגזר הציבורי. השימוש מתרחב בטרם נוצרה בישראל מסגרת חקיקתית כוללת.

החלטה המתקבלת בסיוע מערכת AI עשויה להיות מהירה, עקבית ומדויקת יותר, אך כאשר היא נוגעת לזכאות לקצבה, לרישיון, לאכיפה, לרווחה, לבריאות או לשירות חיוני אחר - יעילות ודיוק סטטיסטי אינם יכולים להיות המדדים היחידים. החלטה מינהלית חייבת להתקבל בסמכות, לתכלית ראויה, על יסוד תשתית עובדתית מספקת ושיקולים ענייניים. עליה לעמוד גם בדרישות של שוויון, מידתיות, הגינות, שקיפות, הנמקה וזכויות דיוניות. שילובה של מערכת אלגוריתמית אינו מפחית מחובות אלה, ובוודאי אינו מאפשר לרשות לעשות באמצעות מערכת מחשב דבר שאסור לה לעשות בעצמה.

במשפט הציבורי אין די בנתון ממוצע

מכאן גם הקושי בהעתקה של מערכות שפותחו לצרכים מסחריים אל הזירה הציבורית. מערכת מסחרית עשויה להיחשב מוצלחת אם היא חוסכת כסף, משפרת תפוקה או מגיעה לשיעור דיוק גבוה. אך במשפט הציבורי אין די בנתון ממוצע. גם מערכת בעלת שיעור דיוק של 95% מחייבת לשאול מי מצוי בחמשת האחוזים שבהם אירעו טעויות ומה משמעותן עבורם. המלצה שגויה על מוצר אינה דומה לשלילת קצבה, לסיווג אדם כבעל סיכון, לדחיית בקשה לרישיון או להפעלת אמצעי אכיפה.

גם הגדרת מטרות המערכת מחייבת בחינה נורמטיבית. מערכת שתוכננה לצמצם עלויות, עלולה לעשות זאת במחיר פגיעה דווקא במי שנזקקים יותר לשירות ציבורי. מערכת שמטרתה להגדיל את שיעור גילוי ההפרות, עלולה למקד את האכיפה במקום שבו קל יותר לזהותן, ולאו דווקא במקום שבו האכיפה נחוצה או שוויונית יותר. לכן אין להשאיר את הגדרת מטרות המערכת, המשתנים והעדיפויות בידי אנשי הטכנולוגיה בלבד. עוד לפני הפיתוח יש להכריע אילו ערכים מחייבים את הרשות, מהו האיזון ביניהם ואילו תוצאות אינן קבילות גם אם הן יעילות.

קושי נוסף נובע ממראית העין של אובייקטיביות. מערכת AI נשענת על נתונים שנוצרו במציאות חברתית ומוסדית קיימת. אם הנתונים משקפים דפוסי אכיפה, הקצאה או טיפול קודמים, המערכת עלולה לשעתק אותם ואף להעצימם. הפליה יכולה להיווצר גם בלי שהוזן למערכת משתנה מפורש של מוצא, לאום או מצב חברתי. כתובת, שפה, הרכב משק הבית, היסטוריית חובות או דפוסי שימוש בשירותים עלולים לתפקד כמשתנים תחליפיים ולהוביל לתוצאה מפלה מבלי שמפעילי המערכת יהיו מודעים לכך.

מערכת המתבססת על מידע חלקי או שגוי עלולה להשפיע על החלטה מבלי שהאדם הנוגע בדבר יידע איזה מידע הוזן אליה, כיצד נותח ומה היה משקלו. ככל שהמודל מורכב יותר וככל שהספק טוען לסוד מסחרי, כך עלולה להיפגע יכולתו של הפרט להבין את ההחלטה ולהשיג עליה. דווקא כאשר ההמלצה מתקבלת במהירות ובקלות רבה יותר, יכולת הביקורת עליה עלולה להיחלש.

הספק אינו מחליף את בעל הסמכות

מכאן נגזרת טענה מרכזית נוספת: המשפט הציבורי אינו ניתן למיקור חוץ. מערכות AI מפותחות בדרך כלל בידי ספקים פרטיים, הנוטלים חלק מהותי באפיון, בבחירת המשתנים, באימון המודל ובעדכונו. אולם האחריות לבחירת מטרות השימוש, לחוקיותן, לנתונים שעליהם נשענת המערכת, לאופן ההסתמכות על הפלט ולתוצאה המינהלית הסופית - אחריות זו נשארת בידי הרשות. הספק אחראי לתקינות המוצר, לתיעוד, להצגת מגבלות ולדיווח על שינויים ותקלות, אך אינו מחליף את בעל הסמכות הציבורית.

• HP נופלת 9% למרות דוח חזק: מכירות המחשבים מזנקות, אבל יש מלכוד
• אוקטה מעלה תחזית: הצמיחה נשארת דו ספרתית וה-AI פותח לה שוק חדש

גם האמירה ש"בסוף יש אדם שמחליט" אינה מספקת. פיקוח אנושי יכול להיות ממשי, אך הוא יכול עלול מקבל מידע המאפשר לו לבחון את ההמלצה, עלול לאשר אותה כמעט אוטומטית. בקרה אנושית אמיתית מחייבת הכשרה, זמן, גישה למידע, סמכות לסטות מן ההמלצה ויכולת לנמק החלטה עצמאית.

לכן המשפט הציבורי אינו צריך להיכנס לתמונה רק לאחר שהמערכת אופיינה, נרכשה והופעלה. יש לתרגם את עקרונותיו לדרישות אפיון, מכרז, רכש, תכנון, תפעול ובקרה. מערכת המשמשת לקבלת החלטות בעלות משמעות ציבורית צריכה להיות מסוגלת להציג את הנתונים המרכזיים שהשפיעו על המלצתה, את רמת הוודאות ואת מגבלות השימוש בה. עליה להתריע כאשר חסר מידע משמעותי, כאשר המקרה חורג מסוג המקרים שעליהם אומנה או כאשר מתגלים פערים חריגים בתוצאות בין קבוצות.

יש לבחון גם את תוצאות המערכת ולא רק את כוונות מתכנניה. הרשות צריכה לדרוש כלים למדידת שיעורי טעות, פערים בין קבוצות, זמני טיפול, שיעורי דחייה ושיעור החלטות שבוטלו בהשגה. במקביל, יש לשמור תיעוד המאפשר לשחזר החלטה: באיזו גרסה של המערכת נעשה שימוש, אילו נתונים הוזנו, מה הייתה ההמלצה, מי בחן אותה ומה הייתה ההחלטה. כאשר מערכת אלגוריתמית השפיעה באופן מהותי, ראוי שהאדם יידע על כך, יוכל לבקש תיקון של מידע שגוי ולקבל הסבר מובן על הגורמים העיקריים שהשפיעו על ההחלטה בעניינו.

דרישות לכל אורך חיי המערכת

הדרישות הללו צריכות ללוות את המערכת לאורך כל מחזור חייה. לפני רכישת מערכת בעלת השפעה משמעותית, יש לבצע הערכת השפעה שתבחן את מקור הסמכות, מטרת השימוש, איכות הנתונים, הסיכון להפליה, הקבוצות שעלולות להיפגע, חלופות פחות פוגעניות והיכולת לנמק החלטות. לצד התיק המינהלי הפרטני ראוי לקיים "תיק מערכת", שבו ירוכזו מטרתה, מקור הסמכות, זהות הספק, מקורות הנתונים, גרסת המודל, בדיקות, שיעורי שגיאה, תקלות, תלונות ועדכונים.

גישה זו קיבלה לאחרונה חיזוק בפסיקת בית המשפט העליון, ולפיה העברת מרכז הכובד של שיקול הדעת מן הרשות למערכת AI עלולה, בנסיבות המתאימות, לעלות כדי התפרקות משיקול הדעת ואף אצילה אסורה של הסמכות, וכי אין די בפיקוח אנושי פורמלי על תוצרי המערכת.

• דימויי שואה הם גסים ובוטים - אך מוגנים בידי חופש הביטוי
• ישראלי המואשם במרמה ב-20 מיליון אירו יוסגר לגרמניה

גם המכרז והחוזה עם הספק הם חלק מן ההסדרה המשפטית. עליהם להבטיח זכות ביקורת וגישה לתיעוד וליומני מערכת, חובת דיווח מיידי על כשלים, התרעה על שינויים במודל או בנתונים, מגבלות על שימוש במידע ציבורי וחובת שיתוף פעולה במקרה של השגה, ביקורת או הליך משפטי. לצד זאת נדרש גורם ארגוני בעל ידע, משאבים וסמכות שיפקח על המערכת לאורך זמן ויוכל להביא לבחינה מחודשת, לתיקון ואף להשעיית השימוש בה.

רשות שאינה מסוגלת להבין כיצד המערכת פועלת, לבדוק את תוצאותיה, לקבל את המידע הדרוש, להסביר החלטה שנשענה עליה או להפסיק את השימוש בה בעת הצורך - אינה שולטת באמת בכלי שבאמצעותו היא מפעילה סמכות.

הגישה המוצעת היא לעבור מתפיסה של יעילות טכנולוגית בלבד לתפיסה של אחריותיות מתוכננת. מערכת בינה מלאכותית בשירות הציבורי צריכה להיות מותאמת לא רק למשימה המקצועית שלשמה נרכשה, אלא גם לחובות המשפטיות והציבוריות של הרשות. המשפט הציבורי אינו מכשול בפני חדשנות. הוא המסגרת שמאפשרת לשלב את החדשנות במינהל הציבורי מבלי לוותר על חוקיות, שוויון, הגינות, שקיפות ואחריות.

עו"ד דורון תמיר, שותף במחלקת מכרזים ותשתיות במשרד ארנון-תדמור-לוי (צילום: ניקי וסטהפל)