ביהמ"ש העליון מחמיר את הצעדים נגד שימוש בפברוקים תוצרת AI

עיריית רמת גן תשלם הוצאות בסך 30,000 שקל בשל "שימוש מופקר" - כלשונו של המשנה לנשיא בית המשפט העליון, נעם סולברג - שעשתה בבינה מלאכותית במגעיה עם האזרח. העירייה "ציטטה" חוזרים ופסיקה שלא היו ולא נבראו, הן במענה לפנייתו של האזרח והן בהליכים המשפטיים שלאחר מכן. סולברג מדגיש, כי ייתכן שבעתיד יוטלו גם הוצאות אישיות על עורכי הדין המייצגים במקרים שכאלה.

נבו בן-כהן פנה לעירייה בנוגע להסעת בנו לבית הספר, וזו דחתה אותו בהסתמך על "חוזר מנכ"ל משרד החינוך תשפ"ג/(4א) - שכלל אינו קיים - כמו גם על קביעות "מהפסיקה העדכנית" שגם הן פוברקו בידי AI (מספרי התיקים היו נכונים, אך לא נכללו בהם הציטטות שהביאה העירייה). בן-כהן עתר לבית המשפט המחוזי בתל אביב, שם הגיעו הצדדים להסכמה. בן-כהן ביקש לחייב את העירייה בהוצאות, וזו בתגובה שוב ציטטה פסק דין של בג"ץ שלא היה ולא נברא. לאחר שבקשתו של בן-כהן להוצאות נדחתה והוא ערער לבית המשפט העליון, העירייה הגיבה בציטוט מפוברק נוסף. סולברג קיבל את הערעור - התערבות נדירה מאוד בתחום ההוצאות.

לא תהיה סבלנות כלפי שימוש בלתי מבוקר ב-AI

סולברג אומר: "החלטת העירייה בבקשת המערער, כמו גם כתבי הטענות שהגישה, הן לבית המשפט המחוזי, הן בהליך דנן - רצופים כולם באסמכתאות ובציטוטים שגויים, חלקם מומצאים, אשר ניתן להניח כי הם תוצר ישיר של שימוש (בלתי מבוקר) בבינה מלאכותית...  ואם לא די בחומרה הגלומה כבר בפעם אחת שכזו, הרי מן התיאור שלעיל ניתן להיווכח, כי בענייננו הבעיה שבה על עצמה לא פעם אחת, גם לא פעמיים, אלא שלוש או ארבע פעמים (כתלות בספירה), מבלי שהעירייה מסיקה אל נכון כי עליה לשנות דרכיה וחסל".

סולברג חוזר על פסיקת העליון, לפיה שימוש שכזה ב-AI הוא שימוש לרעה בהליכי משפט, ואומר שהפעם יש להטיל הוצאות מוגברות: "אין עסקינן אך בהפרה של חובת תום הלב הכללית, או של החובה המופשטת קמעא שלא לעשות שימוש לרעה בהליכי משפט; אלא בהפרה של חובה דיונית ברורה וקונקרטית הנגזרת מאותן חובות כלליות, ואשר כבר נקבעה במפורש בפסיקתו של בית משפט זה - החובה שלא להגיש כתבי בית דין שגויים, בכלל זה כאלה המתבססים על 'הזיות' הבינה המלאכותית. כך, מדובר בהפרת חובה שהיתה ידועה אקס-אנטה, ומכאן, שהעירייה ידעה - ולמצער, צריכה היתה לדעת - כי היא מפרה אותה.

• סופר מיקרו: בכירים מואשמים בהברחת שבבי AI לסין במיליארדים - המניה צונחת 27%
• עליבאבא מאכזבת - הרווח נחתך ב-66%, המשקיעים לא קונים את סיפור ה-AI
• המלצת המערכת: כל הכותרות 24/7

"מצב דברים זה, עשוי ללמד כי החובה האמורה - טרם הופנמה די הצורך; אולי אף נתפסת כ'חסרת שיניים'", שכן עד כה לא הטיל העליון הוצאות ממשיות במקרים כאלה. "בחלוף כשנה [מאז הפסיקה הראשונה בנושא - א.ל], דומני כי העת לנקוט בסבלנות ובהבנה כלפי כתבי בי-דין שגויים, הנובעים משימוש בלתי מבוקר בבינה מלאכותית במסגרת הליכי משפט - חלפה עברה", אומר סולברג.

"...השימוש הבלתי מבוקר שעשתה העירייה בבינה מלאכותית במסגרת הליכי המשפט, שימוש שבעניין דנן עולה לכדי הפקרות - חמור, אינו מתקבל על הדעת; כך לגבי כל בעל דין, ומקל וחומר, נוכח חובת ההגינות המוגברת החלה על רשויות המינהל. אלא שלגבי דידי, אפילו דברים אלה מתגמדים בחומרתם, בהשוואה להתנהלות העירייה ביחסיה הישירים מול המערער", בשל הכוח העודף הניכר שיש לרשויות מול האזרח.

• עתירה לחשיפת הסדר ניגוד העניינים של היועצת המשפטית במשרד המשפטים
• העליון: 25% מס על דיבידנד לעובדים שמניותיהם מוחזקות בידי נאמן
• תוכן שיווקי שוק הסקנדרי בישראל: הציבור יכול כעת להשקיע ב-SpaceX של אילון מאסק
• האב חתם בשמה על צ'קים - והיא תשלם 1.5 מיליון שקל

חומרה יתרה במגעים בין הרשות לאזרח

כאשר מדובר בהליך משפטי, מסביר סולברג, סביר להניח שפברוקי ה-AI ייחשפו בשלב כלשהו. לעומת זאת, "כאשר האזרח מקבל מרשות מינהלית החלטה הנראית לכאורה מנומקת ומבוססת על טעמים ואסמכתאות משפטיות, במרבית המקרים, אין ביכולתו להרהר אחריה, ודאי שלא לגלות בכוחות עצמו כי אותם נימוקים, אינם אלא פרי דמיונה של מערכת בינה מלאכותית.

"מכאן, שלהבדיל ממקרה של שימוש בלתי מבוקר בבינה מלאכותית בגדרי הליך משפטי, באינטראקציה הישירה בין הרשות לאזרח, לשימוש כאמור עשויה בהחלט להיות השפעה של ממש על מצבו של האזרח. למעשה, נוכח האמור, סביר להניח כי במרבית המקרים, החלטת הרשות תישאר לעמוד על מכונה, והאזרח ישלים עמה, אף מבלי לדעת שנעשה לו עוול". החלטה כזאת גם אינה מנומקת כמתחייב וככלל היא לוקה בשרירותיות.

הביקורת השיפוטית תתרחב והסעד יוחמר

סולברג אף מציג כמה תובנות רוחב. האחת: "כל עוד רמת האמינות של מערכות הבינה המלאכותית מוטלת בספק, באשר הן עודן 'הוזות' מעת לעת, לא ניתן להסכין עם מצב שבו רשות מינהלית  מתפרקת משיקול דעתה, ומבססת את החלטתה באופן בלעדי, או כמעט בלעדי, וללא כל בקרה, על פלט של מערכות כאמור". אפשר להיעזר ב-AI בעת גיבוש ההחלטה, אך חובה לבקר ולבחון, הוא מדגיש.

השנייה היא חובת הגילוי על שימוש ב-AI, שטרם נפסקה וגם סולברג אינו קובע אותה כהלכה, "אולם דומה כי בהחלט עשוי להיות היגיון בקביעת חובה כזו, למצער בהקשרים מסוימים, שבהם ההשפעה על האזרח עשויה להיות גדולה. טעם מרכזי לכך, הוא שעשוי להיות בגילוי כאמור כדי לסייע מעט בצמצום פערי הכוחות שעליהם עמדתי לעיל, כך שהאזרח שניתנה בעניינו החלטה תוך שימוש בבינה מלאכותית, יוכל לפחות להיות מודע לכך, מה שישפר קמעא את יכולתו לכלכל צעדיו בהתאם, לבחון את תקינות ההחלטה, ואולי אף להשיג עליה במסלולים המתאימים".

השלישית היא היקף הביקורת השיפוטית והסעד שייתן בית המשפט: "שימוש בלתי מבוקר שעושה הרשות בבינה מלאכותית במסגרת יחסיה הישירים עם האזרח, פותח פתח לביקורת שיפוטית מחמירה והדוקה יותר, ועשוי להצדיק, ככלל, סעד משמעותי". זאת, בשל החומרה היתרה של התנהגות כזאת, הפגמים בקבלת ההחלטה והחשש מרשלנות של הרשות מתוך הנחה שהאזרח לא יפנה לבית המשפט (שכן לא יידע על הפגמים).

לצד כל זאת, סולברג מדגיש: "שימוש בבינה מלאכותית על ידי רשויות מינהליות, עשוי להביא לעולמנו תועלות מרובות, ולתרום בשלל דרכים לטיוב וייעול פעולתן של אותן רשויות, תוך שיפור השירות הניתן, בסופו של דבר, לאזרח. המסר איננו, אם כן, כי על הרשות להימנע משימוש במערכות בינה מלאכותית; ההפך הוא הנכון. כל שבכוונתי לומר, הוא שעל שימוש זה להיעשות בּשׂוֹם שכל ובשיקול דעת, מתוך מודעות למגבלות העדכניות של הטכנולוגיה, ותוך שמירה על המצפן, שלפיו אותו שימוש מתבצע לטובת האזרח, ותוך שמירה על זכויותיו".

לבסוף אומר סולברג, כי "המשפט מדדה בעצלתיים אחר חידושי העולם, וכי החקיקה אינה מדביקה את קצב התקדמות המדע ויישוּמיו". הדברים נכונים במיוחד לגבי ה-AI, אשר מעורר אתגרים משפטיים הולכים וגדלים. "טוב יעשו אפוא הגורמים הרלבנטיים – הן ברשות המחוקקת, הן ברשות המבצעת - אם יידרשו בהקדם לאתגרים אלה, בפרט לאלה הדחופים יותר (כמו סוגיית החובות החלות על רשויות המינהל, בעודן עושות שימוש בבינה מלאכותית), ויעצבו, מתוך מבט רחב, את הכלים המתאימים להתמודדות עם אותם אתגרים".

בשולי הדברים סולברג מותח ביקורת חריפה על טענת העירייה, לפיה מדובר בטעות קולמוס של מתמחים: "הניסיון להטיל את האחריות לטעויות בכתבי בי-דין שמגיש עורך דין על גורמים אחרים - בין אם הם מתמחים הכפופים לעורך הדין המאמן, ובין אם הן מערכות טכנולוגיות של בינה מלאכותית – הוא ניסיון נואל, שיש לדחות מכל וכל. כבעל מקצוע אחראי עורך הדין באופן אישי לאיכות התוצר אשר יוצא תחת ידו, ואין הוא יוצא ידי חובתו בהסתמכו על אחר - בן אנוש או בינת מכונה".

נדרשת מעורבות משמעותית יותר של הרשות

השופטת גילה כנפי-שטייניץ מוסיפה: "ברי כי אין להסתפק אך בפיקוח ובחינה פסיבית של תוצרי המערכת, ויש לדרוש, מעבר לחובה עליה עמד חברי, מעורבות משמעותית יותר מצד הרשות. חובה מוגברת זו אינה עשויה מקשה אחת, והיא יכולה ללבוש ולפשוט צורה בהתאם לטיב ההחלטה המינהלית ולמאפייני המערכת בה נעשה שימוש. מבלי למצות, מעורבות זו עשויה להשמיע, בין היתר, שימוש מושכל הכולל היכרות מספקת עם יתרונותיה, מגרעותיה ומגבלותיה של המערכת; וחשוב מכך – כשירות וסמכות לדחות את המלצותיה במקרים המתאימים.

"היא עשויה להטיל חובה לניטור מתמשך של התוצרים המתקבלים, תוך בחינתם בעין ביקורתית, בין היתר, על דרך השוואתם להחלטות אנושיות דומות. בפרט באשר לסוגיות בעלות השפעה ממשית על הפרט, כבענייננו. אפשר כי על מעורבות זו להתחיל עוד בשלבי עיצוב המערכת והליך למידתה - תוך התאמת מאפייניה לכללי המשפט המינהלי.

"לבסוף, ראוי כי טרם הטמעת המערכות, רשויות המדינה יקיימו הליך מקדים ב מסגרתו ייבחן האם ההחלטה הנדרשת אכן הולמת הסתייעות במודל בינה מלאכותית; ואם המודל הספציפי אמין דיו והולם במאפייניו כדי לסייע בקבלת אותה ההחלטה. מובן כי יש לשוב ולתקף מסקנות אלה מעת לעת בראי התמורות הטכנולוגיות והכלים הזמינים לשימוש".

השופט עופר גרוסקופף הסכים עם סולברג. את בן-כהן ייצג עו"ד אלון סוקניק, ואת עיריית רמת גן - עו"ד אסנת הורנשטיין.