הסניגורית הציבורית מזהירה מפני פברוק ראיות פליליות בידי AI

הסניגורית הציבורית הארצית, ענת מיסד-כנען, קוראת לרגולציה בהקדם של השימוש בבינה המלאכותית בתחום המשפט. בדבריה בכנס לשכת עורכי הדין הזהירה מיסד-כנען, כי שימוש ב-AI עלול להוביל לפברוק ראיות ולטעויות קשות של תובעים וסניגורים.

ניתן לזייף ראיות בקלות רבה תוך שימוש ב-AI, אמרה מיסד-כנען.  "מתלוננים בפלילים יוכלו להפליל אדם - הפללת שווא - על בסיס ראיה מזויפת, ובאופן דומה, חשודים ונאשמים יוכלו להתבסס על ראיות מזויפות שכאלה בבואם להתגונן. איכות הזיופים הגבוהה מעוררת דאגה. וכשמפתחים אמצעים טכנולוגיים לזיהוי זיופים, המזייפים מפתחים את הזיוף שיגבר עליהם, הטכנולוגיה מאפשרת עוד ועוד".

סכנה נוספת היא בשימוש בכלים בידי הסניגורים והתובעים. "אם סניגור נסמך על הבינה 'רק' לצורך סיכום חומר החקירה, אך בפעולת הסיכום מופעל שיקול דעת -  מה לכלול בסיכום ומה להשמיט ממנו. וכך עלול הסניגור להחמיץ ראיה בעלת ערך להגנה".

הבקרה האנושית לא תפתור את הבעיה

מיסד-כנען סיפרה על מחקרים אמריקנים, שאחד מהם בדק את השימוש ב-AI לצורך גיבוש מסוכנות וגיבוש החלטה האם לבקש הארכת מעצר. המחקר העלה טעויות עובדתיות, כמו גם הטיות משמעותיות נגד שחורים, למרות ששאלות הגזע וצבע העור כלל לא נכללו בשאלון הערכת המסוכנות. מחקר שני בחן את השימוש של המשטרה ב-AI לכתיבת דוחות פעולה והוא העלה, כי הכלי "סידר" את ההתרחשויות באופן שהתיישב עם דרישות הדין והשמיט מהדוחות מידע שהיה רלוונטי להגנה.

עוד הזהירה מיסד-כנען, כי הבקרה האנושית לא תפתור את הבעיה, שכן בני האדם לוקים בהטיית האישוש ובהטיית אוטומציה (לאשר המלצות של מערכות ממוחשבות). "זוהי מציאות שמשליכה על מושגי יסוד במשפט במציאות שכזו - ראיה מקורית מה היא? נראה שחל שינוי מן היסוד של אופי הראיות, ומכאן שיהיה צורך בשכלול  דיני הראיות החלים.

"במציאות שכזו - מהי עדות? בעוד שבעבר העיד השוטר על מה שקלטו חושיו - וזה היה תנאי - והוא התרענן לקראת עדותו באמצעות דוח פעולה שהוא עצמו רשם, עתה הוא מעיד על מה שמצלמת הגוף שלו קלטה, הבינה המלאכותית סיכמה ועריכה. במציאות שכזו, מהי חקירה נגדית? את מי נחקור, אם נחלוק על דוח הפעולה? את כלי הבינה המלאכותית? את המתכנת שלה? אלא שהיא כבר למדה, יצרה והתפתחה מאז נפרד ממנה המתכנת, וכבר יש לה חיים משלה".

דרושים שקיפות והסברים

לדברי מיסד-כנען, "ככל שלא נתערב עתה, וככל שהמכונה תשתכלל, והיא תשתכלל - לא נדע להתחקות אחר מהלכיה ושיקוליה. לא כי לא נרצה, אלא כי הדבר לא יהיה אפשרי". היא המשיכה: הבשורה הטובה היא שבשלב ההתחלתי בו אנו מצויים, ניתן עוד לערוך התאמות שיש בהן כדי לתת מענה לרבים מן האתגרים הצפויים".

לדעת מיסד-כנען, יש צורך בשני עקרונות מרכזיים: שקיפות לגבי עצם השימוש בכלי ואופן הפעלת הכלי, אשר צריכים להיות חלק מחומר החקירה; והסבר על הדרך בה הגיע ה-AI לתוצאה אליה הגיע, שכן "לא יעלה על הדעת שבהליך כזה יובאו בפני בית המשפט ראיות שאיש אינו יודע להסביר".

מיסד-כנען הוסיפה: "לאור התוצאות של המשפט הפלילי, נדרשת רגולציה עצמאית ואפקטיבית, לא על ידי אותו הגוף שמאמץ את הבינה המלאכותית. ברור שלא ניתן להסתפק בהחלת אמות מידה כלליות שחלות על פעילות רגילה של הרשות. אם אנחנו המשפטנים נהיה ככל האדם, נתלהב מהבינה, נתמסר אליה, נתמכר אליה. מוקסמים מהפלא ומולכים על ידו - לא ירחק היום ונאבד שליטה על הנעשה. אם חלילה הדבר יתממש, תהה זו הפקרה של עשיית הצדק בידי המכונה והתפרקות מאחריותנו.

• אנתרופיק עוקפת את OpenAI: גם בשווי וגם בהיקף השימוש; אופוס 4.8 שובר את השוק
• הישג: ישראל ראשונה במערב בחדירת בינה מלאכותית לעבודה

"...זוהי קריאה לאיחוד כוחות - של מי שבשגרה מייצגים אינטרסים שונים, אפילו נוגדים. נדרשת קואליציה חדשה, מוזרה אולי, התאגדות של תובעים, סניגורים, שוטרים - כדי להיערך לאירוע דרמטי למדי שפוקד אותנו, אירוע של המשפטן האנושי אל מול המכונה. על כולנו להקדיש לכך את המשאבים, לקיים חשיבה, להסדיר ולעשות זאת במהרה".