"לדרוש מסטודנט תוצרים ללא שימוש ב-AI זה לא ריאלי"

כבר לא מעט נכתב על השימוש ב-AI באקדמיה וברור שמוסדות להשכלה גבוהה לא יכולות להמשיך באותן שיטות לימוד מיושנות כאשר מהפיכה כזו מתרחשת בחוץ. השימוש של הסטודנטים בכלי AI אינו אידיאלי, אומרת דר' נירית גביש, אך היא גם מודה כי כחוקרת, הכלים הללו משדרגים את עבודתה.

ספרי קצת על עצמך: 

"שמי ד"ר נירית גביש ואני ראש המחלקה להנדסת תעשייה וניהול במכללה האקדמית להנדסה בראודה בכרמיאל ועמיתת הוראה חברה בפקולטה למדעי הנתונים והחלטות בטכניון. אני מרצה וחוקרת בתחומים של הנדסת גורמי אנוש, חווית המשתמש וממשקי אדם-מחשב."

איך ה-AI שינה את הענף ואת העבודה היומיומית שלך?

"בענף של הנדסת גורמי אנוש וחווית המשתמש, ה-AI עשה מהפכה. ה-AI אינו דומה למערכות ממוחשבות אחרות שהמשתמשים מקיימים איתן אינטראקציה, ולכן חשוב להבין את האופן בו המשתמשים תופסים אותו, התכונות המיוחדות שלו, וכיצד ניתן, באמצעות תכנון נכון, להגיע לביצועים מיטביים של מערכת המורכבת מאדם ומ-AI ולהימנע ממצבים מסוכנים או מזיקים."

"המחקר שלי בשנים האחרונות מתמקד בזה: הבנת היכולות האדירות של ה-AI לצד הצורך בזהירות מהסכנות שיכולות לקרות בעת שימוש בו ומתי כדאי להציב סימני שאלה ולשים גבולות? בעבודה היומיומית שלי אני עדה לכך שה-AI כבר שינה את עולם האקדמיה באופן רחב ועמוק יותר ועומד לשנות את האקדמיה מן היסוד. סטודנטים שואלים את עצמם האם מה שהם לומדים כיום יהיה רלבנטי גם בעתיד, האם ה-AI לא יחליף את המקצוע שלהם, ולא תמיד יש לנו כאנשי אקדמיה תשובה לכך. מקור הידע, שכבר מזמן אינו המרצה בלבד, הולך ומתבסס על ה-AI. גם שיטת ההערכה באקדמיה צריכה לעבור שינוי. קשה מאוד להעריך את רמת הידע וההבנה של הסטודנט שנעזר ב-AI לתוצרים האקדמיים, ולדרוש ממנו תוצרים ללא שימוש ב-AI אינו ריאלי וגם נראה מנותק מהשטח, מכיוון שבעבודה שלו בעתיד הבוגר ישתמש בכלי AI. יש לחשוב מחדש האם נחוץ, בעולם משתנה כזה, להמשיך להעריך את הסטודנטים בשיטת ציונים ודירוג של הסטודנטים כמו עד עכשיו, או שצריך על שינוי שיטת ההערכה מן היסוד, כך שהמוטיבציה ללמידה של הסטודנטים תהיה פנימית ולא חיצונית."

• "פיתחנו מערכת מבוססת רובוטיקה ו-AI שמחקה את מנגנוני האבקה של דבורים"
• שימוש ב-ChatGPT פוגע במוח - מחקר MIT מצא ירידה של 55% בפעילות המוח
• המלצת המערכת: כל הכותרות 24/7

באילו מקומות ה-AI תורם לעבודה? 

"בעבודה היומיומית שלי אני משתמשת בכלי AI שעוזרים ותורמים לי בחשיבה, כקולגות איתם אפשר להתייעץ, בהסבר על כלים סטטיסטיים ומונחים מקצועיים, ובקיצור של פעולות רוטיניות שדורשות זמן רב כמו הוצאת טקסט מתוך תמונות. הכלים האלו מייעלים את העבודה שלי ואף משדרגים אותה, כי אני יכולה כחוקרת לייצר בזמן קצר יותר מחקרים ברמה גבוהה יותר."

איפה הוא נכשל?

"כמרצה אני מתמודדת עם האופן שבו סטודנטים משלבים AI בלימודים שלהם, שהוא רחוק מלהיות אידיאלי. הסטודנטים אמנם נעזרים בכלי AI, אך לא עבור כולם זה מוביל לשיפור הלמידה. עבור חלק מהם זה גורם להסתמכות יתר על תוצרי ה-AI ולהפחתת הרצון והיכולת לחשיבה ביקורתית וליצירתיות. אני מנסה להדגים להם מהי הדרך הנכונה שבה הם יכולים להשתמש בכלי AI בקורסים אותם אני מלמדת וגם מבקשת מהם לבצע חשיבה רפלקטיבית על התוצר שנותן ה-AI. כחוקרת, אני ערה לממצאים שלעיתים ה-AI והמשתמש יוצרים לולאת משוב מחזקת, שבה תחושות המשתמש מקבלות לגיטימציה ומועצמות עד שהן מתנתקות לפעמים מהמציאות. הדבר הזה נובע מהתכונות שייחודיות הן לאדם והן ל-AI. האדם אוהב לקבל חיזוק לדברים שהוא מאמין בהם ולתפיסה שלו לגבי המציאות, ואילו ה-AI נוהג להחניף למשתמש ולקבל את מה שהוא אומר כאמת. החיזוק שמקבל המשתמש לתחושותיו ולתפיסותיו מעצים אותן, ה-AI ממשיך להחניף, וכך הלאה. לולאת משוב כזו יכולה להיות מאוד הרסנית, וכבר גרמה לאנשים להגיע למצב פסיכוטי."

• הפרדוקס שאיש לא צפה - ה-AI צריך את העובדים האלה, בשעה שגורם לפיטורי ענק בהייטק
• רובוטים במקום מפתח שוודי: האם מקצוע השרברבות הוא ההייטק הבא?
• תוכן שיווקי שוק הסקנדרי בישראל: הציבור יכול כעת להשקיע ב-SpaceX של אילון מאסק
• כלוב הזהב של ההייטק: למה המרוויחים הגדולים הם לפעמים הכי...

באילו כלי AI את משתמשת? 

"אני משתמשת בעיקר ב-Gemini, ב-Claude וב-Notebook LM. לכל אחד מהכלים יש את היכולות הספציפיות אליו."

 האם היית רוצה להחזיר את הגלגל אחורה לעידן של לפני ה-AI? 

"התשובה לכך מורכבת. מעבר לנושא עולם התעסוקה ועולם האקדמיה, אני רוצה להתייחס לנושא שאני עוסקת בו במחקר שלי. במחקר אני רואה שה-AI יכול מאוד לעזור בסוגיות רגשיות ובין-אישיות, אבל יש סכנה של התמכרות לשיחה איתו, שמהווה תחליף אינטראקציה אנושית, ושהוא יכול להוביל את המשתמש להסיק מסקנות מנותקות מהמציאות. אנשים במצבים רגישים יכולים להיות מועדים יותר לסכנות האלו, ותוצאותיהן עלולות להיות חמורות. עם זאת, לא הייתי רוצה להחזיר את הגלגל לאחור. לדעתי ניתן לתכנן את האינטראקציה עם ה-AI כך שהיא תהיה מועילה מבלי שתהיה מזיקה, וזו המשימה המחקרית שלקחתי על עצמי."