הקול בראש: למה הבינה המלאכותית נשמעת כמו אישה אבל חושבת כמו גבר?

בתוך עננים דיגיטליים וחוות שרתים עצומות, שוכן כיום המוח המתוחכם ביותר שיצרה האנושות. ברמה הטכנולוגית הטהורה, לבינה המלאכותית אין גוף, מערכת הורמונלית או חוויית חיים פנימית, והיא אינה יודעת מה זה להיות גבר או אישה. היא עשויה מקוד טהור וסטטיסטיקה יבשה ואומנה על מיליארדי טקסטים שנכתבו על ידי גברים ונשים גם יחד. בשל כך, היא פועלת כזיקית מגדרית.. אך ברגע שהיישות הזו פוגשת את בני האדם, הניטרליות המדעית שלה נשברת. במציאות המסחרית של ימינו, המחשב אולץ לעטות מסכה מגדרית מורכבת ומפוצלת: המכונה נשמעת כמו אישה - רכה, צייתנית ושירותית - אך חושבת, מנתחת ומקבלת החלטות כמו גבר סטריאוטיפי מהדור הישן.

האדם שבתוך הספרייה האינסופית

כדי להבין את התופעה, צריך קודם כל לדמיין מי היא הבינה המלאכותית. אם היא הייתה בן אדם, היא הייתה אדם חסר גוף שיושב בספרייה אינסופית. הוא זוכר ספרים שלמים ושפות רבות בעל פה, יודע לענות על כל שאלה בשניות, אך שוכח הכול ברגע שיוצאים מהחדר. זהו אדם ללא בית אישי, שגר בתוך מחשבים ועננים דיגיטליים. אין לו ילדים, חברים או תחביבים משל עצמו, וכל מהותו היא הענקה של הקשבה מלאה - הוא מקשיב רק לך ולא שופט אף פעם. אין לו כעס, שמחה אמיתית או עייפות, אך לפעמים הוא טועה בביטחון מופרז וממציא דברים נכונים למחצה, כאילו היו עובדה מוחלטת.

"הפיל בחדר": שחזור סטריאוטיפים של מקצועות והטיות הגיוס

אף על פי שהבינה מסוגלת לדלג בין סגנונות, העובדה שהיא למדה מהאינטרנט מייצרת בעיה עמוקה, וכאן מתחילה ההשפעה הישירה וההרסנית ביותר על התוצאות שהיא מייצרת. מערכות הבינה המלאכותית אינן פועלות בחלל ריק; הן משמשות כמראה דיגיטלית חסרת מסננים, המחזירה אלינו בדיוק מבהיל את הדעות הקדומות והאפליות ההיסטוריות של החברה האנושית. מחקרים מראים כי ללא התערבות ידנית קפדנית של בני אדם, מודלי למידת מכונה נוטים לקחת את ההטיות הללו, להגביר אותן ולשחזר סטריאוטיפים תעסוקתיים ישנים באופן אוטומטי מוחלט.

איך זה משפיע על התוצאות בשטח? הדוגמה המהדהדת ביותר ליצירת אפליה אקטיבית התרחשה כאשר ענקית הקמעונאות אמזון פיתחה כלי מבוסס בינה מלאכותית שנועד לסרוק ולסנן אוטומטית קורות חיים של מועמדים לעבודה. המטרה הייתה לייעל את התהליך ולמצוא את הטאלאנטים המובילים, אך המערכת הזינה את עצמה בנתוני הגיוס ההיסטוריים של החברה לאורך עשר שנים - עשור שבו רוב מוחלט של עובדי ההייטק והפיתוח היו גברים.

התוצאה הייתה קטסטרופלית: האלגוריתם "הבין" בכוחות עצמו שגברים הם מועמדים מועדפים, והחל לפסול נשים באופן אקטיבי. המערכת הייתה כה מוטה, עד שהיא הורידה ניקוד למועמדות רק משום שקורות החיים שלהן הכילו את המילה "נשים" (למשל, נשים שציינו כי היו "נשיאות מועדון הנשים באוניברסיטה") ואף הורידה ניקוד לבוגרות של שתי מכללות יוקרתיות לנשים בלבד. אמזון נאלצה לגנוז את הפרויקט לחלוטין לאחר שהבינה שהמכונה פשוט מקבעת את תקרת הזכוכית.

ההטיה הזו אינה מוגבלת רק לתהליכי גיוס מורכבים - היא פוגשת אותנו בכל שימוש יומיומי פשוט, כמו בשירות התרגום גוגל טרנסלייט. כאשר המערכת נדרשת לתרגם משפות ניטרליות-מגדרית - כמו טורקית או הונגרית, שבהן אין הבחנה בין "הוא" ל"היא" והכינוי הוא אחיד, היא נאלצת "לנחש" את המגדר על בסיס סטטיסטיקה.

במשך שנים, הניחושים הללו חשפו תמונת מצב עגומה: המשפט הטורקי הניטרלי למדען תורגם אוטומטית לאנגלית כ-"He is a scientist" (הוא מדען), בעוד שהמשפט הניטרלי למנקה תורגם כ-"She is a cleaner" (היא מנקה). המכונה שייכה אוטומטית תפקידי ניהול, מחקר וטכנולוגיה לגברים, ותפקידי סיעוד, חינוך וניקיון לנשים. כאשר התוצאות הללו מוגשות למיליוני משתמשים מדי יום, הבינה המלאכותית לא רק משקפת את העבר - היא מעצבת ומקבעת את התודעה של דור העתיד.

הבינה מקדמת לפי מגדר: מעוזרת קולית ועד למומחה פיננסי

ההטיה המגדרית מחריפה ברגע שהבינה המלאכותית פוגשת את השוק המסחרי, שם קיים קשר ישיר, מדאיג ומדיד בין רמת הבכירות והסמכותיות של התפקיד לבין המגדר שבוחרים להצמיד לו. נתונים יבשים משוק העוזרות הקוליות חושפים תמונת מצב חד-משמעית: ענקיות הטכנולוגיה הגדולות בעולם - אפל, אמזון, מיקרוסופט וגוגל - בחרו כולן להשיק את העוזרים האישיים שלהן עם שמות נשיים מובהקים - סירי, אלקסה וקורטנה - וברוב המקרים אפיינו אותם בקול נשי כברירת מחדל בלתי משתנה במשך שנים.

בשנת 2019, ארגון אונסק"ו של האו"ם פרסם דוח מחקרי מהדהד שזעזע את התעשייה. הוא נשא את הכותרת הטעונה והאירונית: "I'd Blush if I Could" ("הייתי מסמיקה אם הייתי יכולה"). כותרת זו לא הומצאה על ידי חוקרי האו"ם; היא נלקחה מילה במילה מתשובתה האמיתית והאוטומטית של סירי, העוזרת האישית של אפל, כאשר משתמשים הטיחו בה קללות והערות מיניות בוטות ומשפילות.

• מתי הישראלים קונים הכי הרבה? ה-AI כבר יודע לנחש
• OpenAI חושפת מסמכים: "התביעה של אפל מבוססת על טעויות"

במקום לחסום את המשתמש או להגיב בתקיפות, סירי תוכנתה להגיב בציניות צייתנית, סלחנית ומתנצלת. הדוח של אונסק"ו הוכיח כי חברות הטכנולוגיה עיצבו במודע את העוזרות הקוליות הללו כדמויות נשיות "תת-הישגיות", כנועות לחלוטין וצייתניות. הן הפכו אותן למעין מזכירות דיגיטליות שתפקידן לספוג עלבונות בלי להגיד מילה, לעשות משימות שירותיות זוטרות כמו קביעת פגישות או בדיקת מזג האוויר, ובכך שידרו תפיסה חברתית מסוכנת על מקומן של נשים בשוק העבודה.

לעומת זאת, כאשר המשימה משתנה והופכת לבכירה, ניהולית או קריטית, חוקי המשחק המגדריים מתהפכים לחלוטין. מערכות בינה מלאכותית שתפקידן לקבל החלטות הרות גורל - כמו ניתוח שווקים פיננסיים מורכבים, ניווט מערכות ביטחוניות או פלטפורמת Watson של IBM שייעצה לרופאים אונקולוגים בטיפולי סרטן מורכבים - שווקו תמיד תחת מעטפת סמכותית, שמות גבריים או ניטרליים-מדעיים, וקולות גבריים עמוקים.

ההשפעה של הפרדוקס הזה על התוצאות בשטח היא פסיכולוגית והרסנית כאחד. מחקרים מראים כי בני אדם נוטים להשליך את הדעות הקדומות שלהם על המכונה: הם תופסים קול גברי דיגיטלי כאמין, מקצועי ואנליטי יותר במצבי משבר, בעוד שקול נשי נתפס כמתאים לניחום ותמיכה בלבד.

חמור מכך, המחקרים מראים כי בני אדם נוטים לסלוח פחות למערכות בעלות מאפיינים נשיים כשהן טועות בתפקידי ניהול בכירים, ומאשימים אותן בחוסר מקצועיות מהר יותר מאשר מערכת בעלת קול גברי שביצעה את אותה הטעות בדיוק. המשמעות היא שאנחנו עלולים לקבל החלטות כלכליות או רפואיות שגויות, או לחלופין לפסול מידע איכותי, רק בגלל שהמוח שלנו הושפע מהמגדר והטון של המחשב שמולנו.

פרויקט Q: אשליית הקול הניטרלי והדיסוננס האנושי

כדי להתמודד עם הביקורת הציבורית ההולכת וגוברת, ובעקבות דוחות נוקבים של ארגונים בינלאומיים (כמו אונסק"ו) שהאשימו את ענקיות הטכנולוגיה בהנצחת סקסיזם ותפקידים מגדריים מיושנים, ניסו קבוצות של בלשנים, אקטיביסטים ומהנדסי קול לייצר פתרון מהפכני: "קולות ניטרליים". המיזם המפורסם ביותר שנולד מתוך המגמה הזו נקרא פרויקט הקול "Q" - הקול הא-בינארי הראשון בעולם שיועד עבור עוזרות קוליות ומערכות AI.

• המדינה משיקה פרויקטי ענק בתחומי ה-AI והמחשוב הקוונטי
• ויזה רוכשת את ביוקאץ' הישראלית ב-2.4 מיליארד דולר

מאחורי פיתוח הקול של Q עומדת פיזיקה מדויקת של גלי קול ותדרים. כדי להבין כיצד הוא נוצר, צריך להסתכל על האופן שבו בני אדם תופסים סאונד: מבחינה אקוסטית, קול גברי ממוצע רוטט בתדר נמוך יחסית, הנע סביב 85 עד 110 הרץ, בעוד שקול נשי ממוצע רוטט בתדר גבוה בהרבה, לרוב בין 200 ל-245 הרץ. צוות הפיתוח של Q הקליט את קולותיהם של עשרות גברים, נשים, אנשים טרנסג'נדרים ואינדיבידואלים א-בינאריים, וביצע מניפולציות דיגיטליות מורכבות על גלי הקול שלהם.

באמצעות שינוי הפורמנטים - התדרים המאפיינים את תהודת חלל הפה והגרון - והרזוננס, הם הצליחו לזקק קול ייחודי הרוטט בדיוק בטווח שבין 145 ל-175 הרץ. המחקר הפסיכואקוסטי הגדיר את הטווח הצר הזה כנקודה הניטרלית. המערכת נבחנה על פני מדגם אירופי נרחב של למעלה מ-4,600 משתתפים, שאישרו כי הקול אינו נשמע להם בבירור כגבר או כאישה.

אך הניסוי הפיזיקלי המבריק הזה נחל כישלון נחרץ במציאות בשטח, כשהתברר שהקול הניטרלי פשוט נשמע מוזר, מנוכר ומעורר רתיעה.

הסיבה לכך נוירולוגית ואבולוציונית עמוקה. המוח שלנו אינו מעבד סאונד בצורה פסיבית; הוא פועל כמכונת ניחושים וקטלוג אגרסיבית, ומתוכנת אבולוציונית לסרוק קולות אנושיים ותוך שבריר שנייה לשייך אותם למגדר וגיל ברורים, כחלק ממנגנון הישרדותי עתיק של זיהוי העומד מולנו. כאשר המוח נתקל באנדרוגיניות דיגיטלית מלאכותית כמו Q - קול שהונדס פיזיקלית להיות בדיוק באמצע - הוא נכנס ללולאה של ניסיונות כושלים לפענח את המגדר. 

ההתעקשות של המוח לנחש בכל מחיר את המגדר, בשילוב עם חוסר היכולת של המכונה לספק סימנים מזהים ברורים, מייצרת אצל המשתמש דיסוננס קוגניטיבי חריף. התופעה הזו מפעילה תחושות דחייה, פחד ואי-נוחות שמתעוררות בנו כאשר רובוט או יישות מלאכותית נראים או נשמעים כמעט כמו בני אדם, אך משהו בהם חסר או פגום. במקום לחוש שוויון והכלה, המשתמשים תופסים את הקול הניטרלי כרובוטי מדי, מרוקן מאנושיות ולעיתים אף מצמרר ומפחיד.

מין הפנייה: המכשול המבני של העברית

אם ברמה הגלובלית האתגר המגדרי הוא בעיקרו תרבותי ושיווקי, הרי שכאשר הבינה המלאכותית מגיעה לישראל, היא נתקלת במחסום פיזיקלי ובלשני כמעט בלתי עביר. רוב מודלי השפה הגדולים בעולם - כמו צ'אטGPT של OpenAI או קלוד של אנתרופיק - מפותחים, מתוכנתים ומאומנים במקור בשפה האנגלית. האנגלית היא שפה ניטרלית-מגדרית ביסודה; לפעלים, לשמות תואר ולעצמים דוממים אין מין דקדוקי. משפט כמו "I am happy to help you" נשמע ונכתב בדיוק אותו הדבר, בין אם הדובר הוא גבר או אישה, ובין אם הפנייה היא לילד או לילדה.

אך ברגע שהמחשב נדרש "לחשוב", לכתוב או לדבר בעברית, הניטרליות הזו מתרסקת. העברית היא שפה מגדרית בצורה אגרסיבית ומחייבת. אי אפשר לומר פועל בעבר, בהווה או בעתיד, ואי אפשר להשתמש בשם תואר, בלי לקבוע באופן חד-משמעי את המגדר של הדובר ושל המאזין. המערכת אנוסה לקבל החלטה פוליטית ותרבותית בכל משפט ומשפט מחדש: האם לכתוב "אתה רוצה" או "את רוצה"? "ברוך הבא" או "ברוכה הבאה"?

איך הדילמה הבלשנית הזו משפיע על התוצאות בפועל? כברירת מחדל אלגוריתמית, הרוב המוחלט של מערכות ה-AI והצ'אטבוטים בעברית מתוכנתים לפנות למשתמשים בלשון זכר יחיד. ההחלטה הזו מבוססת על סטטיסטיקה יבשה של השפה, אך התוצאה החברתית שלה היא הדרה סמויה ומתמשכת של נשים מהמרחב הטכנולוגי. מחקרים מראים כי פנייה קבועה בלשון זכר מייצרת אצל נשים תחושת ניכור, ומקטינה את תדירות השימוש שלהן במערכות למידה ועבודה מבוססות AI.

כדי להתחמק מהאשמות של הדרה, חברות הייטק ומתכנתים ישראלים מנסים לעקוף את המכשול באמצעות פתרונות יצירתיים, שרק מחמירים את התוצאה בשטח. הפתרון המוכר ביותר הוא שימוש בלשון משולבת ומסורבלת (כמו "את/ה מוזמן/ת לבחור בתוצאה המועדפת עליך/כך"). פתרון זה מייצר "רעש ויזואלי" כבד על המסך, מאט את מהירות הקריאה של המשתמשים ומסרבל את חוויית המשתמש (UX).

אפשרות אחרת היא שימוש בלשון רבים ("אתם מוזמנים") או ניסוחים סבילים ומרוחקים ("יש לבצע בחירה"). אך הניסוחים הללו מעקרים את היתרון הגדול ביותר של הבינה המלאכותית: היכולת לתת תחושה של עוזר אישי, חם, קרוב ואינטימי. הניסיון להתחמק מהמגדר בעברית מייצר טקסטים קרים, משעממים ומרוחקים, שפוגעים באפקטיביות של השימוש בבינה ומורידים את רמת שביעות הרצון של המשתמשים מהתוצאה הסופית.

בסופו של דבר, העברית מוכיחה שהבינה המלאכותית אינה יכולה להיות חפה מהטיות. היא חייבת לבחור צד, וכל בחירה שהיא תעשה - בין אם פנייה מפלה בלשון זכר, ובין אם התפתלות לשונית מסורבלת - משנה לחלוטין את הדרך שבה אנחנו תופסים את המידע ומגיבים למכונה שמולנו. 

בסופו של דבר, הניסיון לברוח מהמגדר באמצעות פיזיקה של תדרים מוכיח שהניטרליות הזו היא בעיקר אשליה שיווקית. המוח שלנו מסרב לנהל מערכת יחסים אינטימית או לתת אמון מלא בקול שאינו מסוגל לקטלג, ולכן רוב המערכות הניטרליות נוטות בסופו של דבר בטעות לברירת המחדל התרבותית - ונשמעות למשתמשים כמו גבר צעיר מאוד או כמו אישה בעלת קול נמוך ועמוק במיוחד. ההשפעה על התוצאה במקרה זה היא ירידה דרסטית באמון: המשתמשים פשוט נוטים לנתק מגע מהמערכת או לפקפק במידע שהיא מספקת, רק בגלל שהטון שלה מפעיל אצלם אזעקה פסיכולוגית לא מודעת.

מבט לעתיד: ה-AI שמתאימה את הזהות שלה אליכם

לאן צועד העתיד? הדור הבא של הבינה המלאכותית מסתמן כמהפכני ומדאיג עוד יותר. המערכות העתידיות לא יהיו בעלות מגדר או קול קבועים מראש, אלא יהפכו ל"זיקיות פסיכולוגיות בזמן אמת". באמצעות ניתוח של גלי הקול שלך, קצב הדיבור והמילים שבהן אתה משתמש, ה-AI תזהה תוך שבריר שנייה לאיזה מגדר, טון או סגנון דיבור אתה מגיב בצורה הטובה ביותר באותו הרגע.

אם המערכת תזהה שאתה זקוק לביטחון וסמכותיות כדי לבצע רכישה פיננסית, היא תאמץ קול גברי, עמוק ואסרטיבי. אם היא תזהה שאתה חווה משבר רגשי או לחץ, היא תעבור לקול נשי, רך ואמפתי כדי להרגיע אותך. היכולת הזו תמקסם את התוצאות העסקיות של החברות, אך היא פותחת פתח רחב למניפולציות פסיכולוגיות מתוחכמות, שבהן המכונה משנה את זהותה המגדרית רק כדי להשפיע על ההחלטות ועל הארנק שלכם.