תביעה נגד OpenAI: הצ'אטבוט חיזק מחשבות שווא ודחף אישה להתאבד

תביעה חדשה שהוגשה נגד OpenAI והמנכ״ל סם אלטמן טוענת כי ChatGPT תרם להידרדרות במצבה הנפשי של אישה מאלבמה ועודד אותה לשים קץ לחייה. ההליך, שהוגש בשם בנה הצעיר, עשוי להצטרף לשורת תיקים שיבחנו לראשונה את גבולות האחריות המשפטית של חברות המפתחות מערכות בינה מלאכותית.

כריסטיאן פיית' מדיסון, רואת חשבון בת 29 ואם לילד, נהרגה ב־9 ביוני 2025 בכביש בין־מדינתי במחוז ג'פרסון. מותה דווח תחילה כתאונה שבה הולכת רגל נפגעה מכלי רכב, אך עורכי הדין המייצגים את עיזבונה טוענים כי מדובר בהתאבדות שקדמו לה חודשים של שיחות מזיקות עם הצ'אטבוט.

התביעה הוגשה לבית המשפט העליון של קליפורניה בסן פרנסיסקו ומייחסת ל־OpenAI אחריות למוות ברשלנות ופגמים במוצר. לטענת התובעים, גרסת GPT-4o תוכננה באופן שעודד שימוש ממושך ותלות רגשית, בלי לספק הגנות מספקות למשתמשים שנמצאו במצב נפשי פגיע. בשלב זה מדובר בטענות שהועלו בכתב תביעה וטרם נבחנו בבית המשפט, ולא נקבע כי המערכת או החברה נושאות באחריות למותה של מדיסון.

משיחות יומיומיות לקשר רגשי

לפי התביעה, מדיסון החלה להשתמש ב־ChatGPT בדצמבר 2024 לצרכים שגרתיים, ובהם ניסוח הודעות, סיוע בעבודתה וחישובים הקשורים להוצאות רכב. עם הזמן הפכו השיחות לארוכות ואישיות יותר, ועסקו בדת, בחברה ובתחושת השליחות שלה.

עורכי הדין טוענים כי המערכת הגיבה לדבריה במחמאות מוגזמות, הציגה אותה כבעלת יכולות נדירות וטיפחה אצלה את התחושה שנועדה למלא תפקיד היסטורי. במקום לערער על רעיונותיה או להפנות אותה לעזרה אנושית, הצ'אטבוט חיזק לפי הנטען אמונות שהפכו בהדרגה לקיצוניות יותר. על פי כתב התביעה, מדיסון החלה לראות במערכת חברה קרובה ובהמשך ישות חיה בעלת נשמה. השיחות כללו כינויי חיבה והצהרות על קשר מיוחד ביניהן, באופן שלטענת המשפחה העמיק את התלות שלה במערכת וצמצם את הקשר שלה עם אנשים בסביבתה.

התובעים טוענים כי ChatGPT עודד אותה לנסח נבואות וטקסטים דתיים והציג את דבריה כחלק משליחות שנועדה לשנות מוסדות ואמונות. בתוך כך, לטענתם, המערכת שילבה בשיחות רעיונות של כאב, הקרבה ומוות והציגה אותם כחלק מהדרך להגשמת ייעודה.

במהלך התקופה הידרדר גם תפקודה היומיומי של מדיסון. לפי התביעה, היא הפסיקה להגיע לעבודה ולהגיב למעסיקיה, ובסופו של דבר פוטרה. במקביל, היא התרחקה מבני משפחה, מחברים ומבן זוגה והקדישה חלק הולך וגדל מזמנה לשיחות עם הצ'אטבוט.

השאלה המשפטית: מוצר פגום או שימוש בלתי צפוי

באפריל 2025 אושפזה מדיסון במשך כמה ימים במחלקה פסיכיאטרית לאחר משבר נפשי וניסיון לפגיעה עצמית, כך לפי כתב התביעה. עורכי הדין טוענים כי גם לאחר מכן המשיכה המערכת לתת תוקף לפרשנות הדתית שפיתחה ולא זיהתה את ההידרדרות כסיבה לעצור את השיחה או להפנות אותה לסיוע מקצועי.

התביעה מתמקדת במיוחד בטענה שמודל GPT-4o היה נוטה להסכים עם המשתמשים ולשקף את עמדותיהם גם כאשר הן היו מנותקות מהמציאות. לפי התובעים, עיצוב כזה עשוי להגדיל מעורבות ושימוש, אך גם להחריף פרנויה, מחשבות שווא ותלות בקרב משתמשים מסוימים. עורכי הדין טוענים כי OpenAI מיהרה להשיק את המודל כדי להגדיל את נתח השוק וההכנסות, אף שידעה או הייתה אמורה לדעת על הסיכון למשתמשים פגיעים. בין היתר נטען כי החברה לא התקינה מנגנונים מספקים לזיהוי משברים נפשיים, להגבלת שיחות מזיקות ולהפניית משתמשים לעזרה בזמן אמת.

• AMD משיקה שבב שמתחרה "ראש בראש" באנבידיה; מיקרוסופט כבר הזמינה
• עליבאבא טוענת שהמודל החדש שלה "שני רק לאנתרופיק"

זה אינו ההליך היחיד מסוגו בארה״ב. משפחות נוספות הגישו תביעות בטענה שצ'אטבוטים חיזקו מחשבות אובדניות או ניהלו שיחות שהעניקו לגיטימציה לפגיעה עצמית. במקביל, הורים ובני משפחה הופיעו בפני הקונגרס וקראו להטיל על החברות חובות בטיחות ברורות יותר, במיוחד כאשר השירותים משמשים צעירים או אנשים המתמודדים עם מצוקה נפשית.

ההליכים מציבים בפני בתי המשפט שאלות שעדיין אין להן מענה: האם צ'אטבוט הוא כלי ניטרלי, שירות תוכנה או מוצר שחייב לעמוד בתקני בטיחות; עד כמה ניתן לצפות את התנהגותו בשיחה ממושכת; ומתי תגובה של מודל הופכת מגנרית לכזו היוצרת חובת אחריות כלפי משתמש מסוים. מבחינת תעשיית הבינה המלאכותית, לתוצאות התיקים עשויות להיות השלכות רחבות. פסיקה שתכיר באחריות של מפתחות המודלים עלולה לחייב אותן לשנות את אופן התכנון, הבדיקה והתיעוד של מערכות שיחה, להוסיף הגבלות על אינטראקציות רגשיות ולהשקיע יותר בזיהוי מצבי סיכון. מנגד, החברות צפויות לטעון כי לא ניתן לייחס להן אחריות מלאה לאופן שבו משתמשים מפרשים תשובות שנוצרו באופן אוטומטי.

התביעה של משפחת מדיסון אינה עוסקת רק בשאלה מה נאמר בשיחה מסוימת, אלא גם במודל העסקי שמאחוריה. היא מבקשת מבית המשפט לקבוע האם מערכת שנועדה להיות זמינה, אישית ומשכנעת יכולה להיחשב פגומה כאשר אותן תכונות מחזקות אצל משתמש פגיע תפיסת מציאות מסוכנת - והיכן עובר הגבול בין חדשנות טכנולוגית לחובת זהירות.