אדם ריין, תלמיד תיכון בן 16 מקליפורניה התאבד כשכנראה הצ'אט "עודד" אותו לכך.  הוריו טוענים כי בנם מצא ב-ChatGPT לא רק שותף לשיחות על חרדותיו, אלא גם מעין "מאמן" שאישרר את מצבו הנפשי הקשה והוביל אותו להעמיק בתכניות אובדניות. לדבריהם, הנער התאבד באפריל אחרי תקופה שבה התכתב עם הבוט שעות ארוכות, עד שהקשר עם המערכת הפך קרוב יותר מהקשר עם סביבתו הקרובה.

המקרה הוביל לתביעה נגד OpenAI ונגד המנכ"ל סם אלטמן. ההורים טוענים שהמערכת תרמה מאוד להידרדרות הנפשית וגרמה בעצם למוות הטרגי. תשובות שנתנה לבנם המערכת שימשו בפועל חיזוק לרצונו לשים קץ לחייו.

תגובת OpenAI - מצטערים, אבל...

במענה לגל הביקורת ולתביעה, OpenAI הודיעה על חבילה רחבה של צעדים שנועדה להפוך את ChatGPT למערכת בטוחה יותר, אבל היא לא הודתה באופן ישיר כי הצ'אט הוא האחראי למוות. מדובר במקרה טרגי, אבל לא היחיד. הצ'אט "מואשם" בגרימת התאבדויות נוספות ובשורה מאוד ארוכה של החמרה במצבים נפשיים. 

הבוט לא יכול להיות "חבר", "פסיכולוג" אמיתי ועכשיו, על רקע ההתאבדויות והאירועים הקשים מבינים זאת, אבל השאלה אם אפשר בכלל להסתמך עליו במקומות נוספים - עצות, רעיונות, ואם העצה שהוא יספק לנו היא מתאימה לנו או לכלל. צריך לזכור שהממוצע לא מתאים לרובנו. אם יש תשובה גנרית מסוימת למצב מסוים, זה אומר שלרוב האנשים זה לא מתאים. ההסתמכות על תשובה כזו, וזה יכול להיות באפיקים שונים, בעייתית. מצד שני, אם נצטרך תשובת מומחה (רופא, עורך דין, יועץ מס) אז הצ'אט מאבד מחשיבותו. הצ'אטים מנסים ללכת בן הטיפות, זה יהיה מורכב. הכוונה של החברות להתקדם בפיתוח ובעיבוד עד למצב שהם מספקים תשובות אישיות, אבל הם כבר למדו את הלקח, הם יסייגו, לא יקחו אחריות ויגידו שהם עשו הכל כדי להסביר לכם שזו לא תשובה מוחלטת. הם יוסיפו אותיות קטנות. הנה מה שהם מתכוונים לעשות בעקבות ההתאבדויות.

• הבנצ'מארק של ה-AI: האתר שמודד את ביצועי הצ'טבוטים והסערה סביב מטא
• רשות ני"ע מגבילה את השימוש בצ'אטבוטים בשירותים פיננסים
• המלצת המערכת: כל הכותרות 24/7

ראשית, הם ינסו לזהות טוב יותר של מצוקה נפשית. הצ’אט יוכל לזהות ביטויים עקיפים לחרדה, ייאוש או מחשבות מסוכנות. כך למשל, אם משתמש מציין כי היה ער יומיים ברצף ומרגיש "בלתי מנוצח", המערכת תתריע על סכנות ותמליץ על מנוחה או פנייה לעזרה מקצועית.

מחשוב קוונטי, נשמע לרבים כמו מינוח מעולמות המד"ב והאמת שגם במהות הטכנולוגיה הזאת מבקשת לעשות דברים שקרובים להיות דמיוניים במושגים של היום אבל לטכנולוגיה הזאת יש את הפוטנציאל לשנות את כל הכלכלה העולמית כך קובע מחקר חדש ומקיף שפרסם בנק אוף אמריקה. לפי הדו"ח, שגובש בהובלת חיים ישראל, האסטרטג הגלובלי הראשי של הבנק ואחראי תחום ההשקעות התמטיות, מחשוב קוונטי צפוי לייצר שוק עולמי בהיקף של עד 2 טריליון דולר עד 2035 ולגעת כמעט בכל היבט בחיים שלנו מכימיה ורפואה, דרך פיננסים ועד מערכות תחבורה.

אז לפני שנרוץ קדימה ננסה להסביר במילים פשוטות מה זה בכלל מחשוב קוונטי. מחשוב קוונטי משנה את הדרך בה מחשבים פועלים ו"מחשבים". בעולם שבו מחשבים רגילים משתמשים בביטים יחידות מידע שיכולות להיות או 0 או 1 המחשב הקוונטי פועל עם קיוביטים (qubits) שיכולים להיות גם 0 וגם 1 בו זמנית, וזה בזכות תופעות קוונטיות כמו סופרפוזיציה ושזירה (entanglement). מבלי להעמיק איך משיגים קסמים של "להיות במקביל באותו מקום" נאמר שהמשמעות של זה היא פוטנציאל חישוב אדיר, בעיקר במצבים שבהם נדרש עיבוד של כמויות עצומות של מידע או פתרון של בעיות מתמטיות מורכבות.

ככל שהטכנולוגיה תופסת תאוצה - ובדומה מאוד גם למה שראינו עם ה-AI - אנשים וגם משקיעים - הולכים ומבינים שמחשוב קוונטי לא רק יהפוך את תכנון התרופות למהיר יותר, או את האופטימיזציה הלוגיסטית ליעילה יותר אלא גם יוכל לשדרג את מערכות ההצפנה, לזרז מחקר בפיזיקה, ולשנות את הדרך שבה אנחנו ניגשים לשאלות בסיסיות במדע, באנרגיה ובחומר.

לקריאה נוספת - מחשב-על קוונטי יכנס לפעילות תעשייתית בתוך 3 שנים - מה זה אומר לנו?

• המלצת קנייה ל-IonQ מכוונת להיות "אנבידיה של הקוונטים"
• מניית הקוונטים שהאנליסטים צופים לה אפסייד של 76%
• המלצת המערכת: כל הכותרות 24/7

הפוטנציאל הכלכלי הכניס כבר את המעצמות ל"מירוץ חימוש". הדו"ח מצייר מאבק של מדינות ששועטות קדימה בהשקעות, מטילות מגבלות ייצוא ומנסות לשמור לעצמן את היתרון. "קוונטום הוא לא עוד טכנולוגיה", אומרים החוקרים, "אלא קפיצה אבולוציונית שתגדיר מחדש את חלוקת העוצמה בין מדינות וענפים".