רגע לפני הנפקת הטריליון: החקירה שמסבכת את OpenAI
אחרי עסקת הענק של ספייסX, גם OpenAI מתחממת על הקווים. חברת ה-AI של סם אלטמן הגישה בשבוע האחרון תשקיף חסוי ל-SEC לקראת הנפקה, שעשויה לתמחר אותה בשווי של עד טריליון דולר. אבל רגע לפני שהיא מנסה להגיע לוול סטריט, נפתחת מולה חזית רגולטורית לא פשוטה: קואליציה של תובעים כלליים מעשרות מדינות בארה"ב פתחה בחקירה רחבה נגד החברה, והתובעת הכללית של ניו יורק הגישה ביום שישי האחרון צו שדורש מסמכים על מדיניות הפרסום, מעורבות המשתמשים ושימורם, נתוני צרכנים ובריאות, ההגנה על קטינים ועל משתמשים מבוגרים, מודלי הבינה המלאכותית של החברה והנהלים הפנימיים שלה.
עבור חברה שמזוהה יותר מכל עם מהפכת ה-AI, חקירה כזאת הופכת מסיפור משפטי גם לסוגיה פיננסית. סם אלטמן מנסה למכור נרטיב של צמיחה ואם הרגולטור שם לו עכשיו רגליים זה עלול לקבל ביטוי גם בתמחור שהשוק יתן להנפקה כשהרגולציה הפכה כבר לאחד האיומים הגדולים על תעשיית הבינה המלאכותית, באירופה וכעת גם בארה"ב.
שאלת החנפנות
אחד הנושאים החריגים בבדיקה הוא הנטייה של המודלים לרצות את המשתמש. כלומר, מצב שבו הצ'אטבוט מסכים עם המשתמש, מחזק אותו או ממשיך איתו באותו כיוון, גם כשהתגובה הנכונה צריכה להיות זהירה יותר, מתקנת, או כזו שמפנה לעזרה אנושית.
בשיחה רגילה זו יכולה להיות תקלה מעצבנת או בעיית איכות. אבל כשמדובר בבני נוער, באנשים במצוקה נפשית או במשתמשים שמתלבטים בצעדים מסוכנים, זו כבר בעיה אחרת לגמרי. ChatGPT עבר לאחרונה את רף מיליארד המשתמשים החודשיים, ובהיקף כזה גם כשל קטן יכול להפוך לאירוע גדול.
OpenAI מסרה שהיא מתייחסת לחששות ברצינות ותשתף פעולה עם הרשויות. החברה מציינת כי הוסיפה הגנות לקטינים ולמשתמשים במצוקה, ובהן כלי בקרה להורים, חיזוי גיל, חסימת פרסום שמכוון לילדים והפניה לגורמי סיוע אנושיים במצבים רגישים. אבל החקירה מחדדת את הפער שמלווה את OpenAI כבר תקופה: המוצר אומץ בקצב מהיר מאוד, והיכולת להבין בזמן אמת את כל הסיכונים שלו עדיין רודפת אחריו.
מי שמבקשת טריליון דולר - נבחנת בשבע עיניים
החקירה מצטרפת לתביעה שהגישה פלורידה בתחילת יוני נגד OpenAI ונגד המנכ"ל סם אלטמן, התביעה הראשונה מסוגה מטעם מדינה. התובע הכללי ג'יימס את'מייר טוען שהחברה שחררה ביודעין מוצר לא בטוח והתעלמה מאזהרות שלפיהן הוא עלול לפגוע במשתמשים, ובהם ילדים. במקביל, OpenAI מתמודדת עם הליכים נוספים סביב זכויות יוצרים, וגם עם תביעות שקושרות את השימוש בצ'אטבוט לפגיעה במשתמשים, כולל מקרי התאבדות. בקנדה, שבע משפחות תבעו את החברה בטענה שתוקף בפיגוע ירי נעזר בצ'אטבוט לתכנון המתקפה. אלה הליכים שונים, אבל כולם נוגעים באותה נקודה: ככל שהמוצר נכנס עמוק יותר לחיים של המשתמשים, כך גם שאלת האחריות של החברה הופכת כבדה יותר.
OpenAI עדיין נמצאת בעמדת כוח חריגה בשוק הבינה המלאכותית. היא מחזיקה במוצר שמאות מיליוני אנשים משתמשים בו, נהנית ממעמד כמעט ייחודי מול משקיעים, וממשיכה למשוך תשומת לב מכל השוק. אבל הדרך לבורסה תחייב אותה לענות גם על השאלות הפחות נוחות: איך היא מגינה על משתמשים, כמה יעלה לה לעשות את זה טוב יותר, והאם הסיכונים המשפטיים יכולים להתחיל להשפיע על השווי שהשוק מוכן לתת לה.
החקירה לא תעצור את ההנפקה, אבל היא כן משנה את המסגרת שבה היא תיבחן. במקום סיפור נקי על צמיחה, משתמשים והכנסות עתידיות, OpenAI מגיעה לשוק עם שאלות פתוחות על רגולציה, אחריות ובטיחות. וכשאנחנו שמים את זה מול השווי אליו היא מכוונת, כטריליון דולר, אלה כבר לא הערות שוליים.
