חברות רבות זינקו על ה-AI בשנה האחרונה כדי להגביר את היעילות (וכך את הרווחיות), והכניסו בוטים לשירות לקוחות שלהן עם זאת, לצד היעילות היו גם רגעים מביכים וטעויות יקרות. טעויות כאלה נובעות, לרוב, מליקויים שגורמים למודלים של הבינה המלאכותית להמציא דברים שלא היו ולא נבראו, או במלים אחרות, "להזות".

דוגמא אחת, למשל, קרתה בינואר השנה, כשחברת ההשקעות Virgin Money התנצלה לאחר שצ'טבוט נזף בלקוח על כך שהשתמש במילה Virgin והדבר עלה לה ביחסי ציבור גרועים. חברת השילוח DPD ניתקה חלק מהצ'טבוט לאחר שקילל לקוחות וקרא לחברה "חברת המשלוחים הגרועה ביותר בעולם".  גם אייר קנדה נאצלה להתמודד עם הזיות ה-AI בשנה שעברה, כשנאלצה לכבד הנחה שהמציא בוט שירות הלקוחות שלה. ועוד הזרוע נטויה.

• כשחברת הביטוח לא מצאה את המבוטחת - האם היא יכולה להתנער מתשלום?
• בנקים לונג - ביטוח שורט; האסטרטגיה הזו יכולה להצליח
• המלצת המערכת: כל הכותרות 24/7

על פי טענת הוגי הפוליסה החדשה, ארמילה, ההפסד שנבע ממכירות כרטיסי טיסה במחיר נמוך יותר היה מכוסה על ידי הביטוח במידה והיה נמצא שהצ'טבוט של אייר קנדה פעל על פי ביצועים גרועים מהצפוי.  

קרת'יק רמאקרישנאן, מנכ"ל ארמילה, טוען שהמוצר החדש יעודד חברות לאמץ AI, היות וחלק והחשש מנזקי הבוטים מהווה חסם משמעותי להטמעה של הטכנולוגיה. אמנם, כבר כיום חלק מהפוליסות מכסות לכאורה הפסדים שקשורים ב-AI, אבל אלה כוללות לרוב תקרה נמוכה של החזרים. פוליסה כללית שמכסה 5 מליון דולר של הפסדים בעקבות כשלים טכנולוגיים, עלולה להיות עם מגבלה של 25,000 דולר בהקשרי אחריות AI, אומר אחד הסוכנים שמפיץ את המוצר של ארמילה.

זאת אומרת, על פי הגדרה, כל המודלים של השפה הם דינמיים, זאת אומרת שהם "לומדים" עם הזמן. צ'טבוט יושק ויפעל בזירת שירות הלקוחות אבל ככל שיחלוף הזמן, המודל אמור להשתנות ולהתייעל. בדרך, כמובן, עלולות לקרות טעויות. ע"פ ארמילה והפוליסה החדשה שלה, לא כל טעות של כלי AI תוביל לתשלום. הפוליסה תכסה את הנזק שנגרם רק במידה והמבטח פסק שמערכת ה-AI סיפקה ביצועים נמוכים מאלה שהוערכו מלכתחילה.

• 27 אינסטלטורים כדי לתקן נזילה; ככה חברות הביטוח טרטרו את בעל הדירה
• הפרשים של עשרות אלפי שקלים בביטוח החיים
• תוכן שיווקי שוק הסקנדרי בישראל: הציבור יכול כעת להשקיע ב-SpaceX של אילון מאסק
• 27 אינסטלטורים כדי לתקן נזילה; ככה חברות הביטוח טרטרו את בעל...

למשל, הביטוח של ארמילה ישלם לחברה שהצ'טבוט שלה נתן ללקוחות או לעובדים מידע נכון רק 85% מהזמן, למרות שבזמן ההערכה הראשונית ההערכה עמדה על תשובות מהימנות במשך 95% מהזמן.  "אנחנו מעריכים את מודל ה-AI, מקבלים מושג לגבי סיכויי השגיאות שלו ואז מפצים את החברה, במידה ויש ירידה בביצועים", אמר רמאקרישנן.

בשורה התחתונה, חברות הביטוח לא יכסה מודלים של AI שיהיו עם סיכון גבוה לטעויוות. וכך, ניתן לומר שאנחנו עדים לעוד שלב באבולוציה של הבינה המלאכותית. גם אם לא מדובר ברגולציה ממשלתית, הכניסה של חברות הביטוח לתחום תיצור סטנדרט לשימוש תעשייתי במודלים הללו. אחרי הכל, אם חברת הביטוח לא תסכים לבטח מודל מסוים של בינה מלאכותית, מי ירצה לעבוד איתו?