מכשירי ה-AI החדשים רוצים לזכור בשבילנו הכל - אבל מה עם מי שנמצא לידנו?

הדור החדש של מכשירי AI לבישים מבטיח לזכור עבור המשתמש כמעט כל דבר - שיחות, משימות, תזכורות ורגעים מהיום. אבל ככל שהמכשירים עוברים מהפעלה נקודתית להאזנה רציפה, השאלה משתנה: לא רק מה הטכנולוגיה יכולה לעשות, אלא מה קורה לכל מי שנמצא בסביבה ולא בחר להשתתף בה.

הדוגמה הבולטת היא גל חדש של מוצרים שמיועדים להאזין, לתמלל ולסכם את היום באופן כמעט רציף. אמזון השיקה את Bee Frontier ואת Bee Eclipse, אפל מוסיפה ל-Apple Watch Series 12 את Siri Recap ו-Live Rewind, מטא ממשיכה להרחיב את משקפי ה-AI שלה, וחברות כמו Plaud, Pocket ו-Friend מנסות להפוך את ההקלטה והזיכרון הדיגיטלי למוצר צרכני רגיל.

כשהמכשיר זוכר במקומך

במקום לרשום משימות, לזכור מה נאמר בפגישה או לחזור אחורה בשיחה, המכשיר אוסף את המידע ומייצר ממנו תזכורות, סיכומים והקשר. עבור אנשים שמנהלים יום עמוס, מדובר בכלי שעשוי להפוך שכבת זיכרון נוספת לחלק קבוע מחיי היום-יום.

אבל הנוחות הזו נשענת על איסוף מידע מהסביבה. משקפיים עם מצלמה, שעון שמקשיב לשיחה או תליון שמקליט לאורך היום אינם אוספים רק את דברי האדם שלובש אותם. הם קולטים גם אנשים אחרים - לקוחות, חברים, עובדים, בני משפחה או אדם שפשוט יושב בשולחן הסמוך. אדם יכול להסכים לכך שהשעון או המשקפיים שלו ינתחו שיחות לאורך היום, אבל ההסכמה הזו אינה חלה אוטומטית על מי שנמצא מולו. כבר היום יש משתמשים שמספרים שהם נאלצים להסיר לחלוטין משקפיים חכמים במצבים חברתיים, משום שאנשים סביבם אינם מרגישים בנוח גם כאשר נאמר להם שהמצלמה או ההקלטה כבויות.

יצרניות הטכנולוגיה מנסות להתמודד עם החשש באמצעות שינוי באופן שבו המידע נשמר. אפל אומרת שהמערכת שלה אינה שומרת אודיו, אינה שולחת הקלטות לשרתים ואינה מערבת בדיקה אנושית. אמזון מצדה טוענת ששיחות שנקלטות במכשירי Bee מעובדות בסביבה מאובטחת ושגם היא אינה שומרת את האודיו עצמו.

אלא שהשאלה המשפטית היא לא בהכרח אם נשמר קובץ קול. בחלק מהמדינות בארה"ב, חוקי האזנת הסתר מנוסחים סביב עצם היירוט או הרכישה של תוכן השיחה. המשמעות היא שמערכת שמקשיבה, מבינה את משמעות הדברים ומייצרת מהם סיכום עשויה להיחשב מבחינה משפטית כמי שרכשה את תוכן השיחה גם אם האודיו המקורי נמחק מיד. במסצ'וסטס, למשל, ההגדרה של מכשיר יירוט כוללת ציוד שמסוגל לשדר, לקבל, להגביר או להקליט תקשורת. בניו המפשייר החוק רחב אף יותר וכולל גם "רכישה שמיעתית או אחרת" של תוכן שיחה. משפטנים מציינים כי ניסוחים כאלה עשויים להכניס גם מערכות AI שמסכמות שיחות לתחום אפור שעדיין כמעט לא נבחן בבתי המשפט.

האחריות עלולה לעבור למשתמש

השינוי המעניין הוא שהסיכון המשפטי לא בהכרח יישאר אצל אפל, אמזון או יצרנית אחרת. אם המשתמש מפעיל במודע פונקציה שמקשיבה ומנתחת שיחה פרטית, ייתכן שבחלק מהמדינות האחריות תוטל דווקא עליו.

כלומר, צרכן יכול לרכוש מוצר רגיל של חברה גדולה, להפעיל תכונה שמובנית בו, ועדיין להיכנס באופן תיאורטי לעימות עם חוק מדינתי אם השיחה נותחה ללא הסכמת כל המשתתפים. הסיכון הפלילי בפועל עשוי להיות נמוך, אך עצם האפשרות מצביעה על פער בין קצב התפתחות המוצרים לבין החוקים שנכתבו לעולם טכנולוגי אחר.

המצב גם שונה מהדור הקודם של רמקולים חכמים. בעבר הוויכוח עסק לעיתים קרובות במכשיר שהופעל בטעות לאחר ששמע מילת התעוררות ודגם שיחה שלא היתה מיועדת אליו. עכשיו המכשיר מתוכנן מלכתחילה להקשיב לסביבה, להבין אותה ולהפיק ממנה ערך עבור המשתמש.

• מטא הכניסה 61 מיליארד דולר ברבעון ונשארה עם פחות ממיליארד
• סופטבנק רוצה לקנות חברת אבטחה ב-30 מיליארד דולר - ולשלוח רובוטים במקום שומרים

הבעיה האמיתית היא מי שלא קנה את המכשיר

מבחינת מומחי פרטיות, נקודת החולשה המרכזית היא דווקא האנשים שלא בחרו להשתמש בטכנולוגיה. אדם יכול למצוא את עצמו בתוך מערכת AI של מישהו אחר בלי לדעת זאת, בלי להפעיל שום שירות ובלי להסכים לעיבוד הדברים שהוא אומר. הסיכון גדל משום שה-AI לא רק אוסף יותר מידע, אלא גם הופך אותו לשימושי הרבה יותר. בעבר היה צורך באדם שיקשיב לשעות של הקלטות, ימיין אותן ויחלץ קשרים. כיום אלגוריתם יכול לתמלל, לסכם, לזהות דפוסים ולחבר בין פרטי מידע במהירות ובעלות נמוכה בהרבה.

מבחינה זו, המעבר הוא מאיסוף מידע להבנת מידע. שיחה שנקלטה במקרה יכולה להפוך לרשימת שמות, משימות, העדפות, פגישות וקשרים חברתיים. המכשיר לא חייב לשמור את הקול המקורי כדי להפיק ממנו שכבה חדשה של מידע אישי.

החשש הוא שהמכשירים האלה ישנו בהדרגה גם את הנורמות החברתיות. מצלמה ברחוב או רמקול חכם בבית הם חפצים שקל יחסית לזהות. שעון, משקפיים או תליון שנמצאים כל הזמן על הגוף יכולים להפוך את ההקלטה והניתוח לפחות גלויים ויותר קבועים.

כבר מופיעים גם ניסיונות לבנות טכנולוגיות נגדיות. הסטארט-אפ Deveillance, למשל, פיתח מכשיר בשם Spectre I שנועד לזהות מכשירים סמוכים ולשדר אותות שמקשים על מיקרופונים לעבד דיבור. עצם קיומו של מוצר כזה ממחיש עד כמה השוק מתחיל להתפתח בשני כיוונים במקביל - מכשירים שרוצים לשמוע יותר, ומכשירים שמנסים להחזיר לאנשים שליטה על מה שנשמע.