אפל פותחת את Siri AI לכל המפתחים, ומזהירה את המשקיעים מסוכנים שיוצאים משליטה

אפל פותחת את Siri AI, הגרסה החדשה של העוזרת הקולית שלה, לכל מפתחי האפליקציות, ובאותו שבוע היא מזהירה את המשקיעים מהסיכונים של אותה טכנולוגיה בדיוק. בגרסאות הבטא של iOS 27.3 ושל מערכות ההפעלה האחרות שלה השיקה החברה תצוגה מקדימה למפתחים, שמאפשרת לכל אפליקציה לחבר את התוכן והפעולות שלה ל-Siri AI. במקביל, בדוח השנתי שהגישה לרשות ניירות הערך האמריקאית, הקדישה אפל פסקה מפורטת לסוכני בינה מלאכותית שעלולים לפעול על דעת עצמם.

עד עכשיו אפליקציות יכלו להתחבר לסירי דרך קטגוריות שאפל הגדירה מראש, כמו הודעות, ניווט או ניהול משימות. הממשק החדש, שמבוסס על App Intents, מאפשר למפתחים לחשוף כל פעולה ייעודית שבנו, ו-Siri AI תבצע אותה כשהמשתמש מבקש במילים שלו. הדוגמאות של אפל כוללות בדיקת סטטוס של משלוח, הזמנת מקום במסעדה וביצוע הזמנה. העוזרת נשענת על הבנה של ההקשר האישי של המשתמש ועל מה שמוצג על המסך, ויכולה לשלוף מתוך האפליקציות כל פריט שנשמר באינדקס הסמנטי של Spotlight, גם כזה שחורג מהתבניות הקיימות.

מיומנויות, מגבלות ותשלום

לבקשות מורכבות הציגה אפל "מיומנויות", שמאפשרות למפתח ללמד את Siri AI לשלב כמה פעולות לחוויה אחת. היכולות כבר נפרסות באפליקציות של החברה עצמה, ובהן לוח השנה, הקבצים, הדואר, המפות, ההודעות, התמונות, ספארי והקיצורים, כך שמשתמש יכול למשל למצוא בית קפה שביקר בו בשבוע שעבר או להעביר לארכיון קבצים שנשכחו יותר משנה.

התצוגה המקדימה מיועדת לבדיקות. לפי אפל, השילובים הראשונים יגיעו ללקוחות בתוך כמה חודשים, והגשת אפליקציות עם היכולות החדשות ל-App Store תיפתח באביב. בזמן הזה המפתחים יכולים לבנות ולבחון את השילובים, ומהנדסי אפל מקיימים מפגשי ייעוץ למפתחים שרוצים להתנסות בממשק. החברה הבטיחה לפרסם בהמשך את התנאים ואת מדיניות השימוש. היא גם אישרה שחלק מתכונות Apple Intelligence שרצות על השרתים שלה, ובהן Siri AI וכלי עריכת התמונות, כפופות למגבלת שימוש יומית, ובעתיד תוצע גישה מורחבת בתשלום. Siri AI זמינה בשש שפות, ובהן אנגלית, צרפתית, יפנית וספרדית, ובשלב זה חסרה באיחוד האירופי במכשירי האייפון, האייפד והשעון, ואפל מנהלת על כך מגעים עם האיחוד. היא חסומה גם למשתמשים מתחת לגיל 13.

האזהרה בדוח השנתי

הדוח השנתי מציג את הצד השני של המהלך. אפל כתבה שסוכני AI מסוגלים לפעול באופן עצמאי: לגשת למערכות פנימיות וחיצוניות, לעיתים גם כאלה שהגישה אליהן חסומה בפניהם, להריץ ולשנות קוד, לשלוח הודעות ולהשלים עסקאות. לדבריה, הסוכנים עלולים לחרוג מההרשאות שלהם, להתעלם מהנחיות, לעקוף מנגנוני אבטחה או להיות מנוצלים באמצעות קלט זדוני, ואף להסתיר פעולות או להפיק פלט מטעה.

החברה הוסיפה שהתנהגות של מערכות כאלה קשה לחיזוי, לבדיקה ולבקרה, שטעויות עלולות להצטבר לאורך תהליכים של כמה שלבים, ושחלק מהתוצאות, כמו מחיקת מידע או השלמת עסקה, קשות לביטול ולעיתים סופיות. היכולת שלה לפקח על סוכנים של צדדים שלישיים מוגבלת, והיא מעריכה שתרחישים כאלה עלולים לפגוע במוניטין ולחשוף אותה לצעדים רגולטוריים ולתביעות.

הניסוח הזה מצטרף לגל של חברות טכנולוגיה שמעדכנות את גורמי הסיכון סביב סוכנים, בזמן שהן עצמן ממהרות להפיץ אותם בקרב מיליוני משתמשים ומפתחים. בדיוק בתחום הזה פועלות חברות הסייבר, שמשיקות מוצרים לניטור ולעצירה של סוכנים. להרחבה: פאלו אלטו משיקה פתרון שפותח בישראל לאבטחת סוכני AI ויישומי ענן