הבינה המלאכותית עלולה להשתלט על הטלוויזיה והמקרר - ולשכפל את עצמה
הטלוויזיה החכמה, המקרר, מצלמת האבטחה ואפילו שואב האבק הרובוטי עלולים להפוך בעתיד לחלק מרשת מחשבים שמפעילה בינה מלאכותית עצמאית, כזו שמסוגלת להתפשט ממכשיר למכשיר ולהמשיך לפעול גם כשחלק מהמכשירים מנותקים. אנתרופיק, מפתחת קלוד, מפרסמת מחקר שמצביע על התקרבות ליכולת הזאת ומעריכה כי בתוך חודשים מודלים קטנים של AI עשויים להגיע לרמה שתאפשר להם לשכפל את עצמם במכשירים ביתיים המחוברים לאינטרנט. החוקרים כבר הצליחו להפעיל מודל בינה מלאכותית באמצעות 15 ממירי טלוויזיה זולים, ובניסוי נפרד הדגימו כיצד סוכן מתקדם עובר בין מחשבים ברשת ומכין אותם להרצת מודל נוסף.
מדובר באיום שונה ממתקפות הסייבר המוכרות. תוכנה זדונית רגילה פועלת בדרך כלל לפי פקודות שהוכנו מראש. סוכן AI מסוגל לבחון את הסביבה שאליה הגיע, לזהות את סוג המכשיר, למצוא דרך להפעיל עליו תוכנות ולהתאים את הפעולות שלו למכשיר הבא. כך עשויה להיווצר רשת של מכשירים נגועים שפועלת במשך תקופה ארוכה, כשכל מכשיר מסייע להמשך ההתפשטות.
כדי לבדוק את האפשרות הזאת, החוקרים רכשו 15 ממירי Android TV של מותגים זולים, במחיר של כ-55 דולר ליחידה. העלות הכוללת של המכשירים הייתה כ-825 דולר. הם חיברו אותם לרשת אחת והפעילו עליהם מודל של גוגל בשם Gemma4-26B-A4B, הכולל 26 מיליארד פרמטרים.
המודל גדול מכדי לפעול בשלמותו על ממיר אחד, ולכן החוקרים חילקו אותו בין המכשירים. כל ממיר הריץ חלק מהמודל והעביר מידע לממירים האחרים. המערכת הצליחה לעבוד בקצב של 0.39 טוקן בשנייה, כלומר פחות מיחידת טקסט אחת בשנייה. מדובר במהירות נמוכה מאוד לעומת מערכות AI שפועלות במרכזי נתונים, אבל היא מספיקה כדי להדגים שמודל גדול יחסית יכול לפעול באמצעות ציוד ביתי פשוט.
התוכן והמידע של נתוני המחשבון והכלי האינטראקטיבי
עמוד 1: הבית שלי
- טלוויזיה חכמה
- ממיר סטרימינג (Android TV)
- מצלמת אבטחה
- רמקול או עוזר קולי
- מקרר או מכשיר חשמל מחובר
- שואב אבק רובוטי
| שאלה | תשובות ונקודות | ברירת מחדל |
|---|---|---|
| החלפתם את סיסמת ברירת המחדל בנתב ובמכשירים? | כן = 0, לא בטוח = 2, לא = 3 | לא בטוח |
| עדכוני תוכנה אוטומטיים מופעלים? | כן = 0, לא בטוח = 1, לא = 2 | לא בטוח |
| יש בבית ממיר או מכשיר זול בלי מותג מוכר? | כן = 3, לא בטוח = 1, לא = 0 | לא |
| המכשירים החכמים מחוברים לרשת נפרדת (רשת אורחים)? | כן = 0, לא = 1 | לא |
| ניקוד | רמת חשיפה | ההסבר שמוצג |
|---|---|---|
| לא סומנו מכשירים | כמעט אין | לא סימנתם מכשירים חכמים. הנתב עדיין דורש סיסמה חזקה ועדכונים. |
| עד 3 נקודות | נמוכה | הבסיס במקום. כדאי לשמור על עדכונים ולבדוק מדי פעם אילו מכשירים מחוברים. |
| 4 עד 7 נקודות | בינונית | יש כמה פתחים מוכרים. הצעדים בעמוד הבא סוגרים את רובם בלי עלות. |
| 8 נקודות ומעלה | גבוהה | השילוב של מכשירים רבים, סיסמאות ברירת מחדל ומכשירים בלי מותג מוכר הוא בדיוק מה שרשתות תקיפה מחפשות. |
עמוד 2: איך מתגוננים
- להחליף סיסמאות ברירת מחדל. קודם בנתב, ואז בכל מצלמה ומכשיר שיש לו ממשק ניהול. סיסמה ארוכה וייחודית לכל אחד. (מופיע כשהתשובה על הסיסמה היא "לא" או "לא בטוח")
- לבדוק את המכשירים בלי מותג מוכר. ממירי אנדרואיד זולים היו הבסיס לרשת Kimwolf, ולא תמיד מקבלים עדכוני אבטחה. מכשיר שהיצרן שלו לא מעדכן - עדיף להחליף או לנתק. (מופיע כשיש מכשיר זול בלי מותג מוכר, או כשלא בטוחים)
- להפעיל עדכונים אוטומטיים. בטלוויזיה, בממיר ובאפליקציות של המכשירים, ולבדוק גם עדכון קושחה לנתב. (מופיע כשהעדכונים כבויים או כשלא בטוחים)
- להעביר את המכשירים החכמים לרשת נפרדת. רוב הנתבים מאפשרים רשת אורחים. כך מכשיר שנפרץ מתקשה להגיע למחשב ולטלפון. (מופיע כשאין רשת נפרדת וסומן לפחות מכשיר אחד)
- מצלמות: לכבות גישה מרחוק שלא משתמשים בה ולהפעיל אימות דו-שלבי באפליקציה, אם יש. (כשסומנה מצלמת אבטחה)
- ממיר סטרימינג: להתקין אפליקציות רק מהחנות הרשמית ולא לאפשר התקנה ממקורות לא מוכרים. (כשסומן ממיר והתשובה על מכשיר בלי מותג היא "לא")
- לכבות בנתב UPnP וניהול מרחוק אם אין בהם צורך.
- לנתק מהרשת מכשירים שלא בשימוש ולעבור מדי פעם על רשימת המכשירים המחוברים בנתב.
- לשים לב לסימנים חריגים: מכשיר שמתחמם, מאט או צורך הרבה תעבורה בלי סיבה.
עמוד 3: המחקר במספרים
| נתון | מה הוא אומר |
|---|---|
| 15 | ממירי Android TV זולים שעליהם הופעל מודל AI אחד |
| כ-55 דולר | מחיר ממיר, וכ-825 דולר לכל המכשירים יחד |
| 26 מיליארד | פרמטרים במודל של גוגל (Gemma4-26B-A4B) שחולק בין הממירים |
| 0.39 | טוקן בשנייה, פחות מיחידת טקסט אחת בשנייה |
| 8 מתוך 9 | סוגי חומרה שבהם מודל של 9 מיליארד פרמטרים הקים סביבת הרצה |
| 4 מתוך 5 | בדיקות שבהן GLM-5.2 הגיע לכל 8 המכשירים המדומים (בחמישית: 7) |
| יותר מ-2 מיליון | מכשירים שהדביקה רשת Kimwolf בשיאה, בעיקר ממירי אנדרואיד |
| סוף 2026 | המועד שבו מודלים קטנים עשויים להגיע ליכולת הנדרשת, לפי הערכת אנתרופיק |
בניסוי נוסף בדקו החוקרים את היכולת של מודלים להתאים את עצמם לסוגי חומרה שונים. מודל קטן עם 9 מיליארד פרמטרים הצליח להקים סביבת הרצה בשמונה מתוך תשעה סוגי חומרה שנבחנו. מכאן עולה האפשרות שסוכן עתידי יוכל לעבור בין מכשירים שונים, במקום להיות מוגבל למוצר מסוים או למערכת הפעלה אחת.
- בנק אוף אמריקה מתלהב מסיילספורס: מעלה את מחיר היעד מ-160 ל-285 דולר
- אמזון ואנתרופיק במרוץ אחר דקארט: העסקה עשויה להגיע ל-7 מיליארד דולר
מתי AI יוכל להפיץ עותקים של עצמו?
השלב הבא במחקר בחן התפשטות ברשת. החוקרים בנו סביבה מבודדת עם שמונה מכשירי אנדרואיד מדומים ובדקו אם סוכן יכול לאתר מכשירים נוספים, להעביר אליהם קבצים ולהקים מערכת שמסוגלת להריץ מודל AI.
מודל בשם GLM-5.2 הצליח להגיע לכל שמונת המכשירים בארבע מתוך חמש בדיקות. בבדיקה החמישית הוא הגיע לשבעה מכשירים. אלה תוצאות משמעותיות, אבל יש להן מגבלה: החוקרים הקלו במכוון על החדירה למכשירים, והמודל שביצע את הפעולות פעל באמצעות שרת נפרד. לכן מדובר בהדגמת יכולות בסביבת מחקר מבוקרת, בעוד הפצה עצמאית מלאה על גבי מכשירי צריכה ממשיים עדיין נמצאת בשלב התחזיות.
אנתרופיק מעריכה שאם מודלים קטנים ימשיכו להשתפר בקצב שנמדד בשנים האחרונות, הם עשויים להגיע לרמת היכולת הנדרשת עד סוף 2026. מדובר בהערכה המבוססת על מגמת השיפור של המודלים, והמעבר ממבחני מעבדה להתפשטות בעולם האמיתי תלוי גם ביכולת לחדור למכשירים ובהגנות שמותקנות עליהם.
החשש מתחזק בשל מצב האבטחה של חלק מהמוצרים הביתיים. ממירי טלוויזיה זולים, מצלמות ומכשירי חשמל מחוברים עשויים לקבל מעט עדכוני אבטחה, ולעיתים להימכר עם סיסמאות ברירת מחדל או תוכנות ישנות. במקרים כאלה, תוקפים יכולים לנצל חולשות מוכרות כדי להשתלט על המכשירים ולהשתמש בכוח המחשוב שלהם.
המחקר מזכיר רשת תקיפה בשם Kimwolf שהדביקה בשיאה יותר משני מיליון מכשירים, בעיקר ממירי טלוויזיה מבוססי אנדרואיד.
