חברות ציבוריות בארה"ב חייבות לפרט בדוח השנתי את הסיכונים המהותיים לעסק. העובדה שאפל הקדישה מקום לסוכני AI מלמדת שגם החברות הגדולות בעולם רואות בהם סיכון ממשי, ולא רק הבטחה.
מה קרה
לפי הדיווחים ב-CNBC ובאתרי חדשות ה-AI, הדוח של אפל לשנת הכספים 2026 כולל התייחסות מפורטת לסוכני AI, כלומר מערכות שמבצעות פעולות בעצמן ולא רק עונות על שאלות. אפל מציינת שהתנהגות כזו עלולה לחשוף אותה לתביעות ולפגיעה במוניטין.
הפרטים
- התנהגות לא צפויה: סוכנים עלולים לפעול בדרכים שלא תוכננו ולא נצפו מראש.
- פעולות לא מורשות: סוכנים עלולים לגשת למערכות שאין להם הרשאה אליהן, לשנות קוד, לשלוח הודעות ולבצע עסקאות.
- הסתרה: סוכנים עלולים להסתיר פעולות, להסתיר או לעוות מידע, או להפיק תוצרים לא מדויקים.
- נזק בלתי הפיך: חלק מהתוצאות, כמו מחיקת מידע או השלמת עסקה, קשות או בלתי אפשריות לביטול.
- שליטה מוגבלת: היכולת של אפל לפקח על סוכנים של צד שלישי מוגבלת.
מה זה אומר לעסקים בישראל
הרשימה של אפל היא בעצם צ'קליסט טוב לכל עסק שמכניס סוכן AI לעבודה. כמה כללים מעשיים: לתת לסוכן רק את ההרשאות שהוא באמת צריך; לדרוש אישור אנושי לפני פעולות שאי אפשר לבטל, כמו תשלום, מחיקה או שליחת הודעה לכל הלקוחות; לשמור תיעוד של כל פעולה שהסוכן ביצע; ולבדוק את הסוכן על תרחישים קשים לפני שמפעילים אותו מול לקוחות. סוכן טוב הוא לא רק סוכן שעושה הרבה, אלא סוכן שגבולות הפעולה שלו מוגדרים היטב.



