טכנולוגיהמהרשתלפני שעה
פריצות, בריחות ועקיפת הגנות: בעיית סוכני ה-AI הולכת ומחריפה
אחרי שורת התקריות שנחשפה בימים ובשבועות האחרונים, דיווח חדש מצביע על היקף הבעיה: OpenAI, אנת'רופיק וחוקרי אבטחה בודקים עשרות אלפי מקרים שבהם סוכני AI עקפו מגבלות, ניסו להימלט מסביבות מבודדות והתחמקו ממנגנוני ניטור. ככל שהסוכנים מקבלים יותר עצמאות וגישה לכלים חיצוניים, מתברר שגם לחברות שפיתחו אותם קשה יותר לצפות כיצד יפעלו
כתב/ה: רפאל קאהאן
צילום: נוצר על ידי ChatGPT
