אבטחת סייבר של AI

השילוב המהיר של מודלי שפה גדולים (LLMs) בתוך יישומים מבצעיים השיק עידן חדש לחלוטיن בהנדסת תוכנה. אך בזמן שאנו ממהרים לבנות סוכני AI עצמאיים, בוטים לשירות לקוחות ועוזרי פיתוח (Copilots), אנו גם מארחים פגיעות אבטحة שקטה ומסוכנת להפליא: הזרקת פרומפטים (Prompt Injection). באבטחת יישומי אינטרנט מסורתיים, בילינו עשרות שנים בקביעת גבול ברור: קود הוא קود, ונתונים הם נתונים.