امنیت LLM

ادغام سریع مدل‌های زبانی بزرگ (LLM) در برنامه‌های کاربردی تولیدی، آغازگر عصر کاملاً جدیدی در مهندسی نرم‌افزار شده است. اما همانطور که ما برای ساخت عامل‌های هوش مصنوعی خودمختار، بات‌های پشتیبانی مشتری و کمک‌خلبان‌ها شتاب می‌کنیم، به یک آسیب‌پذیری امنیتی خاموش و بسیار خطرناک نیز خوش‌آمد می‌گوییم: تزریق پرامپت (Prompt Injection). در امنیت سنتی برنامه‌های وب، ما دهه‌ها زمان صرف ایجاد یک مرز واضح کرده‌ایم: کد، کد است و داده، داده است.