لماذا تحتاج ميزات LLM إلى قائمة تهديدات خاصة بها
في هذا الدرس 4 موضوعات
هذا الدرس مخطط له. يعرض المخطط أدناه الموضوعات التي سيغطيها، ولم يُنشر الدرس الكامل بعد.
نص الدروس والتمارين باللغة الإنجليزية، بينما تبقى واجهة الموقع وعناوين الدروس بالعربية.
في هذا الدرس
see what is new about LLM risks compared with ordinary web risks.
الموضوعات المخطط لها
- A model cannot reliably tell instructions from data: everything in the prompt is text.
- Its output is unpredictable, so it must be treated as untrusted.
- The OWASP Top 10 for LLM Applications names main risks: prompt injection, sensitive information disclosure, improper output handling, excessive agency, system prompt leakage, unbounded consumption (verify the list).
- Old rules still apply: least privilege, validation, logging care.
- Threat-model the helper from JNR-056 the same way as the Shop API: assets, entry points, controls.
تفاصيل المخطط المبدئي
عرض عملي
a table: LLM risk / Shop helper example / control.
اختبر فهمك
Can the model tell your instructions from a customer's text?
أظهر الإجابة
Not reliably; both are just text.
التطبيق
طبّق هذا الدرس بمختبر الوحدة وتمارينها واختبارها.
تعليم الدرس كمكتمل اختياري ويمكنك التراجع عنه في أي وقت. يبقى تقدمك محفوظًا في هذا المتصفح.