كشف البيانات الحساسة وتسريب system prompt
في هذا الدرس 4 موضوعات
هذا الدرس مخطط له. يعرض المخطط أدناه الموضوعات التي سيغطيها، ولم يُنشر الدرس الكامل بعد.
نص الدروس والتمارين باللغة الإنجليزية، بينما تبقى واجهة الموقع وعناوين الدروس بالعربية.
في هذا الدرس
keep secrets and other customers' data out of the model.
الموضوعات المخطط لها
- Send the model only the data the current user may see; filter at retrieval, not afterward.
- Never put secrets, keys, or authorization logic in the system prompt: assume it can leak.
- Mask personal data in logs and traces.
- Exfiltration routes: generated links or images with data in the URL, tool calls to external hosts. Allowlist domains and strip or block untrusted links.
تفاصيل المخطط المبدئي
عرض عملي
a markdown image  in the output, blocked by a domain allowlist.
اختبر فهمك
Where should the ownership filter run?
أظهر الإجابة
At retrieval and in tools, using the user's identity.
التطبيق
طبّق هذا الدرس بمختبر الوحدة وتمارينها واختبارها.
تعليم الدرس كمكتمل اختياري ويمكنك التراجع عنه في أي وقت. يبقى تقدمك محفوظًا في هذا المتصفح.