حوادث المخرجات السيئة ومفاتيح الإيقاف والمراجعة البشرية
في هذا الدرس 4 موضوعات
هذا الدرس مخطط له. يعرض المخطط أدناه الموضوعات التي سيغطيها، ولم يُنشر الدرس الكامل بعد.
نص الدروس والتمارين باللغة الإنجليزية، بينما تبقى واجهة الموقع وعناوين الدروس بالعربية.
في هذا الدرس
run a proper incident when AI output is wrong, unsafe, or leaking.
الموضوعات المخطط لها
- Treat unsafe output as an incident: severity, commander, comms, postmortem; not "just a bug".
- Kill switch: a flag that disables the feature or falls back to a safe path within a minute, tested regularly.
- Human review queue: low-confidence or sensitive answers go to a person; use it also to gather labeled cases.
- Leaks of personal data may carry legal notice duties; involve security and privacy owners early.
- Preserve evidence: the logged prompt, config ID, and retrieved sources.
تفاصيل المخطط المبدئي
عرض عملي
Runbook outline: detect | trigger kill switch | contain | assess affected users | notify | root cause | add eval case | postmortem.
اختبر فهمك
What should every bad-output incident add to the evaluation set?
أظهر الإجابة
A case reproducing it, so it cannot return silently.
التطبيق
طبّق هذا الدرس بمختبر الوحدة وتمارينها واختبارها.
تعليم الدرس كمكتمل اختياري ويمكنك التراجع عنه في أي وقت. يبقى تقدمك محفوظًا في هذا المتصفح.