مراجعة أمان أداة ذكاء اصطناعي
في هذا الدرس 4 موضوعات
هذا الدرس مخطط له. يعرض المخطط أدناه الموضوعات التي سيغطيها، ولم يُنشر الدرس الكامل بعد.
نص الدروس والتمارين باللغة الإنجليزية، بينما تبقى واجهة الموقع وعناوين الدروس بالعربية.
في هذا الدرس
run a security review of an AI assistant before approving it.
الموضوعات المخطط لها
- Data handling: what leaves the company, where it is processed, whether it is used for training.
- Retention: how long prompts and outputs are kept and whether they can be deleted.
- Access: single sign-on, roles, audit logs, and admin controls such as policy enforcement and repository exclusions.
- Integration risks: permissions of IDE plugins and agents, access to repositories, and prompt injection through content the tool reads.
- Record answers with evidence (contract, documentation); verify claims before recording.
تفاصيل المخطط المبدئي
عرض عملي
Questionnaire table: area | question | evidence | answer | risk rating. Example: Retention | are prompts stored, for how long, deletable? | vendor terms | ... | medium.
اختبر فهمك
Name two admin controls to look for.
أظهر الإجابة
For example single sign-on with audit logs, and the ability to exclude repositories or enforce settings.
التطبيق
طبّق هذا الدرس بمختبر الوحدة وتمارينها واختبارها.
تعليم الدرس كمكتمل اختياري ويمكنك التراجع عنه في أي وقت. يبقى تقدمك محفوظًا في هذا المتصفح.