نبحث عن مهندس أمان ذكاء اصطناعي لتأمين أنظمتنا المدفوعة بالذكاء الاصطناعي، بما في ذلك التطبيقات المعتمدة على LLM، ونماذج التعلم الآلي، وأدوات الأتمتة المدعومة بالذكاء الاصطناعي.
سيركز هذا الدور على تحديد وتقييم وتخفيف المخاطر الأمنية عبر دورة حياة الذكاء الاصطناعي - من تطوير النموذج والتدريب إلى النشر ومراقبة وقت التشغيل.
يجمع المرشح المثالي بين خبرة قوية في هندسة الأمان وفهم عميق لأنظمة التعلم الآلي والتهديدات الناشئة الخاصة بالذكاء الاصطناعي (مثل حقن الأوامر، تسميم النموذج، تسرب البيانات، الهجمات العدائية).
المسؤوليات الرئيسية:
- هندسة أمان الذكاء الاصطناعي / التعلم الآلي
- تصميم وتنفيذ ضوابط الأمان لأنظمة الذكاء الاصطناعي / التعلم الآلي عبر التطوير والتدريب والإنتاج.
- تأمين تكاملات LLM، وخطوط أنابيب RAG، وواجهات برمجة التطبيقات للذكاء الاصطناعي.
- إجراء نمذجة التهديدات لأنظمة الذكاء الاصطناعي وخطوط أنابيب البيانات.
- تحديد أنماط الأمان المصممة بشكل آمن للميزات المدعومة بالذكاء الاصطناعي.
كشف التهديدات الخاصة بالذكاء الاصطناعي وتخفيفها
تحديد وتخفيف التهديدات الخاصة بالذكاء الاصطناعي: تقنيات حقن الأوامر وتقنيات الهروب، تسميم النموذج وتلوث البيانات، الهجمات العدائية، تسرب بيانات التدريب، تسلسل النموذج غير الآمن، الأذونات المفرطة في وكلاء الذكاء الاصطناعي.
تطوير حواجز الأمان، ومرشحات المحتوى، وآليات التحقق من المخرجات.
تنفيذ المراقبة للسلوك غير الطبيعي للذكاء الاصطناعي.
التطوير الآمن وDevSecOps
دمج فحوصات أمان الذكاء الاصطناعي في خطوط أنابيب CI / CD.
إجراء مراجعات أمان لرمز التعلم الآلي والبنية التحتية المتعلقة بالذكاء الاصطناعي.
تأمين سجلات النماذج وتخزين العناصر.
التعاون مع مهندسين آخرين وفرق المنصات لفرض معايير الأمان.
حماية البيانات والامتثال
ضمان امتثال أنظمة الذكاء الاصطناعي لـ: اللائحة العامة لحماية البيانات (GDPR) ولوائح خصوصية البيانات، ومتطلبات الامتثال في الصناعة المالية، وتنفيذ ضوابط للبيانات الحساسة المستخدمة في التدريب والاستدلال، وإجراء تقييمات مخاطر الذكاء الاصطناعي بما يتماشى مع المنهجية الداخلية للمخاطر.
الحوكمة والسياسة
المساهمة في معايير أمان الذكاء الاصطناعي والسياسات الداخلية.
تحديد تصنيف مخاطر الذكاء الاصطناعي وإطارات التحكم.
دعم مراجعات الأمان للمبادرات / الأدوات الجديدة المتعلقة بالذكاء الاصطناعي.
المؤهلات المطلوبة:
- 3-5+ سنوات في هندسة البرمجيات، أو هندسة التعلم الآلي، أو أمان التطبيقات.
- خبرة عملية مع أنظمة الذكاء الاصطناعي / التعلم الآلي - LLMs، أو نماذج معالجة اللغة الطبيعية، أو ما شابه.
- إجادة لغة بايثون للأتمتة والبرمجة النصية.
- خبرة في العمل مع Claude Code.
- فهم قوي للمنصات السحابية: AWS، Azure، أو GCP.
- خبرة في أمان واجهات برمجة التطبيقات، Docker، Kubernetes.
- معرفة بمخاطر أمان الذكاء الاصطناعي وطرق التخفيف.
- خبرة في إجراء نمذجة التهديدات وتقييمات المخاطر.
المؤهلات المفضلة:
- الإلمام بهياكل RAG، وقواعد بيانات المتجهات، وخطوط أنابيب التعلم الآلي (MLflow، Kubeflow، SageMaker).
- خبرة في بيئات التكنولوجيا المالية أو البيئات المنظمة.
- معرفة بإطارات حوكمة الذكاء الاصطناعي (قانون الذكاء الاصطناعي في الاتحاد الأوروبي، NIST AI RMF، ISO / IEC 42001).
- خبرة في فرق اختبار الذكاء الاصطناعي.
- خلفية في الأمن السيبراني أو أمان التطبيقات (OWASP، SDLC الآمن).
المهارات الشخصية:
- مهارات تحليلية وحل مشكلات قوية.
- القدرة على ترجمة المخاطر التقنية إلى تأثيرات تجارية.
- القدرة على شرح مخاطر أمان الذكاء الاصطناعي وطرق التخفيف للفرق غير الأمنية.
- التعاون عبر الوظائف مع فرق التعلم الآلي والبيانات والمنتجات.
- مهارات واضحة في التوثيق والتواصل.
ما ستحصل عليه في المقابل:
راتب تنافسي:
نعتقد أن العمل الرائع يستحق أجرًا رائعًا! سيتم مكافأة مهاراتك ومواهبك براتب يجعلك تشعر بالتقدير والتحفيز.
تناغم بين العمل والحياة:
انضم إلى شركة تهتم بك حقًا - لأن حياتك خارج العمل تهم بقدر ما تهم وقتك في العمل. #LI-Hybrid
إجازة سخية:
هل تحتاج إلى استراحة؟ سياسة إجازتنا السنوية تتيح لك إعادة شحن طاقتك والاستمتاع بالحياة خارج العمل دون قلق.
برنامج إحالة الموظفين:
هل تحب العمل هنا؟ شارك الحب! اجلب أصدقائك الموهوبين إلى الفريق واحصل على مكافأة على توسيع فريقنا الرائع.
فوائد صحية شاملة وخطط تقاعد:
من التأمين الطبي إلى خطط التقاعد، نحن هنا لدعمك. بالإضافة إلى مزايا ومكافآت محددة حسب الموقع!
عالم العمل عن بعد:
عش أحلامك كرحالة رقمي مع 30 يومًا إضافيًا للعمل عن بُعد من أي مكان في العالم (تطبق بعض القيود). المغامرة في انتظارك!
أيام التطوع:
اصنع فرقًا! خذ يومين إضافيين مدفوعين كل عام لدعم القضايا التي تهمك والعودة إلى المجتمع.
