نبحث عن مهندس أمان للذكاء الاصطناعي لتأمين أنظمتنا المدفوعة بالذكاء الاصطناعي، بما في ذلك التطبيقات المعتمدة على نماذج اللغة الكبيرة، ونماذج التعلم الآلي، وأدوات الأتمتة المدعومة بالذكاء الاصطناعي.
سيركز هذا الدور على تحديد وتقييم وتخفيف المخاطر الأمنية عبر دورة حياة الذكاء الاصطناعي - من تطوير النموذج والتدريب إلى النشر ومراقبة وقت التشغيل.
يجمع المرشح المثالي بين خبرة قوية في هندسة الأمان وفهم عميق لأنظمة التعلم الآلي والتهديدات الخاصة بالذكاء الاصطناعي الناشئة (مثل حقن الطلبات، وتسميم النموذج، وتسرب البيانات، والهجمات العدائية).
المسؤوليات الرئيسية:
- هندسة أمان الذكاء الاصطناعي / التعلم الآلي
- تصميم وتنفيذ ضوابط الأمان لأنظمة الذكاء الاصطناعي / التعلم الآلي عبر التطوير والتدريب والإنتاج.
- تأمين تكامل نماذج اللغة الكبيرة، وأنابيب RAG، وواجهات برمجة التطبيقات للذكاء الاصطناعي.
- إجراء نمذجة التهديدات لأنظمة الذكاء الاصطناعي وأنابيب البيانات.
- تحديد أنماط الأمان المدمجة في التصميم للميزات المدعومة بالذكاء الاصطناعي.
كشف التهديدات الخاصة بالذكاء الاصطناعي وتخفيفها
تحديد وتخفيف التهديدات الخاصة بالذكاء الاصطناعي: تقنيات حقن الطلبات وتقنيات الهروب، وتسميم النموذج وتلوث البيانات، والهجمات العدائية، وتسرب بيانات التدريب، وتسلسل النموذج غير الآمن، والأذونات المفرطة في وكلاء الذكاء الاصطناعي.
تطوير حواجز أمان، ومرشحات محتوى، وآليات تحقق من المخرجات.
تنفيذ المراقبة للسلوك غير الطبيعي للذكاء الاصطناعي.
التطوير الآمن وDevSecOps
دمج فحوصات أمان الذكاء الاصطناعي في خطوط أنابيب CI / CD.
إجراء مراجعات أمان لرموز التعلم الآلي والبنية التحتية المتعلقة بالذكاء الاصطناعي.
تأمين سجلات النماذج وتخزين العناصر.
التعاون مع مهندسين آخرين وفرق المنصات لفرض معايير الأمان.
حماية البيانات والامتثال
ضمان امتثال أنظمة الذكاء الاصطناعي: للوائح GDPR ولائحة خصوصية البيانات، ومتطلبات التنظيم في الصناعة المالية، وتنفيذ ضوابط للبيانات الحساسة المستخدمة في التدريب والاستدلال، وإجراء تقييمات مخاطر الذكاء الاصطناعي وفقًا للمنهجية الداخلية للمخاطر.
الحوكمة والسياسات
المساهمة في معايير أمان الذكاء الاصطناعي والسياسات الداخلية.
تحديد تصنيف المخاطر الخاصة بالذكاء الاصطناعي وأطر التحكم.
دعم مراجعات الأمان للمبادرات / الأدوات الجديدة المتعلقة بالذكاء الاصطناعي.
المؤهلات المطلوبة:
- 3-5+ سنوات في هندسة البرمجيات، أو هندسة التعلم الآلي، أو أمان التطبيقات.
- خبرة عملية مع أنظمة الذكاء الاصطناعي / التعلم الآلي - نماذج اللغة الكبيرة، أو نماذج معالجة اللغة الطبيعية، أو ما شابه.
- إجادة بايثون للأتمتة والبرمجة النصية.
- خبرة في العمل مع كود كلود.
- فهم قوي للمنصات السحابية: AWS، Azure، أو GCP.
- خبرة في أمان واجهات برمجة التطبيقات، وDocker، وKubernetes.
- معرفة بمخاطر الأمان الخاصة بالذكاء الاصطناعي وتخفيفاتها.
- خبرة في إجراء نمذجة التهديدات وتقييمات المخاطر.
المؤهلات المفضلة:
- إلمام بهياكل RAG، وقواعد بيانات المتجهات، وخطوط أنابيب التعلم الآلي (MLflow، Kubeflow، SageMaker).
- خبرة في بيئات التكنولوجيا المالية أو البيئات المنظمة.
- معرفة بأطر حوكمة الذكاء الاصطناعي (قانون الذكاء الاصطناعي في الاتحاد الأوروبي، NIST AI RMF، ISO / IEC 42001).
- خبرة في فرق اختبار الذكاء الاصطناعي.
- خلفية في الأمن السيبراني أو أمان التطبيقات (OWASP، SDLC الآمن).
المهارات الشخصية:
- مهارات تحليلية وحل المشكلات قوية.
- القدرة على ترجمة المخاطر التقنية إلى تأثيرات تجارية.
- القدرة على شرح مخاطر أمان الذكاء الاصطناعي وتخفيفاتها للفرق غير الأمنية.
- التعاون عبر الوظائف مع فرق التعلم الآلي والبيانات والمنتجات.
- مهارات واضحة في التوثيق والتواصل.
ماذا ستحصل عليه في المقابل:
راتب تنافسي:
نؤمن بأن العمل الجيد يستحق أجراً جيداً! ستُكافأ مهاراتك ومواهبك براتب يجعلك تشعر بالتقدير والتحفيز.
توازن العمل والحياة:
انضم إلى شركة تهتم بك حقًا - لأن حياتك خارج العمل مهمة بقدر أهمية وقتك في العمل. #LI-Hybrid
إجازة سخية:
هل تحتاج إلى استراحة؟ سياسة إجازتنا السنوية تتيح لك إعادة شحن طاقتك والاستمتاع بالحياة خارج العمل دون قلق.
برنامج إحالة الموظفين:
تحب العمل هنا؟ شارك الحب! اجلب أصدقائك الموهوبين على متن الطائرة واحصل على مكافأة مقابل تنمية فريقنا الرائع.
فوائد صحية شاملة ومزايا التقاعد:
من التأمين الطبي إلى خطط التقاعد، نحن هنا لدعمك. بالإضافة إلى الفوائد والمزايا المحددة حسب الموقع!
عالم العمل عن بُعد:
عِش أحلامك كبديل رقمي مع 30 يومًا إضافيًا للعمل عن بُعد من أي مكان في العالم (تطبق بعض القيود). المغامرة في انتظارك!
أيام التطوع:
اجعل فرقًا! احصل على يومين إضافيين مدفوعين كل عام لدعم القضايا التي تهمك والمساهمة في المجتمع.
