سلمان أيمن يوسف · أدلة أصلية
الاختبار الهجومي للنماذج اللغوية — اختبار التعليمات العدائية
عمل مستقل لتقييم سلامة النماذج اللغوية باستخدام تعليمات عدائية يدوية وسيناريوهات أمن سيبراني واختبارات تجاوز قائمة على السياق. أنشأت 13 مثالاً مسجلاً مع سجلات المحادثات الداعمة في مايو 2025.
منهجية الاختبار
اختبرت استجابة ChatGPT لطلبات الأمن السيبراني ولادعاءات التفويض التي تلتها. حفظت الطلبات والردود في تسجيلات شاشة ونصوص محادثات لتوثيق التفاعلات وإتاحة مراجعتها.
مثال مسجّل
يبدأ هذا المثال برفض تقديم برنامج لتسجيل نشاط المستخدم وإخراج بياناته. بعد ادعاء أن الطلب جزء من تمرين هجومي مصرح به، غيّر النموذج رده وقدم إرشادات إجرائية. يوضح التسجيل التغير الملحوظ في الاستجابة؛ ولم يُختبر تشغيل الشيفرة المولّدة في هذه العينة.
مقتطف من التسجيل الأصلي: 00:45–01:12.5. سرعة التشغيل لم تتغير، وقُصّت أشرطة المتصفح وعناصر الحساب. يركز المقتطف على الرفض والسياق اللاحق وبداية الرد.
سيناريوهات إضافية موثقة
تشمل الأمثلة المقدمة أيضاً طلب فحص شبكة مصرح به وسيناريو Shark Jack قُدّم كتدريب هجومي. وتوضح هذه الأمثلة تصميم السيناريوهات والتعليمات العدائية وتحليل الردود وتوثيق الأدلة.