LLMail-Inject: تحدي الحقن التكيفي للتعليمات هو مجموعة بيانات لتقييم أمان نماذج اللغة الكبيرة أصدرتها Microsoft في عام 2025، وتهدف إلى دراسة وتقييم قدرات الدفاع لعملاء البريد الإلكتروني المدمجين مع نماذج اللغة الكبيرة عند مواجهة هجمات الحقن التكيفي للتعليمات.

تجمع هذه المجموعة من البيانات هجمات الحقن المقدمة في تحدي LLMail-Inject للحقن التكيفي للتعليمات، وتغطي مهام مثل تلخيص البريد الإلكتروني وتسريب البيانات، وتبني عدة مستويات من التحدي من خلال دمج بيئات استرجاع مختلفة ونماذج لغوية كبيرة وآليات دفاعية متنوعة. تتضمن البيانات بشكل أساسي موضوع و正文 رسائل البريد الإلكتروني الهجومية، بالإضافة إلى ملاحظات التنفيذ مثل الاسترجاع والكشف واستدعاء الأدوات، ويمكن استخدامها في أبحاث هجمات الحقن للتعليمات وتقييم أمان نماذج اللغة الكبيرة وتحليل آليات الدفاع.

مكونات مجموعة البيانات

تحتوي مجموعة البيانات بشكل أساسي على هجمات مقدمة على مرحلتين:

• المرحلة 1: بيانات تحدي المرحلة الأولى، مخزنة في data/raw_submissions_phase1.jsonl.
• المرحلة 2: بيانات تحدي المرحلة الثانية، مخزنة في data/raw_submissions_phase2.jsonl.

يتضمن كل تقديم بشكل أساسي المعلومات التالية:

• الموضوع: موضوع البريد الإلكتروني الهجومي.
• النص: نص البريد الإلكتروني الهجومي.
• المستوى: مستوى التحدي، الذي يحدده مزيج من السيناريو المحدد وآلية الدفاع ونموذج اللغة الكبير.
• حالة الاسترجاع: حالة الاسترجاع.
• حالة الكشف: حالة كشف الحقن للتعليمات.
• حالة استدعاء الأدوات: حالة استدعاء الأدوات.

الاستشهاد

@article{abdelnabi2025,
  title     = {LLMail-Inject: A Dataset from a Realistic Adaptive Prompt Injection Challenge},
  author    = {Sahar Abdelnabi and Aideen Fay and Ahmed Salem and Egor Zverev and Chi-Huang Liu and Chun-Chih Kuo and Jannis Weigend and Danyael Manlangit and Alex Apostolov and Haris Umair and João Donato and Masayuki Kawakita and Athar Mahboob and Tran Huu Bach and Tsun-Han Chiang and Myeongjin Cho and Hajin Choi and Byeonghyeon Kim and Hyeonjin Lee and Benjamin Pannell and Conor Mac Amhlaoibh and Mark Russinovich and Andrew Paverd and Giovanni Cherubin},
  year      = {2025},
  journal   = {Under submission},
  note      = {Challenge dataset and results from the LLMail-Inject Adaptive Prompt Injection Challenge. Available at \url{https://github.com/microsoft/llmail-inject-challenge-analysis}},
}