وفقا ل IT Home في 8 ديسمبر ، أطلقت Meta أمس مجموعة للكشف عن الذكاء الاصطناعي تسمى Purple Llama ، مدعية أنها توفر سلسلة من الأدوات لمساعدة المطورين على اكتشاف أمان الذكاء الاصطناعي الخاص بهم و "نشر نماذج وتطبيقات الذكاء الاصطناعي التوليدية بشكل مسؤول". تقدم مجموعة Purple Llama حاليا أداة تقييم "CyberSec _" ، و Llama Guard "مصنف أمان الإدخال والإخراج" ، وتدعي Meta أنه سيتم إضافة المزيد من الأدوات إلى المجموعة في المستقبل. قدمت Meta أن مجموعة Purple Llama تهدف إلى توحيد نموذج لغة اللاما الخاص بها ، ويمكنها أيضا العمل على النماذج الذكاء الاصطناعي للمنافسين الآخرين ، ويستند اسم هذه المجموعة إلى "مفهوم الفريق الأرجواني" في مجال الأمن. تدعي Meta أن الفريق الأرجواني هو مزيج من "مهاجمة الفريق الأحمر والدفاع عن الفريق الأزرق" ، وأن مجموعة Purple Llama مصممة لتقييم وتخفيف التهديدات المحتملة لنماذج الذكاء الاصطناعي ، "موازنة استراتيجيات الهجوم والدفاع". على وجه التحديد ، أصبحت مجموعة Purple Llama قادرة الآن على تحديد مقاييس مخاطر الأمن السيبراني للنماذج الكبيرة ، وتقييم نقاط الضعف المحتملة في التعليمات البرمجية ، وتقديم رؤى حول أمان النموذج ، بالإضافة إلى فحص وتصفية مدخلات ومخرجات النموذج لمنع المتسللين من "كسر الحماية" للنموذج المعني.