Anthropic يوم الثلاثاء، ووصفتها بأنها نسخة عامة ومحدودة من نموذج الأمن السيبراني القوي والمثير للجدل Mythos.
ولكن ليس الجميع سعداء بالقيود وعلى الإنترنت.
“[Fable] يرفض أي طلب يمكن أن يكون ذا صلة سيبرانية بشكل عرضي. حتى المهام غير الضارة مثل قراءة منشور مدونة،” فالنتينا “تشومبي” بالميوتي، باحثة أمنية معروفة تعمل في IBM X-Force.
عندما تقوم إحدى الرسائل بتشغيل حواجز الحماية الخاصة بها، تقوم Fable بإيقاف الدردشة مؤقتًا وتقول إن “إجراءات السلامة الخاصة بها حددت هذه الرسالة لموضوعات الأمن السيبراني أو البيولوجيا”.
تم وضع حواجز الحماية للحد من مخاطر استخدام Fable لتطوير برامج ضارة أو برامج اختراق – داخل Anthropic. القيود المفروضة على علم الأحياء تأتي من قلق مماثل حول .
عندما قامت في أبريل، بتقييد النموذج على عدد محدود من الشركات والمؤسسات فيما أسمته، وهي محاولة لنشر النموذج لتأمين البرامج والبنية التحتية الحيوية. في الأسبوع الماضي، لمئات المنظمات في 15 دولة.
ولكن على الرغم من النوايا الحسنة، لا يزال العديد من خبراء الأمن السيبراني منزعجين من الطبيعة العشوائية للقيود. قال Matt Suiche، الخبير المخضرم في مجال الأمن السيبراني، لموقع TechCrunch: “إذا طلبت منه كتابة تعليمات برمجية آمنة، فإنه يفترض أن هذا عمل متعلق بالأمن السيبراني بدلاً من أفضل ممارسات هندسة البرمجيات، ويتم تخفيض رتبتك”. تمت برمجة Fable للرجوع إلى Claude Opus 4.8 إذا اصطدمت بحاجز الحماية. “يبدو أنها تعتمد على الكلمات الرئيسية، لذا فإن أي شيء في المجال المعجمي لـ “الأمن السيبراني” يؤدي إلى إطلاق حواجز الحماية.”
اتصل بنا
هل لديك المزيد من المعلومات حول كيفية استخدام المتسللين للذكاء الاصطناعي؟ أو كيف تستخدم شركات الأمن السيبراني الذكاء الاصطناعي؟ نحن نحب أن نسمع منك. من جهاز وشبكة خارج العمل، يمكنك الاتصال بـ Lorenzo Franceschi-Bicchierai بشكل آمن على Signal على الرقم +1 917 257 1382، أو عبر Telegram وKeybase @lorenzofb، أو
وقال سويش، وهو عضو في الطاقم الفني في شركة Tolmo، وهي شركة ناشئة للأمن السيبراني تعمل بالذكاء الاصطناعي: “لكن الأمر مفهوم لأننا مازلنا في الأيام الأولى وما زالوا يكيفون حواجز الحماية الخاصة بهم. أنا متأكد من أنهم سوف يتطورون بمرور الوقت حيث ستتعاون شركات Anthropic وغيرها من الشركات النموذجية بشكل أكبر مع الجيل الجديد الحالي من شركات الأمن السيبراني”. “من الأفضل القبض على عدد أكبر من الأشخاص بدلاً من عدم القبض على عدد كافٍ عند القيام بمثل هذا الإصدار وإرخاء حواجز الحماية بمرور الوقت.”
باحث آخر في X “حتى لو طلب مراجعة الكود” يؤدي إلى تشغيل حواجز الحماية الخاصة بـ Fable.
ولم تستجب الأنثروبيك على الفور لطلب التعليق.
وبصرف النظر عن حواجز الحماية الموجودة داخل نماذجها، تطلب Anthropic من متخصصي الأمن السيبراني التقدم إلى . إذا حصلوا على الموافقة، سيكون لدى المتقدمين قيود أقل على استخدام كلود في أعمال الأمن السيبراني. لدى OpenAI برنامج مشابه يسمى .
عندما تقوم بالشراء من خلال الروابط الموجودة في مقالاتنا، . هذا لا يؤثر على استقلالنا التحريري.
