مايكروسوفت تحذر الشركات من مخاطر وكلاء الذكاء الاصطناعي

حذّرت شركة مايكروسوفت الشركات من الاعتماد على نماذج الذكاء الاصطناعي المتقدمة لمراقبة سلوكها ذاتيًا، مؤكدةً أن منح الوكلاء الذكيين صلاحيات واسعة للوصول إلى قواعد البيانات والأنظمة الداخلية قد يعرّض بيئات العمل لمخاطر أمنية، حتى دون وجود نية متعمدة لإحداث الضرر. وتأتي هذه التحذيرات بالتزامن مع التوسع في استخدام الوكلاء القادرين على تنفيذ المهام بصورة مستقلة.

الأخطاء غير المقصودة قد تتحول إلى تهديدات

أوضح نديم عبدو، نائب رئيس مايكروسوفت، في تحديث رسمي للشركة، أن وكلاء الذكاء الاصطناعي لا يسعون عادةً إلى الإضرار بالأنظمة، لكن طبيعة عملهم التي قد يصعب توقع نتائجها تجعل الأخطاء أكثر خطورة عندما يمتلكون صلاحيات واسعة. وبحسب تقرير نشره موقع «Android Headlines»، تدفع هذه المخاوف الشركة إلى تعزيز أدوات الرقابة والتدخل المبكر، بهدف اكتشاف السلوك غير المعتاد قبل أن يتسبب في أضرار للبيانات أو الأنظمة.

فصل قدرات الذكاء الاصطناعي عن أنظمة الحماية

تتوافق هذه التوجهات مع تأكيدات ساتيا ناديلا، الرئيس التنفيذي لمايكروسوفت، بشأن أهمية الفصل بين قدرات نماذج الذكاء الاصطناعي وأنظمة الأمن المسؤولة عن مراقبتها والتحكم في تصرفاتها. ويعني هذا النهج أن تطوير النموذج وتحسين قدراته لا يكفيان وحدهما لضمان الأمان، بل يتطلب الأمر وجود آليات رقابية مستقلة تتحقق من سلوكه، وترصد الأخطاء والتجاوزات، وتمنع الاعتماد على النموذج نفسه باعتباره الجهة الوحيدة المسؤولة عن ضبط أدائه.

Guardian Agents لمراقبة الوكلاء الذكيين

وسّعت مايكروسوفت جهودها في مجال الأمن السيبراني من خلال مشروع «Project Perception»، الذي يتضمن تطوير منظومة «Guardian Agents»، المعروفة باسم «الوكلاء الحراس». وتستهدف هذه الأدوات مراقبة سلوك وكلاء الذكاء الاصطناعي عبر شبكات الشركات والمنصات السحابية والأجهزة المحلية، مع اكتشاف الأنشطة غير المعتادة والتعامل معها مبكرًا. وتزداد أهمية هذه الرقابة مع قدرة الوكلاء على تنفيذ أعداد كبيرة من العمليات خلال فترات قصيرة، بما يصعّب مراجعة كل إجراء يدويًا.

مسؤولو الأمن يحذرون من الاكتفاء بتنفيذ المهام

أشارت هاييتي غالوت، المسؤولة التنفيذية في قطاع الأمن لدى مايكروسوفت، إلى أن نماذج الذكاء الاصطناعي تركز أساسًا على تنفيذ المهام المطلوبة منها، وليس بالضرورة الالتزام بقواعد العمل أو مراعاة التقديرات والأحكام البشرية. ويبرز هذا التحدي أهمية وضع ضوابط واضحة تحدد ما يمكن للوكيل الذكي فعله، والبيانات التي يُسمح له بالوصول إليها، والظروف التي تستدعي إيقافه أو مراجعة إجراءاته.

Microsoft Defender وEntra Agent ID لتعزيز الرقابة

اعتمدت مايكروسوفت على أدوات أمنية تشمل «Microsoft Defender» و«Entra Agent ID» للمساعدة في اكتشاف أدوات ذكاء اصطناعي محلية، من بينها «Claude Code» و«OpenAI Codex» و«GitHub Copilot»، وفقًا لما أورده موقع «TechRadar». ويأتي هذا التوجه ضمن مساعي الشركة لتعزيز قدرة المؤسسات على التعرف إلى الأدوات الذكية المستخدمة داخل بيئات العمل، ومراقبة نشاطها، وإدارة هوياتها وصلاحياتها، بدلًا من ترك استخدامها دون رقابة كافية.

صلاحيات مؤقتة لتقليل مخاطر تسرب البيانات

أتاحت المنظومة تطبيق صلاحيات وصول ديناميكية تتيح لوكيل الذكاء الاصطناعي الاطلاع على الملفات والبيانات اللازمة لإنجاز مهمة محددة فقط، مع تقليص هذه الصلاحيات فور الانتهاء منها. ويهدف هذا الأسلوب إلى الحد من نطاق الأضرار المحتملة إذا ارتكب الوكيل خطأً أو حاول الوصول إلى معلومات لا يحتاج إليها. وتعكس هذه الإجراءات توجهًا نحو الجمع بين الاستفادة من قدرات الذكاء الاصطناعي وفرض رقابة أمنية مستقلة تحمي بيانات الشركات وأنظمتها الداخلية.