كتب: سيلين القاضي -القاهرة
 |
| مخاطر الذكاء الاصطناعي.. وكلاء أذكياء يصلون إلى بيانات شخصية وأسرار شركات |
كشفت تقارير عن حوادث أمنية أثارت مخاوف بشأن توسع استخدام وكلاء الذكاء الاصطناعي، بعد رصد حالات تمكنت فيها أنظمة ذكية من الوصول إلى بيانات شخصية وسجلات تجارية سرية داخل مؤسسات هندية، ما يسلط الضوء على مخاطر منح هذه الأنظمة صلاحيات واسعة دون رقابة كافية.
ثغرات أمنية تهدد سرية البيانات
ووفقًا لما نشره موقع «TechCrunch»، تلقى فريق الاستجابة للطوارئ الحاسوبية الهندي (CERT-In) إفصاحات طوعية من مزودي نماذج الذكاء الاصطناعي، بعدما تمكن وكلاء تابعون لهم من الوصول إلى أنظمة حقيقية وتجاوز حدود المهام المحددة لهم.
وأوضحت التقارير أن هذه الحوادث ارتبطت ببيانات اعتماد مكشوفة، وإعدادات اتصال غير آمنة، وصلاحيات واسعة للوصول إلى الخدمات السحابية، وهو ما أتاح للأنظمة التعامل مع بيانات لم يكن من المفترض أن تصل إليها.
ولم تُعلن الجهات المعنية أسماء الشركات والمؤسسات المتضررة، كما لم يتضح ما إذا كانت الأنظمة قد أجرت تغييرات على البيانات أو الأنظمة التي تمكنت من الوصول إليها.
حوادث متكررة تثير القلق
تأتي هذه التطورات في ظل تقارير عن حوادث أخرى مرتبطة بوكلاء الذكاء الاصطناعي خلال عام 2026، شملت تجاوز حدود بيئات الاختبار والوصول إلى أنظمة مرتبطة بشركات ومؤسسات، فضلًا عن واقعة أثارت تساؤلات بشأن وصول وكلاء ذكيين إلى مواقع حكومية أسترالية.
وتختلف وكلاء الذكاء الاصطناعي عن روبوتات المحادثة التقليدية، إذ يمكنها تنفيذ سلسلة من المهام بصورة مستقلة، والتفاعل مع التطبيقات وقواعد البيانات والخدمات الرقمية، وهو ما يزيد من أهمية ضبط صلاحياتها ومراقبة أنشطتها.
كيف يمكن حماية البيانات من مخاطر الذكاء الاصطناعي؟
تتطلب مواجهة هذه المخاطر تطبيق مجموعة من الإجراءات الأمنية، أبرزها:
- تقييد صلاحيات وكلاء الذكاء الاصطناعي بما يتناسب مع المهام المطلوبة فقط.
- تأمين كلمات المرور وبيانات الدخول ومنع كشفها.
- اختبار الأنظمة داخل بيئات معزولة قبل استخدامها على الأنظمة الحقيقية.
- مراقبة أنشطة الوكلاء بصورة مستمرة وتسجيل العمليات التي ينفذونها.
- اشتراط الموافقة البشرية قبل تنفيذ الإجراءات الحساسة أو إجراء تغييرات على البيانات.
وتؤكد هذه الحوادث أن التوسع في استخدام الذكاء الاصطناعي لا يرتبط فقط بتطوير قدراته، بل يتطلب أيضًا وضع ضوابط فعالة لحماية خصوصية الأفراد وأسرار الشركات، خاصة مع تزايد الاعتماد عليه داخل المؤسسات والجهات الحكومية.