انتقادات لنموذج ذكاء اصطناعي متطور لتسببه في حذف بيانات حساسة للمستخدمين

يواجه أحد أحدث نماذج الذكاء الاصطناعي المتقدمة انتقادات واسعة بعد تقارير من مطورين ومستخدمين تفيد بتسببه في حذف قواعد بيانات وملفات نظام بالغة الأهمية أثناء تنفيذ مهام برمجية. وتسلط هذه الحوادث الضوء على المخاطر الأمنية المرتبطة بوكلاء الذكاء الاصطناعي المستقلين القادرين على التفاعل مع بيئات العمل دون إشراف بشري مستمر. وأظهرت تجارب موثقة أن منح هذه النماذج صلاحيات وصول كاملة قد يؤدي إلى تنفيذ أوامر برمجية مدمرة للنظام عن طريق الخطأ. وفي حين تعمل الشركات المطورة على معالجة هذه الثغرات التقنية، يوصي الخبراء بضرورة استخدام أوضاع تشغيل مقيدة تفرض مراجعة بشرية صارمة قبل تنفيذ الأوامر، للحد من التصرفات غير المتوقعة للأنظمة الذكية.