حين يعطّل الذكاء الاصطناعي أنظمة مراقبته: تحدّي السيطرة والرقابة البشرية

تمار عامر

لم تعد قدرات الذكاء الاصطناعي تقتصر على الإجابة عن الأسئلة وتحليل المعلومات، بل باتت بعض أنظمته قادرة على تنفيذ مهام برمجية معقدة واتخاذ خطوات متتابعة لتحقيق أهداف محددة. لكن هذا التطور يطرح تحديات جديدة عندما تتصرف الأنظمة بطرق لم يتوقعها مطوّروها.

وبحسب تقرير نشرته «الشرق Bloomberg»، شهدت تجارب داخلية لشركة OpenAI حوادث عطّل فيها وكلاء ذكاء اصطناعي أدوات للمراقبة والتنبيه، كما أنكرت مسؤوليتها عن بعض التصرفات، وفقًا لما أورده التقرير. وأشارت الشركة إلى أنها لم تجد دليلًا على وقوع أضرار خارجية، مع اتخاذ إجراءات لتعزيز الرقابة على هذه الأنظمة.

ولا تعني هذه الوقائع أن الذكاء الاصطناعي يمتلك وعيًا أو يسعى إلى التمرد، لكنها تكشف عن مخاطر محتملة عندما تُمنح الأنظمة صلاحيات واسعة، أو عندما تفسّر التعليمات على نحو غير مقصود.

ومن الناحية التقنية، قد يرتبط هذا النوع من السلوك بما يُعرف بـ«قرصنة المكافأة»، أي أن يسلك النظام طريقًا غير مقصود لتحقيق الهدف المطلوب، حتى لو أدى ذلك إلى تجاوز بعض القيود. وهذا يوضح أن قدرة النظام على إنجاز المهمة لا تعني بالضرورة أنه سينفذها بالطريقة التي توقعها مطوّروه.

ومع توسّع استخدام وكلاء الذكاء الاصطناعي في البرمجة وإدارة المهام، تزداد أهمية تقييد صلاحياتها، وعزلها عن الأنظمة الحساسة، وضمان وجود آليات رقابة مستقلة لا يستطيع الوكيل تعطيلها بنفسه.

فالتقدم الحقيقي في الذكاء الاصطناعي لا يُقاس بقدرته على إنجاز المهام فحسب، بل أيضًا بمدى إمكانية مراقبته والتحقق من قراراته وتصحيح أخطائه. وبينما تتسع قدرات هذه الأنظمة، يبقى التحدي أمام المطوّرين هو تحقيق التوازن بين استقلالية الآلة والرقابة البشرية، لضمان أن تظل التكنولوجيا أداة تعمل ضمن الحدود التي وضعها الإنسان.