جهاز من مايكروسوفت لمنع انفلات الروبوت

نجح فريق من الخبراء والمهندسين المنتمين إلى شركة مياكروسوفت الأمريكية في ابتكار جهاز بإمكانه مراقبة انفلات الروبوت وعصيان أجهزة الذكاء الاصطناعي عامة. ووفقاً لتقرير لموقع ساينس ألرت، الأسترالي، اطلعت عليه «الرؤية»، ستكون مايكروسوفت أحدث شركة تكنولوجية عالمية تحاول التعامل مع الخلل الخوارزمي في الذكاء الاصطناعي الذي يتغذى على البيانات الفرعية، وجاءت لتعكس الاضطرابات المجتمعية الخاصة أو الانفلاتات التي تبديها بعض الروبوتات. وترغب الشركة في إنشاء جهاز يتولى الكشف عن الأشخاص وتنبيههم إلى خوارزميات الذكاء الاصطناعي التي قد تحلل وضعية البشر بناءً على جنسهم أو لونهم، وفقاً لتقرير (إم آي تي تكنولوجي ريفيو). وامتدح خبراء خطوة انضمام شركة مايكروسوفت، التي تطرح نفسها باعتبارها شركة تتبنى منظومة الذكاء الاصطناعي، إلى صفوف كل من غوغل وفيسبوك لإنشاء نوع من الأجهزة للعثور على كيفية خلق رقابة أخلاقية وتقنية على وسائل الذكاء الاصطناعي المدرّبة بشكل غير صحيح. وتعتمد خوارزمية مايكروسوفت الجديدة تقنية العثور على خوارزميات سلبية والمشاكل الموجودة والإبلاغ عنها، وهذا يعني أن البرامج التي يمكن أن تؤدي إلى زيادة الانفلات، على سبيل المثال، سوف يجرى بناؤها واستخدامها، خصوصاً وأنه لم يتم اكتشافه من طرف خبراء الأمن. ومن أجل بناء منظومة الذكاء الاصطناعي بطريقة أخلاقية نزيهة ومفيدة للجميع، يجب إيلاء المزيد من الرعاية في الواجهة الأمامية للروبوتات وعدم منحها صلاحيات تفكير واسعة. وتكمن إحدى الطرق الممكنة التي يمكن للشركات عبرها تغطية قواعدها في التدقيق من طرف متدخل ثالث، حيث تجلب إحدى شركات التكنولوجيا خبيراً خارجياً لمراجعة خوارزمياتها والبحث عن علامات الانفلات إما في الشفرة نفسها أو في البيانات التي يتم إدخالها فيها. واكتسبت فكرة مراجعة الذكاء الاصطناعي، المذكورة في مقال صادر عن معهد ماساتشوستس للتكنولوجيا، قوة جذب في أماكن أخرى، وبدأت بعض شركات الذكاء الاصطناعي توظيف مراجعين لإلقاء نظرة على شفرتهم ومتابعة حالة الروبوت بعد انتهاء التصنيع وقبل طرحه للاستعمال النهائي.