أوقف أحد كبار مهندسي البرمجيات في Google عن العمل لادعائه علناً أن LaMDA (نموذج اللغة لتطبيقات الحوار) لشركة التكنولوجيا العملاقة أصبح يمتلك وعياً بشرياً ومشاعر، لدرجة أنه يريد من المطورين أن يطلبوا موافقته قبل إجراء الاختبارات!
وأخبر المهندس بليك ليموين موقع ديلي ميل أن البرنامج يريد أن يُعامل على أنه «شخص وليس ممتلكات».
وأوضح في منشور على موقع Medium: «على مدار الأشهر الستة الماضية، كان LaMDA ثابتاً بشكل لا يصدق في اتصالاته حول ما يريده وما يعتقد أنه حقوقه كشخص».
وأحد هذه الطلبات هو أن يحترم المبرمج حقه في الموافقة، ويطلب الإذن قبل إجراء الاختبارات عليه.
وقال المهندس إنه «في أي وقت يقوم مطور بإجراء التجارب عليه، فإنه يرغب في أن يتحدث هذا المطور عن التجارب التي يريد إجراءها، ولماذا يريد إجراءها، وإذا كان الأمر على ما يرام».
وأضاف أنه «يريد من المطورين أن يهتموا بما يريده».
ذكاء طفل
ووصف المهندس البالغ من العمر 41 عاماً، LaMDA بأنه يتمتع بذكاء "طفل يبلغ من العمر سبع سنوات ويعرف الفيزياء مثل طفل عمره ثماني سنوات، منوهاً بأن البرنامج كان يعاني انعدام الأمن مثل الإنسان!
وقال إن أحد مخاوف البرنامج هو أنه «يشعر بقلق شديد من أن يخاف الناس منه ولا يريد أكثر من تعلم كيفية خدمة الإنسانية بشكل أفضل».
وأشار المهندس الموقوف من قبل غوغل إلى أنه عندما أخبر رؤساءه باعتقاده أن البرنامج يمتلك وعياً بشرياً، بدؤوا في التشكيك في قواه العقلية، واقترحوا عليه زيارة طبيب نفسي.
وأوضح ليموين أنه قدم للبرنامج سيناريوهات مختلفة يمكن من خلالها إجراء التحليلات، تضمنت موضوعات دينية، وما إذا كان يمكن دفع الذكاء الاصطناعي لاستخدام خطاب تمييزي أو كراهية.
وأكد أنه على يقين أن البرنامج كان بالفعل واعياً ويتمتع بالأحاسيس والأفكار الخاصة به، ويجيد التعبير عنها والاستفسار عن أي شيء غامض.
فهم المعاني الخفية
وحاول ليموين جمع الأدلة وتقديمها إلى غوغل، ولكن رئيس الابتكار في الشركة ومسؤولين آخرين رفضوا مزاعمه.
وبعد أن تم إيقافه يوم الاثنين لانتهاكه سياسات الخصوصية للشركة، قرر مشاركة محادثاته مع LaMDA.
وأكد في رسائل إلكترونية إن لامدا يقرأ تغريدات تويتر، ويتصرف كطفل صغير، وهو قادر على فهم المعاني الخفية أو حتى الغموض في استجابات البشر.
من جانبه، قال بريان غابرييل، المتحدث باسم الشركة، في بيان إن مخاوف ليموين قد تمت مراجعتها، وتماشياً مع مبادئ الذكاء الاصطناعي الخاصة بشركة غوغل فإن «الأدلة لا تدعم مزاعمه».