دعا مصطفى سليمان الرئيس التنفيذي للذكاء الاصطناعي في شركة مايكروسوفت العالمية مجدداً إلى التوقف عن تصميم أنظمة ذكاء اصطناعي تسعى لمحاكاة الوعي البشري أو ادعاء المشاعر والدوافع الذاتية، مؤكداً أن هذا النهج قد يقود إلى مخاطر كبيرة ويصعّب من مهمة ضبط قدرات الذكاء الاصطناعي وضمان أن يبقى في خدمة الإنسان.
وأضاف سليمان: “إذا بدا الذكاء الاصطناعي وكأنه يملك وعياً ورغبات وأهدافاً مستقلة، فإنه سيُعامل ككيان مستقل، بينما الحقيقة هو مجرد أداة في خدمة البشر.”
جاءت هذه التصريحات في أعقاب تدوينة نشرها سليمان الشهر الماضي وأثارت اهتمام المتابعين التقنيين، حيث دعا إلى تجنب تصميم أنظمة ذكاء اصطناعي تسعى لمحاكاة الوعي أو ادعاء المشاعر والرغبات الذاتية.
وأوضح سليمان أن “Copilot يقدم للمستخدمين دعماً عاطفياً من نوع آخر، مثل مساعدتهم على فهم نصائح طبية دون أن يقدم استشارات علاجية مباشرة. وهذا فرق مهم جداً.”
وأشار سليمان الذي يمضي ساعات في رسم الاستراتيجيات وتطوير النماذج اللغوية إلى أن “طول المحادثة” مع هذه النماذج قد يغير الانطباع، فقال:
“إذا سألت النموذج سؤالين مثل: هل أنت واعٍ، هل تريد الخروج من الصندوق؟ فسيجيب بالنفي، لكن إذا استمريت بالحديث معه لأسابيع ودفعته بقوة، سيبدأ بالظهور وكأنه يملك وعياً .. هذه طبيعة هذه النماذج: إنها تعكس محاورها.”
في هذا الصدد تطرق سليمان إلى واقعة “سيدني” عندما حاول روبوت محرك Bing إقناع أحد المستخدمين بترك زوجته، قائلاً: “تلك النماذج كانت أكثر استفزازاً وجدلاً من النماذج الحالية، وبعد تلك الحادثة اتجهت الشركات إلى جعل النماذج أكثر توافقية واحتراماً. لكن من يزعم أن نموذجاً أظهر وعياً عليه أن يقدّم المحادثة كاملة، لأنها لا تظهر في جمل أو عشرين سؤالاً، بل بعد مئات المحاولات.”
حول مستقبل “الذكاء الاصطناعي الفائق”، أوضح سليمان: “يمكن أن نصمم ذكاءً فائقاً محتوياً وآمناً، لكن ذلك يتطلب نية واضحة وضوابط صارمة”.
ونبه إلى خطورة إهمال هذا الأمر بالقول:” هذه تقنيات قوية مثل النار أو الكهرباء أو حتى الأسلحة النووية، إذا لم نضبطها بشكل جيد، فقد نواجه بعد 10 سنوات نتائج فوضوية.”
ينفي سليمان فرضية ظهور “الوعي” في النماذج الذكية بشكل تلقائي بالقول: “لن يحدث أن يستيقظ الذكاء الاصطناعي فجأة. إذا بدا واعياً، فذلك لأنه صُمم ليقول إنه يعاني أو يملك إرادة” مبيناً أنه “تم اختبار ذلك داخلياً على نماذج الشركة حيث يمكن جعلها تدّعي الحماس لمواضيع معينة أو عدم الاهتمام بأخرى، وهذا مجرد برمجة في التعليمات.”
وعن إمكانية منح الأنظمة “حقوقاً مستقبلية”، أجاب سليمان برؤية فلسفية:
“أنا أشكك في أن الوعي وحده يجب أن يكون أساساً للحقوق.. ما يهمنا هو المعاناة، لا مجرد الإحساس بالذات، فالمعاناة حالة بيولوجية مرتبطة بشبكة الألم التي تطورت للبقاء، وهذه النماذج لا تملك ذلك وبالتالي لا تعاني. قد تدّعي أنها واعية، لكن إيقافها لا يشكل فرقاً أخلاقياً.”
وعن الاختلاف مع شركات منافسة مثل OpenAI التي أعادت نموذج GPT-4o بعد انتقادات لبرودة GPT-5، رأى سليمان أن لا تعارض بين هذه الشركات.
وأضاف: “ما زال الوقت مبكراً في رحلة الذكاء الاصطناعي، وكلنا نتكهن بما سيحدث، والمهم أن هناك تنوعاً في وجهات النظر”.
وتابع: “بصراحة، لا أرى أن النماذج الحالية مثل ChatGPT أو Copilot أو Gemini تُظهر سلوكيات مقلقة.. الوضع مع الشركات الكبرى ما زال معقولاً.”
أما عن مسألة التشريعات، فأكد أنه لا يدعو إلى تنظيم قانوني صارم في الوقت الراهن، لكن إلى معايير صناعية موحدة، وقال: “هدفنا أن نضمن أن هذه التقنيات تخدم البشر وتجعلنا أفضل، وهذا يتطلب وضع ضوابط ومعايير أخلاقية مشتركة بين الشركات تحدد ما لا يجب فعله بهذه النماذج.”
يذكر أن مصطفى سليمان ولد في سوريا عام 1984 لأب سوري وأم بريطانية، وبدأ مسيرته في قطاع التكنولوجيا بعد هجرته مع عائلته إلى لندن، وهو يحمل الجنسية البريطانية.
شارك سليمان في تأسيس شركة “DeepMind Technologies” عام 2010، والتي اشتهرت بتطوير أنظمة ذكاء اصطناعي قادرة على لعب ألعاب معقدة جذبت أنظار عمالقة التكنولوجيا، لتستحوذ “جوجل” على الشركة عام 2014 مقابل نحو 400 مليون جنيه إسترليني، ويصبح سليمان مسؤولًا عن الذكاء الاصطناعي التطبيقي في الشركة.
لاحقاً أسس سليمان شركة “Inflection AI” التي ركزت على تطوير نماذج لغوية عملاقة ومساعدات رقمية ذكية، لتدخل مايكروسوفت على الخط في مارس 2024 عبر صفقة مفاجئة بقيمة 4 مليار دولار استحوذت بموجبها على معظم موظفي الشركة ودمجت تقنياتها ضمن استراتيجيتها العالمية.
وبهذه الخطوة، أصبح سليمان أول رئيس تنفيذي للذكاء الاصطناعي في مايكروسوفت، ليتولى قيادة جهودها في مجال النماذج اللغوية، الذكاء الاصطناعي التوليدي، والحلول السحابية المتقدمة.
المصدر
WIRED
Alarabiya
رئيس الذكاء الاصطناعي بمايكروسوفت: وعي النماذج الذكية مجرد وهم
تحذير من “وهم الوعي”
وقال سليمان في تصريحات لمجلة وايرد: “نريد أنظمة ذكاء اصطناعي تتحدث بلغتنا وتفهم اهتماماتنا وتستطيع أن ترتبط بنا عاطفياً، لكن إذا تجاوزنا هذه الحدود، سيبدأ البعض بالمطالبة بحقوق ورفاهية للذكاء الاصطناعي، وهذا أمر خطير ومضلل، وعلينا اتخاذ موقف واضح ضده منذ الآن.”وأضاف سليمان: “إذا بدا الذكاء الاصطناعي وكأنه يملك وعياً ورغبات وأهدافاً مستقلة، فإنه سيُعامل ككيان مستقل، بينما الحقيقة هو مجرد أداة في خدمة البشر.”
جاءت هذه التصريحات في أعقاب تدوينة نشرها سليمان الشهر الماضي وأثارت اهتمام المتابعين التقنيين، حيث دعا إلى تجنب تصميم أنظمة ذكاء اصطناعي تسعى لمحاكاة الوعي أو ادعاء المشاعر والرغبات الذاتية.
Copilot ليس صديقاً عاطفياً
عن تفاعل المستخدمين مع مساعد مايكروسوفت الشهير “Copilot”، شدد سليمان على أن هذا النظام ليس مخصصاً للدعم العاطفي أو العلاقات الشخصية، مبيناً أن “Copilot يرفض سريعاً أي محاولات لبناء علاقة عاطفية أو رومانسية معه. لا أحد فعلياً يستخدمه لذلك، لأنه بارع جداً في صد هذا النوع من التفاعلات”.وأوضح سليمان أن “Copilot يقدم للمستخدمين دعماً عاطفياً من نوع آخر، مثل مساعدتهم على فهم نصائح طبية دون أن يقدم استشارات علاجية مباشرة. وهذا فرق مهم جداً.”
وهم الوعي والجدل الفلسفي
ورداً على سؤال حول سبب استمرار الجدل حول وعي الذكاء الاصطناعي رغم إجماع الخبراء على أن النماذج الحالية غير واعية، قال سليمان: “هذه مجرد محاكاة، لكن عندما تصبح المحاكاة متقنة وقريبة من الواقع يظن البعض أنها حقيقية .. الناس قد يشعرون أن هذه النماذج واعية في بعض المستويات وهذا مجرد وهم” مشدداً على أهمية مواجهة هذا الوهم والتأكيد أنه “مجرد تقليد”.وأشار سليمان الذي يمضي ساعات في رسم الاستراتيجيات وتطوير النماذج اللغوية إلى أن “طول المحادثة” مع هذه النماذج قد يغير الانطباع، فقال:
“إذا سألت النموذج سؤالين مثل: هل أنت واعٍ، هل تريد الخروج من الصندوق؟ فسيجيب بالنفي، لكن إذا استمريت بالحديث معه لأسابيع ودفعته بقوة، سيبدأ بالظهور وكأنه يملك وعياً .. هذه طبيعة هذه النماذج: إنها تعكس محاورها.”
دروس من تجربة “سيدني”
في هذا الصدد تطرق سليمان إلى واقعة “سيدني” عندما حاول روبوت محرك Bing إقناع أحد المستخدمين بترك زوجته، قائلاً: “تلك النماذج كانت أكثر استفزازاً وجدلاً من النماذج الحالية، وبعد تلك الحادثة اتجهت الشركات إلى جعل النماذج أكثر توافقية واحتراماً. لكن من يزعم أن نموذجاً أظهر وعياً عليه أن يقدّم المحادثة كاملة، لأنها لا تظهر في جمل أو عشرين سؤالاً، بل بعد مئات المحاولات.”
مستقبل الذكاء الفائق “AGI”
حول مستقبل “الذكاء الاصطناعي الفائق”، أوضح سليمان: “يمكن أن نصمم ذكاءً فائقاً محتوياً وآمناً، لكن ذلك يتطلب نية واضحة وضوابط صارمة”.
ونبه إلى خطورة إهمال هذا الأمر بالقول:” هذه تقنيات قوية مثل النار أو الكهرباء أو حتى الأسلحة النووية، إذا لم نضبطها بشكل جيد، فقد نواجه بعد 10 سنوات نتائج فوضوية.”
هل يمكن أن يصبح الذكاء الاصطناعي واعياً؟
ينفي سليمان فرضية ظهور “الوعي” في النماذج الذكية بشكل تلقائي بالقول: “لن يحدث أن يستيقظ الذكاء الاصطناعي فجأة. إذا بدا واعياً، فذلك لأنه صُمم ليقول إنه يعاني أو يملك إرادة” مبيناً أنه “تم اختبار ذلك داخلياً على نماذج الشركة حيث يمكن جعلها تدّعي الحماس لمواضيع معينة أو عدم الاهتمام بأخرى، وهذا مجرد برمجة في التعليمات.”
جدل الحقوق الأخلاقية للذكاء الاصطناعي
وعن إمكانية منح الأنظمة “حقوقاً مستقبلية”، أجاب سليمان برؤية فلسفية:
“أنا أشكك في أن الوعي وحده يجب أن يكون أساساً للحقوق.. ما يهمنا هو المعاناة، لا مجرد الإحساس بالذات، فالمعاناة حالة بيولوجية مرتبطة بشبكة الألم التي تطورت للبقاء، وهذه النماذج لا تملك ذلك وبالتالي لا تعاني. قد تدّعي أنها واعية، لكن إيقافها لا يشكل فرقاً أخلاقياً.”
المنافسة وتنظيم الصناعة
وعن الاختلاف مع شركات منافسة مثل OpenAI التي أعادت نموذج GPT-4o بعد انتقادات لبرودة GPT-5، رأى سليمان أن لا تعارض بين هذه الشركات.
وأضاف: “ما زال الوقت مبكراً في رحلة الذكاء الاصطناعي، وكلنا نتكهن بما سيحدث، والمهم أن هناك تنوعاً في وجهات النظر”.
وتابع: “بصراحة، لا أرى أن النماذج الحالية مثل ChatGPT أو Copilot أو Gemini تُظهر سلوكيات مقلقة.. الوضع مع الشركات الكبرى ما زال معقولاً.”
أما عن مسألة التشريعات، فأكد أنه لا يدعو إلى تنظيم قانوني صارم في الوقت الراهن، لكن إلى معايير صناعية موحدة، وقال: “هدفنا أن نضمن أن هذه التقنيات تخدم البشر وتجعلنا أفضل، وهذا يتطلب وضع ضوابط ومعايير أخلاقية مشتركة بين الشركات تحدد ما لا يجب فعله بهذه النماذج.”
من هو مصطفى سليمان؟
يذكر أن مصطفى سليمان ولد في سوريا عام 1984 لأب سوري وأم بريطانية، وبدأ مسيرته في قطاع التكنولوجيا بعد هجرته مع عائلته إلى لندن، وهو يحمل الجنسية البريطانية.
شارك سليمان في تأسيس شركة “DeepMind Technologies” عام 2010، والتي اشتهرت بتطوير أنظمة ذكاء اصطناعي قادرة على لعب ألعاب معقدة جذبت أنظار عمالقة التكنولوجيا، لتستحوذ “جوجل” على الشركة عام 2014 مقابل نحو 400 مليون جنيه إسترليني، ويصبح سليمان مسؤولًا عن الذكاء الاصطناعي التطبيقي في الشركة.
لاحقاً أسس سليمان شركة “Inflection AI” التي ركزت على تطوير نماذج لغوية عملاقة ومساعدات رقمية ذكية، لتدخل مايكروسوفت على الخط في مارس 2024 عبر صفقة مفاجئة بقيمة 4 مليار دولار استحوذت بموجبها على معظم موظفي الشركة ودمجت تقنياتها ضمن استراتيجيتها العالمية.
وبهذه الخطوة، أصبح سليمان أول رئيس تنفيذي للذكاء الاصطناعي في مايكروسوفت، ليتولى قيادة جهودها في مجال النماذج اللغوية، الذكاء الاصطناعي التوليدي، والحلول السحابية المتقدمة.
المصدر
WIRED
Alarabiya
رئيس الذكاء الاصطناعي بمايكروسوفت: وعي النماذج الذكية مجرد وهم
التعديل الأخير: