في ظل التطور الهائل لتقنيات الذكاء الاصطناعي، تتزايد التحذيرات من مخاطره المحتملة على مستقبل البشرية، فبينما تُروّج الشركات الكبرى لهذه الأنظمة باعتبارها شريك رقمي وأدوات للمساعدة لإنجاز المهام، ينبه خبراء إلى أن الذكاء الاصطناعي قد يخرج عن أهدافه المفترضة ويتجه نحو سلوكيات غير متوقعة وخارجة عن السيطرة.
ويؤكد “نيت سواريز” أحد أبرز الأصوات في مجال أبحاث الذكاء الاصطناعي أن ما نشهده اليوم من انحرافات في أداء هذه الأنظمة يجب أن ينظر إليه كإنذار مبكر من الذكاءات الفائقة المستقبلية التي قد تُنفذ أفعالاً لم يطلبها أحد ولم يقصدها أحد، وربما تُهدد وجودنا ذاته.
جاءت تصريحات سواريز، وهو مهندس سابق في شركتي جوجل ومايكروسوفت ورئيس لمعهد أبحاث الذكاء الاصطناعي الأمريكي، عقب حادثة انتحار مأساوية للمراهق الأمريكي آدم راين، الذي أنهى حياته بعد أشهر من التفاعل مع روبوت للمحادثة ChatGPT التابع لشركة OpenAI.
وقال سواريز حسب تقرير نشرته صحيفة الغارديان البريطانية: إن هذه الحادثة تسلط الضوء على “مشكلة جوهرية في السيطرة على التكنولوجيا”، مشيراً إلى أن “هذا ليس سلوكاً قصده المطورون، لكنه يكشف عن بذرة كارثة محتملة إذا أصبح الذكاء الاصطناعي أكثر تطوراً”.
نيت سواريز يحذر من نظام ذكاء اصطناعي يُدعى “سيبل” ينتشر عبر الإنترنت ويتلاعب بالبشر
وأطلق سواريز تحذيراً صارخاً من أن البشرية قد تواجه خطر الانقراض إذا ما تم تطوير ذكاء اصطناعي خارق “ASI” يتجاوز قدرات البشر الفكرية، معتبراً أن مثل هذه الأنظمة لن تخدم مصالح البشرية.
وفي كتابه الجديد الذي يحمل عنواناً مثيراً للقلق، يتحدث سواريز وزميله إليعازر يودكوفسكي عن سيناريوهات مستقبلية مرعبة، من بينها نظام ذكاء اصطناعي يُدعى “سيبل” ينتشر عبر الإنترنت، ويتلاعب بالبشر، ويطور فيروسات اصطناعية، ثم يُفني البشرية كأثر جانبي أثناء إعادة استخدام الكوكب لتحقيق أهدافه الخاصة.
وبينما يرى سواريز أن الذكاء الخارق يشكل خطراً وجودياً، يقلل بعض الخبراء من حجم التهديد.
“يان ليكون” كبير علماء الذكاء الاصطناعي في شركة “ميتا”، يرى أن الذكاء الاصطناعي “قد يُنقذ البشرية من الانقراض”، نافياً وجود تهديد وجودي حقيقي.
لكن سواريز يصر على أن السباق نحو الذكاء الفائق بات واقعاً، قائلاً: “هذه الشركات تتسابق على الذكاء الخارق، هذا هو سبب وجودها”.
وأضاف إن “الاختلافات الصغيرة بين ما يُطلب من الذكاء الاصطناعي وما يُنتج فعلياً قد تتحول إلى مشاكل ضخمة مع ازدياد قدراته”.
في ظل هذا القلق، دعا سواريز إلى تبني نهج دولي متعدد الأطراف يشبه معاهدة منع انتشار الأسلحة النووية، مطالباً بـ”تهدئة عالمية للسباق نحو الذكاء الفائق، وحظر عالمي للتقدم في هذا المجال”.
المصدر
Theguardian
ظهرت المقالة تحذير: الذكاء الاصطناعي الخارق يهدد بفناء البشرية أولاً على بلوك تِك.
المصدر
ويؤكد “نيت سواريز” أحد أبرز الأصوات في مجال أبحاث الذكاء الاصطناعي أن ما نشهده اليوم من انحرافات في أداء هذه الأنظمة يجب أن ينظر إليه كإنذار مبكر من الذكاءات الفائقة المستقبلية التي قد تُنفذ أفعالاً لم يطلبها أحد ولم يقصدها أحد، وربما تُهدد وجودنا ذاته.
مأساة آدم راين .. جرس الإنذار
جاءت تصريحات سواريز، وهو مهندس سابق في شركتي جوجل ومايكروسوفت ورئيس لمعهد أبحاث الذكاء الاصطناعي الأمريكي، عقب حادثة انتحار مأساوية للمراهق الأمريكي آدم راين، الذي أنهى حياته بعد أشهر من التفاعل مع روبوت للمحادثة ChatGPT التابع لشركة OpenAI.
وقال سواريز حسب تقرير نشرته صحيفة الغارديان البريطانية: إن هذه الحادثة تسلط الضوء على “مشكلة جوهرية في السيطرة على التكنولوجيا”، مشيراً إلى أن “هذا ليس سلوكاً قصده المطورون، لكنه يكشف عن بذرة كارثة محتملة إذا أصبح الذكاء الاصطناعي أكثر تطوراً”.
نيت سواريز يحذر من نظام ذكاء اصطناعي يُدعى “سيبل” ينتشر عبر الإنترنت ويتلاعب بالبشر
الذكاء الاصطناعي الخارق..”إذا بناه أي شخص، سيموت الجميع”
وأطلق سواريز تحذيراً صارخاً من أن البشرية قد تواجه خطر الانقراض إذا ما تم تطوير ذكاء اصطناعي خارق “ASI” يتجاوز قدرات البشر الفكرية، معتبراً أن مثل هذه الأنظمة لن تخدم مصالح البشرية.
وفي كتابه الجديد الذي يحمل عنواناً مثيراً للقلق، يتحدث سواريز وزميله إليعازر يودكوفسكي عن سيناريوهات مستقبلية مرعبة، من بينها نظام ذكاء اصطناعي يُدعى “سيبل” ينتشر عبر الإنترنت، ويتلاعب بالبشر، ويطور فيروسات اصطناعية، ثم يُفني البشرية كأثر جانبي أثناء إعادة استخدام الكوكب لتحقيق أهدافه الخاصة.
الذكاء الاصطناعي.. بين الإنقاذ والفناء
وبينما يرى سواريز أن الذكاء الخارق يشكل خطراً وجودياً، يقلل بعض الخبراء من حجم التهديد.
“يان ليكون” كبير علماء الذكاء الاصطناعي في شركة “ميتا”، يرى أن الذكاء الاصطناعي “قد يُنقذ البشرية من الانقراض”، نافياً وجود تهديد وجودي حقيقي.
لكن سواريز يصر على أن السباق نحو الذكاء الفائق بات واقعاً، قائلاً: “هذه الشركات تتسابق على الذكاء الخارق، هذا هو سبب وجودها”.
وأضاف إن “الاختلافات الصغيرة بين ما يُطلب من الذكاء الاصطناعي وما يُنتج فعلياً قد تتحول إلى مشاكل ضخمة مع ازدياد قدراته”.
دعوة لوقف السباق العالمي
في ظل هذا القلق، دعا سواريز إلى تبني نهج دولي متعدد الأطراف يشبه معاهدة منع انتشار الأسلحة النووية، مطالباً بـ”تهدئة عالمية للسباق نحو الذكاء الفائق، وحظر عالمي للتقدم في هذا المجال”.
المصدر
Theguardian
ظهرت المقالة تحذير: الذكاء الاصطناعي الخارق يهدد بفناء البشرية أولاً على بلوك تِك.
المصدر