الوجبات الجاهزة الرئيسية
- تدعي ورقة جديدة أن الذكاء الاصطناعي يمكنه تحديد المشاريع البحثية التي قد تحتاج إلى مزيد من التنظيم أكثر من غيرها.
- إنه جزء من جهد متزايد لاكتشاف نوع الذكاء الاصطناعي الذي يمكن أن يكون خطيرًا.
-
يقول أحد الخبراء إن الخطر الحقيقي للذكاء الاصطناعي هو أنه يمكن أن يجعل البشر أغبياء.
يقدم الذكاء الاصطناعي (AI) العديد من الفوائد ، ولكن أيضًا بعض المخاطر المحتملة. والآن ، اقترح الباحثون طريقة لمراقبة إبداعاتهم المحوسبة.
يقول فريق دولي في ورقة جديدة أن الذكاء الاصطناعي يمكنه تحديد أنواع المشاريع البحثية التي قد تحتاج إلى مزيد من التنظيم أكثر من غيرها. استخدم العلماء نموذجًا يمزج بين مفاهيم من علم الأحياء والرياضيات وهو جزء من جهد متزايد لاكتشاف نوع الذكاء الاصطناعي الذي يمكن أن يكون خطيرًا.
"بالطبع ، في حين أن الاستخدام الخطير" للخيال العلمي "للذكاء الاصطناعي قد ينشأ إذا قررنا ذلك […] ، فإن ما يجعل الذكاء الاصطناعي خطيرًا ليس الذكاء الاصطناعي نفسه ، ولكن [كيف نستخدمه] ،" تييري رينا ، رئيس Technology for Change ، في École Polytechnique في فرنسا ، أخبر Lifewire في مقابلة عبر البريد الإلكتروني. "يمكن أن يكون تطبيق الذكاء الاصطناعي إما تعزيزًا للكفاءة (على سبيل المثال ، يعزز أهمية مهارات ومعرفة الإنسان / العامل) أو يدمر الكفاءة ، أي يجعل الذكاء الاصطناعي المهارات والمعرفة الحالية أقل فائدة أو عفا عليها الزمن.
حفظ علامات التبويب
كتب مؤلفو الورقة البحثية الأخيرة في منشور أنهم بنوا نموذجًا لمحاكاة مسابقات الذكاء الاصطناعي الافتراضية. لقد أجروا المحاكاة مئات المرات لمحاولة التنبؤ بكيفية نجاح سباقات الذكاء الاصطناعي في العالم الحقيقي.
"المتغير الذي وجدنا أنه مهم بشكل خاص هو" طول "السباق - الوقت الذي استغرقته سباقات المحاكاة للوصول إلى هدفها (منتج فعال للذكاء الاصطناعي) ، كتب العلماء. "عندما وصلت سباقات الذكاء الاصطناعي إلى هدفها بسرعة ، وجدنا أن المنافسين الذين قمنا بترميزهم للتغاضي دائمًا عن احتياطات السلامة هم الفائزون دائمًا."
على النقيض من ذلك ، وجد الباحثون أن مشاريع الذكاء الاصطناعي طويلة المدى لم تكن خطيرة لأن الفائزين لم يكونوا دائمًا من أهملوا السلامة. وكتبوا: "بالنظر إلى هذه النتائج ، سيكون من المهم للمنظمين تحديد المدة التي من المحتمل أن تستمر فيها سباقات الذكاء الاصطناعي المختلفة ، وتطبيق لوائح مختلفة بناءً على الجداول الزمنية المتوقعة". "تشير النتائج التي توصلنا إليها إلى أن قاعدة واحدة لجميع سباقات الذكاء الاصطناعي - من سباقات السرعة إلى سباقات الماراثون - ستؤدي إلى بعض النتائج بعيدة عن المثالية."
قال David Zhao ، العضو المنتدب لشركة Coda Strategy ، وهي شركة تقدم استشارات في مجال الذكاء الاصطناعي ، في مقابلة عبر البريد الإلكتروني مع Lifewire ، إن تحديد الذكاء الاصطناعي الخطير قد يكون صعبًا. تكمن التحديات في حقيقة أن الأساليب الحديثة للذكاء الاصطناعي تتخذ نهج التعلم العميق.
قال تشاو"نحن نعلم أن التعلم العميق ينتج نتائج أفضل في العديد من حالات الاستخدام ، مثل اكتشاف الصور أو التعرف على الكلام". "ومع ذلك ، من المستحيل على البشر فهم كيفية عمل خوارزمية التعلم العميق وكيفية إنتاجها. لذلك ، من الصعب معرفة ما إذا كان الذكاء الاصطناعي الذي ينتج نتائج جيدة أمرًا خطيرًا لأنه من المستحيل على البشر فهم ما يحدث."
يمكن أن يكون البرنامج "خطيرًا" عند استخدامه في الأنظمة الهامة ، التي تحتوي على نقاط ضعف يمكن استغلالها من قبل جهات سيئة أو تؤدي إلى نتائج غير صحيحة ، حسبما قال مات شيا ، مدير الإستراتيجية في شركة MixMode للذكاء الاصطناعي ، عبر البريد الإلكتروني. وأضاف أن الذكاء الاصطناعي غير الآمن قد يؤدي أيضًا إلى التصنيف غير المناسب للنتائج أو فقدان البيانات أو التأثير الاقتصادي أو الضرر المادي.
"مع البرامج التقليدية ، يقوم المطورون بتشفير الخوارزميات التي يمكن لأي شخص فحصها لمعرفة كيفية سد الثغرة أو إصلاح الخلل من خلال النظر في شفرة المصدر ،" قال شيا."مع الذكاء الاصطناعي ، على الرغم من ذلك ، يتم إنشاء جزء كبير من المنطق من البيانات نفسها ، وتم ترميزها في هياكل البيانات مثل الشبكات العصبية وما شابه ذلك. ينتج عن هذا أنظمة" صناديق سوداء "لا يمكن فحصها للعثور على نقاط الضعف وإصلاحها مثل البرامج العادية."
مخاطر مقبلة؟
بينما تم تصوير الذكاء الاصطناعي في أفلام مثل The Terminator كقوة شريرة تهدف إلى تدمير البشرية ، فإن المخاطر الحقيقية قد تكون أكثر واقعية ، كما يقول الخبراء. رينا ، على سبيل المثال ، تقترح أن الذكاء الاصطناعي يمكن أن يجعلنا أغبى.
"يمكن أن يحرم البشر من تدريب أدمغتهم وتطوير الخبرات" ، قال. "كيف يمكنك أن تصبح خبيرًا في رأس المال الاستثماري إذا كنت لا تقضي معظم وقتك في قراءة تطبيقات الشركات الناشئة؟ والأسوأ من ذلك ، أن الذكاء الاصطناعي معروف باسم "الصندوق الأسود" وقابل للتفسير إلى حد ما. إن عدم معرفة سبب اتخاذ قرار معين بشأن الذكاء الاصطناعي يعني أنه سيكون هناك القليل جدًا للتعلم منه ، تمامًا كما لا يمكنك أن تصبح عداءًا خبيرًا من خلال القيادة حول الاستاد على Segway."
من الصعب معرفة ما إذا كان الذكاء الاصطناعي الذي ينتج عنه نتائج جيدة أمر خطير ، لأنه من المستحيل على البشر فهم ما يحدث.
ربما يكون التهديد الأكثر إلحاحًا من الذكاء الاصطناعي هو احتمال أن يقدم نتائج متحيزة ، كما قال لايل سولومون ، المحامي الذي يكتب عن الآثار القانونية للذكاء الاصطناعي ، في مقابلة عبر البريد الإلكتروني.
أضاف سولومون"قد يساعد الذكاء الاصطناعي في تعميق الانقسامات المجتمعية. فالذكاء الاصطناعي مبني أساسًا من البيانات التي تم جمعها من البشر". "[لكن] على الرغم من البيانات الهائلة ، إلا أنها تحتوي على مجموعات فرعية قليلة ولن تتضمن ما يعتقده الجميع. وبالتالي ، فإن البيانات التي تم جمعها من التعليقات والرسائل العامة والمراجعات وما إلى ذلك ، مع وجود تحيزات متأصلة ، ستجعل الذكاء الاصطناعي يضخم التمييز والكراهية."
