الوجبات الجاهزة الرئيسية
- يبدو أن نظام AI المسمى DALL-E2 قد أنشأ نظام الاتصال الكتابي الخاص به.
- يقول بعض الخبراء أن اللغة الظاهرة قد تكون مجرد رطانة.
- إنه مثال على مدى صعوبة تفسير نتائج أنظمة الذكاء الاصطناعي المتقدمة.
يبدو أن الذكاء الاصطناعي (AI) قد طور لغته الخاصة ، لكن بعض الخبراء يشككون في هذا الادعاء.
يبدو أن نظام OpenAI's AI للنص إلى الصورة المسمى DALL-E2 قد أنشأ نظام الاتصال الكتابي الخاص به. إنه مثال على مدى صعوبة تفسير نتائج أنظمة الذكاء الاصطناعي المتقدمة.
"نظرًا لحجم النماذج الكبيرة وعمقها ، من الصعب جدًا شرح سلوك النموذج" ، كما قالت تيريزا أونيل ، مديرة هندسة الحلول لفهم اللغة الطبيعية في iMerit ، لـ Lifewire في مقابلة عبر البريد الإلكتروني. "هذا هو أحد التحديات الأساسية ، وفي بعض الحالات ، القضايا الأخلاقية مع نماذج قوية بشكل متزايد. إذا لم نتمكن من شرح سبب تصرفهم كما يتصرفون ، فهل يمكننا التنبؤ بسلوكهم أو جعله يتماشى مع معاييرنا وتوقعاتنا؟"
AI Chats
لاحظ طالب علوم الكمبيوتر جيانيس داراس مؤخرًا أن نظام DALLE-2 ، الذي ينشئ صورًا استنادًا إلى إدخال النص ، سيعيد الكلمات غير المنطقية كنص في ظروف معينة.
كتب في بحث نُشر على خادم ما قبل الطباعة Arxiv: "أحد القيود المعروفة لـ DALLE-2 هو أنه يكافح مع النص". "على سبيل المثال ، تؤدي المطالبات النصية مثل:" صورة لكلمة طائرة "غالبًا إلى إنشاء صور تصور نصًا مبهمًا."
لكن ، كتب داراس ، قد يكون هناك طريقة وراء الهراء الظاهر. وتابع: "نكتشف أن هذا النص الناتج ليس عشوائيًا ، ولكنه يكشف عن مفردات مخفية يبدو أن النموذج قد طورها داخليًا". "على سبيل المثال ، عند التغذية بهذا النص المبهم ، ينتج النموذج بشكل متكرر الطائرات."
في تغريدته ، أشار داراس إلى أنه عندما طُلب من DALLE-2 ترجمة محادثة بين مزارعين ، أظهرهما يتحدثان ، لكن فقاعات الكلام امتلأت بما بدا وكأنه كلمات لا معنى لها. لكن داراس اكتشف أن الكلمات يبدو أن لها معانيها الخاصة للذكاء الاصطناعي: كان المزارعون يتحدثون عن الخضار والطيور.
أوضح نيكولا دافوليو ، الرئيس التنفيذي لشركة التكنولوجيا Hupry ، التي تعمل مع AI ، لـ Lifewire في مقابلة عبر البريد الإلكتروني أن اللغة تستند إلى الرموز التي تعلم نظام DALL-E2 ربطها بمفاهيم معينة. على سبيل المثال ، قد يكون رمز "كلب" مرتبطًا بصورة كلب ، بينما قد يرتبط رمز "قطة" بصورة قطة.ابتكرت DALL-E2 لغتها لأنها تمكنها من التواصل بشكل أكثر فعالية مع أنظمة الذكاء الاصطناعي الأخرى.
الألغاز مثل المفردات المخفية على ما يبدو لـ DALL-E2 هي متعة في المصارعة معها ، لكنها أيضًا تسلط الضوء على أسئلة أثقل …
وأضاف"تتكون اللغة من رموز تشبه الحروف الهيروغليفية المصرية ولا يبدو أن لها أي معنى محدد". "ربما لا معنى للرموز بالنسبة للبشر ، لكنها منطقية تمامًا لنظام الذكاء الاصطناعي لأنه تم تدريبه على ملايين الصور."
قال دافوليويعتقد الباحثون أن نظام الذكاء الاصطناعي أنشأ اللغة لمساعدته على فهم العلاقات بين الصور والكلمات بشكل أفضل.
أضاف دافوليو"إنهم غير متأكدين من سبب تطوير نظام الذكاء الاصطناعي لغته ، لكنهم يشكون في أنه قد يكون له علاقة بكيفية تعلمه لإنشاء الصور". "من الممكن أن يكون نظام الذكاء الاصطناعي قد طور لغته لجعل الاتصال بين أجزاء الشبكة المختلفة أكثر كفاءة."
ألغاز الذكاء الاصطناعي
أشار دافوليو إلى أنDALL-E2 ليس نظام الذكاء الاصطناعي الوحيد الذي طور لغته الداخلية. في عام 2017 ، أنشأ نظام AutoML من Google شكلاً جديدًا من العمارة العصبية يسمى "شبكة الأطفال" بعد أن تُرك ليقرر أفضل السبل لإكمال مهمة معينة. كانت شبكة الأطفال هذه غير قادرة على أن يفسرها صناعها البشريون.
قال دافوليو"هذه الأمثلة ليست سوى أمثلة قليلة طورت فيها أنظمة الذكاء الاصطناعي طرقًا للقيام بأشياء لا يمكننا تفسيرها". "إنها ظاهرة ناشئة رائعة ومثيرة للقلق بنفس القدر. نظرًا لأن أنظمة الذكاء الاصطناعي أصبحت أكثر تعقيدًا واستقلالية ، فقد نجد أنفسنا بشكل متزايد في موقف لا نفهم كيفية عملها."
قالت أونيل إنها لا تعتقد أن DALL-E2 تبتكر لغتها الخاصة. بدلاً من ذلك ، قالت إن سبب الاختراع اللغوي الظاهر ربما يكون أكثر غموضًا.
"أحد التفسيرات المعقولة هي فرصة عشوائية - في نموذج بهذا الحجم ، قد ينطبق القليل من قانون مورفي: إذا حدث شيء غريب ، فمن المحتمل أن يحدث" ، أضاف أونيل. هناك احتمال آخر اقترحه المحلل البحثي بنجامين هيلتون في موضوع على تويتر يناقش نتائج داراس وهو أن شكل عبارة "apoploe vesrreaitais" يحاكي شكل الاسم اللاتيني للحيوان. وأضاف أونيل أن النظام أنتج أمرًا جديدًا من Aves.
"الألغاز مثل المفردات المخفية على ما يبدو لـ DALL-E2 هي متعة في المصارعة معها ، ولكنها أيضًا تسلط الضوء على أسئلة أثقل حول المخاطر والتحيز والأخلاق في السلوك الغامض في كثير من الأحيان للعارضين الكبار ،" قال أونيل
