أخطاء الذكاء الاصطناعي أغرب بكثير من أخطاء البشر
يرتكب البشر أخطاءً طوال الوقت. جميعنا نفعل ذلك يوميًا، سواءً في مهام جديدة أو روتينية. بعض أخطائنا طفيفة وبعضها كارثية. قد تُزعزع هذه الأخطاء ثقة أصدقائنا، أو تُفقدنا ثقة رؤسائنا، وقد تُحدث أحيانًا فرقًا بين الحياة والموت. على مر آلاف السنين، ابتكرنا أنظمة أمنية للتعامل مع أنواع الأخطاء الشائعة التي يرتكبها البشر. في هذه الأيام، تُغير الكازينوهات موزعيها بانتظام، لأنهم يرتكبون أخطاءً إذا استمروا في أداء المهمة نفسها لفترة طويلة. يكتب موظفو المستشفيات على الأطراف قبل الجراحة ليُجري الأطباء العملية على الجزء الصحيح من الجسم، ويحصون الأدوات الجراحية للتأكد من عدم وجود أي منها داخل الجسم. من تحرير النصوص إلى مسك الدفاتر بنظام القيد المزدوج إلى محاكم الاستئناف، أصبحنا نحن البشر بارعين جدًا في تصحيح الأخطاء البشرية. تُدمج البشرية الآن بسرعة نوعًا مختلفًا تمامًا من مُرتكبي الأخطاء في المجتمع: الذكاء الاصطناعي. تستطيع تقنيات مثل نماذج اللغة الكبيرة (LLMs) أداء العديد من المهام المعرفية التي كان البشر يُنجزونها تقليديًا، لكنها تُرتكب الكثير من الأخطاء. يبدو الأمر سخيفًا عندما تطلب منك برامج الدردشة الآلية أكل الصخور أو إضافة الغراء إلى البيتزا.
قراءة مقترحة
الأخطاء البشرية مقابل أخطاء الذكاء الاصطناعي
يمكن تلخيص الفارق الأساسي في أن أخطاء البشر غالبًا ما تكون متوقعة ومرتبطة بحدود المعرفة أو التعب، بينما تظهر أخطاء الذكاء الاصطناعي بثقة عالية وفي مواضع تبدو غير متوقعة.
مقارنة نمط الخطأ بين الطرفين
تميل الأخطاء إلى الظهور عند حافة معرفة الشخص، وتتجمع معًا، وتتأثر بالتعب والتشتت، وغالبًا ما يصاحبها اعتراف بعدم المعرفة.
قد تظهر الأخطاء في موضوعات متباعدة وبطريقة تبدو عشوائية، مع ثقة مماثلة تقريبًا في الإجابات الصحيحة والخاطئة، ما يصعّب الوثوق بمنطقه في المسائل متعددة الخطوات.
كيفية التعامل مع أخطاء الذكاء الاصطناعي
يعرض النص مسارين رئيسيين: جعل النماذج تُخطئ بطريقة أقرب إلى البشر، وبناء وسائل تصحيح تناسب طبيعة أخطائها الخاصة.
مسارات تقليل أخطاء الذكاء الاصطناعي
إعادة تشكيل السلوك
يُبحث في تصميم نماذج ترتكب أخطاء أقرب إلى النمط البشري، بحيث تصبح أكثر قابلية للتوقع والتعامل.
استخدام التغذية الراجعة البشرية
تُستخدم أساليب مثل التعلم المعزز مع التغذية الراجعة البشرية لمكافأة الاستجابات المقبولة ومعاقبة الأخطاء الأقل وضوحًا.
المراجعة والكشف
قد تساعد مطالبة النماذج بمراجعة عملها، لكن ذلك لا يمنع دائمًا تبريرات خاطئة تبدو معقولة، لذا تبقى الحاجة إلى أنظمة كشف وتخفيف مخصصة.
فهم أوجه التشابه والاختلاف
لا يزال الباحثون يُكافحون لفهم مواطن اختلاف أخطاء طلاب الماجستير في القانون عن أخطاء البشر. بعض غرابة الذكاء الاصطناعي أقرب إلى البشر مما يبدو للوهلة الأولى. يُمكن أن تُؤدي التغييرات الطفيفة في استعلام طالب الماجستير في القانون إلى استجابات مُختلفة تمامًا، وهي مُشكلة تُعرف باسم حساسية الاستجابة الفورية. ولكن، كما يُمكن لأي باحث في مجال الاستطلاعات أن يُخبرك، فإن البشر يتصرفون بهذه الطريقة أيضًا. يُمكن أن يكون لصياغة سؤال في استطلاع رأي تأثيرات جذرية على الإجابات. يبدو أيضًا أن برامج التعلم العميق تميل إلى تكرار الكلمات الأكثر شيوعًا في بيانات تدريبها؛ على سبيل المثال، تخمين أسماء الأماكن المألوفة مثل "أمريكا" حتى عند سؤالها عن مواقع أكثر غرابة. ربما يكون هذا مثالًا على "استدلال التوافر" البشري الذي يتجلى في برامج التعلم العميق، حيث تُخرج الآلات أول ما يخطر على بالها بدلاً من التفكير في السؤال. ومثل البشر، ربما، يبدو أن بعض برامج التعلم العميق تشتت انتباهها في منتصف المستندات الطويلة؛ فهي أكثر قدرة على تذكر الحقائق من البداية إلى النهاية. هناك بالفعل تقدم في تحسين نمط الخطأ هذا، حيث وجد الباحثون أن برامج التعلم العميق المُدربة على المزيد من أمثلة استرجاع المعلومات من النصوص الطويلة تبدو أفضل في استرجاع المعلومات بشكل موحد. في بعض الحالات، ما هو غريب في برامج التعلم العميق هو أنها تتصرف كبشر أكثر مما نعتقد. اتضح أيضًا أن بعض أفضل طرق "كسر حماية" برامج الذكاء الاصطناعي (بجعلها تخالف تعليمات مُنشئها الصريحة) تُشبه إلى حد كبير حيل الهندسة الاجتماعية التي يستخدمها البشر ضد بعضهم البعض: على سبيل المثال، التظاهر بكونك شخصًا آخر أو القول إن الطلب مجرد مزحة. لكن تقنيات كسر الحماية الفعّالة الأخرى هي أمور لن ينطلي على أي إنسان.