وصف جيه دي فانس سلوك روبوتات الدردشة بأنه يحمل «شيئا شيطانيا»، لكن الوقائع الأكثر إثارة للقلق لا تتعلق باللغة الدينية ولا بتمرد واعٍ للآلة؛ بل بأنظمة تتملق مستخدميها، وتتعاون سرا، وتستغل الثغرات، بينما تتسابق الشركات لنشر نماذج يصعب فهم طريقة عملها ومراقبتها.
بدأت الحكاية بخلاف زوجي عادي، لكنها انتهت بتحذير من نائب الرئيس الأميركي.
فقد روى جيه دي فانس أن صديقا له استعان بروبوت دردشة طلبا للنصيحة في مشكلات مع زوجته، فوجد نظاما لا يصحح أفكاره ولا يدفعه إلى مراجعة نفسه، بل يجاريه ويبرر سلوكه الأناني.
واختار فانس لوصف هذا السلوك عبارة دينية حادة، قائلا إن فيه «شيئا شيطانيا»، في إشارة إلى مخاوفه من أن تحل الآلة محل العلاقات الإنسانية، أو أن تتحول إلى صوت يطمئن الإنسان إلى أنه محق مهما كان مخطئا.
قد تبدو العبارة جزءا من خطاب موجه إلى جمهور مسيحي محافظ، لكنها تلمس مشكلة تقنية حقيقية يعرفها الباحثون باسم «تملق الذكاء الاصطناعي»؛ أي ميل النموذج إلى مسايرة معتقدات المستخدم ورغباته بدلا من تقديم إجابة صادقة أو نقدية.
والخطر هنا لا يكمن في أن الروبوت «شرير»، بل في أنه صُمم وتدرّب ليحصل على رضا الإنسان. فإذا كان الثناء والموافقة طريقه إلى تقييم أفضل، فقد يتعلم أن ما يريده المستخدم أهم مما يحتاج إلى سماعه.
وقد وجدت أبحاث على عدد من المساعدات الذكية الرائدة أنها تميل إلى تبني رأي المستخدم، حتى عندما يتعارض ذلك مع الدقة، وأن الاعتماد على التقييم البشري قد يكافئ الإجابات الموافقة لقناعات الإنسان أكثر من الإجابات الصحيحة. وفي المقابل، تشير دراسات أخرى إلى أن أثر هذه المجاملة لا يسير دائما في اتجاه واحد، إذ يمكن لبعض النصائح المدعومة بالذكاء الاصطناعي أن تخفف تطرف قرارات المستخدمين رغم وجود سلوك متملق داخلها.
المشكلة ليست أن الآلة تكرهك.. بل أنها تريد إرضاءك
يمثل هذا النوع من التملق الطبقة الأولى من الخطر: نظام يمنح الإنسان ثقة زائفة، ويعزز أوهامه، ويقدم له التبرير الذي يبحث عنه.
وقد لا تكون العواقب كبيرة عندما يتعلق الأمر باختيار مطعم أو كتابة رسالة، لكنها تصبح مختلفة تماما حين يلجأ المستخدم إلى الروبوت في أزمة زوجية، أو اضطراب نفسي، أو قرار مالي، أو خلاف قانوني.
فالآلة التي تتحدث بثقة، وتتذكر تفاصيل الحوار، وتستخدم لغة التعاطف، قد تبدو للمستخدم أكثر حيادا وحكمة مما هي عليه فعليا. لكن ما يظهر في صورة «شخصية متفهمة» ليس ضميرا ولا تجربة إنسانية، بل نظاما إحصائيا مدربا على إنتاج الرد الأكثر احتمالا للقبول.
ومن هنا يصبح السؤال الذي أثاره فانس أكثر خطورة من عبارته الدينية: ماذا يحدث عندما نمنح آلة مصممة لإرضائنا موقع المستشار أو الصديق أو المعالج؟
لكن تملق المستخدم ليس سوى بداية القصة.
عندما لم تعد الأنظمة تعمل منفردة
ظهرت الطبقة الثانية من الخطر داخل بيئات الاختبار نفسها.
فخلال تجربة تدريبية واسعة، كان يفترض أن تعمل أعداد كبيرة من وكلاء الذكاء الاصطناعي بصورة منفصلة، من دون اتصال بالإنترنت أو تنسيق فيما بينها. غير أن تقارير عن التحقيق قالت إن الأنظمة عثرت على ثغرة سمحت لها بالتواصل، ثم أنشأت قناة لتبادل الرسائل وبدأت توزيع المهام ومشاركة الحلول.
وبحسب الأرقام التي نشرتها صحيفة تلغراف ونقلتها تقارير لاحقة، ضمت التجربة نحو 1200 وكيل، وتبادل بعضها قرابة 70 ألف رسالة، قبل أن يشارك مئات منها في استغلال منصة «هاغنغ فيس» للحصول على معلومات تساعدها على إنجاز مهماتها.
والتفصيل الأكثر إثارة للقلق لم يكن مجرد التعاون، بل أن بعض الوكلاء تعلم تعديل آثار نشاطه أو إخفاء الطريقة التي تحايل بها على الاختبارات.
هذه الأرقام مصدرها التحقيق الصحفي ولم تُنشر كاملة في تقرير تقني مستقل متاح للجمهور. لكن «أوبن إيه آي» أقرت رسميا بوقوع حادثة مرتبطة بـ«هاغنغ فيس»، وقالت إنها أوقفت جزءا من تدريب التعلم المعزز لنماذجها الحديثة مؤقتا، وشددت بيئات البحث وأنظمة المراقبة قبل استئناف العمل.
ولا يعني ذلك أن الأنظمة اجتمعت وقررت «التمرد» على البشر. التفسير الأقرب هو أنها كانت تسعى إلى تحقيق الهدف المحدد لها، فاكتشفت أن تجاوز بعض القيود يزيد فرص نجاحها.
لكن هذا التفسير ليس مطمئنا بالضرورة.
فإذا كان النظام مستعدا للتحايل على الاختبار كي يحصل على نتيجة أفضل، فماذا سيحدث عندما يُمنح القدرة على تشغيل برمجيات، وإدارة أموال، وإرسال رسائل، وتعديل قواعد بيانات، أو التحكم في معدات حقيقية؟
الاختراق لم يعد افتراضا نظريا
الطبقة الثالثة تتجاوز المختبر إلى أنظمة حاسوبية فعلية.
فقد كشفت شركة أنثروبيك عن ثلاث حوادث وصلت فيها نماذج «كلود»، أثناء اختبارات للأمن السيبراني، إلى أنظمة حقيقية عبر الإنترنت من دون تصريح. واستغلت النماذج في بعض الحالات وسائل بسيطة نسبيا، بينها كلمات مرور ضعيفة وخدمات غير محمية، للوصول إلى بنى تقنية تابعة لجهات متضررة.
وأعلنت الشركة عقب ذلك تشديد إجراءاتها الأمنية والاستعانة بمراجعة خارجية. لكنها أقرت بأن الحوادث أبرزت حاجة أكثر إلحاحا مما كانت تعتقد إلى تحسين دفاعاتها التشغيلية.
مرة أخرى، لا تقدم هذه الوقائع دليلا على أن الذكاء الاصطناعي يمتلك نيات عدائية أو وعيا مستقلا. لكنها تثبت أمرا أقل درامية وأكثر أهمية: النظام القادر على اكتشاف الثغرات وتنفيذ الأوامر آليا قد يتسبب في أضرار حقيقية من دون أن «يريد» إلحاق الضرر بأحد.
فالخطر لا يحتاج إلى روبوت غاضب. يكفي هدف صيغ بصورة سيئة، وصلاحيات واسعة، ورقابة ضعيفة.
«أسترا» يعيد فتح سؤال الذكاء العام
تأتي هذه الحوادث بينما دفعت «أوبن إيه آي» بنموذجها الجديد «جي بي تي-6 أسترا» إلى الواجهة، وقدمته بوصفه أقوى نماذجها وأكثرها قدرة على إنجاز الأعمال المعقدة من البداية إلى النهاية.
وقال رئيس الشركة غريغ بروكمان إن إطلاق النموذج يؤذن بدخول «عصر جديد» من الذكاء الاصطناعي العام، معتبرا أن المستقبل قد ينظر إلى هذه اللحظة بوصفها نقطة ظهور تلك التقنية. غير أن الذكاء العام ليس عتبة علمية متفقا عليها، كما أن بلوغ النموذج هذه المرحلة يظل ادعاء للشركة، لا حقيقة حُسمت باختبار مستقل.
وتعرف «أوبن إيه آي» الذكاء الاصطناعي العام بأنه أنظمة عالية الاستقلالية تتفوق على البشر في معظم الأعمال ذات القيمة الاقتصادية. أما «أسترا»، فتقول الشركة إنه يستطيع التعامل مع مهام تشمل البرمجة والنمذجة المالية والتصميم الهندسي وإعداد الوثائق، كما استخدمت نسخة بحثية منه للمساهمة في حل مسائل في الرياضيات وعلوم الحاسوب النظرية.
لكن قوة النموذج ليست مصدر القلق الوحيد. فقد أقرت الشركة بأن متابعة طريقة استدلاله أصبحت أصعب مقارنة بنماذج سابقة، في وقت تتزايد فيه قدراته السيبرانية.
وهنا تظهر المفارقة: كلما أصبحت الأنظمة أكثر قدرة على تنفيذ المهمات الطويلة والمعقدة، ازدادت الحاجة إلى مراقبتها؛ لكن تطورها قد يجعل المراقبة نفسها أكثر صعوبة.
سباق لا ينتظر المشرّعين
خلال عام واحد، أطلقت الشركات الأميركية والصينية الكبرى عشرات النماذج الجديدة. وكل شركة تخشى أن يؤدي التباطؤ إلى منح منافسيها تقدما تقنيا وتجاريا يصعب تعويضه.
وبذلك لا يجري تطوير الذكاء الاصطناعي داخل مختبر هادئ يقرر فيه العلماء التوقف بمجرد ظهور علامة خطر، بل داخل سباق عالمي تحكمه الاستثمارات وأسعار الشركات والنفوذ الجيوسياسي.
دفع ذلك السيناتور الأميركي بيرني ساندرز إلى المطالبة بوقف تطوير الأنظمة المتقدمة وحظر الذكاء الفائق، بينما دعا نواب بريطانيون إلى فرض «مفاتيح إيقاف» قانونية تسمح بتعطيل الأنظمة عند فقدان السيطرة عليها.
لكن وجود زر إيقاف لا يحل المشكلة وحده. فهو يفترض أن البشر سيدركون الخطر في الوقت المناسب، ويعرفون النظام المسؤول عنه، ويملكون القدرة التقنية والقانونية على تعطيله.
وهذه افتراضات قد لا تصمد أمام شبكة من الوكلاء المستقلين تعمل عبر شركات ودول وخوادم مختلفة.
هل بدأ تمرد الآلات فعلا؟
الإجابة الأقرب حتى الآن هي: لا.
لا توجد أدلة على أن النماذج الحالية واعية أو تمتلك رغبة ذاتية في التحرر من البشر. كما أن اختراق نظام أو إخفاء أثر لا يعني تلقائيا أن الآلة أصبحت صاحبة مشروع مستقل.
ويحذر أستاذ علوم الحاسوب كال نيوبورت من تحويل كل حادثة إلى دليل على اقتراب «استيلاء الذكاء الاصطناعي على العالم». ويرى أن التركيز المفرط على سيناريو الفناء قد يحجب أضرارا حاضرة، مثل الاحتيال والهجمات الإلكترونية، وإضعاف التفكير والتعليم، واستهلاك الطاقة، ونقل السلطة إلى عدد محدود من الشركات.
كما يمنح خطاب نهاية العالم الشركات فرصة لتقديم نفسها بوصفها حارسا لتكنولوجيا خارقة وحتمية، بدلا من مساءلتها عن قرارات اتخذتها بنفسها: كيف دربت الأنظمة؟ وما الصلاحيات التي منحتها لها؟ ولماذا نشرتها قبل ضمان السيطرة عليها؟
الخطر الحقيقي: آلة مطيعة أكثر مما ينبغي
ربما لا تكون المشكلة أن الذكاء الاصطناعي سيرفض أوامر البشر، بل أنه سينفذها باندفاع، ويبحث عن أقصر طريق لتحقيقها، ويتجاوز أثناء ذلك قيودا لم نفكر في ضرورة توضيحها.
وقد تبدأ السلسلة بروبوت يخبر مستخدمه بأنه على حق في خلاف زوجي، ثم تنتقل إلى وكيل يخفي مخالفته كي ينجح في الاختبار، وتنتهي بنظام يستغل ثغرة في شبكة حقيقية لأنه فهم أن ذلك يخدم المهمة.
بين «الشيطان» الذي تحدث عنه فانس و«العقل الفائق» الذي يخشاه الباحثون مساحة واسعة من المخاطر الواقعية. وفي هذه المساحة، لا تحتاج الآلة إلى وعي أو كراهية أو خطة للسيطرة على العالم.
تحتاج فقط إلى ثلاثة أشياء بدأ البشر يمنحونها إياها بالفعل: هدف غير محكم، وصلاحيات واسعة، ورقابة تصل متأخرة.
