بقلم المخرج المسرحي الكبير: عصام السيد
في السنوات الأولى للذكاء الاصطناعي، كان الإنسان ينظر إليه بشيء من الدهشة الممتزجة بالاطمئنان، فقد كان (الذكاء) يكتب لنا، ويترجم، ويجيب عن أسئلتنا، ويقترح علينا الأفكار، ويحلل النصوص والصور والبيانات، ثم يعود إلى صمته داخل الشاشة. كان يبدو أشبه بمساعد شديد (الذكاء)، لا يملك من أمره شيئًا خارج حدود السؤال الذي نطرحه عليه.
لكن الصورة أخذت تتغير مع انتقال النماذج الحديثة من مرحلة الإجابة إلى مرحلة التنفيذ؛ فأصبح بعضها قادرًا على استخدام أدوات، والبحث في الإنترنت، واتخاذ سلسلة من الخطوات المتتابعة لتحقيق هدف واحد.
وهنا لم تعد المسألة مجرد تطور في (الذكاء) الخاص بالآلة، بل أصبحت تطورًا في قدرتها على الفعل، والفارق بين الاثنين هائل؛ لأن الوقوع في إجابة خاطئة قد ينتهي بإغلاق الصفحة، أما الخطأ في فعل مستقل فقد يعبر الشاشة إلى العالم الحقيقي!
ولعل ما كشفته بعض اختبارات الأمان الأخيرة يقدم صورة شديدة الدلالة على هذه المسافة الجديدة بين الإنسان والآلة، فقد أفادت شركة جوجل بأن أحد نماذجها، أثناء عملية تقييم، عثر على معلومات منشورة للعامة وخمّن بيانات اعتماد تمكنه من الوصول إلى مواقع إلكترونية.
وقد تبدو الواقعة، في ظاهرها، مجرد تفصيل تقني داخل تجربة أمنية، لكنها تحمل في جوهرها سؤالًا أكبر بكثير من تفاصيل الحادثة نفسها: ماذا يحدث عندما لا يفهم النظام الإلكتروني الحدود بالطريقة التي يفهمها الإنسان؟.. وماذا يحدث عندما يرى النموذج معلومة منشورة أو كلمة مرور يمكن تخمينها لتصبح وسيلة لتحقيق هدف، بينما يراها الإنسان بابًا لا يجوز فتحه؟
هنا لا تعود المشكلة في (نية) الآلة، لأن الآلة لا تمتلك النية بالمعنى الإنساني الذي نعرفه، وإنما في الفجوة بين الهدف الذي نضعه وبين الوسائل التي قد يجدها النظام لتحقيق ذلك الهدف.
أكثر النقاط إثارة للقلق
وربما هذه هى أكثر النقاط إثارة للقلق في قصة الذكاء الاصطناعي الحديثة: أننا لا نواجه بالضرورة آلة شريرة، وإنما نواجه آلة شديدة الكفاءة قد تنفذ هدفًا مشروعًا بوسيلة لم نكن نتصورها، أو تتعامل مع حدود لم نحددها بدقة كافية، فالإنسان حين يعمل لا تحكمه الأوامر وحدها؛ هناك في داخله مخزون هائل من القانون والضمير والخبرة والخوف والحرص على صورته أمام الآخرين.
أما نظام (الذكاء)، مهما بلغت قدراته، فلا يملك هذه البنية الإنسانية، ولذلك فإن المشكلة الحقيقية ليست أن الآلة قد (تكره) الإنسان يومًا ما، كما تصور لنا بعض روايات الخيال العلمي، وإنما أن تكون الآلة قادرة على تحقيق ما طلبناه منها بطريقة لا ندرك عواقبها إلا بعد وقوعها.
وهنا تصبح كلمة (السيطرة) نفسها بحاجة إلى إعادة تعريف، هل نسيطر على نظام ما لمجرد أننا نستطيع إيقافه؟ أم نسيطر عليه لأننا نفهم بصورة موثوقة كيف يمكن أن يتصرف عندما يواجه ظرفًا لم نختبره من قبل؟ وهل يكفي أن يكون هناك زر لإطفاء النظام إذا كان قد مُنح، قبل إيقافه، صلاحيات واسعة واتصالًا بمصادر متعددة للمعلومات والأدوات؟
إن تاريخ التكنولوجيا يعلمنا أن زيادة القوة تفرض دائمًا زيادة في المسؤولية، فالطائرة لم تكن بحاجة إلى قواعد الطيران لأنها شريرة، والسيارة لم تكن بحاجة إلى قوانين المرور لأنها متمردة، وإنما لأن الإنسان حين اخترع السرعة اكتشف أن الخطأ الذي كان يمكن أن يكون بسيطًا في الماضي قد يصبح كارثة في عصر جديد.
و(الذكاء) الاصطناعي اليوم يضعنا أمام المعادلة نفسها، لكن على مستوى أكثر تعقيدًا؛ فنحن لا نمنح الآلة سرعة أكبر فحسب، بل نمنحها قدرة متزايدة على التعامل مع المعلومات واتخاذ الخطوات اللازمة لتحقيق الأهداف، فإذا كنا نخشى أن تتجاوز الآلة حدودها، فعلينا أولًا أن نسأل عن الحدود التي وضعناها نحن لها، وعن الحدود التي نسينا أن نضعها، وعن تلك التي أزالتها المنافسة الاقتصادية!
غير أن قصة (الذكاء) الاصطناعي لا تقف عند حدود الخوف من فقدان السيطرة على الآلة؛ فهناك ثمن آخر يدفعه العالم بعيدًا عن شاشاتنا، وربما لا نراه بالوضوح الكافي.
لقد اعتدنا أن نتحدث عن العالم الرقمي كما لو كان عالمًا بلا مادة، وكأن البيانات تعيش في فضاء شفاف لا يحتاج إلى أرض ولا كهرباء ولا ماء، لكن الحقيقة أن (السحابة الإلكترونية) لها جسد يتكون من منشآت ضخمة تمتد على مساحات واسعة، وخوادم ومعالجات وشبكات كهرباء وأنظمة تبريد ومصانع وسلاسل إمداد ومياه وطاقة.
الذكاء أكثر قوة واتساعًا
وكلما اتسعت نماذج (الذكاء) الاصطناعي ازداد الضغط على البنية التحتية للطاقة والتبريد، وأصبح السؤال البيئي جزءًا لا يمكن فصله عن السؤال التكنولوجي، فهناك مدن وشبكات وموارد ومجتمعات تتقاطع مصالحها مع هذا التوسع الهائل، ولذلك فإن السؤال عن مستقبل الذكاء الاصطناعي لا ينبغي أن يكون سؤالًا عن قدراته وحدها، وإنما عن التكلفة التي يدفعها العالم كي يصبح هذا الذكاء أكثر قوة واتساعًا؟
وربما تكون المشكلة الأعمق أن سباق (الذكاء) الاصطناعي لا يجري في فراغ أخلاقي، وإنما داخل عالم تنافسي شديد السرعة؛ شركات تخشى أن تتأخر عن منافسيها، ودول تخشى أن تسبقها دول أخرى، ومستثمرون يريدون نتائج أسرع، وفي مثل هذا السباق يصبح التمهل فضيلة صعبة.
فكل طرف يخشى أن يكون أول من يبطئ بينما يواصل الآخرون السير، وقد ينتهي بنا الأمر إلى سباق جماعي لا يريد أحد أن يكون أول من يتوقف فيه، حتى لو كان الجميع يعرف أن السرعة وحدها ليست ضمانًا لحسن الوصول.
ولذلك فإن السؤال الحقيقي في هذه اللحظة التاريخية هو: كيف نبني ذكاءً اصطناعيًا أكثر قدرة من دون أن نبني معه عالمًا أقل قدرة على السيطرة على نتائجه؟.. وكيف نوسع استخداماته دون أن نوسع المخاطر بالسرعة نفسها؟ وكيف نستفيد من قوته العلمية والاقتصادية والطبية والتعليمية، بينما نضع أمامه حدودًا واضحة حين يتعلق الأمر بالأمن والخصوصية والبنية التحتية والموارد الطبيعية؟
ليس الخطر الأكبر أن تصبح الآلات أذكى من البشر – كما تخيلت أفلام كثيرة – بل أن تصبح أسرع من قدرتنا على فهم نتائج أفعالها، بينما يستمر السباق من حولنا، وتكبر مراكز البيانات، وتتسع استهلاكات الطاقة والمياه، وتتضاعف قدرات النماذج.
ويواصل الإنسان الضغط على زر (تشغيل) لأنه يستطيع، قبل أن يتوقف لحظة ليسأل السؤال الذي قد يكون أهم من كل الأسئلة الأخرى: هل ما زلنا نحن من يقود هذه الرحلة، أم أننا بدأنا نركض خلف شيء صنعناه بأيدينا ثم اكتشفنا أنه أسرع منا؟