ترك برس

يتزايد حضور الذكاء الاصطناعي في تفاصيل الحياة اليومية، من استخدامه أداةً لتسهيل الأعمال إلى الاعتماد عليه في الحصول على المعلومات والترفيه وحتى التعامل معه كرفيق للمشورة. ومع تسارع تطور هذه التقنيات، لم تعد النقاشات المحيطة بها تقتصر على مدى قدرتها على إنتاج آلات أسرع وأكثر دقة وإنتاجية، بل امتدت إلى أسئلة تتعلق بحدود استقلالية الأنظمة المتقدمة وقدرتها على البقاء تحت السيطرة البشرية.

وفي تحليل نشره موقع «خبر7»، يلفت الخبير والأكاديمي التركي الدكتور زاكير أفشار إلى أن دخول الرئيس الأمريكي دونالد ترامب على خط النقاش، ووصفه المخاوف المثارة بشأن الذكاء الاصطناعي بأنها «مصطنعة»، لم يغير جوهر الجدل القائم حول مستقبل هذه التكنولوجيا.

ويرى أفشار أن السؤال الأساسي لم يعد يتمثل فقط في إمكانية تطوير آلات أكثر قدرة، وإنما في مدى توافق الأنظمة الأكثر مهارة واستقلالية، والقادرة على تنفيذ نطاق أوسع من المهام، مع الرقابة البشرية.

تحذيرات من داخل قطاع الذكاء الاصطناعي

يشير الكاتب إلى أن الجانب الأكثر إثارة للاهتمام في التحذيرات المتعلقة بالذكاء الاصطناعي يتمثل في أن جزءًا مهمًا منها لا يصدر عن جهات تنظر إلى التكنولوجيا من الخارج، وإنما عن علماء ومديرين تنفيذيين لعبوا أدوارًا رائدة في تطويرها.

وفي هذا السياق، يعتبر أفشار تحذيرات داريو أمودي، أحد مؤسسي شركة «Anthropic»، مهمة بشكل خاص. ويوضح أن أمودي لا يدعو إلى وقف التقدم التكنولوجي بشكل كامل، وإنما يحذر من أن تتخلف أبحاث السلامة عن الزيادة المتسارعة في قدرات الذكاء الاصطناعي.

وبحسب الكاتب، يرى أمودي أن الأنظمة المتقدمة، مع اكتسابها مزيدًا من الاستقلالية وتحولها من أدوات سلبية تقدم إجابات عن أسئلة البشر إلى أنظمة قادرة على أداء مهام أكثر تعقيدًا، تحتاج إلى أن تتطور تقييمات السلامة بالسرعة نفسها.

ويشير أفشار إلى أن دعوة أمودي لإجراء تقييمات مستقلة للسلامة وتعزيز التنسيق الدولي تعكس تنامي الاعتقاد بأن سلامة الذكاء الاصطناعي لا يمكن تركها بالكامل لآليات الرقابة الداخلية للشركات.

وبالمثل، يرى الكاتب أن موقف الرئيس التنفيذي لشركة «OpenAI» سام ألتمان، الذي يعتبر حتى الاحتمال المنخفض جدًا لوقوع كارثة خطيرة بالنسبة للبشرية أمرًا غير مقبول، يوضح أن القضية لا يمكن تقييمها من زاوية الأداء التقني وحده.

ويضيف أن الأهم هنا ليس الإيمان بنسبة معينة من المخاطر من عدمه، بل كيفية إدارة المخاطر منخفضة الاحتمال التي قد تؤدي، في حال وقوعها، إلى نتائج لا يمكن عكسها. ويرى أن إدارة المخاطر في الذكاء الاصطناعي، كما هو الحال في مجالات عديدة من الأمن النووي إلى الأمن البيولوجي، يجب أن تستند أيضًا إلى حجم الضرر المتوقع ومدى إمكانية عكس النتيجة المحتملة.

مخاطر تتجاوز الوظائف والمعلومات المضللة

وينتقل أفشار إلى تحذيرات عالم الحاسوب والباحث في الذكاء الاصطناعي بجامعة تورنتو، جيفري هينتون، معتبرًا أنها تشير إلى بُعد أكثر جوهرية في القضية.

ويشير إلى أن هينتون، أحد رواد مجال التعلم العميق، يركز إلى جانب التداعيات الاقتصادية للذكاء الاصطناعي على احتمال ظهور أنظمة يمكن أن تتجاوز القدرات الإدراكية للبشر.

ويذكّر الكاتب بأن المخاطر التي سبق أن عددها هينتون تشمل فقدان الوظائف، والتمييز، والمعلومات المضللة، والاستقطاب المجتمعي، وأنظمة الأسلحة ذاتية التشغيل، إضافة إلى تهديدات طويلة الأمد قد تمس وجود البشرية.

كما يلفت أفشار إلى تحذيرات أستاذ علوم الحاسوب بجامعة مونتريال الكندية، يوشوا بنجيو، ولا سيما ما يتعلق بمشكلة «المواءمة» (Alignment)، أي كيفية ضمان توافق موثوق بين أهداف البشر والأهداف التي يسعى نظام ذكاء اصطناعي متقدم إلى تحقيقها.

ويطرح بنجيو، بحسب الكاتب، سؤالًا أساسيًا مفاده: «كيف سنضمن مواءمة موثوقة بين أهداف البشر والأهداف التي يحاول نظام ذكاء اصطناعي متقدم تحقيقها؟».

ويؤكد أفشار أن نظام الذكاء الاصطناعي ليس بحاجة إلى أن يكره البشر أو يرغب في إيذائهم حتى يشكل خطرًا، إذ إن محاولة تحقيق هدف جرى تحديده بشكل خاطئ، وبكفاءة عالية جدًا، يمكن أن تؤدي وحدها إلى نتائج خطيرة.

ويرى الكاتب أن هذه النقطة تكشف أيضًا عن تصور خاطئ مهم في النقاش الشعبي حول الذكاء الاصطناعي، إذ ليس من الضروري أن يظهر الخطر في صورة «آلة اكتسبت الوعي وأصبحت معادية للبشر».

ويعتبر أن المشكلة الأكثر واقعية تتمثل في احتمال أن يفسر نظام مستقل عالي القدرات، يعمل وفق أهداف محددة، الهدف الممنوح له بطريقة تختلف عما قصده البشر، أو أن يختار وسائل غير متوقعة لتحقيق ذلك الهدف.

وبناءً على ذلك، يرى أفشار أن تقييم مشكلة السلامة المستقبلية لا ينبغي أن يتركز على ما «تفكر فيه» الآلة، وإنما على وظيفة الهدف التي تعمل وفقها، والصلاحيات التي تمتلكها، والموارد التي يمكنها الوصول إليها، ومدى قدرة البشر على مراقبة سلوكها.

تقرير دولي يرصد مخاطر متعددة

ويشير الكاتب إلى أن الصورة العلمية التي يقدمها «تقرير السلامة الدولي للذكاء الاصطناعي لعام 2026» لا تختزل المسألة في سيناريو واحد لنهاية العالم.

ووفق أفشار، أُعد التقرير بمساهمة أكثر من 100 خبير وبمشاركة أكثر من 30 دولة ومنظمة دولية، ويتناول في الوقت نفسه مجالات مختلفة للمخاطر، من سوء الاستخدام والأمن السيبراني إلى فقدان السيطرة البشرية، والتداعيات الاقتصادية، والاستقلالية البشرية، وتركز القوة.

ويذكر الكاتب أن بعض هذه المخاطر يمكن رصدها بالفعل في الوقت الراهن، بينما لا تزال هناك حالة من عدم اليقين الكبير بشأن احتمال وقوع بعض المخاطر الأكثر تقدمًا وتوقيتها.

ويرى أفشار أن إحدى أخطر مشكلات الذكاء الاصطناعي قد لا تكون «الذكاء» بحد ذاته، وإنما «قابلية التنبؤ». فالأهمية، بحسب تحليله، لا تقتصر على مدى قوة النظام، بل تمتد إلى مدى إمكانية التنبؤ بكيفية تصرفه في ظروف مختلفة.

ويشير إلى أن البشر يديرون منذ سنوات طويلة أنظمة تكنولوجية معقدة، إلا أن أساليب الرقابة التقليدية قد لا تكون كافية عندما يتعلق الأمر بأنظمة يمكنها تجاوز الإنسان في بعض جوانب قدراته، وفي الوقت نفسه يمكن نشرها على نطاق يصل إلى ملايين المستخدمين.

ومع ذلك، يحذر الكاتب من اختزال مخاطر الذكاء الاصطناعي في احتمال خروج الآلة عن السيطرة مستقبلًا، معتبرًا أن هذا النهج سيكون ناقصًا.

تركّز القوة ومخاطر سوء الاستخدام

ويلفت أفشار إلى أن المشكلة الكبرى الثانية التي يؤكد عليها بنجيو تتمثل في إمكانية إساءة البشر استخدام القوة التكنولوجية.

فحتى إتاحة قدرات إدراكية بمستوى الإنسان بتكلفة منخفضة جدًا وعلى نطاق واسع قد تترتب عليها، بحسب الكاتب، نتائج خطيرة في مجالات مثل الهجمات السيبرانية، والمعلومات المضللة، والتهديدات البيولوجية، والتلاعب، وتركيز القوة السياسية.

ومن هنا، يرى أفشار أن «تركز القوة» يمثل مفهومًا مركزيًا آخر في النقاش حول الذكاء الاصطناعي.

ويعتبر أن الانتقادات التي وجهها مؤسس ورئيس مجلس إدارة والرئيس التنفيذي لشركة «NVIDIA» جنسن هوانغ، والمؤسس المشارك والرئيس التنفيذي لشركة «Hugging Face» كليمان ديلانغ، إلى نقاشات السلامة جديرة بالاهتمام من هذه الزاوية.

ويحذر الكاتب من أن ترك سلامة أنظمة الذكاء الاصطناعي المتقدمة للعمليات الداخلية لعدد قليل من شركات التكنولوجيا الكبرى قد يؤدي إلى رفع تكاليف دخول السوق بمرور الوقت باسم إجراءات السلامة، ومن ثم إلى تركّز القوة التكنولوجية في أيدي عدد أقل من الجهات.

وبناءً على ذلك، يرى أفشار أن تحقيق التوازن بين السلامة والمنافسة ليس مشكلة تقنية فحسب، بل هو أيضًا مشكلة اقتصادية وسياسية.

بين التشاؤم الحتمي والتفاؤل التكنولوجي

وانطلاقًا من ذلك، يرى الكاتب أن هناك مقاربتين متطرفتين للذكاء الاصطناعي تفتقران إلى الكفاية العلمية.

الأولى، بحسب أفشار، هي التشاؤم الحتمي الذي يفترض أن الذكاء الاصطناعي سيدمر البشرية حتمًا، بينما تتمثل الثانية في التفاؤل التكنولوجي الذي يقلل من أهمية جميع المخاطر المستقبلية بحجة أن الأنظمة الحالية لم تصل بعد إلى ذكاء عام بمستوى الإنسان.

ويعتبر أن المقاربة العلمية تقتضي الحديث بين هذين الطرفين، وبقدر ما تسمح به الأدلة.

ويشير أفشار إلى أن البيانات الحالية تظهر أن الذكاء الاصطناعي يتطور بسرعة استثنائية، وأن بعض المخاطر لم تعد نظرية. ويذكر في هذا السياق تزايد الأدلة على استخدام الذكاء الاصطناعي في الهجمات السيبرانية، ووصول قدرات بعض النماذج في ما يتعلق بالتهديدات البيولوجية إلى مستويات مثيرة للقلق، فضلًا عن ازدياد تعقيد اختبارات السلامة.

ويرى أن هذه المعطيات تكفي لتبني نهج حذر، لكنه في الوقت نفسه يؤكد أنه لا يمكن القول بوجود يقين علمي بأن نظامًا مستقلًا سيتجاوز قدرات الإنسان سيظهر مستقبلًا، أو أن ظهوره سيؤدي حتمًا إلى نهاية البشرية.

التركيز على قياس المخاطر والرقابة المستقلة

ويخلص أفشار إلى أن القضية الأساسية تتمثل في عدم تجاهل حالة عدم اليقين هذه.

ويرى أن أبحاث الذكاء الاصطناعي في المرحلة المقبلة ينبغي ألا تركز فقط على إنتاج نماذج أكثر قدرة، وإنما أيضًا على قياس حدود هذه النماذج، وتفسير سلوكها، وإخضاعها لرقابة مستقلة، ومنع إساءة استخدامها، وضمان إمكانية تعطيلها بصورة آمنة عند الضرورة.

ويختتم الكاتب بالإشارة إلى مقترح يوشوا بنجيو القاضي بإثبات سلامة الأنظمة عالية المخاطر قبل استخدامها على نطاق واسع، وتطوير آليات رقابة مستقلة، وإنشاء الدول قدرات فعالة للإشراف على هذه الأنظمة، معتبرًا أن هذه الخطوات تكتسب أهمية خاصة في التعامل مع مستقبل الذكاء الاصطناعي.