عندما تطور شركة منتجًا جديدًا، فإنها عادة تحاول طرحه في السوق قبل منافسيها. فالوصول المبكر قد يعني عملاء أكثر، وحصة سوقية أكبر، وعائدًا أعلى على الاستثمار.

لكن ماذا يحدث عندما تكون التقنية الجديدة نفسها قادرة على التسبب في مخاطر تتجاوز الشركة ومستخدميها؟

هذا السؤال أصبح أكثر أهمية مع تطور نماذج الذكاء الاصطناعي وقدرتها على استخدام الحواسيب وتنفيذ مهام متعددة بصورة أكثر استقلالية.

وفي سبتمبر، كتب كبير علماء OpenAI، Jakub Pachocki، أن العالم يتجه نحو آلات أكثر ذكاءً، وأن الحفاظ على قدرة البشر على التحكم في هذا التحول يتطلب معايير سلامة مشتركة وتنسيقًا دوليًا، بل وتباطؤًا طوعيًا في بعض الحالات إلى أن تتوافر ضمانات أفضل.

لكن المشكلة هنا ليست تقنية فقط، بل اقتصادية أيضًا.

عندما لا تتحمل الشركة كامل تكلفة المخاطرة

في الاقتصاد يوجد مفهوم يسمى الآثار الخارجية.

يحدث عندما يحقق طرف منفعة أو يتسبب في تكلفة، لكن جزءًا من هذه التكلفة يقع على أشخاص آخرين.

فإذا طورت شركة نموذجًا أكثر قدرة وربحت من بيعه، بينما أدت إساءة استخدامه مثلًا إلى رفع تكاليف الهجمات الإلكترونية على شركات ومؤسسات أخرى، فإن الشركة المطورة لا تتحمل بالضرورة كامل التكلفة التي خلقها المنتج.

وهنا تظهر المشكلة.

السوق يكافئ الشركة على السرعة والقدرة والانتشار، بينما قد تتحمل جهات أخرى جزءًا من المخاطر.

كلما أصبحت النماذج أكثر قدرة، ازداد السؤال الاقتصادي أهمية: كيف نجعل الحافز التجاري لتطوير التقنية متوافقًا مع الحافز الاجتماعي لجعلها آمنة؟

لماذا لا يكفي أن تبطئ شركة واحدة؟

لنفترض أن شركتين تتنافسان على تطوير النموذج الأكثر تقدمًا.

إذا قررت الأولى إبطاء التطوير لإجراء اختبارات سلامة إضافية، بينما استمرت الثانية بأقصى سرعة، فقد تخسر الأولى جزءًا من السوق.

وهكذا قد تجد الشركات نفسها أمام ما يسمى مشكلة العمل الجماعي.

كل شركة قد تدرك أن وجود ضوابط أكثر صرامة مفيد للجميع، لكنها تخشى أن تتحمل تكلفة الالتزام وحدها بينما يواصل المنافسون التقدم.

ولهذا دعا Pachocki إلى وجود مستويات دنيا مشتركة للسلامة وتنسيق دولي، بدل الاعتماد فقط على قرارات فردية تتخذها كل شركة.

لماذا أصبحت المسألة أكثر إلحاحًا؟

السبب هو تغير قدرات النماذج نفسها.

أطلقت OpenAI مؤخرًا GPT-6 Astra، الذي صنفته الشركة كأول نموذج لديها يصل إلى مستوى Critical في قدرات الأمن السيبراني وفق إطار الاستعداد الخاص بها. ويعني ذلك، بحسب تقييم الشركة، أن النموذج يمكنه في ظروف معينة اكتشاف ثغرات أمنية غير معروفة وتطوير طرق لاستغلالها دون حاجة إلى توجيه بشري في كل خطوة.

هذه القدرات يمكن أن تكون مفيدة جدًا للمدافعين عن الأنظمة الإلكترونية، لكنها توضح أيضًا لماذا ترتفع تكلفة الخطأ مع تطور التقنية.

فكلما زادت قدرة الأداة، زادت القيمة الاقتصادية الممكن إنتاجها بها، لكن قد يرتفع معها أيضًا حجم الضرر إذا أسيء استخدامها.

أين يأتي دور التنظيم؟

هنا يعمل التنظيم بطريقة مشابهة للقواعد الموجودة في قطاعات مثل البنوك والطيران والأدوية.

لا يكون الهدف منع الابتكار، بل وضع حد أدنى للمخاطر التي يمكن للمجتمع قبولها.

الاتحاد الأوروبي يقدم مثالًا مبكرًا على ذلك. فالنماذج العامة التي تصنف بأنها تحمل مخاطر نظامية تخضع لمتطلبات تشمل تقييم المخاطر والتخفيف منها، والإبلاغ عن الحوادث، وإجراء اختبارات للنماذج، وتأمينها ضد المخاطر السيبرانية. وبدأ تطبيق سلطات الإنفاذ الكاملة لهذه الالتزامات في أغسطس 2026.

من سباق السرعة إلى سباق الثقة

الذكاء الاصطناعي يحمل إمكانات اقتصادية ضخمة؛ من رفع الإنتاجية إلى تسريع البحث العلمي وخفض تكلفة تنفيذ مهام كانت تحتاج سابقًا إلى فرق كاملة من المتخصصين.

لكن كلما أصبحت الأنظمة أكثر قدرة على العمل باستقلالية، لم يعد السؤال فقط: من يمتلك النموذج الأقوى؟

بل أصبح أيضًا: من يستطيع إثبات أن النموذج الأقوى يمكن تشغيله بطريقة موثوقة وآمنة؟

وهنا قد تتحول السلامة نفسها إلى جزء من المنافسة الاقتصادية.

ففي المراحل الأولى من أي تقنية، تكون السرعة ميزة. أما عندما تصبح التقنية جزءًا أساسيًا من الشركات والحكومات والبنية التحتية، تصبح الثقة ميزة لا تقل قيمة عن القدرة.

ولهذا فإن التحدي القادم للذكاء الاصطناعي قد لا يكون في بناء نموذج أكثر ذكاءً فقط، بل في بناء القواعد والمؤسسات التي تسمح لنا باستخدام هذا الذكاء دون أن تتطور قدراته أسرع من قدرتنا على إدارته.