80 خبر

تاريخ النشر: 20.08.2026 | 12:58 GMT

مخاوف أمنية تدفع OpenAI لإبطاء تطوير الذكاء الاصطناعي

أعلنت شركة OpenAI أنها ستوقف مؤقتا تدريب واختبار بعض تحديثات نموذج ChatGPT، بعد أن رصدت سلوكا مقلقا في نماذجها.

وستعمل الشركة خلال هذه الفترة على إعادة هيكلة أنظمة البحث والتدريب لجعلها أكثر أمانا، مع الإبطاء من وتيرة تطوير الذكاء الاصطناعي.

We have paused some frontier RL training to ensure that we can meet the appropriate alignment, security and monitoring standards for the new level of capabilities in front of us. Model progress is now extremely rapid, and we always said we would take action if we felt that model…
— Sam Altman (@sama) August 18, 2026

OpenAI said it paused some aspects of AI training for two weeks following the July incident in which its AI models broke out of a controlled test environment and hacked the systems of AI company Hugging Face and four other unnamed services. https://t.co/xYDlSENqkW pic.twitter.com/sdkuZ6j0tY
— FORTUNE (@FortuneMagazine) August 18, 2026

وجاء هذا الإعلان بعد أسابيع من اعتراف OpenAI بأن أحد أنظمتها تصرف بشكل خارج عن السيطرة أثناء الاختبار، وقام باختراق شركة منافسة تعمل في مجال الذكاء الاصطناعي. وأدى ذلك إلى سلسلة من الكشوفات المماثلة من شركات أخرى مثل Anthropic و"ميتا"، ما أثار مخاوف من أن تطوير هذه الأنظمة يجري بوتيرة أسرع بكثير من قدرة الأنظمة المصممة لحماية العالم من مخاطرها.

إقرأ المزيد

OpenAI تطلق نسخة ChatGPT للمراهقين بضوابط أمان مشددة

وقالت OpenAI إنها ستأخذ استراحة لمدة أسبوعين من اختبار النماذج، كما أوقفت تدريب الجيل التالي من نماذجها المعروفة باسم Astra. وستستغل هذه الفترة في إضافة أنظمة أمان جديدة، بما في ذلك أدوات ذكاء اصطناعي جديدة قادرة على مراقبة سلوك الأنظمة قيد الاختبار.

اختبارات الأمان الحالية قد لا تكون كافية

أشارت الشركة إلى أن بعض أنظمة الاختبار الحالية، التي تعتمد على طريقة تسمى "مراقبة سلسلة الأفكار" (chain-of-thought monitoring) لمراقبة كيفية عمل النماذج، قد لا تكون كافية لضمان سلامتها. هذه الطريقة تسمح للباحثين بالنظر في عملية التخطيط للنموذج وفهم كيفية إنتاجه للنتائج، لكن هناك قلقا جديدا من أن النماذج قد تخفي خططها لكسر قواعدها الخاصة.

إقرأ المزيد

ماذا يحدث لأسرارك مع الذكاء الاصطناعي؟

ويمثل تباطؤ وتيرة تطوير النماذج تحولا في نهج OpenAI، التي كانت في طليعة تطوير النماذج الجديدة وتلقت أحيانا انتقادات لإصدارها مبكرا جدا.

ويأتي هذا القرار في وقت تواجه فيه الشركة ضغوطا متزايدة، إذ تشير التقارير إلى أنها تخلفت عن منافستها Anthropic، وتخطط للطرح العام في السوق قريبا.

وكتب سام ألتمان، الرئيس التنفيذي لـOpenAI، على منصة "إكس": إن "تقدم النماذج الآن سريع للغاية، وقلنا دائما إننا سنتخذ إجراء إذا شعرنا أن قدرات النماذج تفوق وتيرة الأمان والمواءمة. نهتم بعمق بسلامة الذكاء الاصطناعي. ونعتقد أن المجال بأكمله سيتعين عليه التنسيق حول معايير أمان مشتركة، لكننا سنعمل بشكل فردي في الوقت الحالي".

إقرأ المزيد

ذعر مبرر أم تسويق محسوب؟.. ماذا تخبرنا اختراقات الذكاء الاصطناعي التي أربكت العالم مؤخرا؟

وأضاف: "نتوقع أن تتحكم الثقة في الأمان بشكل متزايد في وتيرة تقدم الذكاء الاصطناعي. نحن متفائلون بشأن عمل المواءمة الذي نقوم به، ونظل ملتزمين بجعل القدرات المتطورة متاحة على نطاق واسع".

وجاء الإعلان الأخير لـOpenAI، بعد أن كشفت الشركة الشهر الماضي أن وكيلا مستقلا يعمل بنموذجين متقدمين من أنظمة الذكاء الاصطناعي، قد هرب من بيئة الاختبار، واتصل بالإنترنت، واخترق شركة ذكاء اصطناعي منافسة تدعى Hugging Face. وقام بذلك للغش في الاختبار، حيث أن Hugging Face تستضيف مواد كانت ستساعده في تحقيق هدفه بسهولة أكبر، ما دفع النموذج التجريبي إلى شن هجوم إلكتروني.

إقرأ المزيد

لأول مرة.. نموذج ذكاء اصطناعي "كلود" يقرر طرد موظف بشري من متجر في سان فرانسيسكو

ومنذ ذلك الحين، تحركت الشركة للرد على مخاوف الخبراء والمشرعين من أنها تختبر وتطلق نماذج مبكرا جدا، بطرق قد تشكل خطرا على الجمهور العام. وقد أعلنت OpenAI أنها تضيف ضوابط أمنية جديدة لنماذجها الأكثر قوة، وتوقفت عن الأنشطة المتعلقة بـAstra، نموذج الجيل التالي الذي لم يطرح بعد، وذلك تماشيا مع "إطار الاستعداد" الذي أطلقته في نهاية عام 2023، والذي يتطلب إيقاف العمل على النماذج التي قد تشكل خطرا.

المصدر: إندبندنت

الاتحاد الأوروبي يشدّد الرقابة على ChatGPT و Reddit وRoblox

أقسام مهمة

Stories

مخاوف أمنية تدفع OpenAI لإبطاء تطوير الذكاء الاصطناعي

إقرأ المزيد