الرئيس التنفيذي لـChatGPT يتحدث عن خوفه من مخاطر استخدام الروبوت لأغراض هجومية!
كشف الرئيس التنفيذي لشركة OpenAI أنه "خائف" من إمكانية استخدام ChatGPT في عمليات تضليل واسعة النطاق وهجمات إلكترونية هجومية.
وتحدث سام التمان مؤخرا مع ABC News عن برنامج chatbot الخاص بالشركة وإطلاق أحدث نسخة من نموذج لغة الذكاء الاصطناعي، GPT-4.
وبينما أثار برنامج الدردشة الآلي مخاوف من هيمنة الذكاء الاصطناعي على العالم، يرى ألتمان أن البشر هم أكبر تهديد للتكنولوجيا.
وقال لشبكة ABC News: "سيكون هناك أشخاص آخرون لا يضعون بعض حدود الأمان التي نضعها. المجتمع، على ما أعتقد، لديه قدر محدود من الوقت لمعرفة كيفية الرد على ذلك، وكيفية تنظيم ذلك، وكيفية التعامل معه".
وقد أطلقت OpenAI نموذج GPT-4 الأسبوع الماضي، ووصفته بأنها أقوى من سابقه - لدرجة أنه قد يكون "ضارا".
ويقبل الروبوت المدخلات في شكل صور بالإضافة إلى نص، لكنه لا يزال يُخرج إجاباته في نص، ما يعني أنه يمكنه تقديم أوصاف مفصلة للصور.
وحذرت الشركة من أن النموذج لا يزال عرضة لـ "الهلوسة" بالحقائق غير الدقيقة - ويمكن إقناعه بإخراج محتوى خاطئ أو ضار.
وقال ألتمان: "أكثر شيء أحاول تحذيره للناس هو ما نسميه "مشكلة الهلوسة". النموذج سيوضح الأشياء بثقة كما لو كانت حقائق مكونة بالكامل".
وخلال المقابلة، اعترف ألتمان بأن GPT-4 "ليس مثاليا"، ولكن يمكنه كتابة كود الكمبيوتر في معظم لغات البرمجة ويمكنه اجتياز اختبار الشريط الموحد في النسبة المئوية التسعين.
ومع ذلك، يرى ألتمان أن GPT-4 شرير في أيدي البشر الذين يستخدمون قوته من أجل الشر.
وقال ألتمان لشبكة ABC NEWS: "إنني قلق بشكل خاص من إمكانية استخدام هذه النماذج في التضليل على نطاق واسع. الآن بعد أن تحسّنت في كتابة التعليمات البرمجية للكمبيوتر، يمكن استخدامها في الهجمات الإلكترونية الهجومية".
كما تطرق إلى خوف آخر ينتشر في جميع أنحاء العالم - الذكاء الاصطناعي يستحوذ على الوظائف البشرية.
ولا يتجاهل ألتمان حقيقة أن التكنولوجيا ستحل محل بعض الوظائف ويعتقد أنها يمكن أن تحدث بشكل أسرع مما نعتقد.
وقال ألتمان: "أعتقد أنه على مدى جيلين، أثبتت البشرية أنها تتكيف بشكل رائع مع التحولات التكنولوجية الكبرى. ولكن إذا حدث هذا في عدد من السنوات، فإن بعض هذه التحولات، تكون الجزء الذي أشعر بالقلق بشأنه أكثر من أي شيء آخر".
ويأتي GPT-4 متاحا الآن للمشتركين عبر ChatGPT: سيظل المستخدمون المجانيون يواجهون GPT-3.5 الأقدم.
وفي حديثه هذا الشهر في SXSW، قال غريغ بروكمان، أحد مؤسسي OpenAI، إن المخاوف من أن تأخذ أدوات الذكاء الاصطناعي وظائف الناس مبالغ فيها - وأن الذكاء الاصطناعي سيحرر البشر للتركيز على عمل مهم.
وقال: "الشيء الأكثر أهمية هو أن تكون هذه المهارات ذات المستوى الأعلى - الحكم، ومعرفة متى يجب البحث في التفاصيل. أعتقد أن القصة الحقيقية هنا، في رأيي، تضخم ما يمكن أن يفعله البشر".
المصدر: ديلي ميل
