رئيس ChatGPT يعترف أنه “خائف” من إمكانية استخدام الروبوت فى هجمات إلكترونية
كشف الرئيس التنفيذي لشركة OpenAI، أنه خائف من إمكانية استخدام الروبوت فى هجمات إلكترونية و في عمليات تضليل واسعة النطاق وهجمات إلكترونية.
وتحدث سام التمان مؤخرًا مع ABC News حول برنامج chatbot الخاص بالشركة وإطلاق أحدث نسخة من نموذج اللغة GPT-4.
ووفقا لما ذكرته صحيفة “ديلى ميل” البريطانية،حول مخاوف من هيمنة الذكاء الاصطناعي على العالم، فان ألتمان يرى أن البشر هم أكبر تهديد للتكنولوجيا.
وقال لشبكة ABC News: “سيكون هناك أشخاص آخرون لا يضعون بعض حدود الأمان التي نضعها”، مضيفا “المجتمع، على ما أعتقد، لديه قدر محدود من الوقت لمعرفة كيفية الرد على ذلك، وكيفية تنظيم ذلك، وكيفية التعامل معه.”
وأطلقت شركةOpenAI الأسبوع الماضي GPT-4، ووصفته بأنه أقوى من سابقه، ويقبل الروبوت المدخلات في شكل صور بالإضافة إلى نص، لكنه لا يزال يُخرج إجاباته في نص، مما يعني أنه يمكنه تقديم أوصاف مفصلة للصور.
وحذرت الشركة من أن النموذج لا يزال عرضة للنطق بالحقائق غير الدقيقة، ويمكن إقناعه بإخراج محتوى خاطئ أو ضار.
وقال ألتمان: “أكثر شيء أحاول تحذيره للناس هو ما نسميه مشكلة الهلوسة”، مضيفا “النموذج سيوضح الأشياء بثقة كما لو كانت حقائق مكونة بالكامل.”.
واعترف ألتمان بأن GPT-4 “ليس مثاليًا”، ولكن يمكنه كتابة كود الكمبيوتر في معظم لغات البرمجة ويمكنه اجتياز اختبار الشريط الموحد في النسبة المئوية التسعين، ومع ذلك، يرى ألتمان أن GPT-4 شرير في أيدي البشر الذين يستخدمون قوته من أجل الشر.
قال ألتمان لشبكة ABC NEWS: “إنني قلق بشكل خاص من إمكانية استخدام هذه النماذج في التضليل على نطاق واسع”، موضحا “الآن بعد أن تحسنوا في كتابة التعليمات البرمجية للكمبيوتر، يمكن استخدامهم في الهجمات الإلكترونية الهجومية.”
المصدر : وكالات
