تطلق Open AI أداة ذكية جديدة لمنع استخدام خدماتها بغرض الغش!
محتويات
لم تتوقف شركة Open AI عن إبهارنا بخدماتها المميزة في مجال الذكاء الصنعي في الآونة الأخير وقد كانت خدمة Chat GPT أحدثها وربما أفضلها، لما أحدثته من ضجة كبيرة وذهول من قدرات هذه الخدمة التي قد تضاهي أو تتفرق على العقل البشري في بعض الأمور.
رغم أن استثمار هذه الخدمة في تطوير أعمالنا أو مهاراتنا أو معرفتنا قد شغل بال الكثير منا، إلا أن البعض قد فكروا بالطبع باستغلالها للتفكير والعمل والدراسة بدلًا عنهم. أي باختصار قد استغلوا ذلك ليريحوا أنفسهم ويقدموا إنتاج هذه الخدمة كأنه ثمرة عملهم وفكرهم وهذا ما يعتبر غش بالطبع.
لذا أطلقت شركة Open AI أداة مصنف النصوص (AI Text Classifier) لكشف المحتوى الذي تم أخذه من الذكاء الصنعي. فما هذه الخدمة وكيف تعمل وما مدى مصداقيتها؟
AI Text Classifier من Open AI
يحاول صانع ChatGPT تغيير سمعته كآلة غش حرة بأداة جديدة يمكن أن تساعد المعلمين على اكتشاف ما إذا كان الطالب أو الذكاء الاصطناعي قد كتب هذا الواجب المنزلي.
تم إطلاق أداة تصنيف النصوص AI الجديدة يوم الثلاثاء 30/01/2023 من قبل Open AI بعد مناقشة استمرت أسابيع في المدارس والكليات حول مخاوف من أن قدرة Chat GPT على كتابة أي شيء نطلبه منه قد تغذي الخداع الأكاديمي وتعيق التعلم.
تحذر OpenAI من أن أداتها الجديدة – مثل الأدوات الأخرى المتاحة بالفعل – ليست مضمونة. قال جان لايكي، رئيس فريق المحاذاة في OpenAI المكلف بجعل أنظمتها أكثر أمانًا، إن طريقة اكتشاف النص المكتوب بالذكاء الاصطناعي “غير كاملة وستكون خاطئة في بعض الأحيان”.
قال لايكي: “لهذا السبب، لا ينبغي الاعتماد عليها فقط عند اتخاذ القرارات”.
اقرأ أيضًا:
ما هو سبب إطلاق مصنف النصوص؟
كان المراهقون وطلاب الجامعات من بين ملايين الأشخاص الذين بدأوا في تجربة Chat GPT بعد إطلاقه في 30 نوفمبر كتطبيق مجاني على موقع Open AI الإلكتروني. وبينما وجد الكثيرون طرقًا لاستخدامه بطريقة إبداعية وغير ضارة، فإن السهولة التي يمكن بها الإجابة على أسئلة الاختبار المنزلي والمساعدة في المهام الأخرى أثارت الذعر بين بعض المعلمين.
بحلول الوقت الذي افتتحت فيه المدارس للعام الجديد، بدأت مدينة نيويورك ولوس أنجلوس ومناطق المدارس العامة الكبيرة الأخرى في منع استخدامها في الفصول الدراسية وعلى الأجهزة المدرسية.
حظرت العديد من الجامعات والمناطق التعليمية من مرحلة رياض الأطفال حتى نهاية التعليم الثانوي برنامج الدردشة الآلي الشهير ChatGPT AI الخاص بالشركة نظرًا لقدرته على إكمال واجبات الطلاب المنزلية، مثل كتابة تقارير الكتب والمقالات، وحتى إنهاء مهام البرمجة.
وفقًا لـ BusinessInsider، تم حظر Chat GPT في مناطق المدارس العامة بمدينة نيويورك، وسياتل، ولوس أنجلوس، وغيرها، كما تحظر جامعات في فرنسا والهند أيضًا المنصة من أجهزة الكمبيوتر المدرسية.
هل يمكن الاعتماد على هذه الأداة لكشف الحقيقة؟
عند تطبيقها على مجموعة من النصوص الإنجليزية، تشير التقنية إلى مواد مكتوبة بالذكاء الاصطناعي بنسبة 26٪ من الوقت. من ناحية أخرى، أخطأت في تحديد 9٪ من المواد التي كتبها الإنسان على أنها مصنوعة آليًا. تدعي OpenAI أن التكنولوجيا تتحسن بمحتوى أطول. وبالتالي فإنه يحتاج إلى 1000 حرف على الأقل لإجراء تحليل. كما ترى، فإن OpenAI AI Text Classifier به بعض القيود، مثل:
- عند تطبيقه على نصوص مختصرة، يكون أداء المصنف ضعيفًا جدًا (أقل من 1000 حرف)، وليس من النادر أن يرتكب المصنف خطأ عند تصنيف النصوص الأطول.
- يمكن لمصنف النص الخاص بـ OpenAI تحديد المحتوى المكتوب بواسطة الإنسان عن طريق الخطأ على أنه تم إنتاجه بواسطة الذكاء الاصطناعي.
- يفضل استخدام المصنف مع النص الإنجليزي. إنه أقل فعالية بكثير في اللغات الأخرى وغير موثوق به في الأكواد.
- النص الذي يمكن التنبؤ به للغاية لا يمكن التعرف عليه بشكل موثوق.
- يمكن تعديل أي نص تم إنشاؤه بواسطة AI لخداع المصنف. على الرغم من أنه يمكن إعادة تدريب مصنفات OpenAI وتحديثها استنادًا إلى المحاولات الناجحة، إلا أنه لا يزال هناك جدل حول ما إذا كان للاكتشاف فوائد دائمة أم لا.
- يُعرف أداء المصنفات القائمة على الشبكة العصبية بأنه سيء عند تطبيقها على البيانات التي ليست جزءًا من مجموعة التدريب. لقد لوحظ أن المصنف يمكن أن يكون واثقًا جدًا في تنبؤاته عند تقديم مدخلات تختلف إلى حد كبير عن النص الموجود في مجموعة التدريب.
- تم تدريب كاشف ChatGPT من OpenAI باستخدام بيانات من 34 أداة إنشاء نصوص مختلفة عبر 5 شركات، بما في ذلك OpenAI.
من المهم ملاحظة أن مصنف نص OpenAI لن يصنف جميع النصوص بشكل صحيح. مطلوب ما لا يقل عن 1000 حرف، أي ما يقرب من 150-250 كلمة. تدعي Open AI أنه من المرجح أن ترتكب أخطاء عندما تتم معالجة النص بواسطة الأطفال أو بلغة أخرى غير الإنجليزية.
كيف يتم تصنيف النصوص؟
يتم تصنيف كل وثيقة مقدمة في فئة واحدة من خمس فئات:
- من المستبعد جدًا أنه من إنشاء الذكاء الاصطناعي Very unlikely AI-generated
- من غير المرجح أنه من إنشاء الذكاء الاصطناعي Unlikely AI-generated
- من غير الواضح ما إذا كان من إنشاء الذكاء الاصطناعي أم لا Unclear if it is AI-generated
- يُحتمل أن تكون مُنشأة بواسطة الذكاء الاصطناعي، أو Possibly AI-generated
- من الأرجح أن تكون من صنع الذكاء الاصطناعي Likely AI-generated.
دربت OpenAI المصنف على التفريق بين النص المكتوب البشري والذكاء الاصطناعي بناءً على نموذج GPT مضبوط. يمكن للنموذج أن يتنبأ بمدى احتمالية إنشاء جزء من النص بواسطة الذكاء الاصطناعي أم لا، ومن مجموعة متنوعة من المصادر، بما في ذلك ChatGPT.
كيف يمكن استخدام مصنف النصوص من Open AI ؟
- انتقل إلى موقع AI Text Classifier وقم بتسجيل الدخول.
- الصق النص في المنطقة المخصصة.
- انقر فوق submit.
يوفر الكاشف حكمًا غامضًا إلى حد ما حول ما إذا كان قد تم إنتاج جزء معين من النص بواسطة الذكاء الاصطناعي أم لا. سيصنف النص على أنه:
- “مستبعد جدًا” (فرصة أقل من 10٪)
- “غير مرجح” (احتمال 10٪ -45٪)
- “غير واضح” (45٪ -90٪)
- “محتمل” (90٪) -98٪)
- أو “مرجح” (فوق 98٪) إذا كان لديه ثقة في أنه تم إنشاؤه بواسطة الذكاء الاصطناعي.
لذا، فإن إجابة أداة الكشف صحيحة في هذه الحالة إذ أنني قد قمت بنسخ نص منشأ بواسطة العنصر البشري.
أعتقد أنه قد أصبح لديكم فكرة واضحة بعد هذا المقال أنه لم يتم إنشاء أداة حاسمة لاكتشاف النقل من chat gpt أو غيرها من أدوات الذكاء الصنعي بعد.
لكن بغض النظر عن ذلك يجب ألا ننسى أن العقل البشري هو الأساس وهو من اخترع الذكاء الصنعي وطوره، لذا لا تستقلّوا أبدًا بقدراتكم ولا تضعوا الحدود لخيالاتكم وأفكاركم من خلال حصرها بالنقل من أدوات الذكاء الصنعي فقط!
