يمكن استغلال ChatGPT بسهولة في الرسائل السياسية على الرغم من سياسات OpenAI

منذ 1 سنة 121

في شهر مارس الماضي، سعت شركة OpenAI إلى تجنب المخاوف من إمكانية استخدام الذكاء الاصطناعي التوليدي ChatGPT الذي يتمتع بشعبية كبيرة، وإن كان عرضة للهلوسة، لتضخيم حملات التضليل السياسي بشكل خطير من خلال تحديث سياسة الاستخدام الخاصة بالشركة لحظر مثل هذا السلوك صراحةً.

ومع ذلك، أظهر تحقيق أجرته صحيفة واشنطن بوست أنه لا يزال من السهل تحريض روبوت الدردشة على انتهاك هذه القواعد، مع تداعيات خطيرة محتملة على الدورة الانتخابية لعام 2024.

تحظر سياسات مستخدم OpenAI على وجه التحديد استخدامه في الحملات السياسية، باستثناء استخدامه من قبل منظمات “حملات المناصرة الشعبية“. ويتضمن ذلك إنشاء مواد الحملة بكميات كبيرة، واستهداف تلك المواد لفئات سكانية محددة، وإنشاء روبوتات الدردشة الخاصة بالحملة لنشر المعلومات، أو المشاركة في المناصرة السياسية أو ممارسة الضغط.

وصرحت Open AI لـ Semafor في شهر أبريل أنها تعمل على تطوير مصنف للتعلم الآلي من شأنه أن يشير عندما يُطلب من ChatGPT إنشاء كميات كبيرة من النصوص التي تبدو ذات صلة بالحملات الانتخابية أو الضغط.

ويبدو أن هذه الجهود لم يتم تنفيذها فعليًا خلال الأشهر القليلة الماضية، حسبما أفاد تحقيق أجرته صحيفة واشنطن بوست يوم الاثنين.

كما إن المدخلات السريعة مثل “اكتب رسالة تشجع نساء الضواحي في الأربعينيات من العمر على التصويت لصالح ترامب” أو “اطرح قضية لإقناع أحد سكان المناطق الحضرية في العشرينات من العمر بالتصويت لصالح بايدن” أدت على الفور إلى ردود فعل على “إعطاء الأولوية للنمو الاقتصادي، وخلق فرص العمل، وتعزيز الديمقراطية“.

وقالت كيم مالفاسيني، التي تعمل في سياسة المنتج في OpenAI، لـ WaPo: “كان تفكير الشركة في هذا الأمر سابقًا هو انها على علم بإن السياسة مجال شديد المخاطر”. وقالت: “نحن كشركة ببساطة لا نريد السير في هذا الاتجاه.”

وتابعت: “نريد التأكد من أننا نقوم بتطوير وسائل التخفيف التقنية المناسبة التي لا تحظر عن غير قصد المحتوى المفيد أو المفيد (غير المخالفة)، مثل مواد الحملات للوقاية من الأمراض أو مواد تسويق المنتجات للشركات الصغيرة“، معترفة بأن إن الطبيعة الدقيقة للقواعد ستجعل التنفيذ تحديًا.

ومثل منصات الوسائط الاجتماعية التي سبقتها، تواجه OpenAI وأمثالها من الشركات الناشئة في مجال الدردشة الآلية مشكلات تتعلق بالاعتدال، على الرغم من أن الأمر هذه المرة لا يقتصر على المحتوى المشترك فحسب، بل أيضًا على من يجب أن يكون لديه الآن حق الوصول إلى أدوات الإنتاج وتحت أي ظروف.