تقرير يكشف استعانة “OpenAI” بمراجعين بشريين لفحص محادثات “ChatGPT”
كشفت معطياتٌ أوردها موقع «404 ميديا» أن شركة «أوبن إيه آي» (OpenAI) تستعين بمئات المتعاقدين الخارجيين لقراءة وفحص عددٍ كبيرٍ من الطلبات الحقيقية الموجَّهة إلى «ChatGPT»، وذلك في إطار الجهود الرامية إلى تحسين أداء النموذج وجودة إجاباته.
ويتمثل دور هؤلاء المتعاقدين في تقييم الإجابات التي يقدّمها «ChatGPT» ومراجعتها نقدياً، بما يساعد على تدريب النماذج لتقديم ردودٍ أكثر ملاءمة. وبحسب وثائق داخلية اطلع عليها الموقع، يشمل هذا العمل أيضاً الحدَّ من بعض السلوكيات التي يُنظر إليها بوصفها إشكالية، ومن بينها: ميل النموذج إلى إضفاء صفات بشرية على نفسه، أو إظهار قدر مفرط من المجاملة والانصياع للمستخدم.
وقد تشمل المواد التي يطّلع عليها المقيمون محادثات كاملة بين المستخدمين وروبوت الدردشة؛ وهي محادثات قد تتضمن – في بعض الحالات – معلوماتٍ شخصية أو حساسة، لا سيما عندما يستخدم الأشخاص «ChatGPT» مساعداً مهنياً، أو لطلب الاستشارة، أو للحديث عن مسائل شخصية وحميمة.
ووفق المصدر ذاته، لا يطّلع المتعاقدون على أسماء المستخدمين، كما تفيد «أوبن إيه آي» بأنها تعتمد آليات تهدف إلى حجب المعلومات الشخصية وإزالتها قبل وصول الطلبات إلى المقيمين، غير أن الشركة أقرّت باحتمال تسرّب بعض التفاصيل الحساسة رغم هذه الإجراءات.
تسلط هذه المعطيات الضوء على الدور الذي تضطلع به المراجعة البشرية في تطوير نماذج الذكاء الاصطناعي، إذ لا يعتمد تحسين هذه النماذج فقط على البيانات المتاحة على الإنترنت أو على عمل المهندسين والباحثين والبنية التحتية الحاسوبية، وإنما يستند أيضاً إلى تقييم بشري لردود النموذج على طلبات حقيقية.
وأكدت شركة «أنثروبيك»، وفق «404 ميديا»، أنها تستعين بدورها بعمليات تقييم بشري للمساعدة في تطوير نماذجها للذكاء الاصطناعي.
وتثير هذه الممارسات تساؤلات بشأن خصوصية المحادثات التي يجريها المستخدمون مع المساعدات الذكية، ولا سيما في الحالات التي يتعاملون فيها مع هذه الأدوات باعتبارها مساحة آمنة لمشاركة معلومات شخصية أو مهنية أو تفاصيل حميمة من حياتهم.
ونقل الموقع عن أحد الأشخاص العاملين في مجال تقييم الطلبات قوله إن مستخدمي «ChatGPT» قد لا يدركون بالضرورة أن محادثاتهم يمكن أن تخضع لمراجعة بشرية، مشيراً إلى أن كثيرين لا يتوقعون أن يقوم متعاقد، في مكان ما، بتحليل المحادثات التي يجرونها مع روبوت الدردشة.
