دراسة: سؤال ChatGPT عن الدواء يؤدى إلى لنتائج كارثية

اجتاحت ChatGPT من OpenAI العالم وأعلنت الشركة مؤخرًا أنها تستخدم الآن من قبل 100 مليون مستخدم أسبوعيًا، ومع ذلك، لدى الباحثين “تحذير” إذا كنت تستخدم الإصدار المجانى من ChatGPT، إذ يوجد إصداران من ChatGPT – نسخة مجانية ونسخة مدفوعة، ويتم تشغيل الإصدار المجانى بواسطة GPT 3.5، وهو نموذج أقدم نسبيًا مقارنة بـ GPT-4 وهو إصدار أكثر قوة وقدرة.

 

ونظرًا لوجود تكلفة للوصول إلى النموذج الأكثر قدرة، وأن هناك نسخة مجانية متاحة، فمن الواضح أن الناس سيرغبون فى استخدام هذا الأخير، فيما سلطت OpenAI الضوء مرارًا وتكرارًا على أنه يجب على الأشخاص التحقق من صحة الردود التى يقدمها برنامج الدردشة الآلى الخاص بها، وقد قدم الباحثون الآن سببًا قويًا آخر لاتباع هذه التعليمات.

 

المعلومات الطبية الخاصة بـ ChatGPT غير دقيقة

وفقا لبحث أجراه الصيادلة فى جامعة لونغ آيلاند، فإن النسخة المجانية من ChatGPT قد تقدم إجابات غير دقيقة أو غير كاملة على الأسئلة المتعلقة بالأدوية. هذا السلوك يمكن أن يضع المرضى فى موقف خطير.

 

وتوضح الدراسة أن المرضى ومتخصصى الرعاية الصحية على حد سواء يجب أن يكونوا حذرين بشأن الاعتماد على برنامج الدردشة الآلى المجانى الخاص بـ OpenAI للحصول على معلومات الأدوية، وطرح الصيادلة 39 سؤالًا على ChatGPT المجانى، لكنهم وجدوا أن 10 إجابات فقط كانت “مرضية” بناءً على المعايير التى وضعوها.

 

ووجدوا أن إجابات ChatGPT على الأسئلة إما لم تتناول السؤال المطروح بشكل مباشر أو كانت غير دقيقة أو غير كاملة أو كليهما. ونصح الباحثون المستخدمين باتباع نصيحة OpenAI “بعدم الاعتماد على استجابات ChatGPT المجانية كبديل للمشورة الطبية المتخصصة أو الرعاية التقليدية”.

كلمات تحذيرية من الرئيس التنفيذى لشركة Google

فى وقت سابق من هذا العام، استخدم الرئيس التنفيذى لشركة Google، ساندر بيتشاى، أيضًا مرجعًا طبيًا لتوفير خطورة المخاطر التى تشكلها روبوتات الدردشة الحالية المعتمدة على الذكاء الاصطناعى، كان أحد الأسباب التى ذكرها لتأخره فى الانضمام إلى “حفلة الذكاء الاصطناعي” هو الشعور بالحذر داخل Google.

 

روبوتات الدردشة المدعمة بالذكاء الاصطناعى أفضل

أعلنت Microsoft للتو عن عدد كبير من الميزات لبرنامج Copilot وتشير التقارير إلى أن Google تستعد أيضًا لمعاينة افتراضية لنموذج اللغة المنافس GPT-4 Gemini هذا الأسبوع. يشير هذا إلى أن عمالقة التكنولوجيا العاملين فى مجال الذكاء الاصطناعى يغيرون توجهاتهم فى توفير معلومات أكثر دقة.