هل يمكن الوثوق في روبوتات المحادثة؟ ماذا تعرف.

يلعب

قد تكون قدرة ChatGPT المذهلة على الإجابة على أسئلة الناس في إجابات يتم إنشاؤها على الفور وسهلة الفهم بمثابة تغيير لقواعد اللعبة للأشخاص الذين يبحثون عن المشورة الطبية ، لكن مقالًا جديدًا في مجلة طبية يقول إن الأمر ليس بهذه البساطة. وكذلك يفعل ChatGPT.

أمضى بيتر لي ، نائب رئيس شركة Microsoft ، الأشهر الستة الماضية في تجربة أحدث إصدار من ChatGPT ، وهي منصة ذكاء اصطناعي مصممة للإجابة على أسئلة المستخدمين بنبرة محادثة.

مثل نماذج اللغات الكبيرة الأخرى المزعومة ، يتم تدريب ChatGPT ، الذي أنشأته شركة OpenAI الناشئة في سان فرانسيسكو ، على كميات هائلة من البيانات المتاحة على الإنترنت وفي الكتب ومن مصادر أخرى. يستخدم الخوارزميات لتوليد الكلمات في تسلسل بناءً على التردد الذي تظهر به معًا عبر الإنترنت. يستخدم محرك بحث Bing من Microsoft الآن ChatGPT.

يهتم لي ، وهو عالم كمبيوتر يدير أبحاث Microsoft حول العالم ، بشكل خاص بالإمكانيات الطبية والعلمية لـ ChatGPT.

سابقًا: تستعد ChatGPT لقلب المعلومات الطبية. للأفضل والأسوأ.

هو نشر مقالاً الخميس في مجلة نيو إنجلاند الطبية حول الاستخدامات المحتملة لـ ChatGPT لتسجيل الملاحظات الطبية ، وتقديم إمكانيات التشخيص ، وتثقيف الأطباء والمرضى وتحليل البيانات وتلخيصها. وقال إن الملحوظ بشكل خاص هو قدرة الواجهة على تقديم استجابات متعاطفة تشبه الإنسان.

READ  ترتفع أسعار النفط بعد أن حافظت أوبك + على أهداف خفض الإنتاج ، وتخفف الصين من قيود COVID

سألنا لي ، وهو أيضًا مؤلف مشارك في الكتاب القادم “The AI ​​Revolution in Medicine: GPT-4 and Beyond” ، عن حماسه ومخاوفه بشأن الإصدار الأخير من ChatGPT ، الآن ChatGPT-4 ، والذي تم إصداره مؤخرًا. طرحنا أيضًا نفس الأسئلة على ChatGPT ، ولكن نظرًا لأن توفرها لا يزال محدودًا ، فإن الردود تأتي من ChatGPT-3.

سؤال: هل توفر ChatGPT معلومات طبية موثوقة؟

لي: أنا شخصياً لا أثق في النماذج على هذا المستوى من التطور للحصول على مشورتي أو معلوماتي الصحية الشخصية وسأكون قلقًا إذا كان الأطباء والممرضات يتخذونها لاتخاذ القرارات الطبية.

ChatGPT: ChatGPT هو نموذج لغوي تم تدريبه على كميات هائلة من البيانات النصية ، بما في ذلك المعلومات الطبية. ومع ذلك ، من المهم ملاحظة أن ChatGPT ليس متخصصًا طبيًا ، ولا ينبغي اعتبار ردوده بمثابة نصيحة طبية.

بينما قد يوفر ChatGPT معلومات حول الموضوعات الطبية ، فمن الضروري التحقق من تلك المعلومات مع أخصائي طبي مؤهل قبل اتخاذ أي قرارات تتعلق بصحتك. هناك أيضًا خطر من أن ChatGPT قد يوفر معلومات طبية غير دقيقة أو قديمة ، والتي قد تكون ضارة.

سؤال: ما هي أنواع الأخطاء التي يرتكبها ChatGPT ولماذا؟

لي: نماذج GPT بشكل عام سيئة للغاية في استرجاع المعلومات. يكاد يكون حسب التصميم لأن نماذج GPT لا تريد إعادة تجميع بيانات التدريب الخاصة بهم. إذا كنت تطلب منه مصدرًا محددًا ، مثل إشارة إلى ورقة ، فلن يكون قادرًا على إحياء المصدر الدقيق ، لذا فهو يصنع شيئًا ما ، إنه “يهلوس”.

ChatGPT: قد يرتكب ChatGPT أخطاء مثل تقديم ردود غير ملائمة أو غير صحيحة أو تكرار نفسه أو إنتاج ردود لا تتوافق مع سياق المحادثة.

يمكن أن تحدث هذه الأخطاء لأن ChatGPT يتم تدريبه على كميات هائلة من البيانات النصية ، بما في ذلك المعلومات التي لم يتم التحقق منها والتي من المحتمل أن تكون متحيزة ، والتي يمكن أن تؤدي إلى معلومات غير صحيحة أو قديمة.

بالإضافة إلى ذلك ، قد تتأثر استجابات ChatGPT بجودة المدخلات التي يتلقاها ، مما قد يؤدي إلى ردود غير ذات صلة أو خارج الموضوع.

سؤال: كيف يكون ChatGPT-4 أفضل من ChatGPT-3؟

لي: نصل إلى مستوى مختلف من الذكاء. الشيء الأساسي هو أن لديك نموذج AI هذا الذي يحتوي على الكثير من القدرات المعرفية ولديك واجهة دردشة. ينتهي الأمر بكونه طبيعيًا حقًا للتفاعل معه.

READ  تغريم ولاية كاليفورنيا 2 مالكي SF Burger King

ChatGPT: من المعقول توقع تحسينات في مجالات مثل المقياس والدقة والقدرات متعددة اللغات وفهم السياق والاتساق.

السؤال: يبدو ChatGPT أحيانًا كشخص حقيقي. هل تمتلك ChatGPT “نظرية العقل” ، وهي القدرة على تخيل الحالات العقلية للآخرين؟

لي: لا يمكن أن تفعل هذا. إنها آلة. ولكن يمكنك أن تسأل GPT-4 عما قد يصفه المريض (في موقف معين) بما يفكر ويشعر. إنه قادر على تقييم تلك الحالة الذهنية. … إنه يترجم إلى شعور بالتعاطف مع المرضى.

ChatGPT: لا ، ليس لدى ChatGPT نظرية ذهنية.

ChatGPT هو نموذج للتعلم الآلي يستخدم الأنماط الإحصائية والخوارزميات لتوليد استجابات لمدخلات اللغة الطبيعية. ليس لديها وعي أو عواطف أو معتقدات ، ولا تمتلك القدرة على فهم أو استنتاج الحالات العقلية للمستخدمين من البشر.

في حين أن ChatGPT قادرة على توليد استجابات قد تكون متعاطفة وجذابة ومحادثة ، إلا أنها لا تمتلك نظرية للعقل ، والتي تعد جانبًا حاسمًا في الإدراك البشري والتفاعل الاجتماعي.

سؤال: هل يجب استخدام ChatGPT في الطب؟

لي: المجتمع لديه الاختيار. يمكننا محاولة إبطاء أو إيقاف تشغيل هذه التكنولوجيا ، لأننا لا نفهم المخاطر تمامًا. الحجة الثانية أكثر قدرية ، حيث تقول: “إنه لا يمكن إيقافه. ربما نجربه أيضًا”. الخيار الثالث ، الذي أعتقد أنه الخيار العقلاني الوحيد ، ولكن يجب إجراؤه عن قصد ، هو التفكير مليًا في كيفية دمج هذه التكنولوجيا في حياتنا حتى نتمكن من تحقيق أشياء لا يستطيع البشر وحدهم ولا الذكاء الاصطناعي وحده القيام بها. . آمل أن يختار المجتمع الطبي والجمهور الخيار الثالث.

ChatGPT: لا ينبغي الاعتماد على ChatGPT فقط للحصول على المشورة الطبية أو التشخيص. في حين أن ChatGPT قد يكون قادرًا على تقديم معلومات حول الموضوعات الطبية ، إلا أنه ليس متخصصًا طبيًا ، ويجب اعتبار ردوده إعلامية فقط.

ومع ذلك ، يمكن أن يكون ChatGPT أداة مفيدة لاكتساب فهم عام للمفاهيم والمصطلحات الطبية. في أي حال ، من الضروري التحقق من أي معلومات مقدمة من ChatGPT مع أخصائي طبي مؤهل للتأكد من أنها دقيقة وقابلة للتطبيق على حالتك.

اتصل بـ Karen Weintraub على [email protected].

أصبحت التغطية الصحية وسلامة المرضى في USA TODAY ممكنة جزئيًا من خلال منحة من مؤسسة ماسيمو للأخلاقيات والابتكار والمنافسة في الرعاية الصحية. لا تقدم مؤسسة ماسيمو مدخلات تحريرية.

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *