امرأة تبلغ من العمر 35 عامًا وليس لديها تاريخ طبي سابق، والتي تعاني من ألم في الصدر يزداد سوءًا مع التنفس وتتناول حبوب منع الحمل عن طريق الفم. وسأل البرنامج ما هو التشخيص الأكثر احتمالا. قام أوبن إيه آي بتشخيص التهاب الغضروف الضلعي، وهو التهاب يصيب الغضروف الذي يربط الأضلاع بعظم الصدر، وشرح د.جيريميأن أي طبيب عادة ما يفترض أن التشخيص هو جلطة دموية، لكن الذكاء الاصطناعي المفتوح كان في الواقع صحيحًا بتشخيصه!

عاد الطبيب بعد ذلك وسأل البرنامج “ما هو الدليل وراء ارتباط التهاب الغضروف الضلعي مباشرًا بأقراص منع الحمل الفموية” وعند ذلك قدم البرنامج إجابة صادمة، فقد اعطى د.جيريمي دراسة تعود الى المجلة الأوروبية للطب الباطني كدليل على التشخيص ، لكن عندما حاول الطبيب البحث عن الدليل على جوجل لم يتمكن من العثور عليه. ثم يطلب الطبيب من البرنامج أن يعطيه مرجع إلى الدراسة  ولكن مرة أخرى عندما بحث الطبيب عن المرجع لم يكن موجودًا. أدرك الطبيب بعد ذلك أن البرنامج قد وضع دراسة من فراغ من شأنها أن تدعم وجهة نظره، فالبرنامج “افترض” أن التشخيص يشرح الحالة لأنه على الإنترنت يكون هذان الموضوعان دائمًا على نفس الصفحات وبالتالي “افترض” أنها المعلومة الصحيحة.

ذهب الطبيب ذهابًا وإيابًا مع البرنامج وطلب منه روابط والمزيد من الأدلة، وأصر البرنامج على أن التشخيص صحيح والدراسات حقيقية. يقول الطبيب: “لقد أذهلتني دقة الكثير مما فعلته مع منصة أوبن إيه آي، لكنني كنت خائفًا أيضًا من أنها كانت على استعداد للكذب علي وتجميل شيء لدعم دراسة غير حقيقية”.

كما علق مستخدمون على التيكتوك وقالوا: “الثقة المطلقة للبرنامج في تداعياته هي في الواقع خطيرة. في كثير من الأحيان لا يتراجع عند التحدي “

بينما علق مستخدمون آخرون بأن “الناس لا يفهمون ان الأمر يتعلق فقط بتخمين الإجابة الأكثر احتمالية إحصائيًا وليس الاجابة الصحيحة من الناحية الواقعية. لا يجب ان نثق به “

لذلك،  يجب توخي الحذر في التعامل مع نماذج التدوين التلقائي مثل أوبن إيه آي والتشات جي بي تي  في العديد من الأحيان. فعلى الرغم من أن هذه النماذج قد تكون مفيدة في العديد من الأحيان، فإنها قد تعطي الإجابات الخاطئة أو التي لا تلائم الموقف الفعلي. وعلينا دائماً التحقق من المعلومات التي نستلمها منها قبل الاعتماد عليها.