นักข่าวเดอะวอชิงตันโพสต์ทดสอบChatGPT Healthด้วยข้อมูลApple Watchตลอด 10 ปี พบว่า AI ให้การประเมินสุขภาพหัวใจที่ไม่สอดคล้องและขัดแย้งกับความเห็นของแพทย์
OpenAIเปิดตัวChatGPT Healthเมื่อต้นเดือนมกราคมที่ผ่านมา ซึ่งเป็นส่วนเฉพาะสำหรับคำถามด้านสุขภาพที่แยกจากการใช้งานChatGPTทั่วไป ผู้ใช้สามารถเชื่อมต่อข้อมูลสุขภาพจากหลายบริการ เช่นApple Health, Function, MyFitnessPal, Weight Watchers, AllTrails, InstacartและPelotonเพื่อรับคำตอบที่เป็นส่วนตัวมากขึ้น ระบบยังรองรับการเชื่อมต่อกับเวชระเบียนเพื่อวิเคราะห์ผลแล็บและประวัติการรักษา
นักข่าวGeoffrey Fowlerแห่งเดอะวอชิงตันโพสต์ทดสอบChatGPT Healthโดยให้ระบบเข้าถึงข้อมูล 29 ล้านก้าวและการวัดอัตราการเต้นของหัวใจ 6 ล้านครั้งจากแอปApple Healthของเขา จากนั้นขอให้ประเมินสุขภาพหัวใจ ผลปรากฏว่าChatGPTให้คะแนน F
ด้วยความกังวลFowlerจึงปรึกษาแพทย์ของเขา ซึ่งปฏิเสธการประเมินของ AI อย่างชัดเจน แพทย์ระบุว่าFowlerมีความเสี่ยงต่อปัญหาหัวใจในระดับต่ำมาก จนบริษัทประกันอาจไม่ครอบคลุมค่าใช้จ่ายการตรวจเพิ่มเติมเพื่อหักล้างผลจาก AI
นพ.Eric Topol****แพทย์โรคหัวใจแห่งScripps Research Instituteไม่เห็นด้วยกับการประเมินของโมเดลภาษาขนาดใหญ่เช่นกัน เขาเรียกการวิเคราะห์ของChatGPTว่า “ไม่มีมูลความจริง” และแนะนำให้เพิกเฉยคำแนะนำทางการแพทย์จาก AI เพราะยังไม่พร้อมใช้งานจริง
ปัญหาที่น่ากังวลที่สุดคือความไม่สม่ำเสมอของChatGPTเมื่อFowlerถามคำถามเดิมหลายครั้ง คะแนนเปลี่ยนแปลงอย่างมากระหว่าง F ถึง B นอกจากนี้ChatGPTยังลืมข้อมูลพื้นฐาน เช่น เพศและอายุของเขาบ่อยครั้ง ทั้งที่สามารถเข้าถึงเวชระเบียนได้อย่างสมบูรณ์
แชทบอทClaudeของAnthropicทำงานได้ดีกว่าเล็กน้อย โดยให้คะแนนสุขภาพหัวใจของFowlerเป็น C แต่ก็ยังไม่สามารถคำนึงถึงข้อจำกัดของข้อมูลจากApple Watchได้อย่างถูกต้อง
ทั้งOpenAIและAnthropicระบุว่าเครื่องมือสุขภาพของพวกเขาไม่ได้มีวัตถุประสงค์เพื่อทดแทนแพทย์หรือให้การวินิจฉัยโรค อย่างไรก็ตามนพ.Topolชี้ว่าหาก AI ไม่สามารถประเมินข้อมูลสุขภาพได้อย่างแม่นยำ ก็ไม่ควรให้คะแนนตั้งแต่แรก
องค์การอาหารและยาของสหรัฐอเมริกา (FDA)กล่าวเมื่อต้นเดือนนี้ว่าบทบาทของหน่วยงานคือ “ถอยออกจากการกำกับดูแล” เพื่อส่งเสริมนวัตกรรมคณะกรรมการ FDAกำหนดว่า AI ไม่ควรทำ “การอ้างสิทธิ์ทางการแพทย์หรือทางคลินิก” โดยไม่ได้รับการตรวจสอบจากFDAแต่ChatGPTและClaudeอ้างว่าเพียงแค่ให้ข้อมูลเท่านั้น
“ผู้ที่ใช้เครื่องมือนี้จะรู้สึกกังวลเกี่ยวกับสุขภาพของตนเอง”นพ.Topolกล่าว “หรืออาจเกิดผลตรงกันข้ามคือทำให้คนที่มีสุขภาพไม่ดีรู้สึกมั่นใจผิดๆ ว่าทุกอย่างที่ทำนั้นดี”
ฟีเจอร์เชื่อมต่อApple HealthของChatGPTปัจจุบันเปิดให้ใช้งานเฉพาะผู้ใช้ทดสอบเบต้าเท่านั้น ตอบสนองต่อรายงานดังกล่าวOpenAIระบุว่ากำลังพัฒนาเพื่อปรับปรุงความสม่ำเสมอของคำตอบAshley Alexander****รองประธานของOpenAIแถลงว่า “การเปิดตัวChatGPT Healthแบบจำกัดการเข้าถึงช่วยให้เราได้เรียนรู้และพัฒนาประสบการณ์ก่อนเปิดให้บริการอย่างแพร่หลาย”
อ้างอิง | Macrumors.com
