هشدار تند معتبرترین ژورنال پزشکی جهان مقابل پزشک های مصنوعی
به گزارش سرشیر، در حالیکه تب استفاده از هوش مصنوعی در تشخیص و درمان داغ تر از همیشه است، مجله معتبر «نیچر مدیسین» با انتشار مقاله ای کوبنده، ادعاهای تبلیغاتی شرکتهای فناوری را زیر سؤال برد و نسبت به نتایج جبران ناپذیر اعتماد کور به چت بات ها اخطار داد.
به گزارش سرشیر به نقل از خبر آنلاین و برپایه گزارش هوشیو، در دنیای هوش مصنوعی، مرز بین «بهبود سلامت» و «فریب علمی» به مویی بند شده است. در صورتیکه طبق آخرین آمارها در سال ۲۰۲۶، میلیونها نفر در سرتاسر جهان بجای رفتن به پزشک، تشخیص بیماری خویش را به دست چت بات ها سپرده اند، جامعه علمی حال ترمز این قطار پرسرعت را کشیده است.
ژورنال معتبر Nature Medicine در جدیدترین شماره خود، با لحنی بی سابقه به نقد نفوذ سریع هوش مصنوعی در سیستم های درمانی پرداخته است. در قسمتی از این سرمقاله آمده است: «شواهد بر مبنای این که ابزارهای هوش مصنوعی ارزش افزوده ای برای بیماران، پزشکان یا سیستم های بهداشتی ایجاد می کنند، بازهم نایاب است.»
این نشریه استدلال می کند که بازار امروز پر شده از محصولات و مقالاتی که ادعای «تأثیر بالینی مثبت» دارند، اما هیچ توافق جمعی بر سر این که چه سطح از شواهدی برای اثبات این ادعاها لازم است، وجود ندارد. نتیجه این آشفتگی، پیاده سازی سریع و خطرناک ابزارهایی است که هنوز در دنیای واقعی امتحان خویش را پس نداده اند.
گزارش های میدانی نشان داده است که مدلهای بزرگ زبانی (LLM) علیرغم ظاهر فریبنده، با مشکلات ساختاری دست وپنجه نرم می کنند:
تشخیص های اشتباه ۸۰ درصدی: مطالعه ای در ژورنال JAMA Medicine فاش کرد که مدلهای پیشرو هوش مصنوعی در برخورد با علایم مبهم و پیچیده، در بیشتر از ۸۰ درصد موارد از تشخیص درست باز می مانند.
توهم در تحلیل تصاویر: برخی مدلها بدون آن که تصویری به آنها عرضه شود، گزارش های بالینی مفصل و ساختگی از تصاویر رادیولوژی خیالی عرضه کرده اند.
بیماری های ساختگی: در یک آزمایش جالب، محققان دانشگاه گوتنبرگ دو مقاله جعلی در رابطه با یک بیماری پوستی کاملا ساختگی منتشر کردند؛ دیری نپایید که هوش مصنوعی نه فقط وجود این بیماری را تأیید کرد، بلکه مقالات دیگری نیز با استناد به آن داده های غلط، به چاپ رسیدند.
دکتر «جیمی رابرتسون»، استادیار جراحی در دانشکده پزشکی هاروارد، اعتقاد دارد باآنکه هوش مصنوعی می تواند کارهای خسته کننده مثل کدنویسی برای تحلیل داده ها را سرعت ببخشد، اما اتکای بیش از اندازه به آن، «صلابت علمی» را قربانی می کند. او هشدار می دهد که داده های بیش ازحد تعمیم یافته و توهمات آماری هوش مصنوعی، درحال آلوده کردن بدنه دانش پزشکی هستند.
سرمقاله نیچر تاکید می کند که مرحله بعدی پیشرفت هوش مصنوعی، نه در گرو مدلهای قدرتمندتر، بلکه در گرو ایجاد یک چارچوب ارزیابی دقیق است. تا وقتی که معیارهای مشخصی برای تعریف «تأثیر بالینی» وجود نداشته باشد، استفاده از این ابزارها چیزی فراتر از یک ریسک بزرگ بر روی جان انسان ها نخواهد بود.
این مطلب را می پسندید؟
(0)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب