خطوط پایه ضعیف و سوگیری در گزارش‌دهی منجر به خوش‌بینی بیش از حد در یادگیری ماشین معادلات دیفرانسیل جزئی مرتبط با سیال می‌شود.

از بازدید شما از Nature.com متشکریم. نسخه مرورگری که استفاده می‌کنید پشتیبانی محدودی از CSS دارد. برای بهترین نتیجه، توصیه می‌کنیم از نسخه جدیدتر مرورگر خود استفاده کنید (یا حالت سازگاری را در Internet Explorer غیرفعال کنید). در عین حال، برای اطمینان از پشتیبانی مداوم، سایت را بدون استایل یا جاوا اسکریپت نمایش می‌دهیم.
یکی از امیدوارکننده‌ترین کاربردهای یادگیری ماشین در فیزیک محاسباتی، حل شتاب‌یافته معادلات دیفرانسیل جزئی (PDE) است. هدف اصلی یک حل‌کننده معادلات دیفرانسیل جزئی مبتنی بر یادگیری ماشین، تولید راه‌حل‌هایی است که به اندازه کافی دقیق و سریع‌تر از روش‌های عددی استاندارد باشند تا به عنوان یک مقایسه پایه عمل کنند. ما ابتدا یک بررسی سیستماتیک از ادبیات یادگیری ماشین در مورد حل معادلات دیفرانسیل جزئی انجام می‌دهیم. از بین تمام مقالاتی که استفاده از ML را برای حل معادلات دیفرانسیل جزئی سیال گزارش می‌دهند و ادعای برتری نسبت به روش‌های عددی استاندارد را دارند، 79٪ (60/76) را در مقایسه با پایه‌های ضعیف شناسایی کردیم. دوم، ما شواهدی از سوگیری گزارش‌دهی گسترده، به ویژه در گزارش‌دهی نتیجه و سوگیری انتشار، یافتیم. ما نتیجه می‌گیریم که تحقیقات یادگیری ماشین در مورد حل معادلات دیفرانسیل جزئی بیش از حد خوش‌بینانه است: داده‌های ورودی ضعیف می‌توانند منجر به نتایج بیش از حد مثبت شوند و سوگیری گزارش‌دهی می‌تواند منجر به گزارش‌دهی کمتر از حد نتایج منفی شود. به طور عمده، به نظر می‌رسد این مشکلات ناشی از عواملی مشابه بحران‌های تکرارپذیری گذشته هستند: اختیار محقق و سوگیری نتیجه مثبت. ما خواستار تغییر فرهنگی از پایین به بالا برای به حداقل رساندن گزارش‌دهی مغرضانه و اصلاحات ساختاری از بالا به پایین برای کاهش انگیزه‌های نادرست برای انجام این کار هستیم.
فهرست نویسندگان و مقالات تولید شده توسط مرور سیستماتیک، و همچنین طبقه‌بندی هر مقاله در نمونه تصادفی، در آدرس https://doi.org/10.17605/OSF.IO/GQ5B3 (مرجع 124) به صورت عمومی در دسترس است.
کد مورد نیاز برای بازتولید نتایج جدول ۲ را می‌توانید در GitHub: https://github.com/nickmcgreivy/WeakBaselinesMLPDE/ (مرجع ۱۲۵) و در Code Ocean: https://codeocean.com/capsule/9605539/Tree/ v1 (لینک ۱۲۶) و https://codeocean.com/capsule/0799002/tree/v1 (لینک ۱۲۷) پیدا کنید.
رندال، دی.، و ولسر، کی.، بحران تکرارناپذیری در علم مدرن: علل، پیامدها و مسیرهای اصلاح (انجمن ملی دانشمندان، ۲۰۱۸).
ریچی، س. علمی تخیلی: چگونه کلاهبرداری، تعصب، سکوت و هیاهو، جستجوی حقیقت را تضعیف می‌کند (وینتج، ۲۰۲۰).
همکاری علمی آزاد. ارزیابی تکرارپذیری در علوم روانشناسی. Science 349، AAAC4716 (2015).
پرینز، ف.، شلانج، ت.، و اسدالله، ک. باور کنید یا نه: چقدر می‌توانیم به داده‌های منتشر شده در مورد اهداف دارویی بالقوه اعتماد کنیم؟ Nat. Rev. “کشف داروها”. 10، 712 (2011).
بگلی، کی جی و الیس، ال ام، ارتقای استانداردها در تحقیقات پیش‌بالینی سرطان. نیچر ۴۸۳، ۵۳۱–۵۳۳ (۲۰۱۲).
ای. گلمن و ای. لوکن، باغ مسیرهای منشعب: چرا مقایسه‌های چندگانه حتی بدون «سفرهای ماهیگیری» یا «p-hacks» و فرضیه‌های تحقیقاتی از پیش تعیین‌شده، یک مشکل هستند، جلد ۳۴۸، ۱-۱۷ (دپارتمان آمار، ۲۰۱۳).
کاراگیورگی، جی.، کاسکا، جی.، کراویتز، اس.، ناچمن، بی.، و شی، دی. یادگیری ماشین در جستجوی فیزیک بنیادی جدید. نات. دکترای فلسفه فیزیک. 4، 399–412 (2022).
دارا س، دامرچرلا س، جادهاو س، بابو سی‌ام و احسان ام‌جی. یادگیری ماشینی در کشف دارو: یک بررسی. آتیف. اینتل. ویرایش ۵۵، ۱۹۴۷–۱۹۹۹ (۲۰۲۲).
ماتر، ای. اس. و کوته، ام. ال. یادگیری عمیق در شیمی. مجله شیمی. نوتیفیکشن. مدل. 59، 2545–2559 (2019).
راجکومار ای.، دین جی. و کوهان آی. یادگیری ماشین در پزشکی. مجله پزشکی نیوانگلند. 380، 1347–1358 (2019).
گریمر جی، رابرتز ام ای. و استوارت بی ام. یادگیری ماشین در علوم اجتماعی: رویکردی اگنوستیک. کشیش آن بال. علم. 24، 395–419 (2021).
جامپ، جی. و همکاران. پیش‌بینی‌های بسیار دقیقی از ساختار پروتئین با استفاده از آلفافولد انجام دهید. نیچر ۵۹۶، ۵۸۳–۵۸۹ (۲۰۲۱).
گاندرسن، او.ای.، کوکلی، کی.، کرکپاتریک، کی.، و گیل، وای. منابع تکرارناپذیری در یادگیری ماشین: یک بررسی. پیش‌چاپ در https://arxiv.org/abs/2204.07610 (2022) موجود است.
اسکالی، دی.، اسنوک، جی.، ویلتشکو، ای.، و رحیمی، ای. نفرین برنده؟ در مورد سرعت، پیشرفت و دقت شواهد تجربی (ICLR، ۲۰۱۸).
آرمسترانگ، تی‌جی، موفات، ای.، وبر، دبلیو.، و زوبل، جی. بهبودهای غیرافزایشی: نتایج اولیه جستجو از سال ۱۹۹۸. هجدهمین کنفرانس ACM در مورد مدیریت اطلاعات و دانش ۶۰۱–۶۱۰ (ACM ۲۰۰۹).
کاپور، س. و نارایانان، آ. بحران‌های نشت و تکرارپذیری در علوم مبتنی بر یادگیری ماشین. الگوها، 4، 100804 (2023).
کاپور اس. و همکاران. اصلاحات: استانداردهای گزارش‌دهی علمی مبتنی بر یادگیری ماشین. پیش‌چاپ در https://arxiv.org/abs/2308.07832 (2023) موجود است.
دماسی، او.، کوردینگ، سی.، و رچت، بی. مقایسه‌های بی‌معنی می‌توانند منجر به خوش‌بینی کاذب در یادگیری ماشین پزشکی شوند. PloS ONE 12، e0184604 (2017).
رابرتز، م. و همکاران. مشکلات رایج و بهترین شیوه‌ها برای استفاده از یادگیری ماشینی برای تشخیص و پیش‌بینی کووید-۱۹ از طریق عکس‌برداری قفسه سینه و توموگرافی کامپیوتری. نات. مکس. اینتل. ۳، ۱۹۹–۲۱۷ (۲۰۲۱).
وینانتز ال. و همکاران. مدل‌های پیش‌بینی‌کننده برای تشخیص و پیش‌آگهی کووید-۱۹: یک بررسی سیستماتیک و ارزیابی انتقادی. BMJ 369، m1328 (2020).
والن اس.، شرایبر جی.، نوبل دبلیو اس و پولارد کی اس. غلبه بر مشکلات استفاده از یادگیری ماشین در ژنومیک. نات. پاستور ژینت. 23، 169–181 (2022).
آتریس ن. و همکاران. بهترین شیوه‌ها برای یادگیری ماشین در شیمی. مجله شیمی ملی. 13، 505–508 (2021).
برانتون اس. ال. و کوتز جی. ان. دستورالعمل‌های امیدوارکننده برای یادگیری ماشین معادلات دیفرانسیل جزئی. مجله ملی محاسبات. علوم. 4، 483–494 (2024).
وینوئسا، آر. و برانتون، اس. ال. بهبود دینامیک سیالات محاسباتی از طریق یادگیری ماشین. مجله ملی علوم محاسباتی. 2، 358–366 (2022).
کومئو، اس. و همکاران. یادگیری ماشین علمی با شبکه‌های عصبی با اطلاعات فیزیکی: اکنون کجا هستیم و در آینده چه خواهد شد. مجله علوم. محاسبه. 92، 88 (2022).
دورایسامی، ک.، یاکارینو، گ.، و شیائو، ه. مدل‌سازی آشفتگی در عصر داده‌ها. نسخه اصلاح‌شده مجله Ann. 51، 357–377 (2019).
دوران، دکتر. روش‌های عددی برای حل معادلات موج در هیدرودینامیک ژئوفیزیکی، جلد ۳۲ (اشپرینگر، ۲۰۱۳).
میشرا، س. یک چارچوب یادگیری ماشین برای تسریع محاسبات مبتنی بر داده معادلات دیفرانسیل. ریاضیات. مهندس. https://doi.org/10.3934/Mine.2018.1.118 (2018).
کوچیکوف دی. و همکاران. یادگیری ماشین - شتاب‌دهی دینامیک سیالات محاسباتی. فرآیند. آکادمی ملی علوم. علوم. ایالات متحده 118، e2101784118 (2021).
کاداپا، ک. یادگیری ماشین برای علوم کامپیوتر و مهندسی - مقدمه‌ای کوتاه و برخی مسائل کلیدی. پیش‌چاپ در https://arxiv.org/abs/2112.12054 (2021) موجود است.
راس، آ.، لی، ز.، پرژوگین، پ.، فرناندز-گراندا، س.، و زانا، ل. تحلیل مقایسه‌ای پارامترسازی زیرشبکه اقیانوسی یادگیری ماشینی در مدل‌های ایده‌آل. مجله پیشرفت مدل. سیستم زمین. 15. e2022MS003258 (2023).
لیپ، پ.، ویلینگ، ب.، پردیکاریس، پ.، ترنر، ر.، و برندستتر، ج. اصلاح PDE: دستیابی به اکستروژن‌های طولانی دقیق با یک حل‌کننده PDE عصبی. سی و هفتمین کنفرانس سیستم‌های پردازش اطلاعات عصبی (NeurIPS 2023).
فراچاس، پی‌آر و همکاران. الگوریتم پس‌انتشار و محاسبه مخزن در شبکه‌های عصبی بازگشتی برای پیش‌بینی دینامیک پیچیده مکانی-زمانی. شبکه عصبی. 126، 191–217 (2020).
رئیسی، م.، پردیکاریس، پ. و کارنیاداکیس، جی‌ای. فیزیک، علوم کامپیوتر، شبکه‌های عصبی: یک چارچوب یادگیری عمیق برای حل مسائل رو به جلو و معکوس شامل معادلات دیفرانسیل جزئی غیرخطی. مجله فیزیک کامپیوتر. 378، 686–707 (2019).
گروسمن، تی‌جی، کوموروسکا، یوجی، لوتز، جی، و شونلیب، کی.-بی. آیا شبکه‌های عصبی مبتنی بر فیزیک می‌توانند از روش‌های المان محدود بهتر عمل کنند؟ IMA J. Applications. mathematics. 89, 143–174 (2024).
د لا ماتا، اف. اف.، گیخون، آ.، مولینا-سولانا، م.، و گومز-رومرو، ج. شبکه‌های عصبی مبتنی بر فیزیک برای مدل‌سازی داده‌محور: مزایا، محدودیت‌ها و فرصت‌ها. فیزیک. A 610، 128415 (2023).
ژوانگ، پی.-وای. و باربا، ال.ای. گزارشی تجربی در مورد شبکه‌های عصبی مبتنی بر فیزیک در مدل‌سازی سیالات: مشکلات و ناامیدی‌ها. پیش‌چاپ در https://arxiv.org/abs/2205.14249 (2022) موجود است.
ژوانگ، پی.-وای. و باربا، ال.ای. محدودیت‌های پیش‌بینی‌کننده شبکه‌های عصبی با اطلاعات فیزیکی در مورد تشکیل گردابه. پیش‌چاپ در https://arxiv.org/abs/2306.00230 (2023) موجود است.
وانگ، س.، یو، ه.، و پردیکاریس، پ. چه زمانی و چرا پین‌ها در آموزش شکست می‌خورند: دیدگاهی از هسته مماس عصبی. مجله فیزیک کامپیوتر. 449، 110768 (2022).
کریشناپریان، آ.، غلامی، آ.، ژه، س.، کربی، ر.، و ماهونی، م.و. ویژگی‌های حالت‌های خرابی احتمالی در شبکه‌های عصبی اطلاعات فیزیکی. سی و پنجمین کنفرانس سیستم‌های پردازش اطلاعات عصبی جلد 34، 26548–26560 (NeurIPS 2021).
بصیر، س. و سنوکاک، آی. مطالعه‌ای انتقادی بر حالت‌های شکست در شبکه‌های عصبی مبتنی بر فیزیک. در AiAA SCITECH 2022 Forum 2353 (ARK، 2022).
کارناکوف پ.، لیتوینوف س. و کوموتساکوس پ. حل مسائل معکوس فیزیکی با بهینه‌سازی تلفات گسسته: یادگیری سریع و دقیق بدون شبکه‌های عصبی. پردازش. آکادمی ملی علوم. علوم. نکسوس ۳، pgae005 (2024).
گاندرسن، او.ای. اصول اساسی تکرارپذیری. فیل.کراس. آر. شوکر. ای. ۳۷۹، ۲۰۲۰۲۱۰ (۲۰۲۱).
Aromataris E و Pearson A. مرور سیستماتیک: یک مرور کلی. بله. مجله پرستاری 114، 53-58 (2014).
ماگیرا، جی.، ری، دی.، هستاون، جی. اس.، و رود، کی. شبکه‌های عصبی آگاه از محدودیت برای مسئله ریمان. مجله فیزیک کامپیوتر. 409، 109345 (2020).
بزگین دی.ای.، اشمیت اس.جی. و آدامز ان.ای. مدار حجم محدود مبتنی بر داده با اطلاعات فیزیکی برای شوک‌های ولتاژ کاهش‌یافته غیرکلاسیک. مجله فیزیک کامپیوتر. 437، 110324 (2021).