Благодарим вас за посещение Nature.com. Используемая вами версия браузера имеет ограниченную поддержку CSS. Для достижения наилучших результатов рекомендуем использовать более новую версию браузера (или отключить режим совместимости в Internet Explorer). В настоящее время, для обеспечения постоянной поддержки, мы отображаем сайт без стилей и JavaScript.
Одним из наиболее перспективных приложений машинного обучения в вычислительной физике является ускоренное решение уравнений в частных производных (УЧП). Основная цель решателя уравнений в частных производных, основанного на машинном обучении, — получение решений, достаточно точных и быстрых, чем стандартные численные методы, чтобы служить базой для сравнения. Сначала мы проводим систематический обзор литературы по машинному обучению, посвященной решению уравнений в частных производных. Из всех статей, сообщающих об использовании МО для решения уравнений в частных производных с текучестью и заявляющих о превосходстве над стандартными численными методами, мы выявили 79% (60/76) по сравнению со слабыми базовыми показателями. Во-вторых, мы обнаружили свидетельства широко распространенной предвзятости в отчетности, особенно в отчетности о результатах и публикационной предвзятости. Мы приходим к выводу, что исследования в области машинного обучения, посвященные решению уравнений в частных производных, чрезмерно оптимистичны: слабые входные данные могут приводить к чрезмерно положительным результатам, а предвзятость в отчетности — к занижению отрицательных результатов. В значительной степени эти проблемы, по-видимому, вызваны факторами, аналогичными прошлым кризисам воспроизводимости: дискреционностью исследователя и предвзятостью положительного результата. Мы призываем к культурным изменениям «снизу вверх», чтобы свести к минимуму предвзятую отчетность, а также к структурным реформам «сверху вниз», чтобы уменьшить порочные стимулы к этому.
Список авторов и статей, составленный в результате систематического обзора, а также классификация каждой статьи в случайной выборке, находятся в открытом доступе по адресу https://doi.org/10.17605/OSF.IO/GQ5B3 (ссылка 124).
Код, необходимый для воспроизведения результатов в Таблице 2, можно найти на GitHub: https://github.com/nickmcgreivy/WeakBaselinesMLPDE/ (ссылка 125) и на Code Ocean: https://codeocean.com/capsule/9605539/Tree/ v1 (ссылка 126) и https://codeocean.com/capsule/0799002/tree/v1 (ссылка 127).
Рэндалл, Д. и Вельзер, К., Кризис невоспроизводимости в современной науке: причины, последствия и пути реформ (Национальная ассоциация ученых, 2018).
Ричи, С. Научная фантастика: как мошенничество, предвзятость, молчание и шумиха подрывают поиск истины (Винтаж, 2020).
Открытое научное сотрудничество. Оценка воспроизводимости в психологической науке. Science 349, AAAC4716 (2015).
Принц, Ф., Шланге, Т. и Асадулла, К. Хотите верьте, хотите нет: насколько мы можем полагаться на опубликованные данные о потенциальных объектах воздействия лекарственных препаратов? Nat. Rev. «Открытие лекарств». 10, 712 (2011).
Бегли, К. Г. и Эллис, Л. М. Повышение стандартов в доклинических исследованиях рака. Nature 483, 531–533 (2012).
А. Гельман и Э. Локен, Сад расходящихся тропок: почему множественные сравнения представляют собой проблему даже без «рыболовных экспедиций» или «p-хаков» и сформированных исследовательских гипотез, т. 348, 1–17 (Департамент статистики, 2013).
Карагиорги, Г., Касецка, Г., Кравиц, С., Нахман, Б. и Ши, Д. Машинное обучение в поисках новой фундаментальной физики. Нац. доктор философии по физике. 4, 399–412 (2022).
Дара С., Дамерчерла С., Джадхав С.С., Бабу К.М. и Ахсан М.Дж. Машинное обучение в разработке лекарств: обзор. Atif. Intel. Изд. 55, 1947–1999 (2022).
Мазер, А.С. и Кут, М.Л. Глубокое обучение в химии. J. Chemistry. notify. Model. 59, 2545–2559 (2019).
Раджкомар А., Дин Дж. и Кохан И. Машинное обучение в медицине. New England Journal of Medicine. 380, 1347–1358 (2019).
Гриммер Дж., Робертс М.Э. и Стюарт Б.М. Машинное обучение в социальных науках: агностический подход. Преподобная Энн Болл. Science. 24, 395–419 (2021).
Джамп, Дж. и др. Высокоточные прогнозы структуры белка с использованием альфафолда. Nature 596, 583–589 (2021).
Гундерсен, О.Э., Кокли, К., Киркпатрик, К. и Гил, Й. Источники невоспроизводимости в машинном обучении: обзор. Препринт доступен по адресу https://arxiv.org/abs/2204.07610 (2022).
Скалли, Д., Снук, Дж., Вильчко, А. и Рахими, А. Проклятие победителя? О скорости, прогрессе и строгости эмпирических данных (ICLR, 2018).
Армстронг, Т.Г., Моффат, А., Веббер, У. и Зобель, Дж. Неаддитивные улучшения: предварительные результаты поиска с 1998 г. 18-я конференция ACM по управлению информацией и знаниями 601–610 (ACM 2009).
Капур, С. и Нараянан, А. Кризисы утечек и воспроизводимости в науке, основанной на машинном обучении. Patterns, 4, 100804 (2023).
Капур С. и др. Реформа: стандарты научной отчётности на основе машинного обучения. Препринт доступен по ссылке: https://arxiv.org/abs/2308.07832 (2023).
ДеМаси, О., Кординг, К. и Рехт, Б. Бессмысленные сравнения могут привести к ложному оптимизму в медицинском машинном обучении. PloS ONE 12, e0184604 (2017).
Робертс, М. и др. Распространенные ошибки и передовой опыт использования машинного обучения для обнаружения и прогнозирования COVID-19 по данным рентгенографии грудной клетки и компьютерной томографии. Nat. Max. Intel. 3, 199–217 (2021).
Винанц Л. и др. Прогностические модели диагностики и прогнозирования COVID-19: систематический обзор и критическая оценка. BMJ 369, m1328 (2020).
Уэйлен С., Шрайбер Дж., Нобл В.С. и Поллард К.С. Преодоление ловушек использования машинного обучения в геномике. Пастор Жинетт. 23, 169–181 (2022).
Атрис Н. и др. Лучшие практики машинного обучения в химии. Nat. Chemical. 13, 505–508 (2021).
Брантон С. Л. и Куц Дж. Н. Перспективные направления машинного обучения уравнений в частных производных. Естественные вычисления. Наука. 4, 483–494 (2024).
Винуэса, Р. и Брантон, С. Л. Улучшение вычислительной гидродинамики посредством машинного обучения. Естественные вычисления. Наука. 2, 358–366 (2022).
Комо, С. и др. Научное машинное обучение с использованием физически информированных нейронных сетей: где мы сейчас и что нас ждёт дальше. J. Science. calculate. 92, 88 (2022).
Дурайсами, К., Яккарино, Г. и Сяо, Х. Моделирование турбулентности в эпоху данных. Пересмотренное издание Ann. 51, 357–377 (2019).
Дюрран, Д.Р. Численные методы решения волновых уравнений в геофизической гидродинамике, т. 32 (Springer, 2013).
Мишра, С. Фреймворк машинного обучения для ускорения вычислений дифференциальных уравнений на основе данных. Математика. Инженер. https://doi.org/10.3934/Mine.2018.1.118 (2018).
Кочиков Д. и др. Машинное обучение – ускорение вычислительной гидродинамики. процесс. Национальная академия наук. наука. US 118, e2101784118 (2021).
Кадапа, К. Машинное обучение в информатике и инженерии – краткое введение и некоторые ключевые вопросы. Препринт доступен по адресу: https://arxiv.org/abs/2112.12054 (2021).
Росс, А., Ли, З., Пережогин, П., Фернандес-Гранда, К. и Занна, Л. Сравнительный анализ параметризации подсетки океана с помощью машинного обучения в идеализированных моделях. J.Adv. Model. Earth system. 15. e2022MS003258 (2023).
Липпе, П., Вилинг, Б., Пердикарис, П., Тернер, Р. и Брандштеттер, Дж. Уточнение уравнений в частных производных: достижение точных длинных выдавливаний с помощью нейронного решателя уравнений в частных производных. 37-я конференция по нейронным системам обработки информации (NeurIPS 2023).
Фрачас, П.Р. и др. Алгоритм обратного распространения и расчёт резервуара в рекуррентных нейронных сетях для прогнозирования сложной пространственно-временной динамики. нейронная сеть. 126, 191–217 (2020).
Райсси, М., Пердикарис, П. и Карниадакис, Г.Е. Физика, информатика, нейронные сети: структура глубокого обучения для решения прямых и обратных задач, связанных с нелинейными уравнениями в частных производных. Журнал компьютерной физики. 378, 686–707 (2019).
Гроссманн, Т.Г., Коморовска, У.Й., Лутц, Й. и Шёнлиб, К.-Б. Могут ли физические нейронные сети превзойти методы конечных элементов? IMA J. Приложения. Математика. 89, 143–174 (2024).
де ла Мата, Ф. Ф., Хихон, А., Молина-Солана, М. и Гомес-Ромеро, Х. Физические нейронные сети для моделирования на основе данных: преимущества, ограничения и возможности. Физика. A 610, 128415 (2023).
Чжуан, П.-Й. и Барба, Л.А. Эмпирический отчёт о физических нейронных сетях в моделировании жидкости: подводные камни и разочарования. Препринт доступен по адресу https://arxiv.org/abs/2205.14249 (2022).
Чжуан, П.-Й. и Барба, Л.А. Ограничения прогнозирования образования вихрей физически информированными нейронными сетями. Препринт доступен по адресу https://arxiv.org/abs/2306.00230 (2023).
Ван, С., Ю, Х. и Пердикарис, П. Когда и почему пинны не тренируются: перспектива нейронного касательного ядра. Журнал компьютерной физики. 449, 110768 (2022).
Кришнаприян, А., Голами, А., Чжэ, С., Кирби, Р. и Махони, М. В. Характеристики возможных видов отказов в физических информационных нейронных сетях. 35-я конференция по нейронным системам обработки информации, том 34, стр. 26548–26560 (NeurIPS 2021).
Басир, С. и Сенокак, И. Критическое исследование видов отказов в физических нейронных сетях. Форум AiAA SCITECH 2022, 2353 (ARK, 2022).
Карнаков П., Литвинов С. и Кумутсакос П. Решение физических обратных задач путём оптимизации дискретных потерь: быстрое и точное обучение без нейронных сетей. процесс. Национальная академия наук. наука. Nexus 3, pgae005 (2024).
Гундерсен О.Э. Основные принципы воспроизводимости. Фил.кросс. Р. Шукер. А 379, 20200210 (2021).
Aromataris E и Pearson A. Систематические обзоры: обзор. Да. J. Nursing 114, 53–58 (2014).
Магиера, Дж., Рэй, Д., Хестхавен, Дж. С., и Роде, К. Нейронные сети с учётом ограничений для задачи Римана. Журнал компьютерной физики. 409, 109345 (2020).
Безгин Д.А., Шмидт С.Дж. и Адамс Н.А. Физически обоснованная конечно-объемная схема с управлением данными для неклассических ударов при пониженном напряжении. Журнал компьютерной физики. 437, 110324 (2021).
Время публикации: 29 сентября 2024 г.