The Academic Culture of Fraud. Альцгеймер
Aug. 7th, 2024 02:00 pm![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
healthy_back https://www.palladiummag.com/2024/08/02/the-academic-culture-of-fraud/
В 2006 году Сильвен Лесне и семь его соавторов опубликовали в самом престижном научном журнале мира Nature работу о болезни Альцгеймера "Специфическое скопление белка амилоида-бета в мозге ухудшает память". Эта работа стала одним из основных этапов развития "амилоидной гипотезы" - предполагаемого механизма, объясняющего, как болезнь Альцгеймера поражает своих жертв. Болезнью Альцгеймера страдают около 50 миллионов человек - больше, чем все население Калифорнии, что делает ее самой распространенной причиной слабоумия в мире. И эта цифра будет расти по мере старения населения планеты. Эффективного лечения болезни Альцгеймера не существует, а ее патология плохо изучена. Любой прогресс в понимании этого заболевания представляет собой огромную гуманитарную победу. Воодушевленные этой статьей и другими многообещающими исследованиями, ученые стали вкладывать средства и таланты в изучение амилоидной гипотезы. К 2022 году на эти исследования было выделено более 1 миллиарда долларов государственных средств.
В том же году нейробиолог Мэтью Шраг обнаружил поддельные изображения в этой и многих других работах Лесне, в том числе и в тех, которые претендовали на доказательство амилоидной гипотезы. Эти изображения были вручную отредактированы и обрезаны, чтобы ложно показать поддержку гипотез, изложенных в работах. Примечательно, что все эти подделки прошли через формализованные процессы "экспертной оценки" в Nature и шести других научных журналах незамеченными, а затем были раскрыты по другим каналам.
Расследование Шрага, в ходе которого были обнаружены поддельные документы, началось по касательной от его работы по выявлению поддельных изображений, использованных в исследованиях, поддерживающих симуфилам, экспериментальный препарат для лечения болезни Альцгеймера. Подозрения подтвердились, когда в июне 2024 года Хоау-Ян Ванг, платный советник разработчика симуфилама, был обвинен федеральным большим жюри в фабрикации данных и изображений в исследованиях симуфилама, на которые он получил 16 миллионов долларов в виде грантов Национального института здоровья (NIH), после того как в 2021 году подал петицию в Управление по контролю качества пищевых продуктов и лекарственных препаратов - метод сообщения о мошенничестве в исследованиях, который является крайне необычным, если не уникальным.
Последующие действия, свидетельствующие о мошенничестве Лесне, были медленными. Открытие Шрага положило начало двухлетней борьбе, в результате которой все соавторы Лесне, но не сам Лесне, согласились опровергнуть статью 2006 года в Nature. Как сообщило издание Science в 2022 году, "статья Nature была процитирована примерно в 2300 научных статьях - больше, чем все остальные, кроме четырех, отчеты о фундаментальных исследованиях болезни Альцгеймера, опубликованные с 2006 года, согласно базе данных Web of Science. С тех пор ежегодная поддержка NIH исследований под названием "амилоиды, олигомеры и болезнь Альцгеймера" выросла почти с нуля до 287 миллионов долларов в 2021 году. Лесне и [его соавтор] Эш помогли спровоцировать этот взрыв, считают эксперты".
Теперь ученые должны распутать нити мошенничества, сплетенные из десятилетий споров, охватывающих исследования стоимостью в миллиард долларов. Вклад статьи в распределение этого миллиарда долларов также может быть причиной того, что о такой широко цитируемой работе, которую, предположительно, читают тысячи экспертов, и некоторые из них должны были заметить обман, не было сообщено ранее. Независимо от того, выживет ли амилоидная гипотеза или нет, это мошенничество, вероятно, задержало появление жизненно важных лекарств для десятков миллионов людей, возможно, на многие годы. Если так, то это гуманитарная катастрофа, превосходящая по масштабам большинство войн.
Никаких последствий мошенничества
Все соавторы исследования Nature, выступившие публично, отрицают свою осведомленность или причастность к мошенничеству, но признают, что изображения были явно подделаны. До сих пор преступник благополучно оставался в пассивном залоге. Кто же на самом деле манипулировал изображениями? Был ли это сам Лесне? Был ли это соавтор, действовавший с его ведома? Был ли это измученный подчиненный, действовавший в одиночку и втайне, чтобы оправдать суровые ожидания своего начальника? Косвенные улики указывают на то, что это, скорее всего, был Лесне, но веских доказательств пока нет.
В любом случае, работодателя Лесне, Университет Миннесоты, эти вопросы не интересуют. Лесне, очевидно, остается профессором и продолжает получать финансирование от Национального института здоровья. Университет расследует его работу с июня 2022 года. Представитель университета недавно сообщил Nature, что он проверил два изображения, о которых идет речь, и "завершил проверку, не обнаружив никаких нарушений исследовательской дисциплины, связанных с этими рисунками". Университет не предпринимает никаких усилий по поиску виновного.
Очевидное мошенничество Лесне - не единичный случай. В 2023 году Марк Тессье-Лавинь, занимавший в то время пост президента Стэнфордского университета, был вынужден уйти в отставку после того, как стало известно о фальсификации данных в его предыдущих исследованиях в компании Genentech, занимавшейся разработкой лекарственных препаратов, включая уже отозванную работу по гипотезе амилоида, которая была процитирована более 1000 раз. В случае успешной династической передачи навыков, Тео Бейкер, отпрыск влиятельной журналистской семьи, возглавил публичную журналистику на первом курсе Стэнфорда. В 2024 году Тессье-Лавинь вернулся, став генеральным директором недавно основанной компании по разработке лекарств Xaira Therapeutics, в которую венчурные капиталисты вложили более 1 миллиарда долларов.
И снова официальные заявления Стэнфорда не называют виновного, а обвиняют Тессье-Лавиня в "управлении и надзоре за работой его научных лабораторий", где "многие сотрудники лабораторий доктора Тессье-Лавиня на протяжении многих лет, по-видимому, манипулировали данными исследований", говорится в официальном отчете Попечительского совета Стэнфорда. В отчете содержатся такие невероятные утверждения, как "процесс, в ходе которого научная часть статьи была разработана в лаборатории доктора Тессье-Лавинье и завершилась ее публикацией в феврале 2009 года, не имел той строгости, которая ожидается для статьи, имеющей такие потенциальные последствия, хотя на основании имеющихся доказательств комиссия не установила, что доктор Тессье-Лавинье знал об этом недостатке строгости". Комиссия утверждает, что "было бы неразумно ожидать, что доктор Тессье-Лавинь выявит эти случаи манипулирования исследовательскими данными до или во время публикации соответствующих работ", даже несмотря на то, что многие из подделок были позже выявлены при визуальном осмотре манипулированных изображений. Публичная позиция Стэнфорда заключается в том, что от его исследователей нельзя ожидать, что они будут знать, что происходит в их собственных лабораториях и публикуется под их собственным именем.
И снова нет никаких попыток найти предполагаемых истинных виновников. Если принять отчет попечителей за чистую монету, то в нескольких лабораториях должно быть несколько неустановленных мошенников, но их, похоже, не волнует очевидный подтекст, что эти предполагаемые мошенники продолжают составлять фальшивые данные для важнейших медицинских исследований. Попечители утверждают, что мошенничество возникло из-за "культуры и управления лабораторией", а значит, подразумевается, что нет ни одного человека, который бы нес моральную или процедурную ответственность за фальсификацию данных. Как мы видели на примере Университета Миннесоты, такое отношение типично для академических надзирателей.
Хотя Тессье-Лавинье, по крайней мере, был вынужден уйти, а не остался в полной безнаказанности, как Лесне, это не следует принимать за справедливость. Медицинское мошенничество такого масштаба - это массовое убийство. Если вырвать лекарства из рук каждого мужчины, женщины и ребенка в Испании, это будет примерно столько же людей, сколько страдает от болезни Альцгеймера во всем мире, чье лечение - а возможно, когда-нибудь и излечение - было отложено в угоду карьере одного человека. В справедливом мире преступники не будут просто переходить с одной престижной руководящей должности на другую. В справедливом мире судебные процессы над Сильвеном Лесне и Марком Тессье-Лавинем получили бы не меньшую огласку, чем процесс над Сэмом Бэнкманом-Фридом. Если бы их признали виновными, они были бы заключены в тюрьму на десятилетия.
Кризис репликации распространяется на все сферы деятельности
Медицинское мошенничество, возможно, и является самой злостной формой академического мошенничества, но не единственной и даже не самой распространенной. Более известен "кризис репликации" в академической психологии, когда примерно с 2010 года стало широко известно, что большинство исследований в области психологии не воспроизводятся - что является вежливым способом сказать, что исследования в основном являются мошенничеством, статистической подтасовкой, такой как "p-hacking", или простой ерундой. Это оказало удивительно мало влияния, и область продолжала существовать даже без косметических изменений, хотя все информированные наблюдатели теперь знают, что она в основном фальшивая.
В интеллектуальном дискурсе долгое время считалось, что психология особенно плоха по сравнению с другими областями, будь то из-за трудноизучаемых предметов в "мягких науках", политического давления или по какой-либо другой причине. Но даже когда в башне из слоновой кости решали эту проблему, академическая психология оставалась политически влиятельной. Такие работы, как Nudge, влиятельная книга 2008 года по психологии и поведенческой экономике, обеспечили огромную поддержку роли "экспертов", управляющих общественным мнением во время пандемии COVID-19. В последние годы стало ясно, что психология была относительно хороша. Безразличие к истине характерно для всех или большинства областей, и психологи, такие как нобелевский лауреат Дэниел Канеман, автор книги "Мышление, быстрое и медленное", которая популяризировала многие из этих результатов, смогли публично признать и обсудить эти проблемы более чем на десятилетие раньше своих коллег. Это произошло почти через десять лет после того, как работа Канемана, основанная в значительной степени на исследованиях, которые не удалось воспроизвести, сыграла значительную роль в создании влиятельного движения "Рационалисты".
Пожалуй, самый вопиющий пример в психологии - профессор-супервайзер и автор бестселлеров Дэн Ариели, вероятно, самый известный из ныне живущих психологов. У него было несколько проблем с невоспроизводимыми работами или конфликтами с бюрократией по вопросам исследовательской этики, но самый вопиющий случай стал известен в 2021 году. Блог Data Colada, посвященный анализу неправомерных действий исследователей в социальных науках, опубликовал анализ, проведенный "несколькими анонимными (и сытыми и напуганными) разоблачителями", который показал, что данные в работе 2012 года о нечестности были неуклюже сфабрикованы, чтобы дать положительный результат. Все пять соавторов согласились с тем, что данные явно сфабрикованы и что именно Ариели, один из соавторов статьи, передал сфабрикованные данные своим коллегам.
Ариели неправдоподобно утверждает, что данные уже были сфабрикованы, когда он получил их от страховой компании, с которой сотрудничали авторы, а страховая компания утверждает, что манипуляции произошли уже после того, как они отправили их Ариели. Этого оправдания в духе "собака съела мою домашнюю работу", видимо, было достаточно, чтобы работодатель Ариели, Университет Дьюка, замял дело. В 2024 году Ариели заявил, что расследование Университета Дьюка показало, что он не манипулировал данными сознательно, хотя сам Ариели остается единственным источником для этого утверждения, а Дьюк заявил журналистам: "Мы не в состоянии подтвердить или проверить факты по этому поводу". Хотя большинство репортажей сфокусировано на Ариели как на практически несомненном виновнике мошенничества, важно также отметить, что из четырех других соавторов статьи в лучшем случае никто не удосужился взглянуть на свои собственные данные достаточно внимательно, чтобы понять, что это невозможная чепуха. Интересно, чем они занимают свое время? Многие другие работы Ариели не проходят проверку на запах, хотя никто еще не изучил их достаточно внимательно - а базовые данные могут быть или не быть доступными - чтобы выявить конкретное мошенничество.
Речь идет не просто о том, чтобы вычленить несколько отклонений, которые неизбежно случаются в любом масштабном начинании. Речь идет о систематическом разложении культуры научных работников при активном попустительстве и поощрении со стороны администрации. За то время, которое потребовалось для написания этой статьи, я пассивно наткнулся на большее количество примеров последовательного мошенничества в области исследований со стороны известных ученых, занимающих ведущие позиции в этой области, чем я могу описать здесь. Если вам нужны другие примеры, вы можете найти их в течение всего дня. А сколько подобных мошенничеств еще не раскрыто? Одно исследование показало, что в период с 2000 по 2021 год доля европейских биомедицинских работ, которые впоследствии были отклонены, увеличилась в четыре раза.
А почему бы и нет? Если бюрократизированные рецензенты или даже соавторы статьи не должны быть достаточно внимательны, чтобы заметить вопиющее мошенничество, если мошенничество выявляется сторонними расследователями только тогда, когда они решают устроить многолетний личный крестовый поход перед лицом институциональных препятствий, если те мошенничества, которые раскрываются, становятся известны только спустя десятилетия, то мы можем быть уверены, что почти всем мошенникам все сошло с рук. Почему бы вам не сообщить о пышном результате, который вы обещали грантодателям? Почему бы вы не согласились на престиж, продвижение по службе и деньги? Разве вас удержал бы страх, что через двадцать лет в Интернете появятся плохие статьи, но вы сохраните работу, а ваши коллеги сплотятся вокруг вас?
Даже в случае с Тессье-Лавинем, вынужденным покинуть Стэнфорд, чтобы возглавить стартап с миллиардным капиталом, кажется, что он - исключение, подтверждающее правило. Он столкнулся с какими-либо последствиями не потому, что его мошенничество было особенно ужасным, а потому, что у Тео Бейкера были семейные связи, чтобы снять с него скальп, за что в данном случае ему следует поаплодировать. Хоау-Ян Ванг может заплатить более суровую цену, если его осудят за фальсификацию исследований симуфилама, но показательно, что это стало возможным только потому, что его обвинители отказались от поиска правды и справедливости через систему научных журналов.
Вместо того чтобы потребовать опровержения, они обратились напрямую к федеральным регулирующим органам в Управлении по контролю за продуктами питания и лекарствами, что вызвало расследование Комиссии по ценным бумагам и биржам (SEC). Среди всех явно выявленных мошенников, которых я изучил, я не нашел ни одного, кто был бы серьезно наказан своими научными коллегами или работодателем университета, если только университет сначала не подвергся чрезвычайному давлению со стороны других ведущих центров власти, таких как журналисты или федеральные прокуроры.
Эпистемическое банкротство академии
Академикам, возможно, стоит взять урок у одной из других привилегированных гильдий Америки. У финансистов есть сложный аппарат для поимки тех, кто нарушает их правила и кодексы, какими бы слабыми эти кодексы иногда ни были. Федеральные бюрократические структуры, такие как Комиссия по ценным бумагам и биржам США или Казначейство, в основном укомплектованы бывшими и будущими финансистами и банкирами, которые свободно перемещаются по "вращающейся двери" между частными компаниями и государственными бюрократическими структурами. В результате у них одинаковые нормы, одинаковое представление о том, что справедливо, и одинаковое представление о том, какое поведение незаконно. В случае откровенного мошенничества бывшие коллеги мошенника по федеральным агентствам обрушатся на него как тонна кирпичей, а работодатель быстро освободит его от должности.
Комиссия по ценным бумагам и биржам США поддерживает программу вознаграждений для информаторов, которые получают от 10 до 30 % штрафов, наложенных комиссией в результате их информации, и регулярно объявляет о вознаграждениях, исчисляемых десятками миллионов. Пойманных часто отправляют в тюрьму. Возможно, 25-летний срок Сэма Бэнкмана-Фрида слишком мягок для миллиардов долларов, потраченных на воровство и мошенничество, но то, что он вообще оказался в тюрьме, дает финансистам гораздо более твердую моральную опору, чем исследователям болезни Альцгеймера. Такой подход - профессиональное общество, наделенное чрезвычайными привилегиями, но при этом обязанное подчиняться надзору Конгресса и помогать в самоохране - представляет собой гораздо более функциональную модель для олигархических гильдий, которым были делегированы основные социальные функции.
Финансовую систему США вряд ли можно назвать величайшей в мире системой правосудия. Тем не менее, она демонстрирует базовый уровень самоконтроля, стремления к соблюдению профессиональных стандартов и подотчетности перед остальным обществом. Академические институты далеко не соответствуют этим минимальным стандартам. Известные серийные мошенники находят приют у своих боссов и поощряются коллегами. Культура поощряет это на каждом шагу, начиная с кандидатов наук, которым приказывают получить положительный результат любыми способами, заканчивая соавторами и грантодателями, которые не удосуживаются взглянуть на данные и проверить, есть ли в них смысл, и заканчивая руководителями отделов и знаменитыми бестселлерами, которые широко цитируются даже после того, как их поймали. Те, кто не совершает мошенничества сам, обычно терпят его в своих коллегах. Меньшинство, которое не терпит мошенников, обычно тихо выметается. Я уже сбился со счета, сколько друзей поступили в аспирантуру, получили консультанта, который молчаливо или открыто требовал от них мошенничества, чтобы получить результаты, пригодные для публикации, и ушли с отвращением, не подняв публичного шума. То, что это говорит о тех, кто остался, не внушает оптимизма.
Мошенничество, конечно, не единственная проблема академической науки. Еще более распространены такие мелкие преступления, как подтасовка данных для получения ложноположительных результатов и "харкинг" (выдвижение гипотез после того, как результаты уже известны). Плагиат все чаще становится скандалом, наиболее известным из которых стала отставка Клодин Гэй с поста президента Гарвардского университета - высшей должности во всей академической системе Америки. Во многих областях публикуется всякая чушь и игра слов, настолько бессмысленная, что классифицировать ее как "правдивую" или "ложную" даже не имеет смысла. Фальсификация данных - худший из этих грехов, ответственный за самую большую кучу трупов, поскольку ущерб, который она наносит, труднее всего исправить другим ученым. Однако все это симптомы одной и той же болезни.
За некоторыми почетными исключениями, большинство академиков не очень-то заботятся об Истине с большой буквы Т. О, они предпочли бы Правду лжи, если бы Правда стоила всего два доллара. Но если цена окажется серьезной, они не станут ее платить. То, что ученые вынуждены выбирать между богатством, престижем и карьерным успехом, с одной стороны, и стремлением к Истине - с другой, - это вина учебных заведений. Но это вина характера профессора, что он отвернулся от Истины ради этого. Наша цивилизация создала университеты и установила для них особые привилегии, потому что мы признаем, что свободное стремление к Истине - одно из самых благородных призваний, а также одно из самых полезных. Этим людям было оказано священное доверие, и они отказались от него, чтобы занять удобное положение. Нельзя продвигать человеческие знания, бросая на решение проблемы продажных карьеристов и аппаратчиков, сколько бы тонн бумаги вы ни напечатали. Знание приходит, и всегда приходило, от безумных людей, находящихся в духовном поиске Истины, которые пренебрегают мирскими заботами в погоне за ненасытным стремлением к знанию. Сегодняшние академики живут в руинах храма, построенного лучшими людьми.
Надежда возлагается на искателей истины за пределами академических кругов
У меня мало надежды на то, что академическая наука может быть реформирована изнутри. Честно говоря, кажется, что она уже слишком далеко зашла. Если они хотят доказать, что я ошибаюсь, потребуется массовая чистка мошенников и обманщиков, а также, вероятно, резкое сокращение всего персонала учреждений. Прецеденты тюремного заключения медицинских исследователей за обман грантодателей NIH путем фальсификации данных крайне редки: в 2006 году Эрик Поелман был приговорен к одному году, в 2015 году Донг-Пью Хан был осужден на четыре года и девять месяцев, а Хоау-Ян Ванг может вскоре присоединиться к их числу.
Одного приговора в десятилетие недостаточно для решения проблемы, но он показывает, что юридические инструменты уже существуют. Возможно, врачи могут взять пример с финансистов и создать в NIH отдел, занимающийся исключительно поимкой и заключением в тюрьму мошенников. Возможно, они предложат вознаграждение в размере 10 % от гранта NIH для тех, кто сдаст мошенника. Какими бы ни были детали, любая надежда на решение проблемы изнутри потребует посадить в тюрьму сотни преступников и навсегда запретить тысячам доступ во все научные учреждения. Я также могу предложить публичную кассировку, во время которой руководство университета торжественно лишает нарушителя академической мантии и колпака и рвет его диплом.
К сожалению, я сомневаюсь, что у наших научных учреждений хватит духу на подобные вмешательства или на что-то еще, что могло бы сработать. Это идеи о том, какие действия могут реально решить проблему, а не идеи о том, какие действия могут быть в рамках тех институтов, которые существуют сегодня. Скорее всего, мошенничество будет становиться все более и более распространенным по мере того, как молодые ученые будут понимать, что ложь - лучший способ продвинуться по карьерной лестнице, а серьезное наказание так же вероятно, как удар молнии. Часть ученых с необычайной честностью и смелостью будет продолжать в своих личных блогах и рассылках документировать и предавать гласности многие и многие известные случаи мошенничества. Университеты их не поддержат, а юридическое и социальное давление, направленное на закрытие этих постыдных окон в колбасную фабрику, будет постепенно усиливаться.
Вероятнее всего, реформы будут проводиться в обход академической системы. Нет недостатка в людях, которые занимаются священным поиском Истины. Все чаще они продвигают границы знания не в рецензируемых журналах и университетских кампусах, а в периферийных нишах интернет-дискурса. Поскольку интеллектуальная элита интернет-комментариев более внимательна к сути аргументов, чем к соблюдению бюрократических форм, эти круги гораздо менее подвержены проблемам, от которых страдает академическая наука.
Самый влиятельный философ последнего времени - Элиэзер Юдковский, не имеющий диплома о среднем образовании блогер и автор фанфиков. Принятие его мышления способствовало формированию крупных лабораторий ИИ, таких как OpenAI, а затем Anthropic. Эти же лаборатории добились крупнейших технологических успехов за последние годы, в основном в рамках промышленности и при незначительном участии академической системы, переманивая из нее таланты. Все большая часть интеллектуальной элиты оставляет институты ради интернет-самоиздательства. Даже в археологии наблюдаются некоторые попытки работать вне академии, с такими хорошо финансируемыми проектами, как "Вызов Везувию" по расшифровке Геркуланумских папирусов. Если академия не сможет каким-то образом изменить курс, эта тенденция будет распространяться на все большее количество областей.
У этой ситуации есть прецедент. С 1500-х по начало 1700-х годов большинство лучших научных работ в мире было сделано отдельными натурфилософами в их частном качестве. Они вели диалог не через официальные академические институты, а через свободные неформальные сети коллег, такие как "Невидимый колледж" и "Республика писем". Именно в этих распределенных беседах развивалась и кодифицировалась современная наука, совершались ее первые крупные открытия и утверждался интеллектуальный авторитет ее практиков. Со временем эти сети постепенно влились в университетскую систему и в такие институты, как британское Королевское общество, которые закрепили их интеллектуальную легитимность и сохранили их эпистемические достоинства на века.
Если нам повезет и мы приложим немало усилий, то сможем пройти аналогичный путь. Интернет-интеллектуалы на периферии еще не готовы нести всю тяжесть, которую несла академическая система прежних времен. По мере того как академическая система будет отказываться от все большего числа своих обязанностей, работа будет становиться все легче, но нам предстоит проделать огромный объем работы. Наши результаты слишком разрозненны и недостаточно всеобъемлющи. Мы в основном не создали каналов, которые могли бы сделать нашу работу понятной для других элит или для общественности. Возможно, самое важное то, что большинство из нас не ставит перед собой цель добиться широкого признания нашей работы и внести свой вклад в дальнейшее развитие человеческого знания, а не просто узнать что-то новое для себя. Наше единственное преимущество заключается в том, что мы занимаем высокое эпистемическое положение.
Но в долгосрочной перспективе нет ничего более важного.
Бен Ландау-Тейлор изучает промышленную экономику и работает в Bismarck Analysis. Вы можете следить за ним по адресуbenlandautaylor.
In 2006, Sylvain Lesné and seven coauthors published a paper on Alzheimer’s disease, “A specific amyloid-beta protein assembly in the brain impairs memory,” in Nature, the world’s most prestigious scientific journal. This was a major paper in the development of the “amyloid hypothesis,” a proposed mechanism for how Alzheimer’s disease afflicts its victims. About 50 million people suffer from Alzheimer’s disease, more than the entire population of California, making it the world’s most common cause of dementia. This population will grow as the world’s average population gets older. There is no effective treatment for Alzheimer’s disease, and its pathology is poorly understood. Any progress in understanding this disease represents a massive humanitarian victory. Encouraged by this paper and other promising studies, funding and talent poured into investigating the amyloid hypothesis. By 2022, such research had received over $1 billion in government funds.
That year, neuroscientist Matthew Schrag discovered doctored images in this and many of Lesné’s other papers, including others purporting to provide evidence for the amyloid hypothesis. These images had been manually edited and cropped together to falsely show support for the papers’ hypotheses. Notably, these frauds all made it through the formalized “peer review” processes of Nature and six other academic journals undetected, before eventually being uncovered by unrelated channels.
Schrag’s investigation that uncovered the fraudulent papers began as a tangent from his work uncovering doctored images used in studies supporting simufilam, an experimental drug for Alzheimer’s disease. The suspicion would prove vindicated when in June 2024 Hoau-Yan Wang, a paid adviser to simufilam’s developer, was indicted by a federal grand jury for fabricating data and images in simufilam studies for which he obtained $16 million in National Institutes of Health (NIH) grants, following a 2021 petition to the Food and Drug Administration, a method of reporting research fraud which is highly unusual if not unique.
Follow-up to evidence of Lesné’s fraud was slow. Schrag’s discovery kicked off two years of wrangling, eventually leading all of Lesné’s coauthors—but not Lesné himself—to agree to retract the 2006 Nature paper. As Science reported in 2022, “The Nature paper has been cited in about 2300 scholarly articles—more than all but four other Alzheimer’s basic research reports published since 2006, according to the Web of Science database. Since then, annual NIH support for studies labeled ‘amyloid, oligomer, and Alzheimer’s’ has risen from near zero to $287 million in 2021. Lesné and [his coauthor] Ashe helped spark that explosion, experts say.”
Scientists must now untangle the strands of fraud woven through decades of arguments stretching across a billion dollars worth of research. The paper’s contribution to the allocation of this billion dollars might also be a reason why such a widely-cited paper, presumably read by thousands of experts where some must have spotted the fraud, wasn’t reported earlier. Whether the amyloid hypothesis survives or not, this fraud has likely delayed the arrival of life-saving medication for tens of millions of people, perhaps by many years. If so, it is a humanitarian disaster larger than most wars.
No Consequences for Fraud
All the coauthors of the Nature study who have spoken publicly deny any knowledge or involvement in the fraud, but acknowledge that the images were clearly tampered with. So far, the perpetrator has been left safely in the passive voice. Who actually manipulated the images? Was it Lesné himself? Was it a coauthor acting with his knowledge? Was it a harried underling, acting alone and in secret to fulfill their supervisor’s harsh expectations? Circumstantial evidence suggests it was probably Lesné, but there is no hard proof yet.
In any case, Lesné’s employer, the University of Minnesota, is not interested in these questions. Lesné apparently remains a professor and continues to receive National Institutes of Health funding. The university has been investigating his work since June 2022. A spokesperson says the university recently told Nature it had reviewed two images in question, and “has closed this review with no findings of research misconduct pertaining to these figures.” There is no ongoing effort from the university to find the culprit.
Lesné’s apparent fraud is not an isolated incident. In 2023, Marc Tessier-Lavigne, then the President of Stanford University, was forced to resign after the revelation of falsified data in his earlier research at drug developer Genentech, including a now-retracted paper on the amyloid hypothesis which has been cited over 1,000 times. In a case of successful dynastic skill transfer, public reporting was spearheaded by Theo Baker, scion of an influential family of journalists, during his freshman year as a Stanford student. In 2024, Tessier-Lavigne bounced back, becoming the CEO of the newly-founded drug discovery company Xaira Therapeutics, with over $1 billion committed by its venture capitalist backers.
Once again, Stanford’s official statements do not finger the culprit, but blame Tessier-Lavigne’s “management and oversight of his scientific laboratories,” where “Multiple members of Dr. Tessier-Lavigne’s labs over the years appear to have manipulated research data,” according to the Stanford Board of Trustees’s official report. The report contains incredible positions like “the process through which the science of the paper was developed in Dr. Tessier-Lavigne’s lab, culminating in its publication in February 2009, lacked the rigor expected for a paper of such potential consequence, although the Panel did not find, based on the evidence available to it, that Dr. Tessier-Lavigne was aware of this lack of rigor.” The panel maintains that “it would not be reasonable to expect Dr. Tessier-Lavigne to have identified these instances of research data manipulation prior to or at the time of the respective papers’ publications,” even though many of the fabrications were later identified by visual inspection of the manipulated images. Stanford’s public position is that its researchers cannot reasonably be expected to know what happens in their own labs and gets published in their own names.
Once again, there is no effort to find the supposed true culprits. If the trustees’ report is taken at face value, then there must be several unidentified fraudsters in multiple laboratories, but they seem unconcerned with the obvious implication that these supposed fraudsters are continuing to make up fake data for critical medical research. The trustees maintain that the fraud arose from “lab culture and management,” and therefore implicitly that there is no single individual who bears moral or procedural responsibility for actually falsifying the data. As we saw with the University of Minnesota, this attitude is typical of academic overseers.
While Tessier-Lavigne was at least forced out, rather than enjoying total impunity like Lesné, this should not be mistaken for justice. Medical fraud at this scale is mass manslaughter. If you ripped medicine out of the hands of every man, woman, and child in Spain, that would be about as many people as suffer from Alzheimer’s disease worldwide, whose treatments—and perhaps someday a cure—were all delayed for the benefit of one man’s career. In a just world, the perpetrators would not simply bounce from one prestigious executive position to another. In a just world, the trials of Sylvain Lesné and Marc Tessier-Lavigne would be at least as widely publicized as that of Sam Bankman-Fried. If found guilty, they would be imprisoned for decades.
The Replication Crisis Replicates Across Fields
Medical fraud may be the most evil form of academic fraud, but it is not the only one, or even the most common. More famous is the “replication crisis” in academic psychology, where since around 2010 it has become widely known that most studies in psychology fail to replicate—which is a polite way of saying that the research is mostly fraud, statistical massaging such as “p-hacking,” or simple bullshit. This has had surprisingly little effect, and the field has proceeded with barely even any cosmetic changes, even though all informed observers now know that it’s mostly fake.
Intellectual discourse long assumed that psychology was especially bad compared to other fields, whether due to difficult-to-study subject matter in the “soft sciences,” political pressures, or whatever other cause. Yet even while the ivory tower grappled with the problem, academic psychology remained politically influential. Works like Nudge, the influential 2008 book of psychology and behavioral economics, provided tremendous support for the role of “experts” managing public opinion during the COVID-19 pandemic. In recent years, it has become clear that psychology was relatively good. The indifference to truth is endemic to all or most fields, and psychologists like the Nobel-winning Daniel Kahneman, the author of Thinking, Fast and Slow, a book which popularized many of these results, were able to publicly acknowledge and discuss these problems more than a decade ahead of their peers. This came almost a decade after Kahneman’s work, based in large part on studies which failed to replicate, had played a substantial role in inspiring the influential “Rationalist” movement.
Perhaps the most egregious example in psychology is superstar professor and bestselling author Dan Ariely, likely the most famous psychologist alive. He has had several issues with papers failing to replicate or clashes with research ethics bureaucracies, but the most blatant incident came to light in 2021. The blog Data Colada, which focuses on analysis of research misconduct in the social sciences, published an analysis by “a few anonymous (and fed up and frightened) whistleblowers” which showed that the data in a 2012 paper on dishonesty was clumsily fabricated to provide a positive result. All five coauthors agreed that the data is obviously fabricated and that Ariely, one of the paper’s coauthors, had been the one to pass on the fabricated data to his colleagues.
Ariely implausibly claims the data was already fabricated when he received it from the insurance company the authors partnered with, and the insurance company claims the manipulation occurred after they sent it to Ariely. This “dog ate my homework”-tier excuse was apparently enough for Ariely’s employer, Duke University, to sweep it under the rug. In 2024, Ariely said that a Duke University investigation determined he had not knowingly manipulated the data, although Ariely himself remains the only source for this claim and Duke told reporters “we are not in a position to confirm or fact-check anything on this.” While most reporting has focused on Ariely as the near-certain perpetrator of the fraud, it is also significant that of the paper’s four other coauthors, at best none of them bothered to look at their own data closely enough to spot that it was impossible nonsense. One wonders what they do with their time instead. Many of Ariely’s other papers do not pass the smell test, although no one has yet looked closely enough—and the underlying data may or may not be available—to identify the specific fraud.
This is not just a matter of picking up a few outliers that will inevitably occur in any massive endeavor. This is a systematic corruption of the culture of academia’s researchers, with the active complicity and encouragement of the administration. In the time it took to write this article, I passively stumbled across more examples of consequential research fraud by high-profile field-leading academics than I have space to describe here. If you want more examples, you can find them all day long. How many similar frauds remain undiscovered? One study found that, between 2000 and 2021, the fraction of European biomedical papers which were later retracted quadrupled.
And why not? If bureaucratized peer reviewers or even a paper’s own coauthors aren’t expected to pay enough attention to notice blatant fraud, if fraud is only revealed by third-party investigators when they choose to make a years-long personal crusade in the face of institutional headwinds, if those frauds which are uncovered don’t come to light until decades after the fact, then we can be confident that almost all of the frauds have gotten away with it. Why wouldn’t you report the splashy result that you promised the grantmakers? Why wouldn’t you accept the prestige and promotions and money? Would you be deterred by the fear that, in twenty years, there will maybe be some bad articles online but you keep your job while your colleagues rally around you?
Even in the case of Tessier-Lavigne being forced to leave Stanford to lead a billion-dollar startup, it seems that he is the exception that proves the rule, facing any consequences at all not because his fraud was especially bad, but because Theo Baker had the family connections to take a prominent scalp—for which he should be applauded, in this case. Hoau-Yan Wang may end up paying a steeper price, if he is convicted of fabricating simufilam research, but it is revealing that this is only possible because his accusers gave up on pursuing truth and justice through the system of scientific journals.
Instead of calling for a retraction, they appealed directly to federal regulators at the Food and Drug Administration, prompting an investigation by the Securities and Exchange Commission (SEC). In all the clearly-identified frauds I’ve looked at, I have never found one who was seriously punished by their scientific peers or their university employer, unless the university first came under extraordinary pressure from other leading power centers like journalists or federal prosecutors.
The Epistemic Bankruptcy of Academia
Academics should perhaps take a lesson from one of America’s other privileged guilds. Financiers have a sophisticated apparatus for catching those who break its rules and codes, however lax those codes may sometimes be. Federal bureaucracies like the SEC or the Treasury are staffed largely by former and future financiers and bankers, who move freely through the “revolving door” between private companies and government bureaucracies. As a result, they share much the same norms, the same sense of what’s fair, and the same sense of what behavior is illegitimate. In cases of outright fraud, the fraudster’s former peers in the federal agencies will come down like a ton of bricks, and their employer will swiftly cut them loose.
The SEC maintains a bounty program for whistleblowers, who are awarded between 10% and 30% of the fines the commission imposes as a result of their information, and regularly announces bounties in the tens of millions. Those caught are often sent to prison. Sam Bankman-Fried’s sentence of 25 years may arguably be too lenient for billions of dollars of theft and fraud, but that he is in jail at all gives the financiers a much firmer moral grounding than the Alzheimer’s disease researchers. This approach, of a professional society granted extraordinary privileges while also required to submit to Congressional oversight and to assist in self-policing, provides a much more functional model for oligarchic guilds which have been delegated core social functions.
The U.S. financial system is hardly the greatest edifice of justice in the world. Yet, it demonstrates a basic level of self-policing, effort to uphold professional standards, and accountability to the rest of society. Academic institutions fall far short of these minimal standards. Known serial frauds are sheltered by their bosses and feted by their peers. The culture encourages this at every step of the way, starting with PhD candidates ordered to produce a positive result by any means necessary, continuing with coauthors and grantmakers who can’t be bothered to look at the data and check whether it makes any sense, all the way to department heads and famous bestsellers being widely cited even after they’ve been caught. Those who do not commit fraud themselves usually tolerate it in their peers. The minority who will not tolerate frauds usually weed themselves out quietly. I have lost count of how many friends of friends entered a PhD program, had an adviser who tacitly or explicitly demanded they commit fraud to get publishable results, and quit in disgust without raising a public stink. What that says about those who remain is not encouraging.
Fraud is certainly not the only problem in academic science. Lesser crimes such as massaging data to create false positives and “HARKing” (hypothesizing after the results are known) are even more common. Plagiarism has increasingly become a scandal, most famously forcing the resignation of Claudine Gay from the presidency of Harvard University, the highest post in America’s entire academic system. And many fields are overrun by the publication of bullshit and word games, meaningless enough that classifying it as “true” or “false” is not even useful. Fraudulent data is the worst of these sins, responsible for the biggest pile of dead bodies, since the damage it does is hardest for other scholars to undo. Yet these are all symptoms of the same disease.
With some honorable exceptions, most academics don’t care very much about the capital-T Truth. Oh, they’d prefer Truth to lies, if Truth only cost two dollars. But if the cost is at all serious, they won’t pay it. It is a fault in the institutions that academics must choose between wealth and prestige and career success on the one hand, and pursuit of Truth on the other. But it is a fault in the professor’s character that he would turn his back on Truth, for this. Our civilization created the universities and carved out their special privileges because we recognize that the unencumbered pursuit of Truth is among the noblest callings, and also among the most useful. These people have been given a sacred trust, and they have abandoned it in order to secure a comfortable position. You cannot advance human knowledge by throwing venal careerists and apparatchiks at the problem, no matter how many tons of paper you print. Knowledge comes, and always has come, from insane people on a spiritual quest for Truth, who will neglect worldly concerns in pursuit of the insatiable drive to know. Today’s academics are living in the ruins of a temple built by better men.
Hope Rests with Truthseekers Outside Academia
I have little hope that academic science can be reformed from the inside. Frankly, it seems too far gone. If they want to prove me wrong, it will take a massive purge of the fraudsters and bullshitters, and probably a sharp reduction in the institutions’ total staff. There is some extremely rare precedent for imprisoning medical researchers for defrauding NIH grantmakers by fabricating data: in 2006 Eric Poehlman was sentenced to one year, in 2015 Dong-Pyou Han was sentenced to four years and nine months, and Hoau-Yan Wang might soon join their number.
One conviction per decade is not nearly enough to solve the problem, but it shows that the legal tools already exist. Perhaps the doctors can take a page from the financiers, and create an NIH department dedicated solely to catching and imprisoning fraudsters. Perhaps they can offer a bounty of 10% of the fraudster’s NIH grant for those who turn them in. Whatever the details, any hope of solving the problem from the inside will require imprisoning hundreds of perpetrators, and permanently barring thousands from all scientific institutions. I might also suggest a public cashiering, in which the university’s leaders ceremonially strip the offender of their academic gown and hood, and tear up their diploma.
Unfortunately I doubt that our scientific institutions have the stomach for interventions like these, or for anything else which could possibly work. These are ideas for what actions might actually fix the problem, not ideas for what actions might be within bounds for the institutions as they exist today. More likely, fraud will grow more and more common as young scientists realize that lies are the best way to advance their careers and that serious punishment is about as likely as being struck by lightning. A fringe of credentialed scientists with unusual integrity and courage will continue their efforts on their private blogs and newsletters to document and publicize the many, many known frauds. Universities will not support them, and the legal and social pressure to shut down these embarrassing windows into the sausage factory will slowly grow more intense.
More likely, reform will come through circumvention from outside the academic system. There is no shortage of people who pursue the sacred quest for Truth. Increasingly, they are not pushing forward the frontiers of knowledge in peer-reviewed journals and university campuses, but in fringe niches of internet discourse. Because the internet commentariat’s intellectual elite is more attentive to an argument’s substance than whether it observes the bureaucratic forms, these circles are much less vulnerable to the problems which afflict academia.
The most influential philosopher of recent times is Eliezer Yudkowsky, an uncredentialed blogger and fanfiction author who lacks even a high school diploma. The adoption of his thinking contributed to the formation of major AI labs such as OpenAI and later Anthropic. These same labs have made some of the biggest technological advances of recent years, primarily within industry and with only light involvement from the academic system, while poaching talent from it. A growing fraction of the intellectual elite are leaving behind the institutions for internet self-publishing. Even archaeology is seeing some efforts to work outside of the academy, with well-funded projects like the “Vesuvius Challenge” to decipher the Herculaneum Papyri. Unless the academy can somehow reverse course, this trend will spread to more and more fields.
This situation has a precedent. From the 1500s through the early 1700s, most of the world’s best scientific work was done by individual natural philosophers in their private capacity. They were in dialogue not through formal academic institutions but through loose informal networks of peers, like the “Invisible College” and the “Republic of Letters.” It was in these distributed conversations that modern science was developed and codified, and made its first major discoveries, establishing the intellectual authority of its practitioners. Over time these networks were gradually folded into the university system and to institutions like Britain’s Royal Society, which enshrined their intellectual legitimacy and preserved their epistemic virtues for centuries.
With a bit of luck and a great deal of effort, we might follow a similar path. The fringe internet intellectuals are not yet ready to bear the full weight borne by the academic system of old. As the academic system abdicates more and more of its responsibilities, the work will get easier, but there is a tremendous amount of work to do. Our output is too scattershot, and not nearly comprehensive enough. We mostly have not built the channels which can make our work legible to other elites or to the public. Perhaps most importantly, most of us don’t intend for our work to become widely accepted and contribute to the onward march of human knowledge, rather than just to know for ourselves. Our only advantage is that we hold the epistemic high ground. But in the long run, there is nothing that matters more.
Ben Landau-Taylor studies industrial economics and works at Bismarck Analysis. You can follow him atbenlandautaylor.
В 2006 году Сильвен Лесне и семь его соавторов опубликовали в самом престижном научном журнале мира Nature работу о болезни Альцгеймера "Специфическое скопление белка амилоида-бета в мозге ухудшает память". Эта работа стала одним из основных этапов развития "амилоидной гипотезы" - предполагаемого механизма, объясняющего, как болезнь Альцгеймера поражает своих жертв. Болезнью Альцгеймера страдают около 50 миллионов человек - больше, чем все население Калифорнии, что делает ее самой распространенной причиной слабоумия в мире. И эта цифра будет расти по мере старения населения планеты. Эффективного лечения болезни Альцгеймера не существует, а ее патология плохо изучена. Любой прогресс в понимании этого заболевания представляет собой огромную гуманитарную победу. Воодушевленные этой статьей и другими многообещающими исследованиями, ученые стали вкладывать средства и таланты в изучение амилоидной гипотезы. К 2022 году на эти исследования было выделено более 1 миллиарда долларов государственных средств.
В том же году нейробиолог Мэтью Шраг обнаружил поддельные изображения в этой и многих других работах Лесне, в том числе и в тех, которые претендовали на доказательство амилоидной гипотезы. Эти изображения были вручную отредактированы и обрезаны, чтобы ложно показать поддержку гипотез, изложенных в работах. Примечательно, что все эти подделки прошли через формализованные процессы "экспертной оценки" в Nature и шести других научных журналах незамеченными, а затем были раскрыты по другим каналам.
Расследование Шрага, в ходе которого были обнаружены поддельные документы, началось по касательной от его работы по выявлению поддельных изображений, использованных в исследованиях, поддерживающих симуфилам, экспериментальный препарат для лечения болезни Альцгеймера. Подозрения подтвердились, когда в июне 2024 года Хоау-Ян Ванг, платный советник разработчика симуфилама, был обвинен федеральным большим жюри в фабрикации данных и изображений в исследованиях симуфилама, на которые он получил 16 миллионов долларов в виде грантов Национального института здоровья (NIH), после того как в 2021 году подал петицию в Управление по контролю качества пищевых продуктов и лекарственных препаратов - метод сообщения о мошенничестве в исследованиях, который является крайне необычным, если не уникальным.
Последующие действия, свидетельствующие о мошенничестве Лесне, были медленными. Открытие Шрага положило начало двухлетней борьбе, в результате которой все соавторы Лесне, но не сам Лесне, согласились опровергнуть статью 2006 года в Nature. Как сообщило издание Science в 2022 году, "статья Nature была процитирована примерно в 2300 научных статьях - больше, чем все остальные, кроме четырех, отчеты о фундаментальных исследованиях болезни Альцгеймера, опубликованные с 2006 года, согласно базе данных Web of Science. С тех пор ежегодная поддержка NIH исследований под названием "амилоиды, олигомеры и болезнь Альцгеймера" выросла почти с нуля до 287 миллионов долларов в 2021 году. Лесне и [его соавтор] Эш помогли спровоцировать этот взрыв, считают эксперты".
Теперь ученые должны распутать нити мошенничества, сплетенные из десятилетий споров, охватывающих исследования стоимостью в миллиард долларов. Вклад статьи в распределение этого миллиарда долларов также может быть причиной того, что о такой широко цитируемой работе, которую, предположительно, читают тысячи экспертов, и некоторые из них должны были заметить обман, не было сообщено ранее. Независимо от того, выживет ли амилоидная гипотеза или нет, это мошенничество, вероятно, задержало появление жизненно важных лекарств для десятков миллионов людей, возможно, на многие годы. Если так, то это гуманитарная катастрофа, превосходящая по масштабам большинство войн.
Никаких последствий мошенничества
Все соавторы исследования Nature, выступившие публично, отрицают свою осведомленность или причастность к мошенничеству, но признают, что изображения были явно подделаны. До сих пор преступник благополучно оставался в пассивном залоге. Кто же на самом деле манипулировал изображениями? Был ли это сам Лесне? Был ли это соавтор, действовавший с его ведома? Был ли это измученный подчиненный, действовавший в одиночку и втайне, чтобы оправдать суровые ожидания своего начальника? Косвенные улики указывают на то, что это, скорее всего, был Лесне, но веских доказательств пока нет.
В любом случае, работодателя Лесне, Университет Миннесоты, эти вопросы не интересуют. Лесне, очевидно, остается профессором и продолжает получать финансирование от Национального института здоровья. Университет расследует его работу с июня 2022 года. Представитель университета недавно сообщил Nature, что он проверил два изображения, о которых идет речь, и "завершил проверку, не обнаружив никаких нарушений исследовательской дисциплины, связанных с этими рисунками". Университет не предпринимает никаких усилий по поиску виновного.
Очевидное мошенничество Лесне - не единичный случай. В 2023 году Марк Тессье-Лавинь, занимавший в то время пост президента Стэнфордского университета, был вынужден уйти в отставку после того, как стало известно о фальсификации данных в его предыдущих исследованиях в компании Genentech, занимавшейся разработкой лекарственных препаратов, включая уже отозванную работу по гипотезе амилоида, которая была процитирована более 1000 раз. В случае успешной династической передачи навыков, Тео Бейкер, отпрыск влиятельной журналистской семьи, возглавил публичную журналистику на первом курсе Стэнфорда. В 2024 году Тессье-Лавинь вернулся, став генеральным директором недавно основанной компании по разработке лекарств Xaira Therapeutics, в которую венчурные капиталисты вложили более 1 миллиарда долларов.
И снова официальные заявления Стэнфорда не называют виновного, а обвиняют Тессье-Лавиня в "управлении и надзоре за работой его научных лабораторий", где "многие сотрудники лабораторий доктора Тессье-Лавиня на протяжении многих лет, по-видимому, манипулировали данными исследований", говорится в официальном отчете Попечительского совета Стэнфорда. В отчете содержатся такие невероятные утверждения, как "процесс, в ходе которого научная часть статьи была разработана в лаборатории доктора Тессье-Лавинье и завершилась ее публикацией в феврале 2009 года, не имел той строгости, которая ожидается для статьи, имеющей такие потенциальные последствия, хотя на основании имеющихся доказательств комиссия не установила, что доктор Тессье-Лавинье знал об этом недостатке строгости". Комиссия утверждает, что "было бы неразумно ожидать, что доктор Тессье-Лавинь выявит эти случаи манипулирования исследовательскими данными до или во время публикации соответствующих работ", даже несмотря на то, что многие из подделок были позже выявлены при визуальном осмотре манипулированных изображений. Публичная позиция Стэнфорда заключается в том, что от его исследователей нельзя ожидать, что они будут знать, что происходит в их собственных лабораториях и публикуется под их собственным именем.
И снова нет никаких попыток найти предполагаемых истинных виновников. Если принять отчет попечителей за чистую монету, то в нескольких лабораториях должно быть несколько неустановленных мошенников, но их, похоже, не волнует очевидный подтекст, что эти предполагаемые мошенники продолжают составлять фальшивые данные для важнейших медицинских исследований. Попечители утверждают, что мошенничество возникло из-за "культуры и управления лабораторией", а значит, подразумевается, что нет ни одного человека, который бы нес моральную или процедурную ответственность за фальсификацию данных. Как мы видели на примере Университета Миннесоты, такое отношение типично для академических надзирателей.
Хотя Тессье-Лавинье, по крайней мере, был вынужден уйти, а не остался в полной безнаказанности, как Лесне, это не следует принимать за справедливость. Медицинское мошенничество такого масштаба - это массовое убийство. Если вырвать лекарства из рук каждого мужчины, женщины и ребенка в Испании, это будет примерно столько же людей, сколько страдает от болезни Альцгеймера во всем мире, чье лечение - а возможно, когда-нибудь и излечение - было отложено в угоду карьере одного человека. В справедливом мире преступники не будут просто переходить с одной престижной руководящей должности на другую. В справедливом мире судебные процессы над Сильвеном Лесне и Марком Тессье-Лавинем получили бы не меньшую огласку, чем процесс над Сэмом Бэнкманом-Фридом. Если бы их признали виновными, они были бы заключены в тюрьму на десятилетия.
Кризис репликации распространяется на все сферы деятельности
Медицинское мошенничество, возможно, и является самой злостной формой академического мошенничества, но не единственной и даже не самой распространенной. Более известен "кризис репликации" в академической психологии, когда примерно с 2010 года стало широко известно, что большинство исследований в области психологии не воспроизводятся - что является вежливым способом сказать, что исследования в основном являются мошенничеством, статистической подтасовкой, такой как "p-hacking", или простой ерундой. Это оказало удивительно мало влияния, и область продолжала существовать даже без косметических изменений, хотя все информированные наблюдатели теперь знают, что она в основном фальшивая.
В интеллектуальном дискурсе долгое время считалось, что психология особенно плоха по сравнению с другими областями, будь то из-за трудноизучаемых предметов в "мягких науках", политического давления или по какой-либо другой причине. Но даже когда в башне из слоновой кости решали эту проблему, академическая психология оставалась политически влиятельной. Такие работы, как Nudge, влиятельная книга 2008 года по психологии и поведенческой экономике, обеспечили огромную поддержку роли "экспертов", управляющих общественным мнением во время пандемии COVID-19. В последние годы стало ясно, что психология была относительно хороша. Безразличие к истине характерно для всех или большинства областей, и психологи, такие как нобелевский лауреат Дэниел Канеман, автор книги "Мышление, быстрое и медленное", которая популяризировала многие из этих результатов, смогли публично признать и обсудить эти проблемы более чем на десятилетие раньше своих коллег. Это произошло почти через десять лет после того, как работа Канемана, основанная в значительной степени на исследованиях, которые не удалось воспроизвести, сыграла значительную роль в создании влиятельного движения "Рационалисты".
Пожалуй, самый вопиющий пример в психологии - профессор-супервайзер и автор бестселлеров Дэн Ариели, вероятно, самый известный из ныне живущих психологов. У него было несколько проблем с невоспроизводимыми работами или конфликтами с бюрократией по вопросам исследовательской этики, но самый вопиющий случай стал известен в 2021 году. Блог Data Colada, посвященный анализу неправомерных действий исследователей в социальных науках, опубликовал анализ, проведенный "несколькими анонимными (и сытыми и напуганными) разоблачителями", который показал, что данные в работе 2012 года о нечестности были неуклюже сфабрикованы, чтобы дать положительный результат. Все пять соавторов согласились с тем, что данные явно сфабрикованы и что именно Ариели, один из соавторов статьи, передал сфабрикованные данные своим коллегам.
Ариели неправдоподобно утверждает, что данные уже были сфабрикованы, когда он получил их от страховой компании, с которой сотрудничали авторы, а страховая компания утверждает, что манипуляции произошли уже после того, как они отправили их Ариели. Этого оправдания в духе "собака съела мою домашнюю работу", видимо, было достаточно, чтобы работодатель Ариели, Университет Дьюка, замял дело. В 2024 году Ариели заявил, что расследование Университета Дьюка показало, что он не манипулировал данными сознательно, хотя сам Ариели остается единственным источником для этого утверждения, а Дьюк заявил журналистам: "Мы не в состоянии подтвердить или проверить факты по этому поводу". Хотя большинство репортажей сфокусировано на Ариели как на практически несомненном виновнике мошенничества, важно также отметить, что из четырех других соавторов статьи в лучшем случае никто не удосужился взглянуть на свои собственные данные достаточно внимательно, чтобы понять, что это невозможная чепуха. Интересно, чем они занимают свое время? Многие другие работы Ариели не проходят проверку на запах, хотя никто еще не изучил их достаточно внимательно - а базовые данные могут быть или не быть доступными - чтобы выявить конкретное мошенничество.
Речь идет не просто о том, чтобы вычленить несколько отклонений, которые неизбежно случаются в любом масштабном начинании. Речь идет о систематическом разложении культуры научных работников при активном попустительстве и поощрении со стороны администрации. За то время, которое потребовалось для написания этой статьи, я пассивно наткнулся на большее количество примеров последовательного мошенничества в области исследований со стороны известных ученых, занимающих ведущие позиции в этой области, чем я могу описать здесь. Если вам нужны другие примеры, вы можете найти их в течение всего дня. А сколько подобных мошенничеств еще не раскрыто? Одно исследование показало, что в период с 2000 по 2021 год доля европейских биомедицинских работ, которые впоследствии были отклонены, увеличилась в четыре раза.
А почему бы и нет? Если бюрократизированные рецензенты или даже соавторы статьи не должны быть достаточно внимательны, чтобы заметить вопиющее мошенничество, если мошенничество выявляется сторонними расследователями только тогда, когда они решают устроить многолетний личный крестовый поход перед лицом институциональных препятствий, если те мошенничества, которые раскрываются, становятся известны только спустя десятилетия, то мы можем быть уверены, что почти всем мошенникам все сошло с рук. Почему бы вам не сообщить о пышном результате, который вы обещали грантодателям? Почему бы вы не согласились на престиж, продвижение по службе и деньги? Разве вас удержал бы страх, что через двадцать лет в Интернете появятся плохие статьи, но вы сохраните работу, а ваши коллеги сплотятся вокруг вас?
Даже в случае с Тессье-Лавинем, вынужденным покинуть Стэнфорд, чтобы возглавить стартап с миллиардным капиталом, кажется, что он - исключение, подтверждающее правило. Он столкнулся с какими-либо последствиями не потому, что его мошенничество было особенно ужасным, а потому, что у Тео Бейкера были семейные связи, чтобы снять с него скальп, за что в данном случае ему следует поаплодировать. Хоау-Ян Ванг может заплатить более суровую цену, если его осудят за фальсификацию исследований симуфилама, но показательно, что это стало возможным только потому, что его обвинители отказались от поиска правды и справедливости через систему научных журналов.
Вместо того чтобы потребовать опровержения, они обратились напрямую к федеральным регулирующим органам в Управлении по контролю за продуктами питания и лекарствами, что вызвало расследование Комиссии по ценным бумагам и биржам (SEC). Среди всех явно выявленных мошенников, которых я изучил, я не нашел ни одного, кто был бы серьезно наказан своими научными коллегами или работодателем университета, если только университет сначала не подвергся чрезвычайному давлению со стороны других ведущих центров власти, таких как журналисты или федеральные прокуроры.
Эпистемическое банкротство академии
Академикам, возможно, стоит взять урок у одной из других привилегированных гильдий Америки. У финансистов есть сложный аппарат для поимки тех, кто нарушает их правила и кодексы, какими бы слабыми эти кодексы иногда ни были. Федеральные бюрократические структуры, такие как Комиссия по ценным бумагам и биржам США или Казначейство, в основном укомплектованы бывшими и будущими финансистами и банкирами, которые свободно перемещаются по "вращающейся двери" между частными компаниями и государственными бюрократическими структурами. В результате у них одинаковые нормы, одинаковое представление о том, что справедливо, и одинаковое представление о том, какое поведение незаконно. В случае откровенного мошенничества бывшие коллеги мошенника по федеральным агентствам обрушатся на него как тонна кирпичей, а работодатель быстро освободит его от должности.
Комиссия по ценным бумагам и биржам США поддерживает программу вознаграждений для информаторов, которые получают от 10 до 30 % штрафов, наложенных комиссией в результате их информации, и регулярно объявляет о вознаграждениях, исчисляемых десятками миллионов. Пойманных часто отправляют в тюрьму. Возможно, 25-летний срок Сэма Бэнкмана-Фрида слишком мягок для миллиардов долларов, потраченных на воровство и мошенничество, но то, что он вообще оказался в тюрьме, дает финансистам гораздо более твердую моральную опору, чем исследователям болезни Альцгеймера. Такой подход - профессиональное общество, наделенное чрезвычайными привилегиями, но при этом обязанное подчиняться надзору Конгресса и помогать в самоохране - представляет собой гораздо более функциональную модель для олигархических гильдий, которым были делегированы основные социальные функции.
Финансовую систему США вряд ли можно назвать величайшей в мире системой правосудия. Тем не менее, она демонстрирует базовый уровень самоконтроля, стремления к соблюдению профессиональных стандартов и подотчетности перед остальным обществом. Академические институты далеко не соответствуют этим минимальным стандартам. Известные серийные мошенники находят приют у своих боссов и поощряются коллегами. Культура поощряет это на каждом шагу, начиная с кандидатов наук, которым приказывают получить положительный результат любыми способами, заканчивая соавторами и грантодателями, которые не удосуживаются взглянуть на данные и проверить, есть ли в них смысл, и заканчивая руководителями отделов и знаменитыми бестселлерами, которые широко цитируются даже после того, как их поймали. Те, кто не совершает мошенничества сам, обычно терпят его в своих коллегах. Меньшинство, которое не терпит мошенников, обычно тихо выметается. Я уже сбился со счета, сколько друзей поступили в аспирантуру, получили консультанта, который молчаливо или открыто требовал от них мошенничества, чтобы получить результаты, пригодные для публикации, и ушли с отвращением, не подняв публичного шума. То, что это говорит о тех, кто остался, не внушает оптимизма.
Мошенничество, конечно, не единственная проблема академической науки. Еще более распространены такие мелкие преступления, как подтасовка данных для получения ложноположительных результатов и "харкинг" (выдвижение гипотез после того, как результаты уже известны). Плагиат все чаще становится скандалом, наиболее известным из которых стала отставка Клодин Гэй с поста президента Гарвардского университета - высшей должности во всей академической системе Америки. Во многих областях публикуется всякая чушь и игра слов, настолько бессмысленная, что классифицировать ее как "правдивую" или "ложную" даже не имеет смысла. Фальсификация данных - худший из этих грехов, ответственный за самую большую кучу трупов, поскольку ущерб, который она наносит, труднее всего исправить другим ученым. Однако все это симптомы одной и той же болезни.
За некоторыми почетными исключениями, большинство академиков не очень-то заботятся об Истине с большой буквы Т. О, они предпочли бы Правду лжи, если бы Правда стоила всего два доллара. Но если цена окажется серьезной, они не станут ее платить. То, что ученые вынуждены выбирать между богатством, престижем и карьерным успехом, с одной стороны, и стремлением к Истине - с другой, - это вина учебных заведений. Но это вина характера профессора, что он отвернулся от Истины ради этого. Наша цивилизация создала университеты и установила для них особые привилегии, потому что мы признаем, что свободное стремление к Истине - одно из самых благородных призваний, а также одно из самых полезных. Этим людям было оказано священное доверие, и они отказались от него, чтобы занять удобное положение. Нельзя продвигать человеческие знания, бросая на решение проблемы продажных карьеристов и аппаратчиков, сколько бы тонн бумаги вы ни напечатали. Знание приходит, и всегда приходило, от безумных людей, находящихся в духовном поиске Истины, которые пренебрегают мирскими заботами в погоне за ненасытным стремлением к знанию. Сегодняшние академики живут в руинах храма, построенного лучшими людьми.
Надежда возлагается на искателей истины за пределами академических кругов
У меня мало надежды на то, что академическая наука может быть реформирована изнутри. Честно говоря, кажется, что она уже слишком далеко зашла. Если они хотят доказать, что я ошибаюсь, потребуется массовая чистка мошенников и обманщиков, а также, вероятно, резкое сокращение всего персонала учреждений. Прецеденты тюремного заключения медицинских исследователей за обман грантодателей NIH путем фальсификации данных крайне редки: в 2006 году Эрик Поелман был приговорен к одному году, в 2015 году Донг-Пью Хан был осужден на четыре года и девять месяцев, а Хоау-Ян Ванг может вскоре присоединиться к их числу.
Одного приговора в десятилетие недостаточно для решения проблемы, но он показывает, что юридические инструменты уже существуют. Возможно, врачи могут взять пример с финансистов и создать в NIH отдел, занимающийся исключительно поимкой и заключением в тюрьму мошенников. Возможно, они предложат вознаграждение в размере 10 % от гранта NIH для тех, кто сдаст мошенника. Какими бы ни были детали, любая надежда на решение проблемы изнутри потребует посадить в тюрьму сотни преступников и навсегда запретить тысячам доступ во все научные учреждения. Я также могу предложить публичную кассировку, во время которой руководство университета торжественно лишает нарушителя академической мантии и колпака и рвет его диплом.
К сожалению, я сомневаюсь, что у наших научных учреждений хватит духу на подобные вмешательства или на что-то еще, что могло бы сработать. Это идеи о том, какие действия могут реально решить проблему, а не идеи о том, какие действия могут быть в рамках тех институтов, которые существуют сегодня. Скорее всего, мошенничество будет становиться все более и более распространенным по мере того, как молодые ученые будут понимать, что ложь - лучший способ продвинуться по карьерной лестнице, а серьезное наказание так же вероятно, как удар молнии. Часть ученых с необычайной честностью и смелостью будет продолжать в своих личных блогах и рассылках документировать и предавать гласности многие и многие известные случаи мошенничества. Университеты их не поддержат, а юридическое и социальное давление, направленное на закрытие этих постыдных окон в колбасную фабрику, будет постепенно усиливаться.
Вероятнее всего, реформы будут проводиться в обход академической системы. Нет недостатка в людях, которые занимаются священным поиском Истины. Все чаще они продвигают границы знания не в рецензируемых журналах и университетских кампусах, а в периферийных нишах интернет-дискурса. Поскольку интеллектуальная элита интернет-комментариев более внимательна к сути аргументов, чем к соблюдению бюрократических форм, эти круги гораздо менее подвержены проблемам, от которых страдает академическая наука.
Самый влиятельный философ последнего времени - Элиэзер Юдковский, не имеющий диплома о среднем образовании блогер и автор фанфиков. Принятие его мышления способствовало формированию крупных лабораторий ИИ, таких как OpenAI, а затем Anthropic. Эти же лаборатории добились крупнейших технологических успехов за последние годы, в основном в рамках промышленности и при незначительном участии академической системы, переманивая из нее таланты. Все большая часть интеллектуальной элиты оставляет институты ради интернет-самоиздательства. Даже в археологии наблюдаются некоторые попытки работать вне академии, с такими хорошо финансируемыми проектами, как "Вызов Везувию" по расшифровке Геркуланумских папирусов. Если академия не сможет каким-то образом изменить курс, эта тенденция будет распространяться на все большее количество областей.
У этой ситуации есть прецедент. С 1500-х по начало 1700-х годов большинство лучших научных работ в мире было сделано отдельными натурфилософами в их частном качестве. Они вели диалог не через официальные академические институты, а через свободные неформальные сети коллег, такие как "Невидимый колледж" и "Республика писем". Именно в этих распределенных беседах развивалась и кодифицировалась современная наука, совершались ее первые крупные открытия и утверждался интеллектуальный авторитет ее практиков. Со временем эти сети постепенно влились в университетскую систему и в такие институты, как британское Королевское общество, которые закрепили их интеллектуальную легитимность и сохранили их эпистемические достоинства на века.
Если нам повезет и мы приложим немало усилий, то сможем пройти аналогичный путь. Интернет-интеллектуалы на периферии еще не готовы нести всю тяжесть, которую несла академическая система прежних времен. По мере того как академическая система будет отказываться от все большего числа своих обязанностей, работа будет становиться все легче, но нам предстоит проделать огромный объем работы. Наши результаты слишком разрозненны и недостаточно всеобъемлющи. Мы в основном не создали каналов, которые могли бы сделать нашу работу понятной для других элит или для общественности. Возможно, самое важное то, что большинство из нас не ставит перед собой цель добиться широкого признания нашей работы и внести свой вклад в дальнейшее развитие человеческого знания, а не просто узнать что-то новое для себя. Наше единственное преимущество заключается в том, что мы занимаем высокое эпистемическое положение.
Но в долгосрочной перспективе нет ничего более важного.
Бен Ландау-Тейлор изучает промышленную экономику и работает в Bismarck Analysis. Вы можете следить за ним по адресу
benlandautaylor.In 2006, Sylvain Lesné and seven coauthors published a paper on Alzheimer’s disease, “A specific amyloid-beta protein assembly in the brain impairs memory,” in Nature, the world’s most prestigious scientific journal. This was a major paper in the development of the “amyloid hypothesis,” a proposed mechanism for how Alzheimer’s disease afflicts its victims. About 50 million people suffer from Alzheimer’s disease, more than the entire population of California, making it the world’s most common cause of dementia. This population will grow as the world’s average population gets older. There is no effective treatment for Alzheimer’s disease, and its pathology is poorly understood. Any progress in understanding this disease represents a massive humanitarian victory. Encouraged by this paper and other promising studies, funding and talent poured into investigating the amyloid hypothesis. By 2022, such research had received over $1 billion in government funds.
That year, neuroscientist Matthew Schrag discovered doctored images in this and many of Lesné’s other papers, including others purporting to provide evidence for the amyloid hypothesis. These images had been manually edited and cropped together to falsely show support for the papers’ hypotheses. Notably, these frauds all made it through the formalized “peer review” processes of Nature and six other academic journals undetected, before eventually being uncovered by unrelated channels.
Schrag’s investigation that uncovered the fraudulent papers began as a tangent from his work uncovering doctored images used in studies supporting simufilam, an experimental drug for Alzheimer’s disease. The suspicion would prove vindicated when in June 2024 Hoau-Yan Wang, a paid adviser to simufilam’s developer, was indicted by a federal grand jury for fabricating data and images in simufilam studies for which he obtained $16 million in National Institutes of Health (NIH) grants, following a 2021 petition to the Food and Drug Administration, a method of reporting research fraud which is highly unusual if not unique.
Follow-up to evidence of Lesné’s fraud was slow. Schrag’s discovery kicked off two years of wrangling, eventually leading all of Lesné’s coauthors—but not Lesné himself—to agree to retract the 2006 Nature paper. As Science reported in 2022, “The Nature paper has been cited in about 2300 scholarly articles—more than all but four other Alzheimer’s basic research reports published since 2006, according to the Web of Science database. Since then, annual NIH support for studies labeled ‘amyloid, oligomer, and Alzheimer’s’ has risen from near zero to $287 million in 2021. Lesné and [his coauthor] Ashe helped spark that explosion, experts say.”
Scientists must now untangle the strands of fraud woven through decades of arguments stretching across a billion dollars worth of research. The paper’s contribution to the allocation of this billion dollars might also be a reason why such a widely-cited paper, presumably read by thousands of experts where some must have spotted the fraud, wasn’t reported earlier. Whether the amyloid hypothesis survives or not, this fraud has likely delayed the arrival of life-saving medication for tens of millions of people, perhaps by many years. If so, it is a humanitarian disaster larger than most wars.
No Consequences for Fraud
All the coauthors of the Nature study who have spoken publicly deny any knowledge or involvement in the fraud, but acknowledge that the images were clearly tampered with. So far, the perpetrator has been left safely in the passive voice. Who actually manipulated the images? Was it Lesné himself? Was it a coauthor acting with his knowledge? Was it a harried underling, acting alone and in secret to fulfill their supervisor’s harsh expectations? Circumstantial evidence suggests it was probably Lesné, but there is no hard proof yet.
In any case, Lesné’s employer, the University of Minnesota, is not interested in these questions. Lesné apparently remains a professor and continues to receive National Institutes of Health funding. The university has been investigating his work since June 2022. A spokesperson says the university recently told Nature it had reviewed two images in question, and “has closed this review with no findings of research misconduct pertaining to these figures.” There is no ongoing effort from the university to find the culprit.
Lesné’s apparent fraud is not an isolated incident. In 2023, Marc Tessier-Lavigne, then the President of Stanford University, was forced to resign after the revelation of falsified data in his earlier research at drug developer Genentech, including a now-retracted paper on the amyloid hypothesis which has been cited over 1,000 times. In a case of successful dynastic skill transfer, public reporting was spearheaded by Theo Baker, scion of an influential family of journalists, during his freshman year as a Stanford student. In 2024, Tessier-Lavigne bounced back, becoming the CEO of the newly-founded drug discovery company Xaira Therapeutics, with over $1 billion committed by its venture capitalist backers.
Once again, Stanford’s official statements do not finger the culprit, but blame Tessier-Lavigne’s “management and oversight of his scientific laboratories,” where “Multiple members of Dr. Tessier-Lavigne’s labs over the years appear to have manipulated research data,” according to the Stanford Board of Trustees’s official report. The report contains incredible positions like “the process through which the science of the paper was developed in Dr. Tessier-Lavigne’s lab, culminating in its publication in February 2009, lacked the rigor expected for a paper of such potential consequence, although the Panel did not find, based on the evidence available to it, that Dr. Tessier-Lavigne was aware of this lack of rigor.” The panel maintains that “it would not be reasonable to expect Dr. Tessier-Lavigne to have identified these instances of research data manipulation prior to or at the time of the respective papers’ publications,” even though many of the fabrications were later identified by visual inspection of the manipulated images. Stanford’s public position is that its researchers cannot reasonably be expected to know what happens in their own labs and gets published in their own names.
Once again, there is no effort to find the supposed true culprits. If the trustees’ report is taken at face value, then there must be several unidentified fraudsters in multiple laboratories, but they seem unconcerned with the obvious implication that these supposed fraudsters are continuing to make up fake data for critical medical research. The trustees maintain that the fraud arose from “lab culture and management,” and therefore implicitly that there is no single individual who bears moral or procedural responsibility for actually falsifying the data. As we saw with the University of Minnesota, this attitude is typical of academic overseers.
While Tessier-Lavigne was at least forced out, rather than enjoying total impunity like Lesné, this should not be mistaken for justice. Medical fraud at this scale is mass manslaughter. If you ripped medicine out of the hands of every man, woman, and child in Spain, that would be about as many people as suffer from Alzheimer’s disease worldwide, whose treatments—and perhaps someday a cure—were all delayed for the benefit of one man’s career. In a just world, the perpetrators would not simply bounce from one prestigious executive position to another. In a just world, the trials of Sylvain Lesné and Marc Tessier-Lavigne would be at least as widely publicized as that of Sam Bankman-Fried. If found guilty, they would be imprisoned for decades.
The Replication Crisis Replicates Across Fields
Medical fraud may be the most evil form of academic fraud, but it is not the only one, or even the most common. More famous is the “replication crisis” in academic psychology, where since around 2010 it has become widely known that most studies in psychology fail to replicate—which is a polite way of saying that the research is mostly fraud, statistical massaging such as “p-hacking,” or simple bullshit. This has had surprisingly little effect, and the field has proceeded with barely even any cosmetic changes, even though all informed observers now know that it’s mostly fake.
Intellectual discourse long assumed that psychology was especially bad compared to other fields, whether due to difficult-to-study subject matter in the “soft sciences,” political pressures, or whatever other cause. Yet even while the ivory tower grappled with the problem, academic psychology remained politically influential. Works like Nudge, the influential 2008 book of psychology and behavioral economics, provided tremendous support for the role of “experts” managing public opinion during the COVID-19 pandemic. In recent years, it has become clear that psychology was relatively good. The indifference to truth is endemic to all or most fields, and psychologists like the Nobel-winning Daniel Kahneman, the author of Thinking, Fast and Slow, a book which popularized many of these results, were able to publicly acknowledge and discuss these problems more than a decade ahead of their peers. This came almost a decade after Kahneman’s work, based in large part on studies which failed to replicate, had played a substantial role in inspiring the influential “Rationalist” movement.
Perhaps the most egregious example in psychology is superstar professor and bestselling author Dan Ariely, likely the most famous psychologist alive. He has had several issues with papers failing to replicate or clashes with research ethics bureaucracies, but the most blatant incident came to light in 2021. The blog Data Colada, which focuses on analysis of research misconduct in the social sciences, published an analysis by “a few anonymous (and fed up and frightened) whistleblowers” which showed that the data in a 2012 paper on dishonesty was clumsily fabricated to provide a positive result. All five coauthors agreed that the data is obviously fabricated and that Ariely, one of the paper’s coauthors, had been the one to pass on the fabricated data to his colleagues.
Ariely implausibly claims the data was already fabricated when he received it from the insurance company the authors partnered with, and the insurance company claims the manipulation occurred after they sent it to Ariely. This “dog ate my homework”-tier excuse was apparently enough for Ariely’s employer, Duke University, to sweep it under the rug. In 2024, Ariely said that a Duke University investigation determined he had not knowingly manipulated the data, although Ariely himself remains the only source for this claim and Duke told reporters “we are not in a position to confirm or fact-check anything on this.” While most reporting has focused on Ariely as the near-certain perpetrator of the fraud, it is also significant that of the paper’s four other coauthors, at best none of them bothered to look at their own data closely enough to spot that it was impossible nonsense. One wonders what they do with their time instead. Many of Ariely’s other papers do not pass the smell test, although no one has yet looked closely enough—and the underlying data may or may not be available—to identify the specific fraud.
This is not just a matter of picking up a few outliers that will inevitably occur in any massive endeavor. This is a systematic corruption of the culture of academia’s researchers, with the active complicity and encouragement of the administration. In the time it took to write this article, I passively stumbled across more examples of consequential research fraud by high-profile field-leading academics than I have space to describe here. If you want more examples, you can find them all day long. How many similar frauds remain undiscovered? One study found that, between 2000 and 2021, the fraction of European biomedical papers which were later retracted quadrupled.
And why not? If bureaucratized peer reviewers or even a paper’s own coauthors aren’t expected to pay enough attention to notice blatant fraud, if fraud is only revealed by third-party investigators when they choose to make a years-long personal crusade in the face of institutional headwinds, if those frauds which are uncovered don’t come to light until decades after the fact, then we can be confident that almost all of the frauds have gotten away with it. Why wouldn’t you report the splashy result that you promised the grantmakers? Why wouldn’t you accept the prestige and promotions and money? Would you be deterred by the fear that, in twenty years, there will maybe be some bad articles online but you keep your job while your colleagues rally around you?
Even in the case of Tessier-Lavigne being forced to leave Stanford to lead a billion-dollar startup, it seems that he is the exception that proves the rule, facing any consequences at all not because his fraud was especially bad, but because Theo Baker had the family connections to take a prominent scalp—for which he should be applauded, in this case. Hoau-Yan Wang may end up paying a steeper price, if he is convicted of fabricating simufilam research, but it is revealing that this is only possible because his accusers gave up on pursuing truth and justice through the system of scientific journals.
Instead of calling for a retraction, they appealed directly to federal regulators at the Food and Drug Administration, prompting an investigation by the Securities and Exchange Commission (SEC). In all the clearly-identified frauds I’ve looked at, I have never found one who was seriously punished by their scientific peers or their university employer, unless the university first came under extraordinary pressure from other leading power centers like journalists or federal prosecutors.
The Epistemic Bankruptcy of Academia
Academics should perhaps take a lesson from one of America’s other privileged guilds. Financiers have a sophisticated apparatus for catching those who break its rules and codes, however lax those codes may sometimes be. Federal bureaucracies like the SEC or the Treasury are staffed largely by former and future financiers and bankers, who move freely through the “revolving door” between private companies and government bureaucracies. As a result, they share much the same norms, the same sense of what’s fair, and the same sense of what behavior is illegitimate. In cases of outright fraud, the fraudster’s former peers in the federal agencies will come down like a ton of bricks, and their employer will swiftly cut them loose.
The SEC maintains a bounty program for whistleblowers, who are awarded between 10% and 30% of the fines the commission imposes as a result of their information, and regularly announces bounties in the tens of millions. Those caught are often sent to prison. Sam Bankman-Fried’s sentence of 25 years may arguably be too lenient for billions of dollars of theft and fraud, but that he is in jail at all gives the financiers a much firmer moral grounding than the Alzheimer’s disease researchers. This approach, of a professional society granted extraordinary privileges while also required to submit to Congressional oversight and to assist in self-policing, provides a much more functional model for oligarchic guilds which have been delegated core social functions.
The U.S. financial system is hardly the greatest edifice of justice in the world. Yet, it demonstrates a basic level of self-policing, effort to uphold professional standards, and accountability to the rest of society. Academic institutions fall far short of these minimal standards. Known serial frauds are sheltered by their bosses and feted by their peers. The culture encourages this at every step of the way, starting with PhD candidates ordered to produce a positive result by any means necessary, continuing with coauthors and grantmakers who can’t be bothered to look at the data and check whether it makes any sense, all the way to department heads and famous bestsellers being widely cited even after they’ve been caught. Those who do not commit fraud themselves usually tolerate it in their peers. The minority who will not tolerate frauds usually weed themselves out quietly. I have lost count of how many friends of friends entered a PhD program, had an adviser who tacitly or explicitly demanded they commit fraud to get publishable results, and quit in disgust without raising a public stink. What that says about those who remain is not encouraging.
Fraud is certainly not the only problem in academic science. Lesser crimes such as massaging data to create false positives and “HARKing” (hypothesizing after the results are known) are even more common. Plagiarism has increasingly become a scandal, most famously forcing the resignation of Claudine Gay from the presidency of Harvard University, the highest post in America’s entire academic system. And many fields are overrun by the publication of bullshit and word games, meaningless enough that classifying it as “true” or “false” is not even useful. Fraudulent data is the worst of these sins, responsible for the biggest pile of dead bodies, since the damage it does is hardest for other scholars to undo. Yet these are all symptoms of the same disease.
With some honorable exceptions, most academics don’t care very much about the capital-T Truth. Oh, they’d prefer Truth to lies, if Truth only cost two dollars. But if the cost is at all serious, they won’t pay it. It is a fault in the institutions that academics must choose between wealth and prestige and career success on the one hand, and pursuit of Truth on the other. But it is a fault in the professor’s character that he would turn his back on Truth, for this. Our civilization created the universities and carved out their special privileges because we recognize that the unencumbered pursuit of Truth is among the noblest callings, and also among the most useful. These people have been given a sacred trust, and they have abandoned it in order to secure a comfortable position. You cannot advance human knowledge by throwing venal careerists and apparatchiks at the problem, no matter how many tons of paper you print. Knowledge comes, and always has come, from insane people on a spiritual quest for Truth, who will neglect worldly concerns in pursuit of the insatiable drive to know. Today’s academics are living in the ruins of a temple built by better men.
Hope Rests with Truthseekers Outside Academia
I have little hope that academic science can be reformed from the inside. Frankly, it seems too far gone. If they want to prove me wrong, it will take a massive purge of the fraudsters and bullshitters, and probably a sharp reduction in the institutions’ total staff. There is some extremely rare precedent for imprisoning medical researchers for defrauding NIH grantmakers by fabricating data: in 2006 Eric Poehlman was sentenced to one year, in 2015 Dong-Pyou Han was sentenced to four years and nine months, and Hoau-Yan Wang might soon join their number.
One conviction per decade is not nearly enough to solve the problem, but it shows that the legal tools already exist. Perhaps the doctors can take a page from the financiers, and create an NIH department dedicated solely to catching and imprisoning fraudsters. Perhaps they can offer a bounty of 10% of the fraudster’s NIH grant for those who turn them in. Whatever the details, any hope of solving the problem from the inside will require imprisoning hundreds of perpetrators, and permanently barring thousands from all scientific institutions. I might also suggest a public cashiering, in which the university’s leaders ceremonially strip the offender of their academic gown and hood, and tear up their diploma.
Unfortunately I doubt that our scientific institutions have the stomach for interventions like these, or for anything else which could possibly work. These are ideas for what actions might actually fix the problem, not ideas for what actions might be within bounds for the institutions as they exist today. More likely, fraud will grow more and more common as young scientists realize that lies are the best way to advance their careers and that serious punishment is about as likely as being struck by lightning. A fringe of credentialed scientists with unusual integrity and courage will continue their efforts on their private blogs and newsletters to document and publicize the many, many known frauds. Universities will not support them, and the legal and social pressure to shut down these embarrassing windows into the sausage factory will slowly grow more intense.
More likely, reform will come through circumvention from outside the academic system. There is no shortage of people who pursue the sacred quest for Truth. Increasingly, they are not pushing forward the frontiers of knowledge in peer-reviewed journals and university campuses, but in fringe niches of internet discourse. Because the internet commentariat’s intellectual elite is more attentive to an argument’s substance than whether it observes the bureaucratic forms, these circles are much less vulnerable to the problems which afflict academia.
The most influential philosopher of recent times is Eliezer Yudkowsky, an uncredentialed blogger and fanfiction author who lacks even a high school diploma. The adoption of his thinking contributed to the formation of major AI labs such as OpenAI and later Anthropic. These same labs have made some of the biggest technological advances of recent years, primarily within industry and with only light involvement from the academic system, while poaching talent from it. A growing fraction of the intellectual elite are leaving behind the institutions for internet self-publishing. Even archaeology is seeing some efforts to work outside of the academy, with well-funded projects like the “Vesuvius Challenge” to decipher the Herculaneum Papyri. Unless the academy can somehow reverse course, this trend will spread to more and more fields.
This situation has a precedent. From the 1500s through the early 1700s, most of the world’s best scientific work was done by individual natural philosophers in their private capacity. They were in dialogue not through formal academic institutions but through loose informal networks of peers, like the “Invisible College” and the “Republic of Letters.” It was in these distributed conversations that modern science was developed and codified, and made its first major discoveries, establishing the intellectual authority of its practitioners. Over time these networks were gradually folded into the university system and to institutions like Britain’s Royal Society, which enshrined their intellectual legitimacy and preserved their epistemic virtues for centuries.
With a bit of luck and a great deal of effort, we might follow a similar path. The fringe internet intellectuals are not yet ready to bear the full weight borne by the academic system of old. As the academic system abdicates more and more of its responsibilities, the work will get easier, but there is a tremendous amount of work to do. Our output is too scattershot, and not nearly comprehensive enough. We mostly have not built the channels which can make our work legible to other elites or to the public. Perhaps most importantly, most of us don’t intend for our work to become widely accepted and contribute to the onward march of human knowledge, rather than just to know for ourselves. Our only advantage is that we hold the epistemic high ground. But in the long run, there is nothing that matters more.
Ben Landau-Taylor studies industrial economics and works at Bismarck Analysis. You can follow him at
benlandautaylor.