INTERESTS, BIAS, AND CONSENSUS IN SCIENCE AND REGULATION

Les scientifiques sont des êtres humains. En tant que tels, ils sont sujets à des préjugés fondés sur des intérêts politiques et économiques. Si les conflits d'intérêts sont généralement associés au financement privé, la recherche financée par des sources publiques est également soumise à des intérêts particuliers et donc sujette à la partialité. Cette partialité peut conduire à un consensus qui n'est pas fondé sur des preuves. Si l'appel au consensus scientifique est un outil légitime dans le débat public et les décisions réglementaires, cet appel est illégitime dans la discussion scientifique elle-même. Nous donnons des exemples de consensus scientifiques de plusieurs décennies sur des hypothèses erronées. À des fins de conseil politique, une déclaration ou un modèle scientifique ne doit être considéré comme faisant l'objet d'un véritable consensus scientifique que s'il est partagé par ceux qui auraient directement intérêt à ce qu'il soit prouvé qu'il est erroné. Dans le cas contraire, il convient de consulter des spécialistes de domaines scientifiques et technologiques voisins.

La toxicologie influence la réglementation gouvernementale et le mode de vie de la société. Son influence est plus importante que celle de la plupart des autres branches scientifiques. Pour mémoire, l'évolution de la compréhension des conséquences du tabagisme sur la santé a non seulement entraîné une réduction drastique du nombre de fumeurs, mais a également conduit de nombreux pays à de profonds changements culturels et comportementaux, y compris l'interdiction de fumer dans les lieux publics. Un autre exemple est celui des rayonnements ionisants. Dans la première moitié du 20e siècle, les rayons X et les substances radioactives étaient fréquemment utilisés, et parfois à mauvais escient. Par exemple, on trouvait des monteurs de chaussures à rayons X dans les magasins de chaussures, comme cela est mentionné en passant dans Les lois de la nature de Peierls. Lorsque les scientifiques ont pris conscience de la mutagénèse radio-induite et, plus tard, de la cancérogénèse radio-induite, les réglementations relatives aux rayonnements sont devenues de plus en plus strictes, donnant lieu à un certain nombre de questions éthiques. Plus généralement, les activités de la Food and Drug Administration, avec son budget annuel de 5 milliards de dollars (sans parler des coûts de mise en œuvre des réglementations correspondantes), sont basées sur les sciences toxicologiques.

Ces dernières années, le domaine de la toxicologie réglementaire s'est considérablement développé. Dans les années 1970 et 1980, de nombreux pays ont adopté une série de lois relatives à l'environnement, à la santé et à la sécurité. En conséquence, les organismes de réglementation s'appuient de plus en plus sur la science toxicologique pour quantifier les nouveaux risques potentiels, par exemple les rayonnements non ionisants.

La politique de réglementation, y compris la réglementation toxicologique, est basée sur des résultats scientifiques. Cependant, en raison de différents biais décrits ci-dessous, les régulateurs peuvent négliger ou ignorer les preuves qui contredisent une réglementation plutôt que de modifier la réglementation pour qu'elle soit cohérente avec les preuves. Pour devenir la base d'une réglementation, une découverte scientifique doit être acceptée par une majorité d'experts et faire l'objet d'un véritable consensus. L'appel au consensus scientifique est un outil adéquat pour l'élaboration des politiques et le débat public. Cependant, l'appel au consensus se produit souvent dans la discussion scientifique elle-même, ce qui est absolument inacceptable, comme nous le montrons ci-dessous. Nous analysons également les intérêts et les préjugés qui peuvent conduire à un consensus sur des résultats erronés.

Le consensus n'a aucune valeur dans une argumentation scientifique ; seule la preuve expérimentale compte. Comme l'affirmait déjà Galilée, "dans les questions scientifiques, l'autorité de mille personnes ne vaut pas l'humble raisonnement d'un seul individu". Le médecin, producteur et écrivain Michael Crichton a formulé la même chose :

[Le travail de la science n'a rien à voir avec le consensus. Le consensus est l'affaire de la politique. La science, au contraire, n'a besoin que d'un seul enquêteur qui se trouve avoir raison, ce qui signifie qu'il ou elle obtient des résultats vérifiables par rapport au monde réel. En science, le consensus n'a pas d'importance. Ce qui compte, ce sont les résultats reproductibles. Les plus grands scientifiques de l'histoire le sont précisément parce qu'ils ont rompu avec le consensus.

Le psychologue Daniel Kahneman explique que les scientifiques ont tendance à faire l'expérience de ce qu'il appelle la "cécité induite par la théorie" : une fois qu'une théorie est acceptée et utilisée comme outil de réflexion, il est extraordinairement difficile de remarquer ses défauts. Même lorsque l'on tombe sur une observation qui ne correspond pas à la théorie, on suppose qu'il doit y avoir une explication que l'on a manquée d'une manière ou d'une autre. Par conséquent, aucun consensus d'experts ne peut constituer un argument dans le cadre d'une discussion scientifique. Nous illustrons cette affirmation par trois exemples de consensus scientifique de plusieurs décennies sur des résultats erronés.

L'un de ces exemples (quelque peu lié à la toxicologie) concerne la compréhension de la nature des ulcères gastroduodénaux. Pendant des décennies, il y a eu un consensus scientifique sur le fait que les ulcères étaient principalement causés par le stress et les aliments épicés. En conséquence, le traitement était soit diététique, soit chirurgical. Ce n'est qu'en 1982 que Barry Marshall et Robin Warren ont développé leur hypothèse sur la cause bactérienne des ulcères gastroduodénaux, hypothèse qui a finalement été récompensée par le prix Nobel de physiologie ou de médecine en 2005.

Another example (in the field of chemistry) are quasicrystals. Back in 1850, Auguste Bravais mathematically proved that crystals—solid structures exhibiting long-range order—can have axes of symmetry of second, third, fourth, and sixth order only, namely, only rotations by 180°, 120°, 90°, or 60° can be present.9 For about 150 years, every student of materials science was taught that fifth-order symmetry is impossible and can never be seen in diffraction patterns. Yet, in 1982, Dan Shechtman reported evidence of the fifth-order axis—evidence that was acknowledged in 2011 by the Nobel Prize in Chemistry. A posteriori, Bravais’ proof was and remains correct. However, it assumes that a structure exhibiting long-range order necessarily has translational symmetry, that is, the entire crystal lattice can be formed by its unit cell by subsequently translating a single cell into adjacent positions. The quasi-periodic materials discovered by Shechtman exhibit long-range order—therefore, they yield crystalline-like diffraction patterns. But they lack translational symmetry, and thus, Bravais’ theorem is inapplicable to them.

The last example (in the field of biology) is epigenetics, which can be defined as the study of “heritable changes that alter gene expression without changing the primary DNA sequence.” Introduced essentially by Lamarck as inheritance of features acquired during an organism’s life span, epigenetics fell out of scientific favor following the work of Charles Darwin and, for most of its history, has been considered pseudo-science. In the USSR of the 1930s, Trofim Lysenko, a favorite of Stalin, brought the area of epigenetics further into disrepute by continually making up false data and propaganda.12 This process culminated in 1948 when the entire field of genetics was outlawed in the USSR, with all geneticists being dismissed from their posts and some imprisoned. It took scientists several decades to realize that, in spite of the wrongdoing of Lysenko and Stalin, epigenetics was a real science. This recognition was finally acknowledged by the Nobel Prizes in Physiology or Medicine of 2006 for Andrew Z. Fire and Craig C. Mello and of 2012 for Sir John B. Gurdon and Shinya Yamanaka.

Un consensus scientifique erroné peut se former spontanément sans qu'aucun intérêt apparent ne soit en jeu, comme dans les cas des ulcères gastroduodénaux et des quasi-cristaux. Cependant, il peut y avoir différents intérêts qui peuvent conduire à un biais, et le biais peut finalement conduire à un consensus. Il a déjà été mentionné dans la littérature que les décideurs sont à la fois humains et politiques : ils sont soumis à des biais de perception des risques et à des pressions politiques. Il a été souligné que ces préjugés et ces pressions conduisent les régulateurs à des solutions inefficaces du point de vue du bien-être public.  Les décideurs et d'autres personnes, y compris les scientifiques, sont des êtres humains et politiques. En outre, les gens sont également "économiques" : ils réagissent aux incitations et agissent dans leur intérêt. Nous allons maintenant analyser ces intérêts.

Le cas de l'épigénétique montre comment la pression politique, même si elle s'exerce en sens inverse, peut contribuer au consensus scientifique : La terreur de Staline en faveur de l'épigénétique a émotionnellement conduit les scientifiques à la ridiculiser (en URSS, la génétique a été politiquement réhabilitée dans les années 1960 après la mort de Staline en 1953, et depuis lors, l'épigénétique a été considérée comme une pseudo-science, y compris en URSS).

Les intérêts politiques peuvent être parfaitement légitimes, comme dans le cas des tentatives visant à protéger le public de l'influence des agents toxiques. Néanmoins, le parti pris politique dans la science, y compris le principe de précaution "pour être du bon côté", est inacceptable. Comme l'indiquent Moghissi et al,

[Le défaut fondamental de cette approche est la confusion entre le rôle de la communauté scientifique et celui des régulateurs et autres décideurs politiques. La communauté scientifique doit fournir aux régulateurs des informations scientifiques précises, y compris le niveau de maturité de chaque question scientifique. Il incombe aux régulateurs d'examiner le niveau de maturité de chaque élément scientifique et de prendre des décisions prudentes si les informations scientifiques nécessaires ne sont pas suffisantes.

Les intérêts politiques se retrouvent dans deux cas importants directement liés à la toxicologie. Le premier cas concerne l'évaluation des conséquences sur la santé de la fumée de tabac secondaire (FTS). Les graves conséquences du tabagisme sur la santé ne font l'objet d'aucune controverse ; par conséquent, la réduction du nombre de fumeurs (de préférence jusqu'à zéro) est sans aucun doute un objectif politique important (pour être honnête, tous les auteurs n'ont jamais fumé). Cet objectif politique légitime peut toutefois avoir donné lieu à des pressions politiques illégitimes et à des biais de recherche lors de l'évaluation des dommages causés par la fumée secondaire, tout comme les incitations économiques de la recherche financée par l'industrie du tabac peuvent avoir donné lieu à des biais de recherche dans la direction opposée. Les deux parties intéressées - les chercheurs financés par le gouvernement et l'industrie du tabac - ont exprimé des points de vue opposés sur la toxicité de la fumée secondaire.16 Bien que la discussion professionnelle de ce sujet dépasse largement le cadre de cet article (aucun des auteurs n'est expert dans un domaine quelconque de la toxicologie chimique), le fait même de la partialité, de l'une des parties ou des deux, semble plutôt évident.

Le deuxième cas concerne l'évaluation des conséquences sanitaires des rayonnements ionisants à faible dose. S'il ne fait aucun doute que les rayonnements à forte dose tuent de manière aiguë et provoquent probablement des cancers mortels chez les survivants, les effets sur la santé des rayonnements à faible dose et à faible débit de dose font l'objet d'une vaste controverse. Le modèle linéaire sans seuil (LNT) de la cancérogénèse des rayonnements suppose que toute dose de rayonnement, aussi faible soit-elle, est cancérogène. Le modèle LNT a été adopté à l'époque de la guerre froide, et il a été démontré que le désir d'arrêter la course aux armements nucléaires a été l'un des principaux moteurs de son adoption. S'il ne fait aucun doute que la guerre nucléaire est calamiteuse et que l'arrêt de la course aux armements nucléaires est un objectif politique parfaitement légitime, l'acceptation d'une théorie scientifique extrêmement controversée (LNT) pour des raisons politiques pose un défi éthique. Notre position très sceptique sur la LNT est décrite dans un article récent.

Il est bien admis qu'un scientifique ne peut pas être une machine intellectuelle parfaite et sans intérêts. C'est pourquoi tout conflit d'intérêts potentiel, même lointain, doit être divulgué. La pratique acceptée est de divulguer les sources de financement et les affiliations pertinentes. Les conclusions de la recherche qui profitent à l'organisme de financement doivent être examinées avec une attention accrue en raison des biais probables, voire involontaires, qu'elles comportent. La première discussion sur la partialité involontaire due à un conflit d'intérêts remonte probablement au Pentateuque (Exode 23:8, Deutéronome 16:19).

La politique susmentionnée de surveillance accrue est pleinement mise en œuvre lorsque la recherche est financée par des sources privées. Nous tenons toutefois à préciser que dans le cas d'un financement privé concurrentiel, même en l'absence d'une surveillance accrue, le grand nombre de sources de financement différentes ayant des intérêts différents (et souvent contradictoires) rend toute partialité significative plutôt improbable.

En ce qui concerne le financement public, les auteurs n'ont pas connaissance d'un examen plus approfondi. En outre, il est souvent explicitement supposé que le financement public est exempt d'intérêts et de biais possibles.20 Nous allons remettre en question cette hypothèse. Tout d'abord, il convient de préciser que le financement public n'est autre que le financement gouvernemental, c'est-à-dire qu'une partie de l'argent des contribuables est allouée à certains projets par les responsables gouvernementaux compétents. Les décisions en matière de politique et de financement sont donc prises par des êtres humains et, en tant que tels, les fonctionnaires ne peuvent pas être des machines décisionnelles parfaites et sans intérêt qui recherchent le bien-être public, même contre leurs propres intérêts personnels. Ce fait est souligné par une autre observation évidente : alors que les intérêts personnels sont généralement plus ou moins clairs pour quelqu'un, le "bien-être public" est rarement évident et fait généralement l'objet d'un débat animé.

En ce qui concerne les intérêts personnels, la plupart des gens - même s'ils sont fonctionnaires - souhaitent avoir des salaires stables et ne sont donc pas intéressés par la réduction des dépenses publiques, car une telle réduction met en péril leur position. Beaucoup sont intéressés par la promotion de leur carrière, et les personnes en quête de promotion sont intéressées par l'élargissement du champ de leur pouvoir discrétionnaire21 et par l'augmentation du budget qu'elles redistribuent.

Enfin, il convient de souligner que même des fonctionnaires parfaitement désintéressés et totalement altruistes ne recherchant que le bien-être public agiront exactement dans le même sens, celui de l'accroissement de l'autorité et du budget, à condition qu'ils croient comprendre correctement le bien-être public.

En résumé, il est tout à fait naturel de s'attendre à un comportement humain de la part d'êtres humains, même s'il s'agit de fonctionnaires. En tant qu'êtres humains, les fonctionnaires sont intéressés par l'obtention d'un plus grand pouvoir discrétionnaire et par la redistribution de plus de fonds. On s'attend donc à ce qu'ils soient biaisés dans leurs décisions. Dans la littérature économique, cette attente est appelée le modèle de Niskanen.

En ce qui concerne les SHS et les rayonnements, les intérêts économiques vont dans le même sens que les intérêts politiques, c'est-à-dire vers l'acceptation de la toxicité des SHS et du modèle LNT du risque de rayonnement.

La tendance à l'augmentation de la réglementation et du budget semble être contrebalancée par le désir du grand public d'avoir moins de restrictions et de payer moins d'impôts, mais souvent cet équilibre ne fonctionne pas. En fait, le citoyen moyen est rationnellement ignorant si une question particulière ne semble pas suffisamment importante , de sorte que les gens sont prêts à se fier aux opinions des experts et ne s'opposent pas à l'expansion de la réglementation et des dépenses publiques.

Dans une société démocratique, les intérêts des fonctionnaires ne peuvent être éliminés . Toutefois, ils doivent être reconnus et atténués par une transparence adéquate et un examen scientifique indépendant.

Interests, Bias, and Consensus in Science and Regulation: https://www.ncbi.nlm.nih.gov/pmc/articles/PMC6557026/?fbclid=IwAR3mQYGwUpmrv71wCeOC4ZCTBlcgaUxImosT2zV-kQATbkoD431WBHV5HwA