1998 : Risques associés aux progrès technologiques > Exposé de Gérard Toulouse >  Discours de Gérard Toulouse : Promesses et risques: où sont les responsabilités des chercheurs?

Discours de Gérard Toulouse : Promesses et risques: où sont les responsabilités des chercheurs?

Directeur de Recherche à l'Ecole Normale Supérieure, Vice-Président du Comité des Sciences

Biographie :

TOULOUSE Gérard

Compte rendu :

Transcription :


24 octobre 1998 Exposé

Discours de Gérard Toulouse :



Résumé : L’éthique est une préoccupation permanente des chercheurs qui ont participé aux plus grandes découvertes de notre siècle. Mise en perspective des dangers et des espoirs suscités par les découvertes scientifiques et leurs applications.

Préambule : Beaucoup de mes collègues chercheurs s’inquiètent de la montante mise en question de la science par la société. De crainte d'être désignés comme premiers responsables des innovations technologiques (au motif que celles-ci découlent d'un processus dont la source originelle peut être trouvée, parfois ou souvent, dans leurs travaux «originaux»), la tentation est grande, pour certains scientifiques, de dénier catégoriquement toute responsabilité (en la reportant en aval), et de se retrancher dans une innocence de principe. Evidemment, la juste répartition des responsabilités se situe quelque part entre ces deux extrêmes (innocence absolue, culpabilité primordiale). Mais où, plus précisément ?
Au soir de sa vie, Isaac Newton se décrivait ainsi :
«A moi-même, il me paraît avoir été comme un enfant, jouant sur la plage, et se divertissant à découvrir de temps à autre un galet plus lisse ou un coquillage plus joli que d'ordinaire, tandis que le grand océan de la vérité restait inconnu devant moi».
Curiosité juvénile, innocence, modestie.
Depuis trois siècles, l'essor des sciences et leur impact social a été «énorme», dans tous les sens du terme, suscitant parfois la métaphore d'une inondation, ou d'un cancer. S'il est permis, en cette fin de siècle, de déclarer que «la science est en difficulté», la cause principale en est cette crise de croissance.
Le mouvement «éthique» dans les sciences (si visible désormais à travers la prolifération des comités d'éthique) est venu d'une prise de conscience interne, au sein de la communauté scientifique. Je m'empresse de préciser que la «maîtrise du savoir» est une affaire si importante, et si difficile, que sa mise en oeuvre requerra, sans aucun doute, la conjugaison d'efforts internes et externes. Le mouvement éthique interne à la science ne suffira pas, mais il est nécessaire.
La réflexion éthique sur les sciences a des origines très anciennes. Elle a toujours été là, puisqu'aussi bien l'éthique est la réponse à la question: Que faire ? Il suffira d'évoquer Rabelais («science sans conscience...»), Galilée face à ses juges («et pourtant elle tourne...») ou Pascal («La vérité, c'est toute ma force ; si je la perds, je suis perdu»), parmi d'autres.
En notre siècle, voici quelques étapes et quelques dates.
La Grande Guerre jeta un immense trouble: des jeunes massacrés par millions (fauchés par des moyens techniques perfectionnés). En temps ordinaire, l'avancée des sciences est portée par un processus qui fait des gagnants et des perdants; nos sociétés s'en accommodent, si les perdants sont vieux et les jeunes gagnants. En 14-18, le processus fonctionnant à rebours a brutalisé une génération. Le ressentiment anti-science fut profond dans les années vingt.
En 1945, double choc: la bombe d'Hiroshima et la révélation d'Auschwitz. Dans le sillage de ces deux événements (repères symboliques), apparaissent deux courants, deux cheminements éthiques plus ou moins séparés selon les pays (nettement distincts en France).
Dans le courant issu d'Hiroshima (avec un retard de dix ans causé par la guerre froide) s'inscrit le Manifeste Russell-Einstein (1955) puis, deux ans plus tard, l'instauration des Conférences Pugwash pour la science et les affaires mondiales (qui recevront le prix Nobel de la Paix, en 1995). L'initiative est venue là surtout de physiciens (atomic scientists).
Dans le courant suscité par Auschwitz, l'initiative est prise par des biologistes et des médecins. Le Code de Nuremberg (1947) s'efforce d'encadrer strictement l'expérimentation sur les êtres humains.
Ces deux tentatives de maîtrise du savoir passent par la forme du moratoire. D'un côté, le TNP (Traité de Non Prolifération pour les armes nucléaires, promulgué en 1969 pour 25 ans, et renouvelé à ce terme). De l'autre, le moratoire d'Asilomar sur les manipulations génétiques (en 1975, à l'initiative des académies des sciences américaine et britannique) dont la durée sera brève (un peu plus d'un an).
En 1986, deux nouvelles secousses à forte dimension symbolique: la catastrophe de Tchernobyl, et l'affaire du sang contaminé. Ces deux drames causent une profonde émotion dans les opinions publiques, et marquent un tournant dans les relations entre science et société (notamment en France).
En bref, de manière ultra-schématique et pointilliste, mais illustratrice, on peut discerner un courant de la bioéthique, au travers d'une série (Auschwitz, Nuremberg, Asilomar, sang contaminé), tandis qu'hors bio-médecine, un autre courant peut être jalonné par (Hiroshima, Pugwash, TNP, Tchernobyl).
Ethique des sciences, éthique générale
Comme d'autres professions ou secteurs sociaux, la communauté scientifique cultive et partage un ensemble de qualités et de valeurs. Au milieu de ce siècle, Merton a décrit «l'éthos scientifique» à partir de cinq adjectifs, dont les initiales composent le mot CUDOS: Collectif, Universel, Désintéressé, Original et Sceptique
(Clairement, de nos jours, le D de désintéressement devient de plus en plus problématique.)
En son célèbre ouvrage, Le hasard et la nécessité, le biologiste Jacques Monod préconisait que 'l'éthique de la connaissance' devienne à l'avenir le fondement, le socle constitutif de l'éthique générale. Cette idée n'est plus à l'ordre du jour. Dès 1972, dans un article pénétrant sur La science et les droits de l'homme, René Cassin avait observé que : «On ne peut à la vérité soutenir que [la science] soit la source originaire des droits de l'homme. Historiquement, il est certain que cette notion est de source morale et religieuse : la croyance en la dignité de l'être humain».
Deux remarques complémentaires :
La science contribue à élargir le champ de l'éthique, en posant des questions nouvelles; par exemple, la question des déchets radioactifs nous force à vivre sous le regard de générations futures, très éloignées dans le temps, bien au-delà de tout lien de filiation généalogique; la Déclaration universelle sur les devoirs des générations présentes envers les générations futures, adoptée par l'Unesco en novembre 1997, témoigne de cette nouvelle dimension apportée par la science à l'éthique commune ;
La communauté scientifique, pour se comprendre et se corriger, ne saurait se passer de regards extérieurs ; selon l'adage : si le chameau voyait sa bosse, il se romprait le cou.
D'où viennent ces regards extérieurs ?
du secteur public (législatif, exécutif, judiciaire), du secteur marchand, du tiers secteur (associations, fondations, religions, etc.) ?
Trois professions, me semble-t-il, entretiennent des rapports particuliers avec la vérité : les chercheurs, les juristes-légistes, les journalistes. Leurs contraintes sont différentes (rapport au temps, compétition, etc.), mais un terrain de rencontre existe : chacune de ces professions a développé des procédures pour éviter de se tromper. Une voie prometteuse se dessine pour l'avenir : surmonter les préjugés réciproques entre ces trois professions, afin de construire (ou d'adapter) des systèmes de régulation efficaces, capables de prévenir les risques associés aux avancées des sciences et des techniques.
Survol de l'éthique des sciences
Trois volets peuvent être distingués :
maîtrise de la science: bornes, et «tempo» (vitesse de progression sur les divers fronts du savoir) ;
déontologie du chercheur (inconduites, pratiques douteuses) ;
institutions et gouvernance.
La réflexion, et l'expérience, montrent combien ces trois volets se recouvrent. Exemple : plutôt que de se contenter de morigéner des délinquants (petits ou grands), n'est-il pas plus sensé d'agir en amont, sur les causes qui poussent à la faute ? A l'origine des catastrophes de Tchernobyl (URSS), de Challenger (USA), ou du sang contaminé (France), on trouve des défaillances individuelles, certes. Cependant chacun sent bien que parmi les leçons à tirer de ces drames, les principales sont d'ordre institutionnel.
Grands principes : équité, développement durable, précaution, prévoyance, retour d'expérience, débats et prises de décision
Quelques thèmes :
en allant du planétaire au vivant, on peut évoquer
environnement, eau douce, énergies ..., exploration spatiale, infoéthique, financements, reproduction médicalement assistée, statut de l'embryon, génétique, drogues ...
Leçons de l'histoire
Pierre Thuillier (1932-1998), historien et journaliste, faisait dans ses derniers ouvrages une analyse sévère de l'entreprise scientifique. Il reprochait à la science d'avoir été (et de rester trop souvent) un enseignement du mépris. Et il faisait grief à l’homo scientificus de jouer sur tous les tableaux (se posant en grand prêtre de la vérité, et dans le même temps, toujours disposé à se rendre utile auprès des pouvoirs politique, militaire et économique).
En d'autres termes, maintes critiques faites aux scientifiques fustigent leur propension à l'arrogance, et à l'euphorie.
Passons en revue quelques têtes de chapitres méritant réflexion.
Sciences et domination
impérialisme, colonialisme (ex : le rôle des savants, lors de l'expédition de Bonaparte en Egypte, remis en lumière récemment à l'occasion du bicentenaire) ;
eugénisme : l'ensemble des généticiens, dans les années vingt et trente, était pour : l'Union Soviétique (1917-1991) : il ne paraît pas exagéré de dire que l'URSS a vécu par la science (marxisme «scientifique», succès atomiques et spatiaux) et péri par la science (incapacité de soutenir la compétition avec les USA, dans l'électronique et l'informatique, notamment) ; l’Afrique du Sud: la science au service de l'apartheid (récemment dénoncé comme «crime contre l'humanité» par la commission «Vérité et Réconciliation»).
Dérives spontanées et récurrentes
mésaventure de l'introduction des 'maths modernes' dans l'enseignement élémentaire;
aberrations dans le domaine médico-alimentaire: usage abusif et imprévoyant des antibiotiques, montée inquiétante des maladies nosocomiales, etc.;
réductionnisme maniaque;
obscurcissement savant, etc.
Fâcheuse tendance française à laisser péricliter et dépérir les institutions (notamment, hélas, dans le domaine universitaire et scientifique)
Malraux disait : «Notre drame en France, c'est que nos institutions sont fondées sur des survivances».
Le cas des académies: Institut de France, Académie des Sciences d'Outremer, etc.
Comités d'éthique des sciences
«Mille indicatifs ne font pas un impératif», notait Henri Poincaré. Pour autant, cela n'empêche pas la conjugaison des temps. Ainsi le prix Nobel d'économie 1998, l'Indien Amartya Sen (master de Trinity College), est-il l'auteur d'un ouvrage intitulé, On ethics and economics, alliant l'indicatif et l'impératif.
A partir de l'expérience accumulée ici et là, on avancera la proposition qu'un comité d'éthique pour les sciences devrait être une instance de réflexion collective, diverse et représentative dans sa composition, soumise à un renouvellement régulier assurant jouvence et continuité, sans pouvoir aucun sinon celui de la persuasion, sachant rester à l'écoute des problèmes concrets des chercheurs et des citoyens, soucieuse enfin de favoriser un débat public de qualité.
Dans la mesure où le mouvement éthique apparaît désormais irrésistible, la tendance existe naturellement (surtout dans notre pays, dont la tradition administrative est si prégnante) de récupérer ce contre-pouvoir moral naissant, et de transformer les comités d'éthique en simples rouages administratifs, chargés d'apposer un «tampon éthique» sur des décisions prises ailleurs (tout autre horizon étant alors déclaré «hors-compétence», car «n'ayant rien à voir avec l'éthique»). Instructifs à cet égard sont les obstacles rencontrés par le Comité d'Ethique pour les sciences (Comets, Cnrs), créé en 1994. Veiller à l'autonomie et à la bonne marche de leurs comités d'éthique, protester si nécessaire contre les entraves, voilà un devoir nouveau, et impérieux, pour les chercheurs.
L'une des missions les plus importantes, pour les comités d'éthique, me semble être la protection des lanceurs d'alerte (whistleblowers, en anglais). Dans sa conférence de Stockholm, lors de la remise de son prix (en 1995), Joseph Rotblat, fondateur et président de Pugwah, énonça fortement que: «Lancer l'alerte devrait devenir part de l'éthos scientifique».
Enfin, en réponse à ceux qui, nombreux, persistent à opposer éthique et efficacité, en déplorant les risques de «tergiversations éthiques», il convient de montrer, et démontrer, que l'éthique c'est la confiance, et la confiance c'est l'efficacité.
Trois pas sur le chemin
«Nous sommes dans la vérité lorsque nous ressentons de plus en plus profondément les conflits. La bonne conscience est une invention du diable». Alfred Kastler (d'après Albert Schweitzer).
«Pas de rationalité, en vérité, sans l'étude des problèmes qui nous secouent, nous entraînent, et dont nous semblons ignorer les données», Fernand Braudel
Pour un chercheur, le premier pas, sans doute, est d'admettre qu'il a, comme tout un chacun, une part de responsabilité sociale, et que ses activités sont prises dans des conflits de valeurs, de logiques, d'intérêts, d'allégeances.
Ensuite reconnaître que réduire la rationalité à la science, prétendre qu'il n'est de rationalité que scientifique, serait folie. Pas de plus grande irrationalité, en effet, que de s'affirmer détenteur de la seule source de vérité, tout en négligeant de se préoccuper des conséquences de ses activités.
Enfin, puisque le thème central de ces Entretiens portait sur les risques associés aux progrès technologiques, une observation de bon sens: les questions, il faut se les poser avant ! Au moment de la crise, c'est (le plus souvent) trop tard.