Jusqu'à ces dernières années 1, l’œuvre prolifique de Niklas Luhmann (47 ouvrages et plus de 600 articles) n’avait guère été traduite en français, exception faite de quelques rares articles et d’un ouvrage au titre presque racoleur, Amour comme passion. De la codification de l’intimité. Ceci était dû, d’une part, aux difficultés que présentent ses constructions théoriques, à la nébulosité de ses concepts : pour ce juriste de formation, qui s’intéresse au fonctionnement de la société et propose une théorie d’ensemble des media de communication, « des théories très abstraites et à la construction très complexe peuvent faire parler le matériel historique. La voie qui mène au concret exige le détour par l’abstraction » 2. D’autre part, les résultats de sa réflexion constituaient un second handicap à son étude approfondie en France. En effet, sa description désespérée et désespérante de la société lui a valu l’accusation d’être cynique et conservateur, dans la mesure où il ne porte pas de jugement de valeur sur ce qu’il décrit et se refuse à intégrer des considérations morales. Il considère la société comme un système auto-régulé qui se développe, vit et meurt, tel un système biologique orienté vers sa survie. Mais les hommes qui peuplent ce système sont davantage agis par lui qu’ils ne le pilotent. Il n’est donc pas étonnant que des divergences fondamentales soient apparues entre Jürgen Habermas et lui. Leur querelle, portée sur la place publique dès la fin des années 1960 – et en particulier au moment des événements de 1968, c’est-à-dire il y a une quarantaine d’années – se poursuivra jusqu’au décès de Luhmann en 1998. Elle constitue la critique la plus fondamentale de ses théories, a donné suite à tout un débat sur les thèmes de la communication et illustre fort bien deux courants importants de la sociologie contemporaine.

Luhmann et la théorie des systèmes

La réflexion de Luhmann se situe au carrefour de la biologie, de la cybernétique et des théories de l’information. Il pose qu’un système ne peut être appréhendé sans son environnement. Un autre postulat est que la préservation du système dépend de sa capacité d’adaptation à cet environnement plus complexe que le système lui-même. Les effets de l’environnement sur le système étant aléatoires, celui-ci ne peut programmer de les différer, mais il doit réagir au coup par coup, en fonction de règles qui lui sont propres, et le faire à temps pour éviter la destruction du système. Comme tous les systèmes, la société va évoluer en fonction de plusieurs principes. Chez Parsons, dont Luhmann a suivi le séminaire de structuro-fonctionnalisme à Harvard, il s’agissait de l’adaptation ou de l’amélioration adaptative, de l’orientation vers la réalisation de fins ou différenciation (goal-attainment), de l’inclusion (integration), du maintien des modèles de contrôle et de la généralisation des valeurs (latency). Luhmann reprend en partie ces principes, puisqu’il considère que la différenciation du système en sous-systèmes lui permet de réduire sa complexité et d’être en mesure de mieux réagir aux perturbations créées par son environnement plus complexe. Luhmann introduit les concepts de différenciation (Differenzierung) et perdifférenciation (Ausdifferenzierung), qui sont essentiels pour comprendre comment il conçoit le fonctionnement de la société. Il y a perdifférenciation quand un système se distingue de son environnement et se ferme par rapport à lui. La différenciation interne permet de réduire la complexité du système et, partant, autorise une observation plus efficace. C’est donc le processus de fermeture systémique, créateur de sous-systèmes, qui permet d’organiser cette réduction de la complexité du système sans laquelle il ne serait plus capable de faire fonctionner sa communication. Il y procède à l’aide d’un code binaire qui lui est propre.

Pour Luhmann, c’est la communication qui constitue la spécificité des systèmes sociaux. Elle s’établit à partir de trois composantes dont elle est la synthèse : le message, l’information et sa compréhension, cette dernière n’étant pas une activité passive, mais une production à part entière. Soulignons au passage que Luhmann donne au concept de «compréhension» un sens spécifique : il entend par là la sélection entre l’aspect informationnel et communicationnel pour déterminer ce qui relève du message et de l’information. Sans la production de communication, il n’y a pas de systèmes sociaux selon Luhmann qui introduit ici la notion de l’invraisemblance de l’événement (unwahrscheinliches Ereignis) ou de son improbabilité puisqu’il y a contingence, c’est-à-dire qu’une alternative est toujours possible. Sa sociologie a pour objectif d’expliquer en quoi une communication « invraisemblable » devient vraisemblable, à l’aide d’une théorie des « moyens (media) de communication généralisés » (langage). S’il est impossible de prévoir l’évolution du système, connaître, c’est pour Luhmann rendre de l’invraisemblable vraisemblable. Il faut, en conséquence, renoncer à vouloir atteindre des absolus tels que la vérité et se satisfaire de résultats auxquels on parvient par des approximations successives. Dans ce contexte, on trouve également au centre de la réflexion de Luhmann la notion de distinction (Unterscheidung) et celle d’observation (Beobachtung) : « Il n’y a pas de distinction (ou différenciation ou sélection) qui ne soit communication. Autrement dit, la distinction est une communication qui se différencie d’autres communications et qui, en tant que telle, est perceptible grâce au langage pour un observateur » 3. Quant à l’observation, ce n’est pas non plus une activité passive. Elle établit un lien entre les distinctions, sélectionne celles qui conviennent, permet de tracer des limites entre les communications auto-référentielles (qui se réfèrent au système) et celles qui s’excluent l’une par rapport à l’autre. C’est aussi l’observation qui permet de procéder à la fer-meture systémique (celle du système par rapport à son environnement). Il faut s’imaginer le tissu social comme un ensemble de communications et, puisqu’il y a observation, de prises de distance, de réflexivité par rapport à celles-ci. Autre point important : Luhmann affirme qu’il n’existe pas de système sans auto-observation, mais que celle-ci ne peut s’effectuer à l’extérieur du système, de son environnement ou depuis un autre système ou sous-système, puisque celui-ci est régi par d’autres normes, avec un autre code et un langage spécifique.

Quant à l’évolution de la société, Luhmann emprunte également à Parsons certains principes. Tout d’abord, moins une société est évoluée, moins sa communication est complexe et plus ses systèmes social et culturel sont interdépendants. En effet, il ne faut pas oublier qu’au fil de l’évolution des sociétés, il y a différenciation progressive en sous-systèmes indépendants, destinés à réduire la complexité et donc, en conséquence, prolifération de sous-systèmes. Il en déduit que la « réorganisation du système de la société, passant d’une différenciation segmentaire, puis par stratification à une différenciation par systèmes fonctionnels » 4 voit son centre de gravité se déplacer.

Jürgen Habermas et l’agir communicationnel

Avant d’aborder les critiques émises par Habermas contre Luhmann, il semble utile de présenter brièvement cette autre théorie de la communication, certes mieux connue, tel qu’il le fait lui-même au début de sa discussion 5. Dans ce débat, Habermas se pose en héritier de la théorie critique développée par l’école de Francfort. Son rapport à Marx demeure encore évident, même s’il assume une triple rupture avec lui : 1) récuser d’abord la tentative évolutionniste, 2) récuser ensuite le travers économiste (qui consacre la prééminence des forces productives et du travail), 3) récuser enfin la tendance à ne percevoir le social que sous les couleurs de la domination 6. En effet, la théorie de la communication de Habermas repose sur une analyse du langage, qui part des considérations de Chomsky sur la différence entre compétence et performance linguistique (Sprachkompetenz et Sprachperformanz). Mais en reprenant la définition donnée par Searle des « actes de parole », les unités élémentaires du discours, il insiste sur le fait que tout message est émis dans un « monde vécu » (Lebenswelt) où il prend un sens à la fois linguistique et institutionnel (TG, 105). En ce sens, il peut être « dominant » ou « dépendant », selon qu’il est soumis aux dangers des effets de la bureaucratisation du système. Dans l’échange d’information que représente la communication, les acteurs structurent leur relation en se fondant sur une base commune culturelle, qu’il s’agit d’actualiser constamment. L’action communicative se réfère à des opinions et des attentes, donc à des normes. Elle n’est intelligible que dans la mesure où ses acteurs sont familiarisés avec les pratiques en usage et parviennent à détecter si le message émis peut être considéré comme vrai.

En se démarquant des théories ontologiques de la vérité, Habermas ne se réfère plus à une réalité, soumise à des fluctuations, mais fait de la raison (Vernunft) le critère essentiel qui permettra de juger de la véracité du message. En outre, il privilégie les relations intersubjectives dans « l’agir communicationnel » (titre de son ouvrage de 1981), qui a pour but de résoudre des problèmes dans une situation donnée (TG, 115). L’accord entre les participants à cette communication est essentiel pour parvenir à coordonner des actions consensuelles, donneuses de sens. Un autre point fondamental de la théorie de Habermas est qu’il considère l’acte communicationnel par excellence, le seul véritable, comme un acte libre, c’est-à-dire qui s’est dégagé de toutes les entraves créées par quelque pouvoir que ce soit. Une telle situation d’interaction serait émancipatrice, puisque la domination en serait absente. C’est pour Habermas l’idéal que la démocratie doit se fixer.

La critique de Habermas

C’est dans ce contexte que s’inscrit le débat avec Luhmann 7. Tout en reconnaissant l’aspect novateur de cette théorie de la société et en y constatant des points communs avec celle de Marx, il lui fait un certain nombre de reproches sur le plan théorique. Le premier est de ne pas avoir introduit les concepts système/environnement sur le plan formel. Pour Luhmann, les systèmes sont des unités structurelles qui se maintiennent dans un environnement complexe et variable en stabilisant une différence intérieur/extérieur. Pour pouvoir exister, le système fixe des frontières avec son environnement qui le tient sous la menace constante de sa plus grande complexité (AL, 147). Grâce à leurs frontières, les systèmes stabilisent des zones de complexité réduite à l’intérieur desquelles l’ordre est moins vraisemblable que celui de l’environnement. N’étant pas toujours compatibles avec leur environnement, leur existence est précaire et dépend de leur capacité de sélection. Or, Habermas voit deux nouveaux problèmes dans cette approche : tout d’abord pour réussir à déterminer les frontières d’un système non organique, ensuite pour évaluer les objectifs destinés à préserver le système. Il estime que seule une théorie générale du langage permettrait d’y pallier. Certes, Luhmann reconnaît que l’évolution de la société ne se manifeste pas en des catégories aussi clairement identifiables que la mort des personnes. Il admet également qu’il faut trouver des indicateurs empiriques pour déterminer les frontières, l’état à atteindre (Sollzustand) de chaque système et parvenir à les étudier. C’est, en effet, pour écarter cette difficulté que Luhmann propose de réduire la complexité du système par une « double sélectivité » (AL, 149).

Autre point d’attaque de Habermas : il souligne que Luhmann doit présupposer l’existence de systèmes. Ceci provoque chez lui des confusions dans l’emploi des concepts « structure » et « frontière », utilisés à la fois en tant qu’éléments constitutifs des systèmes, mais pouvant être interprétés également d’un point de vue fonctionnaliste comme réduction de la complexité du monde. On ne peut qu’adhérer au reproche lancé par Habermas à Luhmann sur l’usage fluctuant de concepts, qui rend l’approche de sa théorie souvent extrêmement difficile (AL, 154). Habermas, qui lui-même accorde une grande importance à la notion de « sens », objecte encore à Luhmann de l’avoir introduite dans une théorie calquée sur le fonctionnement des machines informatiques et trouvant son domaine d’application dans la biologie où les organismes sont compris comme des systèmes autogérés. La stratégie de Luhmann viserait à utiliser le point de départ analytique de la cybernétique sans pour autant se lier au cadre des théories élaborées jusque-là pour les machines et les organismes (AL, 146). En outre, Luhmann expliquerait la spécificité du « sens » en recourant au monopole anthropologique du « pouvoir-dire-non », c’est-à-dire en reconnaissant qu’il existe toujours une autre possibilité de choix. Bien que refusant la dialectique, il reprendrait l’utilisation de la négation, telle que la proposa Hegel (AL, 187). Ainsi, chez Luhmann, le concept de sens » ne serait pas unitaire (AL, 202). De plus, quand Luhmann évoque le principe de « réduction de la complexité » (AL, 156). Habermas décèle chez lui des traces d’anthropologie existentialiste comme chez Sartre, la réalité étant conçue comme un monde contingent où règne la loi du « tout-est-possible ». Ceci étant, il ne reste plus à la personne agissante qu’à affronter les risques de l’existence grâce à un projet de possibilités d’actions (AL, 160). Il retrouve d’autre part chez Luhmann des convictions fondamentales empruntées à l’anthropologie institutionnaliste comme chez Gehlen dans Die Seele im technischen Zeitalter (AL, 161). Ceci amène Habermas à considérer que Luhmann développe sa théorie des systèmes sur un plan métathéorique, tout en énonçant des concepts fondamentaux de la théorie générale des systèmes de manière originale pour la sociologie et en donnant des explications philosophiques. Mais, alors que l’objectif serait, selon Habermas, de parvenir à diriger (Steuerung) les systèmes sociaux (AL, 226), Luhmann se contenterait d’expliquer quels problèmes surgissent et de les décrire. Il est bien évident que la référence à Marx 8 sous-tend la critique formulée à Luhmann par Habermas. On le remarque quand il reproche à Luhmann de faire du rapport objectif un processus de préservation des systèmes sans que l’autoréflexion n’intervienne au niveau de la connaissance (AL, 231). Plus encore quand il n’admet ni la définition de l’idéologie, ni celle du droit positif de Luhmann : en détachant toute la critique idéologique de son exigence théorique de vérité, Luhmann en ferait un concept fonctionnaliste, alors que Marx et Freud avaient conçu le concept d’idéologie comme le contraire d’une autoréflexion par laquelle la fausse conscience (les illusions du sujet sur ses propres objectivations) pouvait être détruite (AL, 246). En mesurant encore la validité des théories de Luhmann à l’aune de celles de Marx, Habermas estime que ce sont les contradictions entre les forces productives d’une part, la circulation et l’idéologie d’autre part, qui font évoluer la société. Pour Luhmann, ce sont les conflits entre le système et son environnement complexe, c’est-à-dire des problèmes d’adaptation à des contraintes extérieures, qui contribuent à l’évolution (AL, 283). Mais le reproche essentiel que fait Habermas à Luhmann est de laisser dans l’ombre les théories des sociétés naturelles ainsi que la philosophie de l’histoire et d’éliminer totalement la dialectique. Luhmann ne se référant pas non plus aux débuts de la sociologie, Habermas ne peut que constater les divergences fondamentales qui existent entre leurs deux conceptions de la société : il craint surtout que la théorie des systèmes ne vise à dépolitiser la société et à légitimer le pouvoir (AL, 144). Remettant en cause les prétentions de Luhmann – certes contestables – selon lesquelles l’analyse fonctionnaliste montrerait la seule voie possible de rationalisation en matière de décisions, Habermas considère au contraire que cette analyse vise à écarter les illusions d’une « réalisation de la raison pratique », c’est-à-dire toute tentative de démocratisation de la société, pour légitimer la technocratie. L’analyse des systèmes serait utile aux « technocrates de la politique », mais aussi aux révolutionnaires prêts à l’instrumentaliser. Dans cette mesure, elle favoriserait soit le maintien du système (en tant que moyen d’éviter les crises et les conflits), soit sa destruction (en donnant une arme qui renforce les crises et les conflits, ce que Luhmann conteste, AL, 169).

La réponse de Luhmann

Dans sa réponse à Habermas, Luhmann précise à son tour quelles sont les différences essentielles entre leurs deux théories 9. Il voit l’origine de leurs divergences dans la conception du sujet, propre à chacun d’eux (AJ, 316). Il s’élève aussi contre le postulat que la raison puisse servir à régler la communication. Il y aurait là moralisation abusive, toute rationalisation ne pouvant s’exercer au niveau de la connaissance que dans certaines limites puisqu’elle est susceptible de défaillances. Selon Luhmann, la raison ne peut être rien d’autre que l’un des facteurs de contingence dans l’usage des media. Quant à la vérité, elle n’est qu’un médium de communication (tout comme l’argent, le pouvoir, l’art, le droit, la foi et l’amour dans d’autres systèmes), ce qui présente l’avantage d’expliquer le rapport entre science et vérité dans le cadre de la théorie des systèmes. Pour Luhmann, la vérité ne devrait pas devenir le but de l’activité scientifique, ce qui ne serait pas suffisant en application du principe de la structure des systèmes (AJ, 356). L’idée fondamentale de Luhmann est la suivante : si le monde se compose de plusieurs systèmes, qui sont mutuellement des environnements, toute transformation met en route une chaîne d’effets au moins double. C’est pourquoi il est impossible de déterminer lequel intervient en premier lieu : l’événement transforme un système, et par là même également l’environnement d’autres systèmes. Par la discontinuité qui existe entre les systèmes, ces effets ne sont pas identiques, surtout au sens où ils sont beaucoup plus complexes dans leur environnement que dans le système lui-même. L’environnement acquiert une complexité dynamique si bien qu’il devient avantageux pour le système de diriger ses propres transformations en tant qu’adaptation à l’environnement ou en tant qu’intervention sélective sur lui (AJ, 363).

Si Luhmann récuse la conception marxienne de l’idéologie, il s’oppose encore à Habermas par son approche du système économique, lui reprochant de faire de l’économie un simple substrat matériel et non pas l’une des activités les plus pleines d’esprit de la vie collective des hommes. Il veut interpréter le concept de production à partir du système social de l’économie (et non l’inverse) : à ses yeux, l’économie organise les rapports des systèmes personnel et social dans la sphère organique et physique non pas sous l’aspect de la satisfaction de besoins, mais sous celui de gain de temps et d’une sélectivité supérieure à atteindre dans la dimension temporelle (AJ, 373). Mais Luhmann ne se considère pas pour autant comme un théoricien conservateur, pas plus qu’il n’admet que toute technologie le soit. Sa théorie des systèmes s’est, certes, émancipée de l’absolutisme de la raison, de la tradition des Lumières, mais sans pour autant retomber dans la soumission au pouvoir (AJ, 401). Il dit se situer au point « d’indifférence » entre apologie et critique. S’il s’agit bien là de l’un des points de départ de sa théorie, il se défend de ne pas avoir dépassé ce stade. De ce fait, il estime que toute critique qui consiste à lui reprocher de favoriser des faits de société «armés de toute la force du présent» et de pratiquer «un conformisme du pouvoir» ne saurait l’atteindre (AJ, 402).

Cette approche rapide des thèses de Luhmann, de Habermas et de leur querelle nous permet de conclure sur l’intérêt qu’elles présentent. Si Habermas peut être considéré comme le chantre d’une morale rigoriste de la vie en démocratie, Luhmann attire principalement l’attention sur la notion de relativité. Par l’importance qu’il accorde à la contingence, au fait qu’un phénomène puisse se dérouler autrement qu’on ne l’avait prévu, il met l’accent sur la possibilité que des attentes soient déçues, mais aussi sur la nécessité de prendre des risques pour agir. Par l’usage souvent atypique et paradoxal qu’il fait des concepts, il dérange les a priori et pousse à la remise en cause des grilles de lecture auxquelles nous nous référons traditionnellement. En cela, il pousse aussi à la réflexion, certes d’une manière différente de celle qu’utilise Habermas. Si Luhmann emprunte à Marx certains concepts et aussi sa volonté d’universalisme, il n’admet pas de subordonner l’analyse de la société au domaine économique, même s’il réintroduit de plus en plus une certaine interdépendance des autres sous-systèmes face à l’économie par le biais de ce qu’il appelle « accouplement ou association structurelle » (strukturelle Kopplung). Mais on ne trouve plus chez lui de sens de l’histoire, ce qui implique également qu’il devient impossible de prévoir l’avenir. C’est pourquoi il n’existe, selon Luhmann, aucune téléologie dans l’évolution des sociétés. Il se refuse à présupposer une sphère de rationalité 10, comme le fait Habermas, et rejette également l’idée que l’intersubjectivité – qui appartient au domaine psychique, donc de la conscience – puisse présider aux relations sociales. De plus, en situant l’homme dans l’environnement du système 11, Luhmann s’écarte résolument des analyses anthropomorphiques de la société, quoi qu’en dise Habermas avec un grand sens de la polémique. Certes Luhmann ne reprend pas à son compte les distinctions qu’établit Max Weber entre la morale de la foi (Gesinnungsethik) et la morale de la responsabilité (Verantwort-ungsethik) et les tiraillements qu’elles suscitent lors de toute prise de décision. Mais il considère que, de nos jours, l’éthique, c’est-à-dire la réflexion sur la morale, qui jouait un rôle incontestable au Moyen Age, dans une société stratifiée, ne permettrait plus d’obtenir un consensus, car la complexité du monde moderne fait que même les meilleures intentions du monde risquent de produire des effets catastrophiques. En conséquence, la sociologie ne peut vérifier si les conditions nécessaires à une éthique sont encore données aujourd’hui. Dans sa théorie qui décrit ce qu’Ulrich Beck nomme la Risikogesellschaft, la société du risque, il souligne, cependant, l’importance des mouvements oppositionnels de toutes sortes qui, à l’intérieur même du système, permettent de prendre conscience de ses dysfonctionnements avant que ceux-ci ne soient intervenus. Les deux frères ennemis, Luhmann et Habermas, finiraient-ils par se rejoindre ?

Notes

* A.-M. Corbin. Professeur à l'Université de Rouen.

1. En traduction française, on trouve dorénavant : Politique et complexité. Les contributions de la théorie générale des systèmes. Essais choisis, traduits de l’allemand et présentés par Jacob Schmutz, Paris, Editions du Cerf, 1999. Un ouvrage est aussi consacré en français à la sociologie de Luhmann : Jean Clam, Droit et société chez Niklas Luhmann. La contingence des normes, Paris, PUF, 1997.

2. Niklas Luhmann, Amour comme passion. De la codification de l’intimité, Paris, Aubier, 1990, p. 18.

3. Jean-Marie Vincent, « La fermeture du systémisme : sur la sociologie de N. Luhmann », in Tony Andréani et Menahem Rosen, Structure, système, champ et théorie du sujet, Paris, L’Harmattan, 1997, p. 46.

4. Niklas Luhmann, Amour comme passion, op. cit., p. 18.

5. Jürgen Habermas, « Vorbereitende Bemerkungen zu einer Theorie der kommunikativen Kompetenz » [dorénavant TG et numéro de page], in Jürgen Habermas/Niklas Luhmann, Theorie der Gesellschaft oder Sozialtechnologie ? - Was leistet die Systemforschung ?, Francfort/Main, Suhrkamp, 1971, pp. 101-141.

6. Michel Lallement, Histoire des idées sociologiques, Paris, Nathan, 1993, p. 164.

7. Jürgen Habermas, « Eine Auseinandersetzung mit Niklas Luhmann » [dorénavant AL et numéro de page], in Jürgen Habermas/Niklas Luhmann, Theorie der Gesellschaft oder Sozialtechnologie ?, op. cit., pp. 141-290.

8. Marx n’est pas toujours explicitement cité, mais c’est pourtant le cas sur une quarantaine de pages du volume.

9. Niklas Luhmann, « Systemtheoretische Argumentation. Eine Entgegnung auf Jürgen Habermas » [dorénavant AJ

et numéro de page], in Jürgen Habermas/Niklas Luhmann, Theorie der Gesellschaft oder Sozialtechnologie ?, op. cit., pp. 316-405.

10. Niklas Luhmann, Soziologie des Risikos, Berlin, De Gruyter, 1991, p. 125.

11. Niklas Luhmann, Die Gesellschaft der Gesellschaft, Frankfurt/Main, Suhrkamp, 1997, p. 865.