Xénophilie et dénaturalisation computationnelle (Patricia Reed)

Avant-propos à la traduction française (2025)

Artiste, théoricienne et écrivaine, Patricia Reed développe une pensée transdisciplinaire, à la croisée de la philosophie politique, de la théorie des systèmes, de l’esthétique spéculative et de l’informatique.

Dans cet article, Xénophilie et dénaturalisation computationnelle, initialement publié sur la plateforme e-flux, Patricia Reed pose la problématique suivante : comment produire une pensée et une action au-delà des réflexes familiers de reconnaissance, d’habitude, et de repli sur le semblable ? En amenant le concept d'aliénation générative, elle propose des éléments de réponse construits en coexistence avec le calcul informatisé, et vise ainsi à tirer parti du fossé entre ce qui est et ce qui pourrait être.

Introduction et traduction vers le français par mlav.land et Nagy Makhlouf.

Xénophilie et dénaturalisation computationnelle (2017)

Notre époque est marquée par une incompatibilité intense. Les crises plurielles que nous traversons — sur les plans sociaux, économiques et écologiques, et qui sont indissociables — excèdent nos moyens actuels pour les atténuer de façon juste. Ces crises ne sont pas apparues soudainement, comme venues de nulle part, mais sont le produit d’une action humaine — une fabrication profondément inégale, dont les conséquences les plus aiguës suivent de manière disproportionnée les trajectoires bien établies de la domination historique. L’évolution technologique débridée contribue en partie à l'aggravation de ces crises, mais cela s'explique largement par son intégration dans des diagrammes socio-politiques spécifiques, qui imposent des contraintes bien plus déterminantes sur ce que, par exemple, les algorithmes font, que sur ce que les algorithmes pourraient faire. Le cœur du problème réside ici dans le "pourrait", qui est une question de mise en capacité : dans quelles conditions, par exemple, l’algorithmique pourrait-elle nous servir, dans quelles conditions nous dévorerait-elle pour ses propres besoins, et dans quelles conditions criminaliserait-elle préventivement les innocents ? C'est de cette question de la mise en capacité, et des modèles conceptuels de cohabitation à l'échelle planétaire diagrammatisant cette possibilité, que nous devons nous écarter. Les concepts que nous construisons pour modéliser un monde tracent un paysage de possibilités (ce qui est, ou le donné), tout en en excluant d’autres souvent avec violence, faisant de la lutte pour ces concepts une bataille essentielle à mener collectivement. Ces modèles (qu'ils soient explicitement adoptés et connus, ou pratiqués en silence) établissent des chaînes d'incitations, de raisonnement, de relations, d'évaluation, de catégories et de comportements qui influencent toutes les formes d'actualisation matérielle et/ou computationnelle et orientent les modes d'intervention sur la réalité. Aujourd’hui, nous paraissons enfermé·es dans des routines de "changement sans changement", avec une "innovation" largement accaparée par les dominants ou cantonnée à des promesses solutionnistes (fallacieuses), car nos modèles conceptuels se sont sclérosés dans ce qui est.¹ De puissants intérêts sont investis dans le maintien de ce qui est ; ces "batailles conceptuelles" sont aussi, de toute évidence, des batailles politiques de long terme. Néanmoins, étant donné qu'une transformation substantielle et durable est possible à ce niveau conceptuel — tracer qui nous sommes, où nous nous situons, qui/quoi compose un “nous”, et comment nous comprenons la coexistence — il faut faire de modestes premiers pas. Ce mouvement marque un travail affirmatif de déontologisation de ce qui est donné, en tirant parti d'un fossé entre ce qui est et ce qui pourrait être. Transformer ces conceptions du donné, mythe nécessaire mais toujours provisoire, c'est intervenir dans le monde sur un plan diagrammatique, à la fois en raison du lien puissant entre idéalité, matérialité et réalité, et en raison de notre capacité à saisir et à être saisis par des concepts.² Les concepts nous remodèlent autant que nous les modelons.³

Le diagramme à l’œuvre, et de la manière la plus pernicieuse, est celui qui nous impose des modèles naturalisés de compétition acharnée et d'intérêt personnel, générant des répercussions à une échelle qui menace non seulement le bien-être, mais aussi notre survie collective. (Personne n’a promis que ces diagrammes étaient rationnels.) Les dérivations de ce méta-diagramme, sous forme d’oppressions catégorielles et structurelles, sont indispensables à la perversion particulière qu’il opère sur la notion de “durabilité”. Ces oppressions sont fréquemment reproduites de manière corrosive par l’automatisation computationnelle, non pas à cause d’elle, mais par son intermédiaire. Cela met en évidence l’entrelacement entre idéalisme et matérialisation, une parité à la fois constitutive et essentielle.⁴ Lorsque, par exemple, les modèles normatifs dominants soutiennent la "blancheur" comme la norme de la catégorie que nous appelons "humain", nos technologies correspondantes seront calibrées en fonction de ce biais injuste et inadéquat.⁵ Ou lorsque les clichés sexistes sont renforcés par notre assistant personnel numérique, qui prend les traits serviles d'une femme “idyllique” et complaisante, absorbant poliment toutes les insultes qui lui sont adressées alors qu’elle s’acquitte dûment de sa tâche, qui consiste à classer votre agenda.⁶ Malgré les prouesses impressionnantes des intelligences machiniques les plus avancées aujourd’hui, sans changements concomitants au niveau des perspectives conceptuelles, les préjugés catégoriels en place subsisteront comme une articulation de l’ignorance humaine, et le pouvoir technologique demeurera concentré entre les mains de quelques-uns. Ce processus est bidirectionnel ; la contamination mutuelle entre concepts et actualisation forme une boucle de rétroaction dynamique, où les effets incertains de l’actualisation (jamais connaissables de manière absolue) influencent les perspectives conceptuelles qui les ont rendus possibles, ouvrant ainsi un espace de médiation, à condition, toutefois, que nous tenions pour une vérité constante la faillibilité de nos perspectives. En l'absence d'une acceptation attentive de la faillibilité, les perspectives se sclérosent en naturalisations figées de ce qui est, confondant la représentation d’un monde avec le monde lui-même, comme si l’on contemplait un objet depuis un seul angle particulier et que l’on affirmait saisir toute sa dimension.

Le travail de reformatage des perspectives est un travail de soin permanent, ainsi qu'un travail minutieux, animé par une force génératrice d'aliénation. Être saisi par des concepts est une aliénation des perspectives logiques/catégorielles familières. Bien que le terme ait été figé dans un registre négatif, signifiant l’anomie sociale ou la déshumanisation, et perçu comme quelque chose à surmonter, sur le plan perspectif, l’aliénation est une force nécessaire de distanciation vis-à-vis de ce qui est. L’aliénation ne peut jamais être "totale" : elle exprime la qualité d’une relation, et non une chose en soi ; une chose est aliénée par une autre, et pour bien le comprendre, il faut réfléchir dans au moins deux directions.⁷ Étant donné que "l’aliénation" est souvent prise comme un descripteur omniprésent de notre vie dans la technosphère, pour éviter la vacuité de sa (supposée) évidence sémantique, nous devons nous demander : à quoi ressemblerait une condition non aliénée ? Un monde sans aliénation nous lierait à des schémas cognitifs familiers, puisqu’il refuserait de fait tout engagement avec l’étrange, l’étranger et l’inconnu, et ancrerait le "sens commun" dans l’ordre établi. L’aliénation et l’abstraction forment un lien de parenté à cet égard, puisqu’elles relèvent toutes deux de modes de séparation et de dépersonnalisation. Même si certains vecteurs de ces forces façonnent incontestablement notre statu quo actuel pour des fins injustes, la puissance cognitive qui leur est inhérente ne devrait pas être abandonnée, car ce que ces capacités peuvent faire et sont aujourd'hui est plus nécessaire que jamais.

La réalité immédiate, proche et concrète est souvent considérée comme désirable car non aliénée, mais cette préférence révèle deux problèmes cruciaux qu’on ne peut ignorer, notamment face à la complexité de notre réalité et aux moyens nécessaires pour la politiser autrement. D’une part, opposer le concret à l’abstrait néglige le fait que l’abstraction constitue le concret, et d’autre part, l’expression d’une préférence pour l’immédiateté concrète révèle un biais anthropocentrique, car l’échelle à laquelle quelque chose est identifié comme “proche” est corrélée à notre interface phénoménale humaine particulière.⁸ Si nous voulons faire face de manière adéquate aux multiples échelles de la réalité et prendre soin des enchevêtrements complexes de notre condition planétaire, nos propres schémas anthropocentriques génériques doivent être efficacement "situés", ce qui, comme nous le rappelle la succession historique des humiliations coperniciennes, signifie un éloignement croissant du centre. Nous sommes ex-centriques, et pour ajouter une humiliation supplémentaire, l’humain ne peut plus prétendre au monopole de l’intelligence, car l’Intelligence Artificielle Générale est en passe de multiplier ce que signifie "intelligence" et ce qu’elle pourrait accomplir. Cette situation ne peut être réduite à une simple opposition binaire, entre une célébration techno-évangéliste des limites humaines surpassées par la "perfection" des processus computationnels, ou une insistance naïve sur l’inflation persistante de l’exceptionnalisme humain (ce concept même d’exceptionnalisme alimentant nos crises). Réduire cette transformation à une option binaire restreint les potentialités de mise en capacité sur les deux fronts. "Vivre avec le trouble", comme le propose Donna Haraway, implique une négociation avec le désordre du monde, et non une déflation ou un reniement.⁹ Vivre avec le trouble signifie qu'il n'y a pas de solution facile, nous obligeant à naviguer à travers celui-ci de manière mésopolitique¹⁰  ; non avec une attitude de "tout est permis", mais avec une attention minutieuse portée sur comment le "trouble" informe la façon dont nous établissons des distinctions dans le monde, pour lesquelles une distinction fondamentale et claire doit être tracée entre décentrement et déshumanisation. Le décentrement de l’humain n’équivaut pas à une déshumanisation ; au contraire, il peut simplement permettre l’émergence de quelque chose d’autre. Cela étant dit, ce processus ne surviendra pas juste "naturellement" ; ainsi, prendre soin et encourager cette non-équation essentielle requiert une recalibration perspectivale correspondante, pour situer où nous sommes, dans le générique, et susciter un recadrage de l’humain à la lumière de son humiliation. La question qui se pose n’est pas de savoir si nous allons intensifier ou rejeter ces développements, mais comment nous serons saisis et aliénés par ce traumatisme copernicien, et surtout, quelles architectures conceptuelles nous établirons pour soutenir aussi bien ses possibilités d’activation que ses limitations.

"Le sujet requis — un sujet collectif — n'existe pas encore, et pourtant la crise [éco-catastrophe], comme toutes les autres crises mondiales auxquelles nous faisons face, exige qu’il soit construit."
— Mark Fisher¹¹

La prolifération des discours décrivant les opérations de notre réalité à l’échelle planétaire renvoie à des descriptions où nous, humains, ne sommes qu’une minuscule particule à la surface imparfaitement ronde de la Terre malgré les effets grandioses de nos interventions cumulées.¹² Bien qu’ils constituent un obstacle pragmatique, logique et éthique aux revendications d’agencement fondées sur des modèles de subjectivité — reposant sur des principes de causalité immédiate, de proximité ou “d’authenticité”, et évaluées uniquement à travers l’expérience phénoménologique en première personne — de même que le décentrement de l’humain ne garantit pas la déshumanisation, ces analyses systémiques n’impliquent pas que la question de la subjectivité disparaisse soudainement, se dissolve avec le changement d’échelle, ou puisse être complètement écartée comme une relique d’anciennes folies conceptuelles. En reconnaissant la nécessité d’un "sujet collectif" capable de se mesurer aux forces impersonnelles et abstraites qui alimentent les crises de notre époque (et qui ne peuvent être réduites à des cadres moraux de responsabilité individuelle), le sujet dont la construction s’impose aujourd’hui pourrait être bien plus étranger qu’une simple composition humaine. Qui, et quoi, doit composer ce collectif et, par conséquent, ce sujet agrégé ? Il est révélateur que la brève observation de Fisher s’articule autour du problème de l’éco-catastrophe ; un problème qui déborde toute localisation, tout en frappant de plein fouet les localités. Bien que non abordé dans sa formulation, ce que ces types de problèmes soulignent en outre, c’est la nécessité d'une prise épistémique rigoureuse et la question de savoir comment cette prise peut se traduire à la fois sur le plan libidinal et concret. À mesure que nous sommes de plus en plus confrontés à des objets complexes locaux/globaux de proportions insaisissables (à la fois vastes et minuscules), et que ces objets défient la catégorie de la proximité concrète et de l’expérience sensorielle comme justification du raisonnement, cette prise épistémique ne peut être qu’aliénée. Aborder ce que l’on pourrait appeler des “objets-moyens” — des objets comme le climat, dont les résidus, comme la météo, qui peuvent être expérimentés, mais dont l’existence propre est celle d’une moyenne abstraite, pluri-locale, multi-systémique et (du moins de manière anthropocentrique) générationnelle dans sa temporalité — implique un engagement avec la non-présence (ce qui n’est pas directement accessible à nos sens). Il suffit de se rappeler les justifications ineptes invoquées pour qualifier le changement climatique de "canular", avec la présentation d’une boule de neige comme "preuve" devant le Sénat américain, pour illustrer comment la confusion entre le particulier et la moyenne (et inversement) ne mène qu’à des impasses (quand ce n’est pas à de la pure stupidité).¹³ Parce que ces "objets-moyens" échappent à la présence immédiate, les appréhender nécessite une intervention computationnelle ; ils demandent des modélisations et des articulations diagrammatiques pour devenir accessibles à la cognition. Le type de sujet collectif nécessaire pour politiser ces objets complexes ne se limite donc pas à un appel à une solidarité humaine maximale, tranchant à travers les régimes d’individualisme et aliénant la subjectivité du moi, mais doit également intégrer une composante computationnelle non-humaine.¹⁴

Insister sur la maîtrise cognitive ne revient pas à insinuer que ces types d’objets complexes peuvent être entièrement connus, parfaitement modélisés, contrôlés ou maîtrisés ; ni de dire que mieux les connaître équivaut directement à de meilleures actions ou stratégies. La causalité mécanique est révolue. Sachant avec certitude que nous ne pourrons jamais pleinement connaître ou déterminer de tels objets, ce qu’ils rendent en revanche de plus en plus manifeste, c’est la nécessité de mobiliser cette incertitude intégrale. Dans un effort pour contrer la corrélation entre incertitude et inaction (le fait de suspendre toute action en attendant une certitude absolue des sciences qui ne viendra jamais), Wendy Hui Kyong Chun a souligné que nous ne devrions ni "célébrer ni condamner […] les modèles scientifiques nécessaires pour aborder les risques invisibles et inaccessibles à l'expérience," mais plutôt considérer ces modèles (toujours imparfaits) comme des "outils hypo-réels, c’est-à-dire des outils pour formuler des hypothèses".¹⁵ Chun insiste sur la nécessité de transformer l’incertitude en un facteur d’activité grâce à la capacité de l’hypothétique, plutôt que de l’utiliser comme prétexte à l’inertie. Politiser l’incertitude à travers les capacités de l’hypothétique ne consiste pas à faire un saut grossier vers l’inconnu, comme l’a montré l’appropriation excessive de l’"incertitude" en tant que complexité par le pire de la politique post-moderne, qui exalte une potentialité infinie sans qualification.¹⁶ En tant que passerelle vers ce qui pourrait être, l’hypothétique n’est pas un simple acte de foi, mais une construction raisonnée d’un horizon conceptuel (puisque les horizons réels n’existent pas), nous orientant alors que nous traversons et travaillons avec ce qui n’est pas directement observable.¹⁷ Si l’inférence inductive nous aide à forger des schémas cognitifs sur ce qui est observable, elle constitue un mode de raisonnement de l’existant. Les hypothèses, en revanche, mettent en œuvre le raisonnement abductif, offrant des perspectives narratives pour ce qui dépasse (ou échappe à) l’observation et/ou la réalité connue (vérifiable). L’hypothétique ouvre un accès à l’inexistant, ou à ce qui pourrait être autrement, comme un nouveau diagramme sur lequel manœuvrer à nouveau. L’aliénation (générative) se définit comme la séparation entre ce qui est et ce qui pourrait être, servant d’articulation à la capacité d’action de l’incertitude, dont l’hypothétique est le principal vecteur.

"Réinventer le pouvoir d’agir de l’Utilisateur revient alors non seulement à réinventer les droits des humains qui sont Utilisateurs, mais également à réinventer le pouvoir d’agir des machines avec lesquelles l’utilisateur est enchevêtré."
— Benjamin Bratton¹⁸

À mesure que la complexité de notre environnement épistémique et matériel augmente, l’interfaçage de l’humain avec les capacités computationnelles deviendra de plus en plus indispensable pour des actions éclairées et une mobilité transformative. Cela marque un potentiel, qui ne se réduit ni à des nuances de pure révérence ni à des critiques virulentes. C'est volatil, risqué et sujet à des abus, c'est pourquoi politiser l'instrumentalisation de cette suture est d'une importance capitale. Parce que le couplage humain/machine est mutuellement transformateur, les concepts perspectifs intégrés dans la conception computationnelle nécessitent une attention et une intervention minutieuses pour assurer la qualité des activités qu’ils facilitent. Ceci constitue tout autant un "site" de travail pour les sciences humaines que pour les disciplines scientifiques, technologiques, d’ingénierie ou mathématiques, malgré le déséquilibre de pouvoir actuel et prononcé entre ces méta-disciplines. Un exemple éclairant est la manière dont le monde en ligne actuel est, comme l’explique brillamment Chun, largement structuré par des formes de ségrégation fondées sur le concept "d’homophilie" appliqué à la conception des réseaux. Le concept selon lequel "qui se ressemble s’assemble", ou que "le semblable attire le semblable", permet l’existence des désormais tristement célèbres chambres d’écho, avec leurs répercussions bien réelles dans le monde hors ligne.¹⁹ La conception de réseaux homophiles est essentiellement une automatisation de la familiarité, soutenue par une prédisposition conceptuelle (sociologique) particulière. Lorsque les rencontres et les confrontations avec l’étranger et l’étrange sont interdites de manière algorithmique, l’aliénation a, dans un sens détourné et involontaire, été surmontée. Il n'y a pas grand-chose à célébrer dans cet exemple de dépassement de l'aliénation. Si le changement sans changement continue d’incarner notre condition, il ne fait que se réifier à travers l’automatisation du familier ; et le prix que nous payons collectivement pour ce biais initial — selon lequel la similarité engendre la connexion — se manifeste dans notre incapacité à formuler de nouvelles perspectives.²⁰ Hegel avait raison : la familiarité bloque la possibilité.²¹ Si l'homophilie est le mimétisme algorithmique du comportement humain, peut-être que l'appel de Bratton à innover dans l'agentivité machinique est la conception d'un perspectivisme xénophile, dissocié du machisme anthropocentrique (coupable des pires déshumanisations) et capable de dénaturaliser les habitudes humaines ancrées dans une immédiateté paroissale. Si nous voulons confronter, et non pas nier aveuglément, l'humiliation copernicienne infligée à notre "condition" humaine comme une force d'aliénation génératrice, il est temps que nous nous agrégions aux influences xénophiles, que nous redéfinissions les diagrammes sociopolitiques, et que nous rendions possible une coexistence désirable.