Sous les voûtes du sous-sol du Collège des Bernardins où il nous reçoit, Brendan McGuire remplit tout l’espace. Colosse aux yeux azur, brillants, presque enfiévrés, la paume des mains, larges, ouverte. Ce prêtre catholique irlandais, spécialiste de cybersécurité, installé depuis une vingtaine d’années dans la Silicon Valley, est l’un des artisans de la pensée du Vatican sur l’intelligence artificielle. Fin 2025, à la demande des fondateurs d’Anthropic, il a coécrit le code moral de Claude, les grands principes qui encadrent l’IA.
Ce technophile – il utilise Claude tous les jours, pour écrire ses homélies notamment – réclame une pause, une respiration, dans cette course folle à laquelle se livrent les géants de la tech. Il plaide aussi pour la création d’une autorité supranationale qui encadrerait le développement des IA et leurs utilisations, à l’image de ce qui se fait dans le nucléaire. Mais le temps presse pour « reconstruire les murailles de Jérusalem », selon la formule du pape Léon XIV dans son encyclique Magnifica Humanitas qui appelait, en mai dernier, à « désarmer » l’IA. Une interview exclusive.
L’Express : Vous avez travaillé sur l’écriture de la « constitution » de Claude. Comment en êtes-vous arrivé à rédiger les grands principes qui régissent le comportement de l’IA d’Anthropic ?
Brendan McGuire : Permettez-moi d’abord de retracer mon parcours, qui m’a amené à effectuer ce travail pour Anthropic. J’ai été formé comme ingénieur en Irlande, en génie électronique, puis j’ai fait un master en informatique, en cybersécurité. Ensuite, je suis parti aux Etats-Unis dans les années 1990 où j’ai travaillé cinq ans dans la Silicon Valley, au sein d’une organisation dont j’étais directeur exécutif. Dans cette fonction, j’ai noué de nombreuses relations. Lorsque je suis entré au séminaire – j’ai été ordonné en 2000 -, je suis resté en contact avec tous ces gens. Au fil des ans, ils ont gravi les échelons – d’abord cadres dirigeants, vice-présidents, puis PDG – et leurs propos sont devenus de plus en plus précis, de plus en plus inquiétants. En 2014, 2015, ils me disaient : « Ce qui se profile à l’horizon est insensé. Si cela advient, le monde en sera transformé ». Ils avaient évidemment tous en tête la révolution de l’intelligence artificielle.
C’est à cette époque que le cardinal allemand Reinhard Marx, qui siégeait au cabinet du pape, est venu en Californie avec un groupe de théologiens et de journalistes allemands pour une série de rencontres avec des dirigeants de grandes entreprises de la tech, comme Facebook ou Google, et un grand laboratoire pharmaceutique. Tous tenaient à peu près le même discours : beaucoup de choses nouvelles et révolutionnaires vont advenir ! J’ai donc instauré des réunions plus régulières. Parallèlement, Monseigneur Paul Tighe, dont j’étais proche – il était au Dicastère pour la culture et l’éducation -, a lancé une série de rencontres appelées « Les Dialogues de Minerve », car il avait remarqué que le pape François recevait régulièrement la visite de PDG des plus grandes entreprises mondiales.
Nous avons donc rassemblé toutes ses initiatives en 2019, au sein de l’ITEC, l’Institut pour la technologie, l’éthique et la culture, à l’université de Santa-Clara en Californie. Là-bas, nous organisons des réunions mensuelles avec des cadres de la tech, des universitaires et des personnes venues de Rome. Quasiment six mois avant le lancement de ChatGPT, nous avons écrit un ouvrage, le manuel de l’ITEC : L’éthique à l’ère des technologies disruptives. Ce qui montre à quel point l’Eglise a eu de l’avance sur ces débats. Pendant toutes ces années, j’ai sollicité de nombreux entretiens avec des PDG, et pour être honnête, je n’obtenais aucune attention. Ils me disaient : « Oui, oui, c’est un excellent livre », et le rangeaient sur une étagère… Jusqu’en octobre dernier, quand j’ai reçu un appel de Brian Green, l’éthicien de l’ITEC, me disant que Chris Olah, le cofondateur d’Anthropic, souhaitait me rencontrer. Nous sommes alors convenus de nous retrouver à mon presbytère. Lors de cette réunion, Chris Olah a simplement dit : « Nous demandons l’aide du Vatican. »
– « Que pensez-vous que le Vatican puisse faire ? », lui ai-je répondu.
– « Nous avons besoin de quelqu’un. Quand les adultes vont-ils enfin entrer dans la pièce ? », me répond-il.
Je me souviendrai longtemps de cette formule : « Quand les adultes vont-ils enfin arriver ? Cette chose est dangereuse, et nous ne comprenons pas ce que nous avons développé. »
Le cofondateur d’Anthropic vous a avoué qu’il ne maîtrisait plus ce qu’il avait créé ?
Oui. Il faut comprendre comment les grands modèles de langage, ou LLM, sont développés aujourd’hui. À mon époque, on écrivait du code, on le chargeait dans la puce, la puce faisait ce qu’on lui disait, et le résultat était parfaitement prévisible. Là, c’est très différent. Ce sont des réseaux de neurones artificiels. Ils imitent le cerveau humain – pas totalement, mais ils l’imitent. Dans quelle mesure comprenons-nous notre cerveau ? Fort peu. Il existe donc un champ de recherche, appelé l’interprétabilité, que Chris Olah explore. La démarche consiste à regarder à l’intérieur de la machine pour analyser pourquoi ces réseaux de neurones font ce qu’ils font. On estime aujourd’hui les comprendre à environ 20 %. C’est très peu, et cela devrait nous inquiéter.
Que vous a demandé exactement Anthropic à l’automne dernier ?
De l’aide, pour ralentir. Ils pensaient qu’en passant par nous, ils pourraient avoir accès au Vatican et que ce dernier pourrait réunir un large groupe de personnes – notamment des concurrents – pour réfléchir ensemble. Parallèlement, ils nous ont demandés, à Brian Green et moi-même, de travailler avec eux. Ils nous ont remis dans le plus grand secret une copie de la constitution de Claude – un document de soixante-quatre pages – en nous demandant de la commenter de manière confidentielle. J’ai rédigé une réponse de trente pages. Puis nous avons eu une journée entière d’échanges. Ce qui m’a frappé dans ce document interne, c’est son incroyable humilité et son courage tout à la fois. Les fondateurs d’Anthropic y révélaient ce qu’ils savaient, et surtout ce qu’ils ne savaient pas. Dans le monde des affaires, cette approche n’est pas souvent valorisée.
Vos échanges se sont-ils poursuivis depuis ? D’autres entreprises de l’IA vous ont-elles contactées ?
Monseigneur Tighe est revenu en janvier en Californie pour deux jours de réunions – avec Anthropic, et d’autres firmes de l’IA. Tous tenaient le même discours : ces machines se développent à un rythme accéléré et se dirigent vers ce que nous appelons désormais « l’amélioration récursive » – elles peuvent se programmer elles-mêmes. Durant l’un de ces meetings, un dirigeant m’a dit : « Nous sommes des programmeurs, des mathématiciens, des informaticiens. Nous avons très peu de formations en humanités. Nous ne voulons pas que ces machines en soient dépourvues. Il nous faut une aide extérieure. » Le constat était unanime, au-delà d’Anthropic.
Cette course à l’IA se poursuit pourtant à une vitesse folle, comme en témoignent les centaines de milliards de dollars d’investissements consacrés au perfectionnement des modèles… N’y a-t-il pas chez ces patrons de la tech une forme de double discours ?
Le premier qui ralentit perd la compétition. Si Anthropic lève seul le pied, les autres le rattrapent. Et s’ils le rattrapent sans aucune éthique, sommes-nous mieux ou plus mal lotis ? Le problème est donc binaire – soit ils ralentissent tous, soit aucun ne le fait. Du moins pour les modèles qui sont à la frontière de la technologie. Mais ils ne se font pas assez confiance entre eux pour temporiser vraiment – et comment, d’ailleurs, le vérifier ?
Le pape nous a donc demandé de « désarmer » la course algorithmique. Dans son encyclique, il a délibérément employé ce mot, lourd de sens, pour attirer l’attention, en comparant l’IA aux armes nucléaires. Or, combien de temps a-t-il fallu pour que les négociations sur la non-prolifération nucléaire aboutissent ? Dix ans. Nous n’avons pas dix ans – nous avons à peine dix mois !
Comment y parvenir quand les principaux acteurs ne se parlent pas, quand les gouvernements ne se parlent pas, occupés qu’ils sont avec ces guerres tarifaires en cours ? Nous devons y travailler. Il faut ouvrir des pourparlers, sans délai.
Comprenez-vous la réaction de certains Européens, comme Arthur Mensch, le fondateur de Mistral, qui affirment que cette demande d’Anthropic est une ruse pour préserver ses parts de marché ?
C’est bien ce que je disais : ils ne se font pas confiance parce qu’ils sont concurrents. Il faut donc trouver une autre voie. La désescalade nucléaire a réussi grâce à une régulation au-dessus des États – un traité international.
Le département du Commerce américain a émis en fin de semaine dernière une directive obligeant Anthropic à suspendre l’accès à ses deux modèles d’IA les plus puissants, Fable 5 et Mythos 5. Comment interprétez-vous cette décision, tant pour l’Europe que pour l’avenir de l’intelligence artificielle ?
Ce qui me frappe, c’est qu’une technologie que nous avons tendance à imaginer comme sans frontières et hors de tout contrôle a été coupée en l’espace d’un après-midi. Quelle que soit la conclusion à laquelle on parvient sur la sagesse ou non de cette décision, elle rappelle une vérité. Ces systèmes ne sont pas des forces de la nature. Ils sont fabriqués par des mains humaines, gouvernés par des institutions humaines et soumis à une autorité humaine. C’est à la fois une leçon de sobriété et un motif d’espoir. Cela signifie que l’avenir de l’intelligence artificielle n’est pas quelque chose qui nous est imposé. Comme le Saint-Père l’affirme, c’est une affaire de responsabilité humaine et de choix humains.
Concernant l’Europe, l’épisode montre à quelle vitesse l’accès à ces outils peut devenir un instrument de pouvoir étatique, et à quel point des communautés, des hôpitaux, des écoles et des entreprises peuvent soudainement se retrouver dépendantes d’une technologie qu’elles n’ont ni construite ni maîtrisée. C’est précisément pourquoi Magnifica Humanitas appelle à ce que l’IA soit développée et gouvernée de manière à servir le bien commun au-delà des frontières, plutôt que de concentrer le pouvoir entre quelques mains, qu’elles soient celles d’entreprises ou de gouvernements. L’attention que l’Europe porte de longue date à la dignité humaine et à l’Etat de droit lui donne un poids précieux dans cette conversation.
Le pape Léon XIV signe « Magnifica Humanitas » (Magnifique Humanité) au Vatican, le 15 mai 2026.
Hormis Anthropic, les géants de la tech n’ont pas rebondi sur l’encyclique de Léon XIV. Pourquoi ?
Je l’ignore. Peut-être par respect. Peut-être pour rester en retrait – on ne gagne rien à parler, alors mieux vaut se taire. Ou peut-être que leur éthique n’est pas au rendez-vous.
Sur la dangerosité de ces LLM, pensez-vous réellement que l’analogie avec l’arme atomique soit pertinente?
C’est l’analogie que fait le pape – ce n’est pas moi qui la fais. Il ne compare pas l’IA à la bombe en tant que telle mais voit des similitudes dans la gravité des questions qu’elle pose Et je crois qu’il a raison. Je cite souvent Martin Luther King et son discours de 1967 à la Riverside Church : lui et son ami qui en fut le coauteur, Vincent Harding, ont écrit ce magnifique texte sur l’urgence farouche du moment présent, et sur le fait que le silence est une trahison. C’est là ma plus grande crainte au sujet de l’IA : que nous restions silencieux face à elle.
Nous devons tous faire usage de nos voix. Pour reprendre la métaphore du pape : chacun a un rôle à jouer dans la renaissance de Jérusalem, la Cité de Dieu, qui est une civilisation de l’amour (NDLR : dans son encyclique, le pape compare la construction de l’IA à celle de la tour de Babel, conçue sans référence à Dieu, au contraire des murs de Jérusalem, une œuvre de « responsabilité partagée »)
S’épanouir en tant qu’êtres humains, c’est aimer et être en relation. Si une machine peut nous aider à mieux faire cela, tant mieux. Ce devrait être l’étalon ultime : cette chose, quelle qu’elle soit, nous aide-t-elle à mieux aimer ?
Sommes-nous face à une révolution comparable à l’arrivée d’Internet ?
Il s’agit d’une transition plus grande encore qu’Internet, les réseaux sociaux et le cloud réunis. Elle va transformer tant d’industries en même temps, en mettant ces outils entre les mains de tant de gens ! Là est le grand bouleversement. Nous devons nous y préparer, y réfléchir, et l’aborder avec mesure.
La plus grande menace est que nous ne nous impliquions pas suffisamment dans son essor – que nous laissions l’IA se développer d’elle-même, aux mains d’une poignée de personnes. C’est ma principale crainte : que nous disions tous « C’est trop grand, je n’y peux rien ». Nous ne percevons pas l’ampleur et l’urgence farouche du moment. Je ne crains pas les machines. J’appréhende ce que les êtres humains choisiront de faire avec.
Les fidèles de votre paroisse en Californie vous parlent-ils d’IA ?
Beaucoup de salariés, d’Anthropic, d’Open IA, de Meta ou encore de Google sont des fidèles. Et j’ai avec eux des conversations semblables à celles que j’ai eues avec Chris Olah. Un ingénieur est venu me voir récemment après avoir lu l’encyclique et m’a dit : « J’ai le sentiment d’avoir bâti la tour de Babel. J’ai décidé de bâtir désormais la muraille de Jérusalem ». Cette phrase, je l’ai entendue de la bouche de bien des gens. Mais beaucoup d’entre eux sont dans le tourment. Parce qu’ils ne peuvent pas se permettre de quitter ces entreprises pour lesquels ils travaillent. Ils ont des enfants à élever, un salaire auquel ils se sont habitués, des factures à payer, et des compétences. Ils vivent un véritable déchirement.
Que leur répondez-vous ?
Je tâche de les aider à traverser leur dilemme, quel qu’il soit. Je chemine avec eux. Je ne peux évidemment pas leur dire de démissionner, ce n’est pas mon rôle. Les gens ne cherchent pas des solutions, mais un accompagnement, une présence. C’est tout ce que je peux leur offrir. Et, en dernier ressort, je les assure que Dieu est avec eux, où qu’ils soient.
Voyez-vous une différence entre l’approche du pape François et celle du pape Léon XIV sur ce sujet ?
Comme en toute chose, il y a continuité et nouveauté à la fois. Continuité dans la mesure où nous voulons que chacun bâtisse sa section de la muraille ; c’est la subsidiarité, chacun fait sa part. Nouveauté, dans la mesure où le pape Léon XIV a présenté lui-même l’encyclique – je n’avais jamais vu cela. Il a aussi invité l’une de ces entreprises de la tech, Anthropic, sur l’estrade. Du jamais vu encore.
Utilisez-vous les IA votre vie quotidienne ?
Mon Dieu, oui ! Tout le temps, tous les jours. Je me fais aider par Claude pour écrire des articles, faire des recherches. Je l’ai même programmé pour m’assister dans la rédaction d’une bonne homélie. Je n’utilise jamais le texte qu’il propose, mais il me donne une trame. Il a réduit mon temps de production de six à environ une heure.
J’ai récemment appris à mes pairs de Los Angeles à s’en servir. Il est essentiel que Claude n’écrive pas l’homélie à votre place – vous dialoguez avec lui. J’ai enseigné l’homilétique au séminaire. J’ai mis au point un processus en cinq étapes, que je lui ai appris à interroger. Il en va de même pour le reste. J’aime me servir de Claude pour m’aider à faire ce que je sais devoir faire, mais dont je n’ai parfois pas le temps. Il est devenu un assistant. C’est ce qu’a voulu dire le pape : je suis l’acteur. C’est moi qui commande – pas l’outil.
Source link : https://www.lexpress.fr/economie/high-tech/nous-ne-comprenons-pas-ce-que-nous-avons-developpe-lappel-du-pretre-a-lorigine-du-code-moral-de-NKCBJZABCJFNLKHJ6Z57DUMAEE/
Author : Béatrice Mathieu, Alexandra Saviana
Publish date : 2026-06-18 15:08:00
Copyright for syndicated content belongs to the linked Source.
