Taille
Ratio
Poids
Format
Taille
Ratio
Poids
Format
Midjourney + Gemini + Gaëtan Namouric
Consulter la charte et les crédits photo
« L’IA est dangereuse. » La même phrase peut résumer des années de recherche, ouvrir les portes de la Maison-Blanche ou fermer une discussion en comité de direction. On pourrait croire que tous ces gens parlent de la même chose. Pourtant, entre documenter une menace, défendre une position dominante et protéger ses habitudes, il y a tout un monde. Nos organisations doivent comprendre ces différences, sous peine de laisser leur avenir à celui qui crie le plus fort.
C’est pourquoi je propose de regarder de plus près ces oiseaux de malheur. J’ai du respect pour les aigles qui cherchent à voir loin, de la méfiance envers les vautours qui flairent une occasion, et peu de patience pour les mouettes qui crient au danger sans prendre la peine de le comprendre. Quant aux pigeons, ils méritent qu’on les protège. Derrière les grands discours sur l’avenir de l’humanité, il y a des gens qui doivent décider quoi acheter, quoi apprendre et à qui faire confiance.
Les aigles. Prendre le risque au sérieux.
Quand Yoshua Bengio nous met en garde contre l’intelligence artificielle, je l’écoute. Quand Geoffrey Hinton ou Stuart Russell expriment leurs inquiétudes, aussi. Ces chercheurs ont contribué à construire le domaine dont ils interrogent aujourd’hui les conséquences. Ils ont tout mon respect. Leur travail mérite qu’on s’y arrête, qu’on comprenne leurs arguments et qu’on accepte d’être dérangé. Une alerte ne devient pas ridicule parce qu’elle porte sur un avenir difficile à imaginer.
Encore faut-il savoir de quoi ils nous parlent. Le Rapport international sur la sécurité de l’IA 2026, présidé par Bengio, distingue plusieurs menaces. Des usages malveillants sont déjà documentés : escroqueries, usurpations d’identité, chantage, assistance à des cyberattaques. La possibilité de faciliter certaines étapes de fabrication d’armes biologiques ou chimiques inquiète aussi les experts, même si l’importance des obstacles matériels reste difficile à évaluer. À cela s’ajoutent les défaillances ordinaires : informations inventées, code erroné, conseils trompeurs. Le risque grandit lorsqu’un système peut agir seul avant qu’un humain ait le temps de corriger son erreur.
Le même rapport examine un scénario plus lointain : des systèmes qui échapperaient durablement à notre contrôle. Il précise que les modèles actuels n’en ont pas les capacités, tout en constatant des progrès dans des aptitudes pertinentes, comme l’autonomie. C’est une possibilité à étudier sérieusement, avec ses incertitudes.
Dans Human Compatible, Stuart Russell explique pourquoi cette question dépasse le fantasme du robot méchant. Une machine peut poursuivre avec une efficacité redoutable un objectif que nous avons mal défini. Le problème est alors dans l’écart entre ce que nous lui avons demandé et ce que nous voulions vraiment. Russell propose de concevoir des systèmes qui restent incertains de nos préférences et apprennent à les comprendre, plutôt que de considérer leur mission comme définitivement réglée.
Cette réflexion mérite une traduction dans nos organisations. Confier un premier jet à un assistant, puis le relire, expose à des erreurs qu’on peut repérer avant diffusion. Lui donner le pouvoir de rejeter des candidatures ou de déclencher des paiements engage tout autre chose. Les conséquences, les données et la possibilité de reprendre la main doivent déterminer le niveau de contrôle. Le mot « IA » ne suffit pas à décrire le risque.
Respecter les aigles, c’est faire cet effort de compréhension. Le titre universitaire ne rend personne impartial par magie, et les chercheurs ne s’entendent pas tous sur les scénarios les plus probables. Leur désaccord fait aussi partie de ce qu’il faut écouter. Mais je refuse qu’on transforme leurs travaux en argument pour suspendre tout apprentissage dans nos équipes. Prendre au sérieux une menace à long terme devrait nous rendre plus capables de décider aujourd’hui. Une organisation qui ne comprend rien à l’IA sera bien mal équipée pour en maîtriser les conséquences.
Les vautours. La fin du monde rapporte déjà.
Avec les grands patrons de l’IA, ma réaction change. Sam Altman, Dario Amodei, Demis Hassabis : leur puissance m’inquiète et je me méfie de leur parole. En 2023, ils ont signé, aux côtés de chercheurs, la déclaration du Center for AI Safety qui plaçait la réduction du risque d’extinction lié à l’IA au rang des priorités mondiales. La signature est commune. La position de celui qui signe ne l’est pas.
Quand le fabricant annonce que sa technologie pourrait menacer l’humanité, il nous dit aussi qu’il fabrique quelque chose d’extraordinairement puissant. L’avertissement fait une excellente démonstration commerciale. Il attire l’attention, donne de l’importance au produit et installe son dirigeant parmi les gens qu’il faut absolument écouter. Je ne connais pas la part de conviction et la part de calcul dans chaque prise de parole. Je vois très bien ce que le récit peut rapporter.
Et le bénéfice dépasse la publicité. Le 22 mai 2023, Altman, Greg Brockman et Ilya Sutskever proposaient une supervision internationale des systèmes les plus puissants, inspirée de l’Agence internationale de l’énergie atomique. Le constructeur participait déjà à définir l’institution chargée d’encadrer sa technologie. L’accès au pouvoir est, lui aussi, bien visible : le 21 janvier 2025, Altman était à la Maison-Blanche avec Donald Trump pour annoncer le projet d’infrastructures Stargate. Nous sommes loin d’un vendeur de logiciels attendant son tour à l’accueil.
Dans Preventing Regulatory Capture, Daniel Carpenter et David Moss réunissent des travaux sur la manière dont des intérêts privés peuvent orienter la réglementation à leur avantage, et sur les moyens de l’éviter. L’ouvrage invite aussi à établir la capture avec rigueur, plutôt qu’à la voir dans chaque rencontre entre une industrie et l’État. La proximité avec un président ne suffit donc pas à prouver une capture. Elle donne en revanche de bonnes raisons d’examiner qui définit le problème, qui propose les règles et qui possède les moyens de les contester.
C’est cette concentration de pouvoir qui me fait peur. Les mêmes entreprises pourraient nous fournir les outils, expliquer ce qu’ils valent, définir les dangers et nous vendre la protection. Leur inquiétude peut être sincère. Elle ne les qualifie pas pour arbitrer seules l’intérêt collectif. Quand l’alerte vient d’un constructeur, elle perd à mes yeux son statut d’expertise indépendante : je veux des preuves et une contre-expertise. Dans nos organisations aussi, le fournisseur doit répondre à nos critères. L’ampleur de ses prédictions ne doit pas lui donner le droit de les écrire à notre place.
Les mouettes. La paresse déguisée en prudence.
Les mouettes font beaucoup de bruit dans nos salles de réunion. Ce sont les gestionnaires qui annoncent le danger avant d’avoir pris la peine de comprendre. Ils ont retenu un titre inquiétant, entendu une histoire d’erreur spectaculaire, récupéré un argument dans une conférence. Les voilà équipés pour dire non à tout. Ils ne connaissent pas l’outil, n’ont pas examiné l’usage proposé et n’ont aucune envie de s’y mettre. Leur ignorance finit par devenir une politique d’entreprise.
Ceux-là m’agacent. Je les trouve paresseux. La prudence exige du travail : lire, poser des questions, comparer les usages, chercher les conditions d’un essai acceptable. Déclarer que tout est trop dangereux permet de s’en dispenser avec une apparence de responsabilité. Il suffit parfois de prononcer le mot « éthique » pour que personne n’ose demander où est l’analyse.
Le psychologue Christopher J. Anderson a étudié ce mécanisme plus largement dans The Psychology of Doing Nothing, publié en 2003. Sa synthèse examine notamment le report d’une décision, la préférence pour le statu quo et le biais qui fait paraître l’inaction plus acceptable qu’une action aux conséquences comparables. Le regret anticipé et la difficulté de choisir peuvent pousser à ne rien décider. Ce travail ne prouve évidemment pas que tout refus de l’IA relève de la paresse. Il aide à comprendre pourquoi le maintien de l’existant peut être si confortable.
Devant un refus, j’ai donc envie de comprendre ce qu’il protège. Des renseignements confidentiels? La qualité du travail? Des personnes qui pourraient subir une décision injuste? Très bien. Précisons le danger et les conditions à respecter. Mais protège-t-il surtout le confort du gestionnaire, sa position ou son droit de ne pas apprendre? La discussion devient alors beaucoup moins technique.
Un employé qui craint de perdre son poste mérite une réponse honnête, du temps et de l’accompagnement. Un gestionnaire qui transforme son manque de connaissances en interdiction générale doit faire son travail. Il peut exiger un essai sur des données fictives, limiter les accès, imposer une vérification humaine ou refuser un usage dont les conséquences restent impossibles à maîtriser. Son « non » doit déboucher sur une décision explicable, avec une suite. Pendant ce temps, conserver les processus actuels a aussi un coût et des risques. Ils méritent le même examen.
Les pigeons. Ceux qu’il faut protéger.
Les pigeons sont la proie des vendeurs de miracles. Ils veulent faire avancer leur organisation, mais se retrouvent à acheter des promesses qu’ils n’ont pas toujours les moyens de vérifier.
La peur les rend particulièrement intéressants pour ceux qui vendent une réponse. « Vous allez disparaître, mais nous pouvons vous sauver. » La recette est ancienne. Dans leur méta-analyse sur les appels à la peur, Melanie Tannenbaum et ses collègues montrent que ces messages peuvent influencer les attitudes et les comportements, et qu’ils sont plus efficaces lorsqu’ils proposent aussi une réponse au danger. Cette recherche ne porte pas sur la vente d’IA. Elle éclaire néanmoins le ressort d’un argumentaire que nous entendons beaucoup.
Le livre AI Snake Oil, d’Arvind Narayanan et Sayash Kapoor, aide à reprendre pied. Snake oil signifie littéralement « huile de serpent ». L’expression anglaise désigne un remède miracle vendu avec des promesses qu’il ne tient pas. Appliquée à l’IA, elle vise les systèmes qui ne fonctionnent pas comme annoncé, et dont certaines promesses ne sont probablement même pas réalisables.
Les auteurs distinguent notamment les progrès de l’IA générative des prétentions de certains outils prédictifs. Produire un texte convaincant ne démontre pas qu’on sait prévoir le rendement d’un futur employé. Dans un entretien publié par Princeton, Kapoor prend l’exemple de produits promettant d’évaluer la réussite professionnelle d’un candidat à partir d’une vidéo de trente secondes, sans fondement scientifique à la hauteur de cette prétention. Le vocabulaire est sophistiqué. La preuve, elle, doit toujours être demandée.
Et celui qui paie la promesse n’est pas toujours celui qui l’achète. Une organisation peut se faire vendre une mauvaise évaluation automatisée ; c’est le candidat écarté qui en subira les conséquences. Protéger les pigeons, c’est donc protéger les acheteurs contre les affirmations invérifiables, mais aussi les personnes sur lesquelles ces outils seront utilisés.
Nous pouvons commencer par rendre quelques questions normales : qu’est-ce qui a été testé, sur quelles personnes, dans quelles conditions, avec quels résultats? Quelqu’un d’indépendant peut-il vérifier? Que se passe-t-il en cas d’erreur? Il faut aussi pouvoir dire « je ne comprends pas encore » sans perdre la face. La honte pousse à acquiescer. Elle fait un assez mauvais comité d’achat.
Le « donc ». Là où le travail commence.
Ces oiseaux ne m’inspirent ni la même confiance ni la même réponse. J’écoute les aigles parce que leurs travaux méritent d’être compris. Je surveille les vautours parce que leurs intérêts pèsent dans la conversation. J’attends des mouettes qu’elles se mettent au travail. Et je veux que les pigeons puissent apprendre sans se faire plumer.
Dans tous les cas, la phrase décisive arrive après l’annonce de la menace. Nos données sont sensibles, donc nous définissons ce qui peut être utilisé et dans quel environnement. Le système se trompe, donc nous évaluons ses erreurs avant de lui confier une responsabilité. Des postes vont évoluer, donc nous parlons du travail et de la formation. Un usage reste trop risqué, donc nous l’écartons et nous cherchons où l’apprentissage peut continuer.
Le danger peut justifier un arrêt précis. Il peut aussi commander une bifurcation, une limite, une expérience mieux conçue. Il ne devrait jamais nous dispenser de penser la suite. Nos organisations ont besoin d’apprendre assez vite pour décider de leur avenir. Je n’ai aucune envie de laisser ce choix à ceux qui savent le mieux nous faire peur.
Ce qu'il faut retenir
Devant une alerte sur l’IA, examinons qui parle, le danger précis et la décision qu’on nous demande. Les chercheurs méritent une écoute attentive ; les constructeurs, une contre-expertise indépendante. Les gestionnaires doivent transformer leurs réserves en conditions d’action, et les acheteurs pouvoir comprendre les promesses sans subir la peur ni la honte. Un risque sérieux peut conduire à écarter un usage, limiter l’autonomie d’un système ou changer de méthode. Il ne justifie pas à lui seul de suspendre tout apprentissage dans l’organisation. Le travail commence au « donc ».
Gaëtan est le fondateur de Perrier Jablonski. Créatif et stratège, il est aussi enseignant à HEC, à l’École des Dirigeants et à l'École des Dirigeants des Premières Nations. Il est membre du C.A. de l’École Nationale de l’Humour. Il est certifié par le MIT (Design Thinking, I.A.), il étudie l'histoire des sciences, la philosophie, et les processus créatifs. Il est l’auteur de deux essais et plus de 200 articles sur tous ces sujets.
Bibliographie et références de l'article
RAPPORT · Bengio, Y. et coll. (2026). International AI Safety Report 2026 — Executive Summary. Synthèse des risques documentés, des incertitudes et des moyens de gestion.
LIVRE · Russell, S. (2020 [2019]). Human Compatible : Artificial Intelligence and the Problem of Control. Penguin Books. Édition brochée représentée : ISBN 9780525558637.
DÉCLARATION · Center for AI Safety (2023). Statement on AI Risk. Texte et liste des signataires de l’appel sur le risque d’extinction.
BILLET · Altman, S., Brockman, G. et Sutskever, I. (2023, 22 mai). Governance of superintelligence. OpenAI. Proposition de supervision internationale des systèmes les plus puissants.
TRANSCRIPTION OFFICIELLE · The White House (2025, 21 janvier). Annonce du projet Stargate et échanges avec la presse. Daily Compilation of Presidential Documents, DCPD-202500157, GovInfo.
LIVRE COLLECTIF · Carpenter, D. et Moss, D. A. (dir.) (2013). Preventing Regulatory Capture : Special Interest Influence and How to Limit It. Cambridge University Press. ISBN 9781107646704. Cadre d’analyse de la capture réglementaire et de sa prévention.
ARTICLE SCIENTIFIQUE · Anderson, C. J. (2003). The Psychology of Doing Nothing : Forms of Decision Avoidance Result From Reason and Emotion. Psychological Bulletin, 129(1), 139–167.
MÉTA-ANALYSE · Tannenbaum, M. B., Hepler, J., Zimmerman, R. S., Saul, L., Jacobs, S., Wilson, K. et Albarracín, D. (2015). Appealing to Fear : A Meta-Analysis of Fear Appeal Effectiveness and Theories. Psychological Bulletin, 141(6), 1178–1204.
LIVRE · Narayanan, A. et Kapoor, S. (2024). AI Snake Oil : What Artificial Intelligence Can Do, What It Can’t, and How to Tell the Difference. Princeton University Press. ISBN 9780691249131. Voir aussi l’entretien avec les auteurs publié par Princeton le 18 décembre 2024, utilisé pour la définition de snake oil et l’exemple du recrutement par vidéo.
L'I.A. a pu contribuer à cet article. Voyez comment.
Nous utilisons souvent des outils d'intelligence artificielle, notamment des grands modèles de langage (LLM), pour soutenir nos recherches, structurer nos idées, améliorer nos textes et évaluer leur qualité.
Nous exploitons nos propres corpus documentaires et entraînons également des modèles sur nos contenus. Lorsque la confidentialité l'exige, nous privilégions des modèles exécutés localement.
Ces usages sont supervisés par l'auteur. Les sources, les analyses et les contenus publiés demeurent sous notre responsabilité éditoriale.
Tableau de bord
Cet article est final.
spellcheck
Cet article est en relecture.
rule
Cet article a été remis à Gaëtan
badge
Cet article est encore dans les mains de l'équipe.
psychology
Cet article est un projet.
psychology
Cet article n'a pas de statut!
I.A.
Influences
sell
Aucun sujet sélectionné!
subject
Il n'y a pas de teaser!
hdr_auto
Il n'ya a pas d'introduction!
copyright
Pas de légende d'illustration
Légende :
Midjourney + Gemini + Gaëtan Namouric
Dans cet article, Gaëtan Namouric distingue quatre profils dans les discours sur les dangers de l’intelligence artificielle. Les « aigles » sont les chercheurs dont les alertes méritent respect et examen. Les « vautours » sont les dirigeants de l’industrie, dont les avertissements peuvent aussi renforcer la visibilité commerciale et l’influence politique. Les « mouettes » sont les gestionnaires qui invoquent le danger sans étudier les usages proposés. Les « pigeons » sont les personnes à protéger contre les promesses trompeuses et les décisions automatisées mal fondées. L’article mobilise le Rapport international sur la sécurité de l’IA 2026, Human Compatible de Stuart Russell, Preventing Regulatory Capture dirigé par Daniel Carpenter et David Moss, les travaux de Christopher Anderson sur l’évitement de la décision et AI Snake Oil d’Arvind Narayanan et Sayash Kapoor. Il distingue risques actuels et scénarios de perte de contrôle, explique l’expression snake oil et propose de traduire chaque alerte en critères, contrôles et décisions adaptés à l’organisation.
.avif)