Points clés à retenir
- À l’ère de l’IA, la confiance ne disparaît pas : elle évolue.
- Les organisations doivent vérifier en permanence le fonctionnement de l’IA plutôt que de s’y fier aveuglément.
- L’adoption de l’IA devrait donner plus d’autonomie aux employés, et non les pousser vers une « IA fantôme ».
- Le modèle « zero trust » ne consiste pas à se méfier des gens. Il s’agit de vérifier en permanence les identités, les appareils et les actions.
- Pour une adoption responsable de l’IA, il faut que la technologie, la gouvernance et les personnes travaillent main dans la main.
Lorsque nous avons lancé « Ready. Or Not. », notre objectif était de créer une série permettant de mieux comprendre certains des grands débats actuels autour de l’IA. En réunissant l’humoriste Nathan Macintosh et des experts du secteur, nous abordons des thèmes aussi variés que l’IA agentique, la cyber-résilience ou encore la gestion des données, le tout avec une touche d’humour.
Si vous avez écouté notre premier épisode consacré auxopportunités et aux risques liés à l’IA agentique, je pense que celui-ci vous plaira également. Cette fois-ci, nous abordons un sujet qui est au cœur de tous les débats sur l’IA : la confiance.
Nathan s’entretient avec Diana Kelley, responsable de la sécurité des systèmes d’information chez Protect AI, pour discuter de ce que signifie faire confiance à la technologie à une époque où l’IA est capable de générer des contenus falsifiés convaincants, de prendre des décisions et même d’imiter des personnes. Des « deepfakes » et des « hallucinations » au modèle « zero trust » et à l’« IA fantôme », ils examinent comment les organisations peuvent adopter l’IA sans perdre confiance en leurs collaborateurs et leurs systèmes.Regardez l’épisode dans son intégralité sur Readiverse.À l’issue de cet épisode, je me suis senti plus optimiste que je ne l’aurais imaginé. Non pas parce que l’IA est soudainement devenue plus fiable, mais parce que Diana nous montre que la confiance s’installe lorsque les organisations mettent en place les politiques, les garde-fous et les technologies adéquats. Voici quelques thèmes abordés au cours de cette conversation qui jettent un nouvel éclairage sur l’IA.
La confiance et la technologie peuvent coexister
Diana estime que la confiance est possible à l’ère de l’IA, mais qu’elle prendra une forme différente. Nous avons toujours construit la confiance à travers nos relations avec les autres. Aujourd’hui, nous apprenons à étendre cette confiance aux systèmes. Cela ne signifie pas pour autant qu’il faille faire aveuglément confiance à la technologie. Il s’agit plutôt de comprendre le fonctionnement de l’IA, d’en reconnaître les limites et de mettre en place les mesures de protection adéquates afin que les personnes et la technologie puissent collaborer en toute confiance.
« La confiance doit évoluer pour s’adapter à ce nouveau monde. » – Diana Kelley
Ce qui m’a particulièrement marqué, c’est l’idée que la confiance et la technologie ne sont pas nécessairement incompatibles. Avec une approche adaptée, elles peuvent se renforcer mutuellement.
Nous progressons dans notre compréhension de l’IA
Les deepfakes sont devenus l’un des risques liés à l’IA dont on parle le plus, et on comprend aisément pourquoi. L’IA est désormais capable de générer des voix, des images et des vidéos convaincantes qui nous amènent à nous interroger sur ce qui est réel. Mais Diana a souligné que si l’IA gagne en sophistication, les gens deviennent eux aussi plus avisés. Nous sommes davantage enclins à nous interroger sur un appel téléphonique inattendu, à examiner de plus près une publication sur les réseaux sociaux ou à nous interroger face à quelque chose qui ne nous semble pas tout à fait normal.
Les organisations deviennent elles aussi plus avisées. À mesure que l’IA perfectionne ses capacités d’usurpation d’identité, les entreprises investissent dans de nouveaux moyens permettant de vérifier en permanence les identités et de valider les informations. Ce que j’en retiens, c’est que la technologie continuera à s’améliorer, mais qu’il en sera de même pour notre capacité à la reconnaître et à y répondre de manière responsable.
« Est-ce que c’est un bon jour pour se lancer dans le deepfake ? » – Nathan Macintosh
Une IA responsable est bénéfique pour les entreprises
Diana a donné un exemple qui semblera sans doute familier à de nombreuses entreprises. Une employée qu’elle appelle « Karen, du service financier », commence à utiliser l’IA car cela lui permet d’accomplir une tâche en quelques minutes au lieu de plusieurs heures. Karen ne cherche pas à contourner la politique de l’entreprise : elle essaie simplement d’être plus productive.
Les collaborateurs utilisent l’IA parce qu’ils y voient une réelle valeur ajoutée, ce qui représente une opportunité pour les entreprises. Lorsqu’ils ont accès à des outils d’IA approuvés, accompagnés de politiques claires et de conseils pratiques, ils peuvent travailler plus efficacement tout en contribuant à la protection des données et des systèmes de l’entreprise.
Aperçu : une adoption plus intelligente de l’IA
L’objectif n’est pas d’empêcher les employés d’utiliser l’IA, mais de s’assurer qu’ils l’utilisent correctement. Diana explique comment les entreprises peuvent encourager l’adoption de l’IA sans créer de risques inutiles.
Le modèle « Zero Trust » est plus important que jamais
« Quand on comprend comment les choses fonctionnent, on peut alors commencer à comprendre comment les gérer. » – Diana Kelley
Le « zero trust » fait partie de ces concepts qu’il est beaucoup plus facile de comprendre à l’aide d’une analogie. Diana en propose une excellente. Elle le décrit comme le fait de se déplacer dans un bâtiment. Ce n’est pas parce que l’on vous a autorisé à franchir la porte d’entrée que toutes les autres portes s’ouvrent automatiquement pour vous. Chaque fois que vous accédez à une nouvelle pièce, un nouveau contrôle rapide est effectué pour confirmer que vous êtes bien autorisé à vous y trouver.
C’est essentiellement ainsi que fonctionne le « zero trust ». C’est en substance ainsi que fonctionne le modèle « zero trust ». Au lieu de considérer qu’une personne ou un appareil est digne de confiance après une simple connexion, les entreprises vérifient en permanence les identités, les appareils et les actions, à mesure que les technologies deviennent de plus en plus interconnectées. La plupart de ces vérifications s’effectuent discrètement en arrière-plan. L’un des aspects que j’ai particulièrement appréciés dans l’explication de Diana, c’est que le « zero trust » ne donne pas l’impression d’être un simple mot à la mode dans le domaine de la sécurité. Il apparaît plutôt comme une approche concrète de la confiance dans un monde où l’IA et les identités numériques font désormais partie intégrante du quotidien des entreprises.
La confiance, c’est avant tout une question de personnes
En fin de compte, ce n’est pas la technologie qui instaure la confiance, mais les personnes. Ce sont elles qui définissent les politiques, les processus et les limites éthiques qui régissent l’utilisation de l’IA, tandis que la technologie permet de vérifier que ces garde-fous fonctionnent comme prévu. C’est ce partenariat entre les personnes et la technologie qui rend possible une IA responsable.
La confiance dépasse le cadre de nos propres organisations. Les entreprises doivent pouvoir avoir confiance dans les partenaires avec lesquels elles travaillent, les systèmes auxquels elles se connectent et les technologies qu’elles adoptent. C’est pourquoi la transparence, les normes communes et la vérification continue deviennent tout aussi importantes que l’innovation elle-même. Plus l’IA s’intègre dans le quotidien des entreprises, plus la confiance devient la responsabilité de chacun.
Perspectives d’avenir
AI will continue to evolve, and so will the way we interact with it. The organizations that succeed won’t be the ones that trust AI blindly or avoid it altogether. They’ll be the ones that build strong policies, adopt the right technologies, and continuously verify the systems they rely on.
Trust isn’t something we lose as technology advances. It’s something we intentionally build and evolve. That’s exactly the kind of conversation we hope to continue with every episode of Ready. Or Not.Regardez l’épisode dans son intégralité sur Readiverse.
FAQ
Q: What is digital trust?
A: Digital trust is the confidence that people, systems, and organizations are who they claim to be and are acting in expected, secure ways. It combines technology, governance, and verification to help organizations interact safely.
Q: What are deepfakes?
A: Deepfakes are AI-generated images, videos, or audio recordings designed to closely imitate real people. While they have legitimate uses, they can also be used to impersonate individuals or commit fraud.
Q: What is zero trust?
A: Zero trust is a security model based on continuous verification rather than automatic trust. Instead of assuming a user or device is trustworthy after one login, organizations continuously validate identities and actions.
Q: What is shadow AI?
A: Shadow AI refers to employees using AI tools that haven’t been approved or governed by their organization. While often well-intentioned, it can introduce security, privacy, and compliance risks.
Q: Why shouldn’t organizations simply block AI tools?
A: Employees typically adopt AI because it helps them work more efficiently. Rather than banning AI outright, organizations should provide approved tools, establish clear policies, and educate employees on responsible use.
Q : Quel est le principal enseignement à retenir de cet épisode ?
A: Trust isn’t disappearing because of AI – it’s evolving. Organizations that combine people, policies, and technology with continuous verification will be better positioned to adopt AI confidently and responsibly.
Katherine Demacopoulosest directrice principale de la stratégie et des programmes de contenu mondiaux chez Commvault.
