“Entrez dans le compte Stripe de mon entreprise, examinez chaque transaction du deuxième trimestre, signalez toute activité inhabituelle et préparez un rapport détaillé sur les flux de trésorerie et les dépenses pour lundi.” En quelques minutes seulement, votre agent IA opère à l’intérieur de l’un des systèmes financiers les plus sensibles de votre employeur, utilisant un accès autorisé par vous.
Jusqu’à récemment, vous auriez dû vous connecter manuellement ou organiser une autre forme d’accès pour l’agent. Désormais, des entreprises comme 1Password suppriment cette barrière, permettant aux agents IA de se connecter en toute sécurité en votre nom sans révéler vos identifiants à l’agent.
Bien que la commodité soit indéniable, le risque l’est tout autant : une fois que vous avez autorisé un agent IA et qu’il devient incontrôlable, que se passe-t-il pour votre emploi ou la réputation de votre organisation ?
En tant qu’employé de votre organisation, vous êtes en mesure d’approuver un identifiant de connexion. 1Password connecte Claude, permettant ainsi à Claude d’utiliser votre mot de passe en votre nom (1Password affirme que les identifiants ne sont pas vus par Claude), et Claude effectue la tâche souhaitée dans le compte pour vous.
As an employee of your organization, you are able to approve a log-in credential. 1Password signs Claude in, effectively allowing Claude to use your password on your behalf (1Password says that credentials are not viewed by Claude), and Claude completes the desired task inside the account for you.
Bien sûr, cette transition facilite la navigation dans les flux de travail liés à l’IA, en particulier à l’intérieur de Claude, en éliminant une couche supplémentaire de friction. Cependant, des mouvements comme ceux-ci posent un nouveau défi pour les travailleurs à l’ère de l’IA.
Les employés se voient de plus en plus confier des données sensibles en collaboration avec des machines et des algorithmes puissants.
Cela est responsabilisant, mais cela nous oblige à nous interroger : jusqu’où allons-nous ? Qu’est-ce qui pourrait être trop ? Où traçons-nous la ligne en matière d’accès et de permissions ?
Hugging Face, par exemple, a fait la une des journaux cette semaine en rapportant une cyberattaque à grande vitesse menée de bout en bout par des agents malveillants de l’IA, qui ont réalisé environ 17 000 actions, correspondant « au scénario d’attaquant agentique que l’industrie avait prévu », ont-ils déclaré dans un communiqué. (Les modèles d’OpenAI ont été utilisés dans le cadre de cette opération ; OpenAI a annoncé qu’ils s’associeraient à Hugging Face pour traiter la cause profonde de l’incident de sécurité.)
L’essor de l’IA agentique entraîne l’émergence d’une compétence très importante comme nécessité dans le futur du travail : le jugement de permission.
Jugement de permission en tant que compétence en IA
Si un agent IA peut désormais se connecter à votre place, utiliser vos mots de passe et agir de manière totalement indépendante des humains, alors les employés doivent se poser des questions telles que :
- Quels comptes l’agent peut-il accéder ? Quelles actions pourrait-il entreprendre avec cet accès ? Quelles données lit-il après l’authentification et pendant l’authentification ? Qu’est-ce qui nécessite encore une approbation humaine ? Et qui est responsable lorsque qu’un agent agit avec les identifiants d’un employé et que quelque chose tourne mal ?
Ce sont les questions auxquelles nous sommes encore en train de chercher des réponses.
Une autre question cruciale que nous devons commencer à évaluer est la suivante : si un travailleur utilise un agent IA non autorisé ou fournit un accès par mot de passe sans confirmation préalable du département informatique de son employeur ou de son responsable hiérarchique, cela pourrait-il devenir une question disciplinaire ? Et si oui, quelle en serait la gravité ?
Maintenant, dans le pire des scénarios, un agent IA agissant en votre nom avec vos identifiants de connexion pourrait envoyer un message non autorisé ou initier une communication inappropriée, ou modifier des informations critiques pour la mission.
Il y a des risques que nous sommes contraints de prendre en compte, tels que :
- L’IA agentique manipulant des données financières, ou traitant des frais
- Suppression et/ou écriture de matériel
- Déclenchement d’une violation de la sécurité des données clients qui pourrait exposer un employeur à un risque externe de la part des régulateurs
L’indice des tendances de travail de Microsoft 2026 révèle que le déploiement de l’IA agentique est pleinement en cours, et « alors que l’IA élargit ce que les gens peuvent faire, elle augmente également la valeur du bon jugement. La plupart des utilisateurs d’IA que nous avons interrogés en sont conscients », ont-ils rapporté.
« Lorsqu’on leur a demandé quelles compétences humaines sont plus importantes à mesure que l’IA prend en charge davantage de travail, deux compétences se sont démarquées : le contrôle de la qualité de la production de l’IA (50%) et la pensée critique — analyser l’information de manière objective et porter un jugement raisonné (46%). Et 86% affirment qu’ils considèrent la production de l’IA comme un point de départ, et non comme une réponse définitive, et qu’ils restent responsables de leur réflexion. »
L’indice met également en lumière un paradoxe où les employés sont pleinement prêts à adopter l’IA agentique, mais leurs organisations n’ont pas encore complètement rattrapé leur retard, ce qui conduit à l’IA de l’ombre et peut augmenter les incidents de sécurité si les paramètres appropriés ne sont pas en place.
Cela nous amène à la réalisation que l’IA agentique n’est pas seulement un problème technologique ou de département informatique. C’est quelque chose qui concerne chaque employé. Les régulateurs de l’industrie et les organismes de certification avancent avec cette tendance et reconnaissent les dangers.
L’IA de l’ombre se propage
Les employeurs reconnaissent la nécessité d’adopter rapidement l’IA et, franchement, beaucoup sont sous pression de la part de leurs concurrents et des attentes du marché. Mais dans toute cette précipitation, ils risquent de compromettre la sécurité.
L’utilisation par les employés d’IA non approuvées ou « shadow » a explosé au cours de l’année dernière, triplant de 15 % à 45 %, selon Verizon ; les travailleurs ressentent le besoin de s’adapter rapidement et d’expérimenter avec des agents d’IA, adoptant même une approche BYOAI (apportez votre propre IA) au travail, craignant de prendre du retard dans leur carrière s’ils ne le font pas. Pendant ce temps, le coût moyen mondial d’une violation de données en 2025 a atteint 4,44 millions de dollars, selon IBM.
IBM a également constaté que 97 % des organisations ayant signalé un incident de cybersécurité lié à l’IA manquaient des contrôles d’accès appropriés à l’IA.
Des organisations et des organismes comme le NIST et le corps de l’industrie de la cybersécurité, ISC2, explorent activement ces questions.
Par exemple, l’ISC2 travaille actuellement sur une certification appelée Certification de sécurité de l’IA en tant que référence de l’industrie (ils sollicitent actuellement des contributions et des retours d’information pendant son développement), qu’ils prévoient de publier en 2027.
À quoi s’attendre dans le futur de l’IA agentique d’ici 2027
Voici ce que je prédis pour le reste de 2026 et 2027 :
Je m’attends à ce que l’intelligence de permission et le jugement deviennent une responsabilité formelle au travail pour les employés à tous les niveaux, y compris la responsabilité des employés débutants, ce qui élève les attentes envers les nouvelles recrues.
Ils devront comprendre pleinement et être formés non seulement sur la manière d’utiliser l’IA pour accroître la productivité et générer des revenus et une mise à l’échelle, mais aussi sur les systèmes auxquels un agent peut accéder, quelles données il peut consulter, et quelles actions nécessitent une approbation ou une escalade humaine.
Cela devra être entièrement intégré dans l’intégration des employés, la formation annuelle de conformité, et même dans le cadre de l’évaluation de la performance des employés, ce qui signifiera que l’utilisation non autorisée d’agents IA deviendra explicitement une question disciplinaire pour les ressources humaines.
Travailler dans une industrie réglementée ou à haute éthique comme la finance, le droit, la santé, le journalisme, etc. signifie que des contrôles supplémentaires seront en place et que les professionnels de ces domaines doivent être particulièrement prudents.
Je m’attends également qu’avec l’augmentation des incidents de sécurité liés à l’IA agentique, les employeurs commencent à introduire des politiques d’accès des agents beaucoup plus strictes qui distingueront les tâches à faible risque des tâches à haut risque.
J’espère également voir des pistes de vérification claires qui identifient qui a déclenché une action d’IA agentique, afin qu’un agent IA qui déraille ne se retourne pas inutilement contre un employé ayant suivi tous les protocoles corrects.
Et bien sûr, avec tout cela, nous verrons une augmentation des offres d’emploi dans le domaine de la cybersécurité, de la conformité et de la gouvernance de l’IA. De nouveaux titres de poste seront créés et les rôles existants seront redéveloppés en fonction de la pression agentique qui s’empare des organisations.
Alors, l’IA agentique va-t-elle trop loin ?
L’IA agentique fait exactement ce pour quoi elle a été habilitée. Le problème survient lorsqu’elle est adoptée plus rapidement que les organisations ne peuvent adopter et mettre en œuvre des garde-fous de sécurité.
Cet article a été écrit par Rachel Wells et traduit par Forbes.be.
