L’IA déplace la frontière de la cybersécurité en France, en rendant certaines attaques plus industrialisables tout en ouvrant de nouveaux leviers de défense. Entre fragilité structurelle des garde-fous des modèles et durcissement pragmatique des briques du quotidien comme la messagerie, l’écosystème français cherche un équilibre entre innovation rapide et sécurité vérifiable.
En France, l’IA ne se contente plus d’être un sujet de transformation numérique, elle devient un facteur de reconfiguration du risque. Les organisations découvrent simultanément deux réalités. D’un côté, l’IA générative abaisse le coût de production d’attaques crédibles, accélère l’itération des campagnes de phishing et augmente la surface d’exposition via des usages métiers parfois non maîtrisés. De l’autre, l’IA s’installe au cœur des chaînes de valeur de la cybersécurité, en automatisant la détection, la qualification et la remédiation. Cette tension se lit dans les initiatives de l’écosystème français, où coexistent des deeptechs qui attaquent le problème à la racine, en testant la robustesse des modèles, et des éditeurs orientés opérations qui renforcent les points d’entrée les plus exploités, à commencer par la messagerie et les suites collaboratives.
Un changement de paradigme, du périmètre au modèle
La cybersécurité classique s’est construite sur des frontières relativement stables, réseau, poste, identité, données. L’IA générative introduit un objet nouveau, le modèle, qui n’est ni un simple logiciel ni une base de données, mais un système probabiliste exposé à des manipulations spécifiques. Les attaques ne visent plus seulement l’infrastructure, elles ciblent la logique de décision du modèle, ses garde-fous, ses données d’entraînement et ses interfaces. Cela crée une catégorie de risques qui ressemble davantage à de la sûreté de fonctionnement qu’à de la sécurité périmétrique, avec des modes de défaillance difficiles à observer et à reproduire. Dans ce contexte, la démonstration de Skyld agit comme un signal faible devenu fort. En montrant que des filtres de modération en temps réel peuvent être contournés avec un effort minimal, l’entreprise met en évidence un problème structurel, la sécurité de l’IA est souvent traitée comme une couche ajoutée après coup, dépendante de règles et de heuristiques, plutôt que comme une propriété intrinsèque du système.
Pour un décideur sécurité, l’enjeu est moins la performance ponctuelle d’un filtre que la dette accumulée lorsque des modèles sont déployés à grande échelle sans garanties formelles sur leur comportement en environnement hostile. Cette dette cyber est d’autant plus préoccupante que l’IA se diffuse dans des usages à forte criticité, assistance aux opérateurs, support client, analyse documentaire, aide à la décision, parfois avec des droits d’accès étendus. Le risque n’est pas seulement l’exfiltration de données, mais la production de sorties trompeuses, la manipulation de workflows, ou la création d’un faux sentiment de contrôle. La conséquence opérationnelle est claire, la gouvernance de l’IA doit être traitée comme un programme de sécurité à part entière, avec cartographie des modèles, gestion des dépendances, tests d’intrusion adaptés, et politiques d’accès alignées sur le principe du moindre privilège.
La messagerie et Microsoft 365, terrain d’industrialisation des défenses
Face à ces risques émergents, une partie de l’écosystème français avance par le pragmatisme, en renforçant les points d’entrée les plus rentables pour les attaquants. La messagerie reste le vecteur dominant de compromission initiale, et l’IA générative augmente la qualité linguistique et contextuelle des leurres, réduisant l’efficacité des signaux faibles qui aidaient les utilisateurs à douter. Dans ce cadre, l’évolution de Mailinblack est révélatrice d’une tendance de fond, la sécurité se déplace vers des intégrations natives, plus proches des plateformes cloud, pour gagner en vitesse de déploiement et en capacité de remédiation. Le choix de proposer un déploiement en API native Microsoft 365, sans modification des enregistrements MX ni de la configuration DNS n’est pas un détail technique, c’est une stratégie d’adoption. Elle réduit la friction, donc augmente la probabilité que la protection soit effectivement activée, maintenue et mise à jour, ce qui est un facteur de sécurité aussi déterminant que la sophistication des algorithmes.
Cette approche met aussi en lumière une contrainte majeure de la cybersécurité à l’ère du SaaS, l’architecture de contrôle. Historiquement, beaucoup de solutions de sécurité email reposaient sur l’interception du flux avant livraison. Or les environnements cloud et les exigences de continuité poussent vers des modèles hybrides, combinant prévention avant livraison et remédiation après livraison. La capacité à agir après coup devient critique lorsque des attaques passent les contrôles initiaux, ou lorsque de nouveaux indicateurs de compromission apparaissent a posteriori. Dans un monde où l’IA permet aux attaquants de varier rapidement les contenus, la défense doit pouvoir révoquer, purger, isoler et corriger à l’échelle, sans dépendre d’une action manuelle ticket par ticket.
Lecture écosystémique, deux familles d’innovation à réconcilier
Pris ensemble, Skyld et Mailinblack illustrent deux familles d’innovation qui doivent converger si la France veut éviter une dépendance stratégique. La première, orientée sécurité des modèles, travaille sur la robustesse, l’évaluation et la résistance aux contournements. Elle pose la question des méthodes, comment tester un modèle, comment mesurer sa surface d’attaque, comment prouver qu’un garde-fou tient face à un adversaire adaptatif. La seconde, orientée sécurité des usages, optimise l’intégration dans les plateformes dominantes et la capacité à opérer la sécurité au quotidien, avec des métriques de déploiement, de couverture et de temps de réponse. Le risque, si ces deux mondes restent séparés, est de produire des solutions très avancées mais difficiles à industrialiser, ou au contraire des solutions très déployables mais insuffisantes face à des attaques ciblant la logique même des systèmes d’IA.
Pour les entreprises françaises, l’implication concrète est de traiter l’IA comme une chaîne complète, du modèle aux interfaces, des données aux identités. Cela suppose d’étendre les pratiques de sécurité existantes. D’abord, intégrer des tests de robustesse et de red teaming IA dans les cycles de mise en production, avec des scénarios de prompt injection, de contournement de politiques, de fuite de contexte et d’abus d’outils connectés. Ensuite, renforcer l’observabilité, journalisation des requêtes, traçabilité des réponses, corrélation avec les événements IAM et DLP, afin de détecter les usages anormaux et d’enquêter. Enfin, contractualiser la sécurité avec les fournisseurs, exigences de transparence sur les données, options de résidence, garanties sur l’entraînement, mécanismes d’isolement, et clauses de notification en cas d’incident.
Perspectives, vers une sécurité vérifiable et gouvernée
À court terme, la pression va monter sur deux axes. Le premier est l’industrialisation des attaques assistées par IA, qui rendra insuffisantes les défenses fondées sur des signatures statiques ou sur la seule sensibilisation. Le second est l’augmentation du nombre de déploiements d’IA en production, souvent via des briques SaaS, ce qui multipliera les chemins de données et les dépendances. Dans ce contexte, la trajectoire la plus robuste pour l’écosystème français consiste à privilégier la sécurité par conception et la sécurité vérifiable. Concrètement, cela signifie des garde-fous testables, des politiques d’accès strictes, des mécanismes de confinement des outils, et une capacité de remédiation intégrée aux plateformes cloud. Les acteurs qui réussiront seront ceux capables de prouver, pas seulement d’affirmer, la résistance de leurs systèmes, tout en réduisant la friction de déploiement. La cybersécurité de l’IA ne sera pas gagnée par une technologie unique, mais par une discipline d’ingénierie et de gouvernance, où la France a une carte à jouer si elle sait aligner deeptech, éditeurs opérationnels et exigences de conformité autour d’un même objectif, rendre l’IA exploitable à grande échelle sans transformer chaque modèle en nouvelle dette cyber.
