Changement de paradigme en cybersécurité : défenseurs et attaquants sont désormais dotés d'IA.

Changement de paradigme en cybersécurité : défenseurs et attaquants sont désormais dotés d'IA.

Un changement de paradigme est en cours dans le domaine de la cybersécurité, car les barrières à l'entrée pour les attaques ont diminué grâce à l'intelligence artificielle, déclare Srinivas L, PDG de 63SATS Cybertech.

prime

Srinivas L, directeur général adjoint et PDG de 63SATS Cybertech

Ajinkya KawaleMumbai3 min de lecture Dernière mise à jour : 19 août 2026 | 18h37 IST

Écoutez cet article

La cybersécurité devrait prendre une importance croissante à mesure que les agents d'intelligence artificielle (IA) se développent et que les entreprises cherchent à relever les nouveaux défis posés par l'adoption de grands modèles de langage (LLM), a déclaré Srinivas L, directeur général adjoint et PDG de 63SATS Cybertech, lors d'un entretien avec Ajinkya Kawale. Extraits :
 
Quels sont les principaux enjeux de cybersécurité qui émergent pour les entreprises à l'ère où l'intelligence artificielle (IA) peut potentiellement exploiter les vulnérabilités ?
 
Si l'on considère la cybersécurité d'un point de vue macro, un changement de paradigme est en cours. Que ce soit pour les consommateurs, les entreprises ou les organisations, la cybersécurité est un sujet d'actualité.surTous ces secteurs ont déjà été victimes de cyberattaques. Ces trois dernières années, l'intelligence artificielle (IA) s'est progressivement imposée, au point que la surface d'attaque et la surface de défense sont désormais toutes deux influencées par l'IA. Les barrières à l'entrée pour un attaquant se sont réduites. Un attaquant peut se procurer un logiciel d'IA et lancer des attaques de phishing contre les utilisateurs, notamment par le biais de faux appels audio et vidéo, un domaine où l'ensemble des possibilités est couvert par ces grands modèles de langage multimodulaires (LLM).
 
En quoi est-ce différent aujourd'hui par rapport aux années précédentes ?
 
Depuis vingt ans, les entreprises déploient des systèmes de sécurité de pointe pour la prévention des fuites de données et la gestion de la sécurité du cloud, ainsi que d'autres solutions coûteuses. Aujourd'hui, le problème réside dans la diffusion d'informations confidentielles de l'entreprise sur Internet via des plateformes de gestion de l'apprentissage (LLM) populaires. Ces informations confidentielles sont souvent utilisées par le fournisseur de la plateforme. Ce phénomène, appelé « intelligence artificielle parallèle » (utilisation d'outils, d'applications ou de modèles d'IA par des employés sans l'approbation, la supervision ni la visibilité des équipes informatiques et de sécurité de l'organisation), est au cœur de notre démarche. Nous accompagnons nos clients dans la résolution de ce problème. Cela comprend la recherche de solutions sur le marché, la sensibilisation des entreprises à cette problématique, la mise en place de preuves de concept, l'analyse des écarts de sécurité, la démonstration de la circulation de leurs informations confidentielles et le déploiement de la solution au sein de leur réseau.
 
Pensez-vous que la solution au problème de l'IA fantôme réside dans la création par les entreprises de petits modèles eux-mêmes pour un usage interne ?
 
Tout le monde n'a pas les moyens de déployer ses propres modèles de langage (SLM ou LLM). Notre rôle consiste alors à analyser la sécurité de l'entreprise et sa feuille de route. Si elle souhaite déployer son propre modèle, quels sont les défis de sécurité inhérents ? Le pipeline de données utilisé pour entraîner l'IA interne est-il suffisamment propre ? Est-il infecté par des données malveillantes ? Comment structure-t-elle son ingénierie des réponses ? Un service essentiel pour une entreprise est de garantir un déploiement propre. Il est important d'assurer la gestion des identités, tant pour les humains que pour les agents, qui doivent être identifiés.
 
Comment attribue-t-on une identité aux agents d'IA ?
 
Nous créons une infrastructure pour établir numérique L'identité des agents non humains. Cela inclut la gestion du cycle de vie de cette identité, qui contient toutes les données manipulées par l'agent d'IA en cas de dysfonctionnement. Cela comprend également la conformité, l'utilisation des jetons, le contrôle de leur consommation, etc. Il convient aussi de définir les politiques à mettre en œuvre et la plateforme qui sera utilisée.
 
Qu’attendent les entreprises en matière de conformité des agents non humains ?
 
Concernant les agents non humains, des preuves de concept ont été déployées par des entreprises. Nous proposons des services de planification, d'architecture, de développement et de mise en œuvre. Les entreprises souhaitent limiter l'utilisation libre des agents. Nous nous concentrons sur les conséquences d'un dysfonctionnement d'un agent, les contrôles de conformité nécessaires, la gestion des jetons et des identités, et enfin, l'ensemble du cycle de vie des agents non humains. 
 
Sujets :cybersécurité intelligence artificielle

Source: www.business-standard.com