Tout le monde navigue dans la sécurité de l'IA en temps réel — même Google

BitcoinWorld

Tout le monde navigue dans la sécurité de l'IA en temps réel — même Google

Lors d'une conversation franche en coulisses d'un événement à Los Angeles, Francis de Souza, directeur des opérations de Google Cloud, a livré une évaluation sobre de l'état actuel de la sécurité de l'IA. S'exprimant avec le ton mesuré d'un professeur d'université, de Souza a reconnu que le secteur traverse une période de transition, notant qu'« il y aura une période de transition, et ensuite je pense que nous atteindrons un meilleur endroit. » Ses remarques interviennent à un moment où même Google lui-même est aux prises avec des failles de sécurité exposées par ses propres produits d'IA.

L'approche plateforme en matière de sécurité

Le message central de de Souza est celui que les professionnels de la sécurité exhortent les dirigeants à adopter depuis des années, désormais rendu urgent par l'IA : la sécurité ne peut pas être une réflexion après coup. « Au fur et à mesure que les entreprises se lancent dans ce voyage IA, elles doivent adopter une approche plateforme », a-t-il déclaré. « La sécurité n'est pas quelque chose que l'on peut ajouter plus tard, et ce n'est pas quelque chose que l'on peut laisser aux employés à gérer seuls. » Il a spécifiquement mis en garde contre l'« IA fantôme » — des employés utilisant des outils d'IA grand public sans supervision organisationnelle — et a soutenu que les entreprises doivent exiger dès le départ sécurité, gouvernance et auditabilité de leurs plateformes. « Il n'existe pas de stratégie IA sans stratégie de données et stratégie de sécurité. Elles doivent aller de pair », a-t-il ajouté.

La réalité multicloud et l'expansion de la surface d'attaque

Lorsqu'on lui a demandé si ses conseils n'étaient qu'un argumentaire de vente pour Google Cloud, de Souza a réfuté cette idée, soulignant l'engagement de Google en faveur d'une approche multicloud. « Même s'ils choisissent un seul cloud, ils s'appuient sur des applications SaaS, il y a des partenaires commerciaux qui peuvent utiliser des clouds différents », a-t-il dit. « Il est important que les entreprises aient une posture de sécurité cohérente entre les clouds, entre les modèles. » Il a également mis en évidence à quel point le paysage des menaces a fondamentalement changé. Le temps moyen entre une première intrusion et le passage à l'étape suivante d'une attaque est passé de huit heures à 22 secondes, a-t-il noté, tandis que la surface d'attaque s'est étendue au-delà du périmètre réseau traditionnel. « En plus de votre infrastructure habituelle, vous avez désormais des modèles. Vous avez des pipelines de données utilisés pour entraîner les modèles. Vous avez des agents, vous avez des prompts. Tout cela doit être protégé. »

Le danger caché des Agents d'IA

Une menace signalée par de Souza qui passe souvent inaperçue : les Agents d'IA se déplaçant dans les systèmes internes d'une entreprise peuvent faire remonter des référentiels de données oubliés. « Beaucoup d'organisations ont de vieux serveurs SharePoint [et des contrôles d'accès] qu'ils n'ont pas vraiment mis à jour, mais cela n'avait pas d'importance car personne ne savait vraiment où ils se trouvaient. Mais les agents qui parcourent votre entreprise trouveront ces actifs de données et exposeront les données qu'ils contiennent. » Sa solution recommandée est de répondre à la vitesse machine par la vitesse machine. « Nous assistons désormais à l'émergence d'une défense nativement IA, entièrement agentique, où les organisations peuvent faire fonctionner des agents pour piloter leur défense », a-t-il déclaré. « Au lieu d'avoir une défense dirigée par des humains ou même un humain dans la boucle, vous pouvez désormais avoir des humains supervisant une défense entièrement agentique. » Il a insisté sur le fait qu'il s'agit d'une question au niveau du conseil d'administration et de l'équipe de direction, et pas seulement d'une préoccupation de l'équipe de sécurité.

Les propres failles de sécurité de Google

Bien que les conseils de de Souza soient avisés, des rapports récents révèlent un écart entre ce que Google Cloud préconise et la rapidité à laquelle il s'adapte. The Register a documenté une vague de développeurs Google Cloud frappés par des factures à cinq chiffres après des appels API non autorisés vers des modèles Gemini — des services que beaucoup n'avaient jamais utilisés ni intentionnellement activés. Le schéma : des clés API initialement déployées pour Google Maps, publiées selon les propres instructions de Google, étaient discrètement devenues capables d'accéder à Gemini après que Google eut élargi leur portée sans clairement divulguer ce changement. Rod Danan, PDG de la plateforme de préparation aux entretiens Prentus, a signalé une facture de 10 138 $ en environ 30 minutes après que des attaquants aient exploité sa clé API compromise. Isuru Fonseka, un développeur basé à Sydney, s'est réveillé avec des frais d'environ 17 000 AUD malgré la croyance qu'il avait un plafond de dépenses de 250 $ en place. Google a remboursé les deux après la publication du rapport initial par The Register, mais a indiqué à la publication qu'il n'avait pas l'intention de modifier sa politique de mise à niveau automatique de niveau, privilégiant la prévention des pannes de service à l'application des préférences budgétaires déclarées par les utilisateurs.

La fenêtre de révocation de 23 minutes

Pour compliquer davantage les choses, la société de sécurité Aikido a constaté que même les développeurs qui détectent une clé compromise et la suppriment immédiatement peuvent ne pas être en sécurité. Les attaquants peuvent apparemment continuer à utiliser cette clé pendant jusqu'à 23 minutes parce que la révocation de Google se propage progressivement dans son infrastructure. Le chercheur d'Aikido Joseph Leon a déclaré à The Register que pendant cette fenêtre, les taux de succès sont imprévisibles — certaines minutes, plus de 90 % des requêtes s'authentifient encore — et les attaquants peuvent profiter de ce temps pour exfiltrer des fichiers et des données de conversation en cache depuis Gemini. Leon a noté que les nouveaux formats d'identifiants de Google n'ont pas le même problème : les identifiants API des comptes de service se révoquent en environ cinq secondes, et le nouveau format de clé à préfixe AQ de Gemini prend environ une minute. « Les deux fonctionnent à l'échelle de Google », a-t-il écrit dans le document connexe d'Aikido. « Les deux suggèrent que c'est techniquement résolvable pour les clés API Google également. » En bref, la fenêtre de 23 minutes n'est pas une contrainte d'ingénierie mais une question de priorités.

Conclusion

Le conseil de de Souza — que la sécurité doit être fondamentale et non ajoutée après coup — est avisé et devrait être pris au sérieux par toute organisation déployant l'IA. Cependant, les incidents récents chez Google Cloud lui-même soulignent que même les plateformes prescrivant les meilleures pratiques sont encore en train de s'adapter. Alors que le secteur évolue vers des défenses nativement IA et une sécurité agentique, l'écart entre prescription et pratique reste une préoccupation critique pour les conseils d'administration, les dirigeants et les équipes de sécurité.

FAQs

Q1 : Qu'est-ce que l'« IA fantôme » et pourquoi représente-t-elle un risque pour la sécurité ?
L'IA fantôme désigne les employés utilisant des outils d'IA grand public sans supervision organisationnelle. Cela crée des risques car ces outils peuvent ne pas disposer d'une sécurité, d'une gouvernance ou d'une auditabilité de niveau entreprise, exposant potentiellement des données sensibles.

Q2 : À quelle vitesse les attaquants peuvent-ils exploiter une clé API compromise sur Google Cloud ?
Selon des recherches récentes, même après la suppression d'une clé, les attaquants peuvent continuer à l'utiliser pendant jusqu'à 23 minutes en raison de la propagation progressive de la révocation. Les nouveaux formats d'identifiants de Google se révoquent beaucoup plus rapidement, en quelques secondes à une minute.

Q3 : Qu'est-ce qu'une « défense agentique » en matière de sécurité IA ?
Une défense agentique utilise des agents piloté par l'IA pour détecter et répondre automatiquement aux menaces à la vitesse machine, avec des humains supervisant le processus plutôt qu'étant directement dans la boucle. Cette approche est conçue pour contrer la vitesse des attaques modernes alimentées par l'IA.

Cet article Tout le monde navigue dans la sécurité de l'IA en temps réel — même Google est apparu en premier sur BitcoinWorld.