Microsoft a annoncé une nouvelle mise à jour pour la plateforme Azure AI. Il comprend des systèmes de détection et d’atténuation des hallucinations et des attaques malveillantes. Les clients Azure AI ont désormais accès à de nouveaux outils basés sur LLM qui améliorent considérablement le niveau de protection contre les réponses indésirables ou involontaires dans leurs applications IA.
Microsoft renforce les défenses d'Azure AI avec la détection des hallucinations et des attaques malveillantes
Sarah Bird, directrice des produits chez Microsoft pour l'IA responsable, explique que ces fonctionnalités de sécurité protégeront l'utilisateur Azure « moyen » qui n'est peut-être pas spécialisé dans l'identification ou la correction des vulnérabilités de l'IA. TheVerge l'a largement couvert et a éludé la manière dont ces nouveaux outils peuvent identifier les vulnérabilités potentielles, surveiller les hallucinations et bloquer les invites malveillantes en temps réel, les organisations obtiendront des informations précieuses sur les performances et la sécurité de leurs modèles d'IA.
Ces fonctionnalités incluent des boucliers d'invite pour empêcher les injections rapides/invites malveillantes, la détection de mise à la terre pour l'identification des hallucinations et des évaluations de sécurité qui évaluent la vulnérabilité du modèle. Bien qu'Azure AI dispose déjà de ces attributs en version préliminaire, d'autres fonctionnalités telles que l'orientation des modèles vers des sorties sécurisées ou le suivi des utilisateurs potentiellement problématiques sont attendues dans les prochaines versions.
Une chose qui distingue l'approche de Microsoft est l'accent mis sur le contrôle personnalisé, qui permet aux utilisateurs d'Azure d'activer les filtres pour les discours de haine ou la violence dans les modèles d'IA. Cela contribue à dissiper les appréhensions concernant les préjugés ou le contenu inapproprié, permettant aux utilisateurs d'ajuster les paramètres de sécurité en fonction de leurs besoins particuliers.
Le système de surveillance vérifie les invites et les réponses pour détecter les mots interdits ou les invites masquées avant de les transmettre au modèle pour traitement. Cela élimine toute possibilité que l’IA produise des résultats contraires aux normes de sécurité et d’éthique souhaitées et génère ainsi des matériaux controversés ou nocifs.
Azure AI rivalise désormais avec GPT-4 et Llama 2 en termes de sécurité et de protection
Bien que ces fonctionnalités de sécurité soient facilement disponibles sur les modèles populaires tels que GPT-4 et Llama 2, ceux qui utilisent des systèmes d'IA open source plus petits ou moins connus peuvent être amenés à les intégrer manuellement dans leurs modèles. Néanmoins, l'engagement de Microsoft à améliorer la sûreté et la sécurité de l'IA démontre son engagement à fournir des solutions d'IA robustes et fiables sur Azure.
Les efforts de Microsoft pour améliorer la sécurité démontrent un intérêt croissant pour l'utilisation responsable de la technologie de l'IA. Microsoft vise donc à créer un environnement plus sûr et plus sécurisé dans lequel les clients peuvent détecter et prévenir les risques avant qu'ils ne se matérialisent lors de l'utilisation de l'écosystème d'IA dans Azure.
