Electronique Mag - Le journal de l'électronique.

Keysight Technologies, Inc. (NYSE : KEYS) a récemment lancé Keysight AI Software Integrity Builder. Cette solution logicielle a été conçue pour transformer la façon dont les systèmes intégrant l’IA sont validés et entretenus afin de garantir leur fiabilité. Alors que la surveillance réglementaire s’intensifie et que le développement de l’IA devient de plus en plus complexe, cette solution offre une assurance IA transparente, adaptable et basée sur les données pour les environnements critiques en matière de sécurité, comme l’automobile.

Les systèmes IA fonctionnent comme des entités complexes et dynamiques, mais leurs processus de décision internes restent souvent opaques. Ce manque de transparence crée des défis importants pour les secteurs, tels que l’automobile, qui doivent démontrer la sécurité, la fiabilité et la conformité réglementaire. Les développeurs peinent à diagnostiquer les limites des ensembles de données ou des modèles, tandis que les normes émergentes, telles que ISO/PAS 8800 pour l’automobile et l’Acte européen sur l’IA, exigent l’applicabilité et la validation sans prescrire de méthodes claires. Des chaînes d’outils fragmentées compliquent encore les flux de travail d’ingénierie et augmentent le risque de lacunes de conformité.

Keysight AI Software Integrity Builder introduit un cadre unifié, basé sur le cycle de vie, qui répond à la question cruciale : « Que se passe-t-il à l’intérieur du système d’IA, et comment puis-je garantir qu’il se comporte en toute sécurité lors du déploiement ? » La solution fournit aux équipes d’ingénierie les preuves nécessaires pour la conformité réglementaire et permet l’amélioration continue des modèles d’IA. Contrairement aux chaînes d’outils fragmentées qui traitent des aspects isolés des tests d’IA, l’approche intégrée de Keysight couvre l’analyse des ensembles de données, la validation des modèles, les tests d’inférence en conditions réelles et la surveillance continue.

Les principales fonctionnalités de Keysight AI Software Integrity Builder comprennent :

 l’Analyse des jeux de données : Permet d’analyser la qualité des données à l’aide de méthodes statistiques pour détecter les biais, les lacunes et les incohérences qui pourraient affecter la performance du modèle.

 La Validation basée sur le modèle : Permet d’expliquer les décisions du modèle et révéler les corrélations cachées, permettant aux développeurs de comprendre les schémas et les limites d’un système d’IA.

 Des Tests basés sur l’inférence : Permet d’évaluer le comportement des modèles dans des conditions réelles, détecter les écarts par rapport au comportement d’entraînement et recommander des améliorations pour les itérations futures.

Alors que les outils open source et les solutions de fournisseurs n’abordent généralement que des aspects isolés des tests d’IA, Keysight comble le fossé entre la formation et le déploiement. La solution valide non seulement ce qu’un modèle a appris, mais aussi ses performances dans des scénarios opérationnels, un prérequis essentiel pour les applications à haut risque comme la conduite autonome.

Thomas Goetzl, Vice President and General Manager of Keysight’s Automotive & Energy Solutions, a déclaré : « L’assurance de l’IA et la sécurité fonctionnelle des véhicules deviennent des défis critiques. Si les normes et les cadres réglementaires fixent les objectifs, ils n’expliquent pas comment parvenir à un déploiement fiable. En combinant notre expertise en test et mesure avec des capacités avancées de validation, Keysight offre les outils nécessaires pour bâtir des systèmes d’IA dignes de confiance, preuves de sécurité à l’appui et en totale conformité. »

Avec l’AI Software Integrity Builder, Keysight unifie les tests fragmentés en une véritable stratégie d’assurance IA, permettant ainsi le déploiement de systèmes performants, transparents, auditables et conformes dès la conception.