DataRobot introduit l'observabilité avec intervention en temps réel...

DataRobot, une jeune pousse française spécialisée dans l'intelligence artificielle, a dévoilé de nouvelles fonctionnalités pour son offre d'IA générative, dans le but d'accroître la confiance des entreprises et des développeurs lors de l'exécution de modèles en production. Les mises à jour incluent des fonctionnalités d'observabilité avec des capacités d'intervention en temps réel, permettant aux équipes de gérer des modèles d'IA générative sur des environnements cloud, sur site et cloud.

La nouvelle observabilité AI multi-environnements offre une gouvernance unifiée pour tous les actifs d'IA prédictifs et génératifs, s'attaquant à ce que le DSI de DataRobot, Michael Schmidt, appelle le "problème de confiance" - de nombreuses entreprises ont construit des systèmes d'IA en interne mais sont réticentes à les mettre en production en raison de diverses préoccupations.

La solution de DataRobot pour relever ce défi consiste en une solution de défense multicouche IA générative en temps réel qui permet aux entreprises d'insérer des garde-fous dans les applications IA. Cela contribue à garantir la précision, à prévenir les problèmes en temps réel, à surveiller, à modérer et à intervenir pour prévenir les injections de prompts, la toxicité, à détecter les informations personnellement identifiables (PII) et à atténuer les hallucinations.

La DataRobot Generative AI Guard Library est un composant clé de cette solution, offrant des stratégies automatisées pour assurer les performances des modèles d'IA générative en production. La bibliothèque comprend des modèles de garde préformés pour différents scénarios, tels qu'un modèle de détection PII et un modèle d'arrêt d'hallucination.

La bibliothèque permet la création à la demande de règles de garde-fou configurables, de modèles, de invites ou d'autres heuristiques telles que regex qui peuvent surveiller et réagir aux actions du modèle avant qu'elles ne deviennent un problème. Les clients peuvent configurer le code créé par la bibliothèque ou apporter leurs propres modèles de garde-fou.

DataRobot introduit également la capacité d'évaluer le contrôle qualité global des garde-fous alors qu'ils opèrent en production, en bouclant avec la surveillance en évaluant et en mesurant l'efficacité des modèles de garde.

Ces mises à jour s'appuient sur la dernière mise à jour significative de DataRobot en novembre, qui a ajouté des fonctionnalités d'observabilité, d'expérimentation, de test et de suivi à la plateforme.

"DataRobot fournit tous les outils dont une entreprise a besoin pour démarrer rapidement avec l'IA générative en toute confiance", a déclaré Ritu Jyoti, vice-présidente de groupe de la recherche mondiale sur l'intelligence artificielle et l'automatisation chez International Data Corp.

Alors que l'IA continue évoluer et devenir une partie intégrante de divers secteurs, des outils comme ceux proposés par DataRobot deviendront de plus en plus critiques pour les entreprises pour naviguer dans le nouvel environnement déterminé par l'IA.

Source: <https://siliconangle.com/2024/05/02/datarobot-introduces-observability-real-time-intervention-capability-generative-ai/>

Comments

Popular posts from this blog

Apprendre les langues étrangères : Outils modernes et potentiel du ChatGPT

ChatGPT-4 reproduit l'animation GapMinder en une seule tentative

GPT-4 vs GPT-3.5 - Dévoiler l'avenir des modèles de langage de l'IA