IA générative et confiance Einstein

Il est important d’assurer la sécurité de vos données pendant que vous innovez avec les nouvelles technologies. Avec Tableau AI, la confiance reste notre valeur n°1 et nous faisons tout notre possible pour garantir la sécurité de vos données tout en créant des expériences précises et sûres.

Tableau AI et vos données

Pour assurer la sécurité de vos données, Salesforce a conclu des accords avec des fournisseurs LLM (Large Language Model, ou modèle de langage de grande taille), comme OpenAI. Les organisations peuvent exploiter les capacités de l’IA générative sans que leurs données privées soient utilisées pour entraîner le LLM.

IA générative de confiance

Les solutions d’IA générative Einstein de Salesforce sont conçues, développées et fournies sur la base de cinq principes qui promeuvent une IA générative de confiance.

  • Précision : nous donnons la priorité à l’exactitude, à la précision et au rappel dans nos modèles, et nous étayons les résultats de nos modèles avec des explications et des sources chaque fois que possible. Nous recommandons qu’une vérification humaine de la sortie du modèle avant tout partage avec les utilisateurs finaux.

  • Sécurité : nous nous efforçons de détecter et d’atténuer les biais, la toxicité et les résultats nocifs des modèles utilisés dans nos produits grâce à des techniques de détection et d’atténuation de pointe.

  • Honnêteté : nous veillons à ce que les données que nous utilisons dans nos modèles respectent la provenance des données et à ce que nous ayons le consentement pour utiliser les données.

  • Autonomisation : dans la mesure du possible, nous concevons des modèles de manière à inclure l’implication humaine dans le workflow.

  • Durabilité : nous nous efforçons de créer des modèles de taille adaptée qui privilégient la précision et réduisent notre empreinte carbone.

Pour en savoir plus sur l’IA de confiance, consultez Recherche Salesforce : IA de confiance(Le lien s’ouvre dans une nouvelle fenêtre) (en anglais).

Vérification des résultats de l’IA générative

L’IA générative est un outil qui vous aide à découvrir rapidement des insights, à prendre des décisions commerciales plus intelligentes et à être plus productif. Cette technologie ne remplace pas le jugement humain. Au bout du compte, vous êtes responsable de tous les résultats générés par LLM que vous intégrez à votre analyse de données et que vous partagez avec vos utilisateurs.

Qu’il s’agisse de générer une syntaxe de calcul à utiliser dans un flux Tableau Prep, de résumer les insights sur les métriques que vous suivez ou de créer des visualisations pour vous à partir de vos données, il est important de toujours vérifier que la sortie LLM est exacte et appropriée.

Concentrez-vous sur l’exactitude et la sécurité du contenu avant de l’intégrer dans vos flux, visualisations et analyses.

  • Précision’ l’IA générative peut parfois « halluciner », c’est-à-dire fabriquer des résultats qui ne sont pas fondés sur des faits ou des sources existantes. Avant d’intégrer des suggestions, vérifiez que les détails clés sont corrects. Par exemple, la syntaxe proposée pour un calcul est-elle prise en charge par Tableau ?

  • Biais et toxicité : parce que l’IA est créée par des humains et entraînée sur des données créées par des humains, elle peut également contenir des biais à l’encontre de groupes historiquement marginalisés. Dans de rares cas, certaines sorties peuvent contenir un langage dommageable. Vérifiez vos sorties pour vous assurer qu’elles conviennent à vos utilisateurs.

Si le résultat ne répond pas à vos normes ou aux besoins de votre entreprise, rien ne vous oblige à l’utiliser. Certaines fonctionnalités vous permettent de modifier la réponse directement avant de l’appliquer à vos données, et vous pouvez également faire une nouvelle tentative pour générer une autre sortie. Pour nous aider à améliorer le résultat, indiquez-nous ce qui n’allait pas en nous faisant part de vos commentaires.

Merci de vos commentaires !Avis correctement envoyé. Merci