IA generativa de Einstein y confianza

Es importante que sus datos permanezcan seguros mientras innova con nueva tecnología. Con Tableau AI, mantenemos la confianza como el valor número uno y nos esforzamos por garantizar que sus datos estén seguros y al mismo tiempo crear experiencias precisas y seguras.

Tableau AI y sus datos

Para mantener sus datos seguros, Salesforce tiene acuerdos con proveedores de grandes modelos de datos (LLM), como OpenAI. Las organizaciones pueden aprovechar las capacidades de IA generativa sin que se utilicen sus datos privados para entrenar el LLM.

IA generativa de confianza

Las soluciones de IA generativa Einstein de Salesforce están diseñadas, desarrolladas y entregadas de acuerdo con cinco principios para conseguir una IA generativa de confianza.

  • Exactitud: damos prioridad a la exactitud, la precisión y la recuperación en nuestros modelos, y respaldamos los resultados de nuestros modelos con explicaciones y fuentes siempre que sea posible. Recomendamos que un humano verifique la salida del modelo antes de compartirla con los usuarios finales.

  • Seguridad: trabajamos para detectar y mitigar sesgos, toxicidad y resultados dañinos de los modelos utilizados en nuestros productos a través de técnicas de detección y mitigación líderes en la industria.

  • Honestidad: nos aseguramos de que los datos que utilizamos en nuestros modelos respeten la procedencia de los datos y tenemos consentimiento para utilizarlos.

  • Empoderamiento: siempre que sea posible, diseñamos modelos para incluir la participación humana como parte del flujo de trabajo.

  • Sostenibilidad: nos esforzamos por crear modelos del tamaño adecuado que prioricen la precisión y reduzcan nuestra huella de carbono.

Para obtener más información sobre la IA de confianza, consulte Investigación de Salesforce: IA de confianza(El enlace se abre en una ventana nueva)

La capa de confianza de Einstein en acción

Con Tableau Pulse, basamos los resúmenes de conocimientos que generamos utilizando conocimientos y valores en lenguaje natural basados en plantillas calculados mediante modelos estadísticos deterministas. Tableau Pulse también se basa en una capa de métricas que proporciona un espacio limitado y seguro para detectar información valiosa.

Tableau Pulse utiliza la IA generativa para mejorar y sintetizar el lenguaje de la información generada mediante Tableau. El resultado son conocimientos resumidos en un lenguaje fácil de entender con el que el usuario puede interactuar rápidamente.

Técnicas como esta garantizan que nuestros productos adopten la IA generativa de manera confiable. Al mismo tiempo, los datos de sus clientes no se utilizan para entrenar ningún modelo global.

¿Desea obtener más información sobre la capa de confianza de Einstein? Complete el módulo Capa de confianza de Einstein(El enlace se abre en una ventana nueva) en Salesforce Trailhead.

Revisión de los resultados de la IA generativa

La IA generativa es una herramienta que puede ayudarle a descubrir conocimientos rápidamente, tomar decisiones comerciales más inteligentes y ser más productivo. Esta tecnología no reemplaza el juicio humano. Usted es, en última instancia, responsable de los resultados generados por LLM que incorpore en su análisis de datos y comparta con sus usuarios.

Ya sea generando una sintaxis de cálculo para usar en un flujo de Tableau Prep, resumiendo información sobre las métricas que sigue o creando visualizaciones a partir de sus datos, es importante verificar siempre que el resultado del LLM sea preciso y apropiado.

Concéntrese en la precisión y seguridad del contenido antes de incorporarlo a sus flujos, visualizaciones y análisis.

  • Exactitud: la IA generativa a veces puede “alucinar” (fabricar resultados que no se basan en hechos ni en fuentes existentes). Antes de incorporar cualquier sugerencia, verifique que los detalles clave sean correctos. Por ejemplo, ¿la sintaxis propuesta para un cálculo es compatible con Tableau?

  • Sesgo y toxicidad: debido a que la IA es creada por humanos y entrenada con datos creados por humanos, también puede contener prejuicios contra grupos históricamente marginados. En raras ocasiones, algunos resultados pueden contener lenguaje dañino. Verifique sus resultados para asegurarse de que sean apropiados para sus usuarios.

Si el resultado no cumple con sus estándares o necesidades comerciales, no es necesario que lo utilice. Algunas funcionalidades le permiten editar la respuesta directamente antes de aplicarla a sus datos y también puede intentar comenzar de nuevo para generar otro resultado. Para ayudarnos a mejorar el resultado, háganos saber qué estaba mal enviándonos sus comentarios.

¡Gracias por sus comentarios!Sus comentarios se han enviado correctamente. ¡Gracias!