Einstein 생성형 AI와 신뢰

새로운 기술로 혁신하는 동안 데이터를 안전하게 유지하는 것이 중요합니다. Tableau는 '신뢰'를 최고의 가치로 여기며, Tableau AI를 통해 정확하고 안전한 경험을 선사하는 동시에 데이터의 보안을 유지하기 위해 최선을 다하고 있습니다.

Tableau AI 그리고 여러분의 데이터

데이터를 안전하게 유지하기 위해 Salesforce는 OpenAI와 같은 LLM(대규모 언어 모델) 공급자와 계약을 체결했습니다. 조직은 LLM을 교육하는 데 비공개 데이터를 사용하지 않고도 생성형 AI 기능을 활용할 수 있습니다.

신뢰할 수 있는 생성형 AI

Salesforce의 Einstein 생성형 AI 솔루션은 신뢰할 수 있는 생성형 AI를 위한 5가지 원칙을 기반으로 설계, 개발 및 제공됩니다.

  • 정확도: 당사는 모델의 정확도, 정밀도 및 재현율을 우선시하며 가능할 때마다 설명과 출처를 통해 모델 출력을 뒷받침합니다. 최종 사용자와 공유하기 전에 모델 출력을 사람이 확인하는 것이 좋습니다.

  • 안전: 당사는 업계 최고의 탐지 및 완화 기술을 통해 제품에 사용된 모델의 편견, 유독성 및 유해한 출력을 탐지하고 완화하기 위해 노력하고 있습니다.

  • 정직: 당사는 모델에서 사용하는 데이터가 데이터 출처를 따르고 데이터 사용에 동의하는지 확인합니다.

  • 권한 강화: 당사는 가능할 때마다 작업 흐름의 일부로 사람이 개입하도록 모델을 설계합니다.

  • 지속 가능성: 당사는 정확도를 우선시하고 탄소 배출량을 줄이기 위해 적절한 규모의 모델을 구축하려 노력합니다.

신뢰할 수 있는 AI에 대해 자세히 알아보려면 Salesforce 연구: 신뢰할 수 있는 AI(영문)(링크가 새 창에서 열림)를 참조하십시오.

Einstein 트러스트 레이어의 실제 작동 방식

Tableau Pulse를 사용하면 템플릿 방식의 자연어 인사이트를 사용하여 생성된 인사이트 요약과 결정론적 통계 모델을 사용하여 계산된 값을 근거로 할 수 있습니다. Tableau Pulse는 또한 인사이트를 감지할 수 있는 제한적이고 안전한 공간을 제공하는 메트릭 계층을 기반으로 합니다.

Tableau Pulse는 생성형 AI를 사용하여 Tableau에서 생성된 인사이트의 언어를 개선하고 합성합니다. 그 결과, 사용자가 빠르게 참여할 수 있으며 이해하기 쉬운 언어로 인사이트가 요약됩니다.

이와 같은 기술을 통해 당사 제품에는 신뢰할 수 있는 방식으로 생성형 AI가 채택됩니다. 게다가 고객 데이터는 글로벌 모델을 교육하는 데 사용되지 않습니다.

Einstein 트러스트 레이어에 대해 더 자세히 알고 싶으면 Einstein 트러스트 레이어(링크가 새 창에서 열림) 모듈을 이수하십시오.

생성형 AI 출력 검토

생성형 AI는 신속하게 인사이트를 발견하고, 보다 스마트한 비즈니스 결정을 내리고, 생산성을 높이는 데 도움이 되는 도구입니다. 이 기술은 인간의 판단을 대체할 수 없습니다. 데이터 분석에 통합하고 사용자와 공유하는 모든 LLM 생성 결과에 대한 궁극적인 책임은 귀하에게 있습니다.

Tableau Prep 흐름에 사용할 계산 구문을 생성하든, 팔로우하는 메트릭에 대한 인사이트를 요약하든, 데이터에서 비주얼리제이션을 만들든, 항상 LLM 출력이 정확하고 적절한지 확인하는 것이 중요합니다.

콘텐츠를 흐름, 비주얼리제이션 및 분석에 통합하기 전에 콘텐츠의 정확도와 안전에 집중하십시오.

  • 정확도: 생성형 AI는 때때로 "허위" 정보를 생성할 수 있습니다. 즉, 사실이나 기존 출처에 근거하지 않은 출력을 제작할 수 있습니다. 제안을 통합하기 전에 주요 세부 정보가 올바른지 확인하십시오. 예를 들어, 제안된 계산 구문이 Tableau에서 지원되는지 확인해야 합니다.

  • 편견과 유독성: AI는 인간이 만들고 인간이 만든 데이터를 학습하기 때문에 역사적으로 소외된 집단에 대한 편견도 포함될 수 있습니다. 드물지만 일부 출력에는 유해한 언어가 포함될 수 있습니다. 출력을 검사하여 사용자에게 적합한지 확인해야 합니다.

출력이 표준이나 비즈니스 요구 사항을 충족하지 않으면 사용해서는 안 됩니다. 일부 기능을 통해 답변을 데이터에 적용하기 전에 직접 편집할 수 있으며, 다시 시작하여 다른 출력을 생성할 수도 있습니다. 출력을 개선하는 데 도움이 되도록 피드백을 제출하여 무엇이 잘못되었는지 알려주십시오.

피드백을 제공해 주셔서 감사합니다!귀하의 피드백이 제출되었습니다. 감사합니다!