Data 360으로 신뢰할 수 있는 에이전트 활성화
학습 목표
이 유닛을 완료하면 다음을 수행할 수 있습니다.
- 검색 증강 생성에서 Data 360의 역할을 설명합니다.
- Data 360이 에이전트의 테스트, 모니터링, 가드레일을 어떻게 지원하는지 설명합니다.
- Data 360이 Agentforce Analytics를 활성화하는 방법을 설명합니다.
신뢰할 수 있는 에이전트의 중요성 살펴보기
고객들에게 회사의 목소리나 다름없는 에이전트가 탄탄한 기반을 바탕으로 규정을 준수하고, 책임감 있게 작업을 수행하는 것은 매우 중요합니다. Data 360이 있으면 검색 증강 생성(RAG)으로 프롬프트를 기업 데이터에 그라운딩하고 AI 가드레일과 분석을 통해 에이전트를 모니터링할 수 있습니다. 이렇게 하면 에이전트가 더 정확하고 윤리적인 방식으로 작업을 수행할 수 있습니다. 이번 유닛에서는 Data 360이 RAG, AI 가드레일, 분석을 지원하는 방법을 살펴보겠습니다.
검색 증강 생성 알아보기
RAG는 프롬프트 요청을 대규모 언어 모델(LLM)에 그라운딩하는 방법입니다. 그라운딩은 LLM으로 생성된 출력의 품질, 정확도, 적합성을 높이기 위해 컨텍스트 기반의 구체적 정보를 프롬프트에 추가하는 것입니다. RAG에는 기술 자료에서 관련 정보를 검색(Retrieve)하고(검색기 사용), 이 정보를 기존 프롬프트와 결합하고 응답을 생성(Generate)하여 프롬프트를 증강(Augment), 즉 보강합니다. 그래서 RAG라고 명명하는 것이죠.
다음은 RAG를 이해하기 위한 몇 가지 주요 용어입니다. 자세한 내용은 검색 증강 생성: 빠르게 살펴보기에서 확인하세요.
-
비정형 데이터: 명확하고 일관적인 형식이 없어 일반적인 관계형 데이터베이스에 쉽게 저장할 수 없는 데이터. 비정형 데이터를 수집한 후에는 벡터 임베딩을 생성할 수 있도록 청크 단위로 나눕니다.
-
벡터 임베딩: 기계가 읽을 수 있는 비정형 데이터의 숫자로 변환하여 표현. 벡터 임베딩은 다양한 텍스트 조각의 의미적 유사성을 측정하여 생성형 AI 프롬프트와 검색에서 정확하고 적합한 결과를 제공할 수 있도록 합니다.
-
벡터 데이터 스토어: 벡터 임베딩을 저장하기 위해 설계된 데이터베이스 유형.
-
검색 인덱스: 다른 애플리케이션에서 검색하고 조회할 수 있도록 청크 단위로 나누어지고 벡터화된 데이터를 저장하는 데이터 구조.
-
검색기: 프롬프트와 검색 색인 사이의 연결. 검색기는 프롬프트 증강을 위해 데이터 소스를 검색하여 관련 정보를 찾습니다. 앙상블 검색기는 다양한 소스에서 동시에 검색을 수행하는 개별 검색기의 집합입니다.
에이전트를 위해 RAG를 구현하는 두 가지 옵션이 있습니다.
- Agentforce 데이터 라이브러리로 빠르게 시작하기
- Data 360의 고급 설정하기
이제 각 옵션에 대해 자세히 알아보겠습니다.
Data 360 활성화: Agentforce 데이터 라이브러리 알아보기
사전 구성된 RAG 솔루션인 Agentforce 데이터 라이브러리(ADL)를 통해 RAG 구현을 빠르게 시작할 수 있습니다. 에이전트의 개별적이며, 정리된 데이터 소스입니다.
에이전트 빌더 또는 설정에서 데이터 라이브러리를 추가하면 Salesforce는 모든 구성 요소, 즉 벡터 데이터 스토어, 검색 색인, 검색기에 대해 기본 설정을 사용하여 Data 360을 통한 RAG 기반 솔루션을 자동으로 구축합니다. 이 구성 요소는 개별적으로 설정 및 사용자 정의할 수 있습니다.
ADL은 비정형 데이터만 지원합니다. 예는 다음과 같습니다.
- Knowledge 기사
- 파일
- 웹 검색
자세한 내용은 Agentforce 데이터 라이브러리 기본 사항을 살펴보세요.
Data 360 구현: Data 360 설정으로 RAG를 완전히 사용자 정의
Data 360에서 직접 RAG를 구현하면 더 많은 시간이 걸리지만 데이터 수집 및 처리, 더 다양한 데이터 소스, 기본 검색을 넘어선 정확한 검색 메커니즘(예: 하이브리드 검색)을 더 잘 제어할 수 있습니다.
고급 설정을 활용하여 Data 360으로 가져온 모든 데이터에서 프롬프트를 그라운딩할 수 있습니다. 예를 들어, 비정형의 긴 텍스트 필드가 있는 CRM 레코드를 수집하고 데이터를 청크 단위로 나누어 보세요. 그런 다음 벡터 데이터 스토어와 검색 색인을 생성합니다. 검색 색인의 검색기를 사용하여 프롬프트를 그라운딩합니다. 이 프롬프트를 에이전트에 사용하면 에이전트가 고객과 조직을 더 종합적으로 이해할 수 있습니다. 에이전트에 정형 및 비정형 형식의 통합 데이터, 제로 카피 데이터, 실시간 데이터에 대한 액세스 권한을 부여할 수 있습니다.
데이터 그래프를 통한 RAG
데이터 그래프 레코드는 관련 데이터를 평면적으로 확인할 수 있도록 신속하게 검색할 수 있는 JSON 문자열의 형태로 제공합니다. 예를 들어 고객 프로필과 판매 주문 세부 사항 사이의 관계를 모델링하는 데이터 그래프를 생성합니다. 그런 다음 데이터 그래프를 사용하여 에이전트를 위한 프롬프트를 그라운딩합니다.
RAG에 데이터 그래프를 사용할 때 얻을 수 있는 주요 이점은 다음과 같습니다.
- 앙상블 검색기를 생성할 필요 없이 제로 카피를 통해 외부 레이크에서 가져온 데이터와 CRM 데이터를 비롯한 다양한 소스의 데이터를 통합합니다.
- 데이터를 JSON 형식으로 변환하여 관계형 데이터를 유지하면서 에이전트가 쉽게 이해할 수 있습니다.
자세한 내용은 Data 360의 데이터 그래프를 살펴보세요.
ADL과 사용자 정의 가능한 Data 360 설정 사이의 차이점을 요약해 봅시다.
Agentforce 데이터 라이브러리 |
사용자 정의 가능한 Data 360 설정 |
|---|---|
|
|
Data 360 활성화: AI 가드레일로 보안 확보
AI는 데이터 보안을 지키고 사람의 역량과의 지속적인 공존을 위해 가드레일이 필요합니다. 이는 AI 사용이 조직의 보안, 개인정보보호, 규제, AI 거버넌스 정책을 준수하도록 합니다.
Agentforce 가드레일에는 Einstein Trust Layer와 생성형 AI 감사 및 피드백 추적이 포함되며, 이러한 기능은 Data 360으로 지원됩니다. Agentforce는 자체적인 가드레일도 있습니다. 자세한 내용은 신뢰할 수 있는 에이전트 AI를 살펴보세요.
Einstein Trust Layer 살펴보기
Einstein Trust Layer는 데이터 보존 금지, 유해성 감지, 안전한 데이터 검색, 동적 그라운딩과 같은 강력한 보안 기능과 가드레일을 통해 고객 데이터를 보호합니다. Salesforce 협력체계 전반에서 AI 에이전트의 책임감 있는 사용을 보장하면서 출력의 안전성과 정확도를 향상합니다.
생성형 AI 감사 및 피드백 추적
감사 추적은 AI 에이전트 작업 및 출력을 추적하는 데 필요한 데이터를 제공합니다. 이 데이터는 Data 360에 저장되고 분석됩니다.
- 프롬프트 ID 및 사용자 데이터
- 프롬프트 텍스트 및 PII가 마스킹된 프롬프트
- 안전 및 유해성 점수
피드백 API를 통해 에이전트 응답에 대한 피드백을 기록할 수 있습니다.
- 좋아요 및 싫어요 반응 및 이유 텍스트
- 수락, 재생성, 수정, 거부, 무시 작업
- 수정된 최종 응답 사용
Data 360 활성화: Agentforce Analytics 알아보기
에이전트를 배포하고 나면 Agentforce Analytics로 성능을 모니터링합니다. 데이터는 Data 360에 저장되고 처리됩니다. Data 360 대시보드 및 보고서를 사용하여 결과를 표시합니다.
사전 구축된 인사이트 대시보드에는 다음 데이터가 포함됩니다.
- 데이터 마스킹
- 응답의 유해성
- 사용자 추세
- 수락률
자체적으로 맞춤형 대시보드도 구축할 수 있습니다.
Data 360 활성화 및 구현
Data 360을 활성화하고 및 구현하는 기능을 요약해 봅시다.
Data 360 활성화 |
Data 360 활성화 및 구현 |
|---|---|
|
|
다음 단계
이제 Agentforce를 위해 Data 360을 활성화하고 구현했을 때의 다양한 이점을 알게 되었습니다. 또한 Data 360이 통합 데이터, RAG, AI 가드레일, 분석을 통해 Agentforce 기능을 어떻게 지원하는지에 대해서도 배웠습니다. 다음으로는 Agentforce용 Data 360을 구현하는 방법을 살펴보겠습니다.