관련 비즈니스 지식으로 에이전트와 프롬프트 강화하기
학습 목표
이 유닛을 완료하면 다음을 수행할 수 있습니다.
- 검색 증강 생성기(RAG)가 에이전트와 프롬프트 템플릿에서 LLM 응답의 정확도와 적합성을 높이는 이유를 설명합니다.
- Salesforce org에서 RAG를 설정하고 사용하는 방법을 설명합니다.
검색 증강 생성기란?
검색 증강 생성기(RAG)는 프롬프트 요청을 대규모 언어 모델(LLM)에 그라운딩하는 일반적인 방법입니다. 그라운딩은 프롬프트에 특화된 영역의 지식이나 고객 정보를 추가하여 LLM이 질문이나 작업에 대해 응답의 정확도를 확보할 수 있도록 필요한 컨텍스트를 제공하는 기법입니다.

쉽게 풀어서 설명하면, RAG는
- 정형 콘텐츠 및 비정형 콘텐츠를 포함한 지식 저장소에서 관련 정보를 조회합니다.
- 이 정보를 기존 프롬프트와 결합하여 프롬프트를 증강합니다.
- 증강된 프롬프트로 LLM이 응답을 생성합니다.
많은 LLM은 일반적으로 정적인 콘텐츠 및 공개적으로 사용 가능한 콘텐츠를 바탕으로 인터넷 전반에서 학습합니다. RAG는 특화된 영역의 정보를 추가하여 LLM이 프롬프트에 대한 더 나은 응답을 제공하도록 지원합니다. RAG를 통해 서비스 응답, 사례, Knowledge 기사, 대화 기록, RFP(제안 요청서) 응답, 이메일, 회의 노트, 자주 묻는 질문(FAQ) 등과 같은 다양한 콘텐츠에서 중요한 정보를 추출할 수 있습니다.
Agentforce 빌더 및 Agentforce 데이터 라이브러리로 Agentforce 솔루션 빠르게 시작하기
Agentforce 빌더는 몇 번의 클릭만으로 에이전트가 조회할 Knowledge 기사를 원활하게 선택하거나 파일을 업로드할 수 있도록 합니다. 에이전트가 질문에 답변하기 위해 사용하는 콘텐츠 라이브러리인 Agentforce 데이터 라이브러리를 선택하거나 생성하여 이 작업을 수행할 수 있습니다. 데이터 라이브러리가 관련 정보(Salesforce 기술 자료, 업로드한 파일(텍스트, HTML, PDF), 웹 검색)를 추출할 소스를 선택합니다. 실행 시 에이전트는 이 정보를 사용하여 LLM 프롬프트를 그라운딩하고 더 개선되고 더 정확하며 적절한 LLM 응답을 생성합니다 .
데이터 라이브러리를 추가하면 RAG 기반 솔루션 작동에 필요한 모든 요소가 자동으로 생성됩니다. 원하는 경우 이러한 요소들을 사용자 정의하여 사용 사례에 맞게 RAG 솔루션을 미세 조정할 수 있습니다. 나중에 해당 내용을 살펴보겠습니다.
에이전트에서 관련 비즈니스 지식 가져오기
에이전트는 Knowledge를 사용하여 질문에 답변 작업을 사용하여 데이터 라이브러리에서 관련 지식을 가져옵니다. 이 작업은 라이브러리를 생성하거나 선택했을 때 지정한 Knowledge 또는 파일 콘텐츠에서 동적으로 검색합니다.

Knowledge를 사용하여 질문에 답변 작업이 실행될 때마다:
- 이 작업은 연결된 프롬프트 템플릿을 실행합니다. 검색기가 동적 쿼리로 호출됩니다.
- 쿼리가 데이터 라이브러리를 검색합니다.
- 쿼리가 관련 콘텐츠를 조회합니다.
- 기존 프롬프트가 데이터 라이브러리에서 조회한 정보로 채워진 다음 LLM으로 제출됩니다.
- LLM에서 생성된 응답이 에이전트로 전송됩니다.
프롬프트에서 관련 비즈니스 지식 가져오기
실행 시 프롬프트 템플릿이 데이터 라이브러리에서 관련 정보를 가져와 LLM 프롬프트에 그라운딩하며, 결과적으로 LLM 응답이 더 정확해집니다. 사용자 정의 프롬프트 템플릿을 사용하고 있다면, 프롬프트 빌더에서 자원을 삽입할 때 선택한 Einstein 검색 검색기를 간단히 임베딩하세요. 제공된 모든 프롬프트에 맞게 검색 설정을 미세 조정하는 사용자 정의 검색기를 사용할 수도 있습니다.

검색기가 있는 프롬프트 템플릿이 실행될 때마다:
- 검색기가 프롬프트 템플릿에서 시작된 동적 쿼리로 호출됩니다.
- 쿼리가 벡터화됩니다(숫자 표시로 변환됨). 벡터화를 통해 검색이 검색 색인화(이미 벡터화됨)에서 의미적 유사성을 찾을 수 있습니다.
- 쿼리가 검색 색인의 색인화된 데이터에서 관련 콘텐츠를 조회합니다.
- 기존 프롬프트가 검색 색인에서 조회한 정보로 채워집니다.
- 프롬프트가 LLM으로 제출되어 프롬프트 응답을 생성하고 반환합니다.
Data 360의 고급 사용자 정의하기
Agentforce 빌더 또는 설정에서 데이터 라이브러리를 추가하면 Salesforce는 모든 구성 요소, 즉 벡터 데이터 스토어, 검색 색인, 검색기, 프롬프트 템플릿, 표준 작업에 대해 기본 설정을 사용하여 RAG 기반 솔루션을 자동으로 구축합니다. 이 구성 요소는 개별적으로 설정 및 사용자 정의할 수 있습니다.

Data 360에서 데이터 준비에는 다음 작업이 포함됩니다.
- 비정형 데이터를 연결(수집)합니다.
- 콘텐츠를 청크로 나누고 벡터화하는 검색 색인 구성을 만듭니다. Data 360은 검색 색인을 사용하여 정형 콘텐츠 및 비정형 콘텐츠를 검색 최적화 방식으로 관리합니다. 두 가지 검색 옵션이 있습니다. 즉, 벡터 검색과 하이브리드 검색입니다. 하이브리드 검색은 벡터와 키워드 검색을 결합합니다.
- 청킹은 텍스트를 더 작은 단위로 쪼개는 것으로 문장이나 문단과 같은 기존 콘텐츠의 구절을 반영합니다.
- 벡터화는 청크를 의미적 유사성을 가지는 텍스트의 숫자 표시로 변환합니다.
- 청킹은 텍스트를 더 작은 단위로 쪼개는 것으로 문장이나 문단과 같은 기존 콘텐츠의 구절을 반영합니다.
- 검색 색인을 저장하고 관리합니다.
검색 색인이 생성된 후 Einstein Studio에서 검색기를 생성하여 검색 색인에서 특정 사용 사례와 관련된 정보를 가져옵니다. 검색기는 기술 저장소에서 관련 정보를 검색하고 반환하기 위해 프롬프트 템플릿에 임베딩하는 자원입니다. 다양한 사용 사례를 지원하기 위해 프롬프트에 추가할 관련 정보의 하위 집합에만 검색을 집중하는 다양한 검색기를 생성할 수 있습니다.
RAG 실제 사용 사례 보기
다음 영상을 통해 RAG를 사용하여 프롬프트 템플릿을 증강하는 것이 얼마나 쉬운지 확인해 보세요.
결론
Data 360의 Agentforce 데이터 라이브러리와 RAG는 Einstein 생성형 AI 플랫폼과 통합되어 있습니다. 기본적으로 Agentforce 빌더 및 프롬프트 빌더와 같은 기본 제공 앱에 RAG 기능이 포함됩니다. RAG를 사용하면 조정된 데이터 모델의 독점 데이터로 Agentforce 솔루션을 안전하게 그라운딩하고 개선할 수 있습니다.
리소스
- Salesforce 도움말: Data 360의 비정형 데이터
- Salesforce 도움말: Data 360—데이터 청크 및 벡터화
- Salesforce 도움말: Data 360—벡터 검색
- Salesforce 도움말: Data 360—하이브리드 검색
- Salesforce 도움말: 예: 고급 Data 360 설정을 통한 에이전트형 RAG
- Trailhead: Agentforce 데이터 라이브러리 기본 사항
- Trailhead: Data 360의 비정형 데이터
- Trailhead: Data 360의 검색 색인 유형: 빠르게 살펴보기
- Trailhead: RAG용 하이브리드 검색: 빠르게 살펴보기
- Salesforce 블로그: RAG - 현재 생성형 AI에서 가장 주목받는 세 글자
- Salesforce 블로그: Agentforce와 RAG: 더 나은 에이전트를 위한 모범 사례
