실제 데이터로 AI 업그레이드하기

학습 목표

이 유닛을 완료하면 다음을 수행할 수 있습니다.

• Agentforce 데이터 라이브러리 사용의 이점을 설명합니다.
  
• AI 데이터 변환 및 구성에 포함된 네 가지 주요 개념을 정의합니다.
  
• Agentforce 데이터 라이브러리와 런타임 프로세스의 작동 방식에 대해 설명할 수 있습니다.
  

시작하기 전에

이 모듈을 시작하기 전에, 다음 추천 콘텐츠를 먼저 완료해 보세요.

• AI 지식 그라운딩: 빠르게 살펴보기
  

AI를 데이터로 그라운딩하는 이유

데이터는 AI 시스템이 정확하고 효율적으로 작동하는 데 중요한 역할을 합니다. 고객에게 잘못된 답변을 제공하면 고객이 향후 구매를 망설이게 될 수 있습니다. 서비스 담당자에게 부정확한 정보를 제공하면 고객을 지원하기는커녕 오히려 실망시킬 수 있습니다. 영업 담당자에게 업데이트되지 않은 내용을 권장하면 매출 목표를 놓치고 귀중한 비즈니스 기회를 잃어버릴 수 있습니다.

데이터가 성공적인 AI 시스템의 중추로 역할을 하지만, AI 모델은 본래 범용적으로 탄생합니다. 방대한 데이터 집합으로 학습하여 폭넓은 지식 자료를 갖추고 있죠. 그러나 폭넓은 지식 자료를 갖추고 있다는 만큼 고유한 사용 사례와 관련된 특정 작업을 수행하거나 기술적인 질문에 답변하는 데 필요한 전문적인 정보는 가지고 있지 않습니다.

AI 모델을 실제 데이터로 그라운딩하면 정적 학습 세트를 뛰어넘는 효과를 얻을 수 있습니다. Salesforce 기술 자료, 업로드 파일, 웹 사이트와 같은 검증된 공급 출처의 정보를 기반으로 AI 모델을 그라운딩하면, LLM은 고객 문의에 더 정확한 답변을 제공하고, 에이전트에 더 나은 응답을 제시하며, 정교한 검색 요약 등을 제공할 수 있습니다.

기업 데이터의 과제

대부분의 회사는 기술 자료를 동영상, 이미지, 문서, 이메일, 센서 데이터, 소셜 게시물, 오디오 파일 등과 같이 비정형 형식, 즉 스프레드시트나 데이터베이스에 맞게 적용하기 어려운 형식으로 저장합니다. 기업 데이터의 90%를 가까이 차지하는 이러한 데이터는 검색하기에는 까다롭지만, 고객 피드백, 인식, 의견, 어조, 감정과 같은 귀중한 인사이트로 가득 차 있습니다. 이 데이터의 잠재력을 어떻게 활용할 수 있을까요?

AI를 실제 데이터에 그라운딩하도록 지원하는 강력한 도구인 Agentforce 데이터 라이브러리를 도입해 보세요. Agentforce 데이터 라이브러리를 이용하면 기술 자료를 Salesforce AI 기능에 쉽게 연결하여 조직과 사용 사례에 맞는 최신 AI 생성 콘텐츠를 제공받을 수 있습니다. Agentforce 데이터 라이브러리를 설정할 때 대규모의 비정형 또는 반정형 데이터를 더 유용하고 검색 가능한 콘텐츠로 변환하는 데 필요한 도구가 있습니다. 그 방법을 살펴보죠.

효율적인 대규모 언어 모델을 위해 데이터 변환하기

Agentforce 데이터 라이브러리는 Data 360과 프롬프트 빌더에서 여러 구성 단계를 자동화함으로써 에이전트와 대규모 언어 모델(LLM)을 비정형 데이터에 쉽게 연결합니다. 여기에는 데이터 스트림을 Data 360으로 푸시, 데이터 개체 매핑, 검색 색인 및 검색기 생성이 포함됩니다. 결과적으로 AI 도구가 항상 최신 상태의 관련성 높은 정보를 사용해 작업하게 됩니다.

데이터 라이브러리를 설정하기 위한 간단한 단계를 알아보기 전에 몇 가지 주요 개념인 그라운딩, 청킹, 인덱싱, 검색기에 대해 살펴보겠습니다.

기반 마련하기

그라운딩은 프롬프트에 특화된 영역의 지식이나 고객 정보를 추가할 때 질문이나 작업에 더 정확하게 응답하는 데 필요한 컨텍스트를 LLM에 제공하는 것입니다. 앞서 언급한 것과 같이 그라운딩 소스에는 Knowledge 기사, 업로드된 파일, 웹 사이트, 대화 기록 등이 포함될 수 있습니다. 길고 복잡한 문서의 경우 검색하는 데 시간이 오래 걸리고 많은 자원이 필요할 수 있으나, LLM은 한 번에 처리할 수 있는 텍스트 양에 대한 최대 토큰 수나 글자 수 제한이 있습니다.

청킹 및 인덱싱

이러한 제한을 해결하기 위해 데이터 소스는 청크라고 하는 더 작은 부분으로 나누어집니다. 청크는 단락 또는 섹션과 같이 다루기 쉬운 작은 데이터 조각으로, 그 자체로도 의미가 통합니다. 데이터를 청크로 나누면 전체 문서를 검색하는 대신 관련 있는 특정한 부분을 검색할 수 있습니다. 청크를 검색한 뒤 LLM이 참고할 수 있도록 가장 적절한 정보 조각만 반환합니다.

데이터를 청킹하면 검색 색인으로 구성 및 분류됩니다. 체계적으로 구성된 검색 색인에 정보를 저장하면 필요할 때 특정 데이터를 더 쉽고 빠르게 검색할 수 있습니다. 이렇게 데이터를 청킹하고 구성하면 검색 효율성이 높아지고, 결과의 적합성이 향상되며, 대규모의 데이터세트를 처리할 수 있습니다.

수백만 개의 제품이 모여 있는 대형 온라인 매장을 생각해 보세요. 잘 정리된 매장 카탈로그나 웹 사이트 분류 체계가 있으면 고객들이 이름, 유형, 브랜드, 특정 기능과 같은 범주를 통해 원하는 제품을 빠르게 찾을 수 있습니다. 데이터를 단일 개념 또는 기능이 담긴 더 작은 조각으로 나누고 이를 검색 색인으로 정리하는 것은 컨텐츠용 카탈로그를 만드는 것과 같습니다. 그러면 LLM은 이 카탈로그나 색인을 사용하여 사용자의 문의에 응답하기 위한 올바른 정보를 찾을 수 있습니다.

검색기

검색기는 데이터와 기능 사이에 포인터 같은 역할을 합니다. 다양한 데이터베이스, 시스템, 또는 플랫폼에서 적절한 데이터를 자동으로 추출하여 제공하도록 설계되었습니다. 사용자가 문의하면 각 데이터 라이브러리에 할당된 검색기가 특정 Salesforce AI 도구가 액세스할 수 있는 Data 360의 데이터 집합을 결정합니다. 검색 엔진, 질의응답 시스템, 추천 시스템과 같은 애플리케이션에서 검색기가 특히 중요한 이유입니다.

지금까지 AI에서 데이터 구성에 관한 기본 사항을 배웠습니다. 다음으로는 데이터 라이브러리 설정 및 런타임 동안 이러한 과정이 어떻게 구현되는지 살펴보겠습니다.

설정 과정의 작동 방식

데이터 라이브러리를 만들면 데이터를 AI 에이전트 및 기능과 연결하는 과정이 바로 시작됩니다. 먼저 데이터 스트림이 생성되고, 이어서 데이터 레이크와 데이터 모델 개체가 생성됩니다. 그런 다음 이러한 개체들이 함께 매핑되고 데이터 청킹이 시작됩니다. 청킹에 필요한 시간은 Knowledge 기사 또는 업로드된 파일의 숫자, 크기, 복잡성, 그리고 청킹할 Knowledge 필드의 수와 같은 여러 요인에 따라 달라집니다. 청킹이 완료되고 검색 색인이 준비되면 검색기가 생성됩니다. Agentforce 데이터 라이브러리는 각기 고유한 검색기가 있으며, 동일한 검색 색인을 가리킬 수 있으나 독립적으로 작동합니다.

런타임 과정의 작동 방식

검색기가 설정되고 검색 색인이 완전히 준비되면 시스템은 런타임 시 사용자 문의를 처리할 준비가 완료됩니다.

런타임 시 사용자 문의가 프롬프트 템플릿에 추가되며, 관련 데이터에 연결된 검색기를 참조합니다. 그런 다음 시스템은 검색 색인을 검색하여 가장 적절한 정보를 찾고 이를 프롬프트에 다시 통합합니다. LLM은 사용자 문의, 추가된 정보, 프롬프트 지침 등 풍부한 정보가 포함된 프롬프트를 수신한 다음 응답을 생성합니다. 서비스 플래너가 이 응답을 검토하여 프롬프트 지침과 일치하는지 확인합니다. 마지막으로 최종 사용자는 문의 의도에 맞는 정확한 정보와 특정 작업에 맞춤화된 관련성 있고 특화된 정보를 바탕으로 컨텍스트 기반의 응답을 제공받습니다.

요약 및 정리

잘하셨어요! 이번 유닛에서는 AI를 데이터에 그라운딩하는 것이 중요한 이유와 관련 전문 용어 및 기술 과정까지 살펴보았습니다. 이제 설정 단계로 넘어갈 차례입니다. 얼마나 간단한 과정인지 확인하실 수 있을 거예요!

리소스

• Salesforce 블로그: 검색 증강 생성(RAG)이란?
• Salesforce 블로그: CIO들 꼽는 비정형 데이터 기반의 AI 활용 상위 3가지 전략
• Salesforce 도움말: 데이터 라이브러리에 대해 알아보기