Salesforce에서 대규모 언어 모델을 사용하는 방법 알아보기

학습 목표

이 유닛을 완료하면 다음을 수행할 수 있습니다.

Salesforce가 LLM을 신뢰할 수 있도록 만드는 방법을 설명할 수 있습니다.
비즈니스에 적합한 LLM 옵션을 선택할 수 있습니다.
사용 가능한 LLM 옵션의 한계점에 대해 설명할 수 있습니다.

신뢰를 바탕으로 한 선도

신뢰는 Salesforce에서 가장 중요한 가치입니다. 따라서 Salesforce에서 안전하고 신뢰할 수 있는 방식으로 대규모 언어 모델(LLM)을 사용해야 하는 것은 당연한 일입니다. 이러한 신뢰를 유지하는 핵심은 바로 Einstein Trust Layer입니다. Einstein Trust Layer는 Salesforce 최종 사용자 경험에 원활하게 통합된 데이터 및 개인정보보호 제어를 통해 생성형 AI의 보안을 보장합니다. 이러한 제어를 통해 Einstein은 잠재적인 보안 위험 없이 검색 증강 생성(RAG)을 안전하게 사용하여 고객 데이터와 회사 데이터를 기반으로 하는 AI를 제공할 수 있습니다. Einstein Trust Layer는 가장 간단한 형태로 일련의 게이트웨이와 검색 메커니즘을 통해 신뢰할 수 있는 개방형 및 생성형 AI를 구현합니다.

신뢰할 수 있는 Salesforce 에이전트

Agentforce 에이전트는 RAG를 사용해 Salesforce 및 Data Cloud 데이터를 기반으로 안전한 프롬프트를 구축함으로써 Einstein Trust Layer를 통해 최신 LLM을 사용합니다. 이를 통해 직원과 고객을 지원할 수 있는 AI 에이전트를 안전하고 다양한 기능을 갖춘 환경에서 활용할 수 있게 됩니다. 이러한 에이전트는 단순히 제안만 하는 것이 아니라 독립적으로 작업을 완료할 수도 있습니다. 예를 들어 사람의 개입 없이 고객 문의를 처리하고, 문제를 해결하며, 판매 추천을 할 수 있습니다. 이 모든 과정에서 Trust Layer를 통해 데이터를 보호하고 신뢰할 만한 응답을 제공합니다.

가장 적합한 대규모 언어 모델 선택

적합한 작업에 적절한 모델을 선택할 경우 생성형 AI를 더 빠르게 시작할 수 있습니다. Salesforce는 모든 관련 LLM에 대한 배포 기능을 제공하는 동시에 기업이 데이터 프라이버시, 보안, 레지던시 및 규정 준수 목표를 유지할 수 있도록 지원합니다.

다양한 사용 사례에 따라 많은 LLM을 사용해야 할 수 있습니다. 고객은 특정 데이터 보존에 대한 우려가 있을 수 있으므로 다양한 방식으로 LLM을 배포하고자 합니다.

적합한 작업에 적절한 LLM 적용 공유 Trust: 공동 조정을 통해 Salesforce에 보관되는 데이터 Salesforce 호스팅: 전 세계에서 호스팅됨 Hyperforce, AWS, Anthropic, Salesforce, Cohere 자체 모델 가져오기: 사용 중인 모델, 인프라, Amazon SageMaker, Vertex AI.

Salesforce 공유 LLM 사용

Salesforce 공유 LLM은 인터넷을 통해 LLM에 액세스할 수 있는 방법입니다. Salesforce는 파트너인 OpenAI와 함께 이 기술을 개척했습니다. Salesforce는 보안 게이트웨이를 사용하여 인터넷을 통해 놀라운 LLM에 응답을 요청합니다.

고객은 Einstein을 통해 코드 생성 및 비즈니스 프로세스 자동화 지원과 같은 고급 기능을 강화하기 위해 Salesforce AI Research에서 개발한 Salesforce LLM을 사용할 수 있으며, 이를 통해 기업이 CRM 소프트웨어와 상호 작용하는 방식을 근본적으로 혁신할 수 있습니다. CodeGen, CodeT5+, CodeTF를 포함한 Salesforce LLM은 기업이 생산성을 높이고, 인재 격차를 해소하고, 구현 비용을 절감하고, 사고를 더 잘 감지할 수 있도록 지원합니다.

Salesforce 호스팅 타사 LLM 사용

Salesforce 내에서 모델을 호스팅할 수도 있습니다.

개방형 협력체계를 지향하는 Salesforce의 노력의 일환으로, Einstein은 Amazon, Anthropic, Cohere 등의 LLM을 전적으로 Salesforce 인프라 내에서 호스팅하도록 설계되었습니다. Einstein은 Salesforce 인프라에서 고객 프롬프트 및 응답을 유지하는 데 도움을 줍니다. 또한 Salesforce와 OpenAI는 Einstein Trust Layer를 통해 콘텐츠를 전송하도록 신뢰할 수 있는 공유 파트너십을 구축했습니다.

자체 모델 가져오기

이미 자체 모델에 투자하고 계시다면 자체 모델 가져오기(BYOM) 옵션이 유용할 수 있습니다.

자체 인프라에 데이터를 저장하는 동시에 Salesforce 외부에서 자체 도메인별 모델을 학습한 경우에도 Einstein의 이점을 누릴 수 있습니다. 이러한 모델은 Amazon SageMaker를 통해 실행하든 Google Vertex AI를 통해 실행하든, Einstein Trust Layer를 통해 Einstein에 직접 연결됩니다. 이 시나리오에서 고객 데이터는 고객의 신뢰 경계 내에서 유지될 수 있습니다.

BYOM 옵션은 빠르게 변화하고 있습니다! 새로운 업데이트에 대한 리소스를 계속 확인해 보세요.

예상 시간

주제

도움말 검색

Salesforce Platform 자원