Salesforce에서 대규모 언어 모델을 사용하는 방법 알아보기

학습 목표

이 유닛을 완료하면 다음을 수행할 수 있습니다.

비즈니스에 적합한 LLM 옵션을 선택할 수 있습니다.
사용 가능한 LLM 옵션의 한계점에 대해 설명할 수 있습니다.

가장 적합한 대규모 언어 모델 선택

적합한 작업에 적절한 모델을 선택할 경우 생성형 AI를 더 빠르게 시작할 수 있습니다. Salesforce는 모든 관련 LLM에 대한 배포 기능을 제공하는 동시에 기업이 데이터 프라이버시, 보안, 레지던시 및 규정 준수 목표를 유지할 수 있도록 지원합니다.

다양한 사용 사례에 따라 많은 LLM을 사용해야 할 수 있습니다. 고객은 특정 데이터 보존에 대한 우려가 있을 수 있으므로 다양한 방식으로 LLM을 배포하고자 합니다.

적합한 작업에 적절한 LLM 적용 공유 Trust: 공동 조정을 통해 Salesforce에 보관되는 데이터 Salesforce 호스팅: 전 세계에서 호스팅됨 Hyperforce, AWS, Anthropic, Salesforce, Cohere 자체 모델 가져오기: 사용 중인 모델, 인프라, Amazon SageMaker, Vertex AI.

Salesforce 공유 LLM 사용

Salesforce 공유 LLM은 인터넷을 통해 LLM에 액세스할 수 있는 방법입니다. Salesforce는 파트너인 OpenAI와 함께 이 기술을 개척했습니다. Salesforce는 보안 게이트웨이를 사용하여 인터넷을 통해 놀라운 LLM에 응답을 요청합니다.

고객은 Einstein을 통해 코드 생성 및 비즈니스 프로세스 자동화 지원과 같은 고급 기능을 강화하기 위해 Salesforce AI Research에서 개발한 Salesforce LLM을 사용할 수 있으며, 이를 통해 기업이 CRM 소프트웨어와 상호 작용하는 방식을 근본적으로 혁신할 수 있습니다. CodeGen, CodeT5+, CodeTF를 포함한 Salesforce LLM은 기업이 생산성을 높이고, 인재 격차를 해소하고, 구현 비용을 절감하고, 사고를 더 잘 감지할 수 있도록 지원합니다.

Salesforce 호스팅 타사 LLM 사용

Salesforce 내에서 모델을 호스팅할 수도 있습니다.

개방형 협력체계를 지향하는 Salesforce의 노력의 일환으로, Einstein은 Amazon, Anthropic, Cohere 등의 LLM을 전적으로 Salesforce 인프라 내에서 호스팅하도록 설계되었습니다. Einstein은 Salesforce 인프라에서 고객 프롬프트 및 응답을 유지하는 데 도움을 줍니다. 또한 Salesforce와 OpenAI는 Einstein Trust Layer를 통해 콘텐츠를 전송하도록 신뢰할 수 있는 공유 파트너십을 구축했습니다.

자체 모델 가져오기

이미 자체 모델에 투자하고 계시다면 자체 모델 가져오기(BYOM) 옵션이 유용할 수 있습니다.

자체 인프라에 데이터를 저장하는 동시에 Salesforce 외부에서 자체 도메인별 모델을 학습한 경우에도 Einstein의 이점을 누릴 수 있습니다. 이러한 모델은 Amazon SageMaker를 통해 실행하든 Google Vertex AI를 통해 실행하든, Einstein Trust Layer를 통해 Einstein에 직접 연결됩니다. 이 시나리오에서 고객 데이터는 고객의 신뢰 경계 내에서 유지될 수 있습니다.

BYOM 옵션은 빠르게 변화하고 있습니다! 새로운 업데이트에 대한 리소스를 계속 확인해 보세요.