안녕하세요
현재 Agentforce는 LLM을 활용하기 위해 Zero Retention Policy를 적용하고는 있지만, 데이터가 LLM으로 나갔다 오는 것 까지는 어쩔 수가 없는 부분으로 알고 있습니다.
이에 BYOM이 가능한 것으로 알고 있는데, BYOM을 하기 위해서 어떤 절차가 필요한가요?
BYOM을 활용하는 경우 외부LLM은 일체 쓰지 않고 내부에서만 데이터가 오고 가는 것이 맞을까요?
안녕하세요, @Kwangjin Bae
님,
현재 Agentforce로 Agent를 만들고 활용할때는, 'Atlas Reasoning Engine'을 위해 외부 LLM을 반드시 사용합니다. Default LLM의 경우, 기존 Agent Builder 환경에서는 GPT-4o, 새로운 Agent Studio에서는 GPT-4.1로 명시되어 있습니다.
#Help 문서(Anthropic Claude Sonnet 4 (Hosted AWS)도 지원)
BYOM의 경우, 자체 구성/파인튜닝 한 LLM 들을 연결해서 'Prompt Builder', 'Model API' 형태로 호출해서 사용하는 것을 의미합니다.Einstein Studio 내에서, Azure Open AI Models, (Microsoft Foundry 서비스), Open AI Models, Google Vertex AI, Amazon Bedrock 등에 구성/배포된 LLM을 연결할 수 있습니다.
요약하자면,
Agentforce를 구성하기 위해서는
외부LLM 호출 필수 (Topic, Action을 선택하기 위함)이며,
Agent의 'Action'으로 'Prompt Builder' 또는 LLM을 API 로 호출하도록 추가하면,
BYO-LLM 형태의 LLM을 사용해서 데이터를 RAG, 처리할 수 있도록 구성할 수 있습니다.