Agentforce의 Topic, Instruction. 어떻게 작성하는게 좋은걸까요?
적절히 구성되지 않은 Topic과 Instruction은 할루시네이션은 물론, 기대하는 결과물을 도출해내지 못할 수 있습니다. 정확하게 Agent가 원하는 작동을 할 수 있도록 세심하게 구성할 필요가 있습니다.
왜 Agent의 Topic과 Instruction, 그리고 Action의 Instruction을 잘 작성하는 것이 중요할까요...?
이를 위해선, Agentbuilder의 Input이 어떻게 LLM과 상호작용하는지 이해가 필요합니다.
- Agentbuilder의 모든 Input은 LLM의 Prompt로 들어가게 됩니다.전달되기전, 필요한 Data 또는 Knowledge등 Action을 통해서 Grounding된 데이터까지 함께 LLM에 전달됩니다.
즉, 여러분이 챗GPT같은 도구에 작성하는 질문과 동일하게, Agentbuilder의 모든 Input들이 들어간다는 의미입니다.
대략적으로 아래와 같은 구성으로 들어갑니다. 추상화 했지만, 굉장히 길겠죠?
{
[유저의 질의]
}
{
[Agent의 Role]
[Agent의 Scope]
[회사 소개]
}
{
[Topic과 Instruction]
[Action과 Action내의 다양한 Description}
}
{
[Processing하여 LLM이 참조해야할 Data Set 또는 Knowledge]
}
{
[Prompt Hijacking 방지 및 Agent운영을 위한 System Prompt]
}
2. LLM은 유저의 질의에 기반하여, Agent가 답변을 제공하기 위해 가장 필요한 Action을 채택하고 이에 대한 실행 방법을 세일즈포스에 전달합니다.
3. 관련된 추가적인 Data Processing 및 답변의 구체화를 위한 데이터 작업을 수행합니다.
4. LLM에게 답변의 초안을 제공하고, 이 답변이 유저의 질의 취지에 맞는지 LLM에게 검증 받는 작업을 반복합니다.
5. 유저에게 답변을 제공합니다.
즉 여러분이 작성한 Topic과 Instruction은 유저들의 질의에 대한 처리를 위해 프롬프트화 하여 LLM Input으로 들어간다는 의미입니다.
여기서 LLM이 잘 이해할 수 있도록 잘 작성하는게 중요한데요, 프롬프트도 Java와 C++처럼 하나의 "언어" 입니다.
즉, LLM이 잘, 정확히 알아들을 수 있는 구조와 단어가 분명히 존재한다는 것입니다. 미국에서는 이미 프롬프트 엔지니어라는 직종이 몇년전부터 있었고 전문 분야로서 인정받고 있습니다.
프롬프트 엔지니어링에 대해서 더 궁금한 분들은 아래 사이트를 참조하세요!
아래는 Open AI가 작성한 Prompt Engineering 관련된 가이드인데요, 여기서도 하이레벨로 어떻게 작성해야하는지 잘 가이드하고 있습니다.
Best practices for prompt engineering with the OpenAI API
이러한 양식과 규칙들을 잘 준수하여 Agentbuilder의 다양한 컴포넌트를 구성하는 것이 중요합니다.
그리고, 프롬프트는 일반 프로그래밍 언어와 다릅니다. 선언적이고 결정적인 내용을 기술하는 것보다, Context와 Scenario, Usecase를 가지고 자연어로 소통하는 언어입니다.
Agent를 구성할때, Topic/Instruction의 구성은 우리가 흔히 세일즈포스에서 이야기하는
Account레벨/Contact레벨 등의 비즈니스 도메인 단위를 지양하고, JTBD(Jobs to be done), 즉 유저와 고객의 Context 관점에서 구성하여 서술하는 것이 중요합니다.
관계형 데이터베이스 구조에 익숙한 분들에게 LLM의 구조와 사용은 또 새로운 영역임이 분명합니다. Agent를 다루는 영역에선 이러한 차이를 잘 이해하고 접근해야만 고품질의 Agent를 구성하실 수 있습니다.
세일즈포스에서 이야기하는 Topic/Instruction 구성의 Best Practice는 아래를 참조하십시오.
How to Write Effective Natural Language Instructions for Agentforce
