에이전트 프로토타이핑

학습 목표

이 유닛을 완료하면 다음을 수행할 수 있습니다.

• Agentforce 사용 사례에 맞는 맞춤형 주제를 설계합니다.
  
• 에이전트 작업을 위한 플로, Apex, 프롬프트 템플릿을 계획합니다.
  
• 참조 작업을 설계할 때 고려해야 할 몇 가지 사항을 설명합니다.
  

Trailcast

이 모듈의 오디오 레코딩을 들어보려면 아래 플레이어를 사용하세요. 이 레코딩을 모두 들은 후 각 유닛으로 돌아와서 리소스를 확인하고 관련 평가를 완료하는 것을 잊지 마세요.

프로토타이핑 방법

Nora와 프로젝트 팀원들은 Agentforce 프로젝트를 위한 계획을 진행하면서 Sandbox 환경에서 AI 에이전트를 구축하고 테스트해 왔습니다. 그렇다면 Coral Cloud는 Salesforce 조직에서 AI 에이전트를 어떻게 프로토타이핑하고 있을까요? 이 유닛에서는 Coral Cloud 팀의 접근 방식을 단계별로 살펴보며, 직접 실습하고 자체 솔루션을 반복적으로 개선할 수 있도록 안내합니다.

먼저, Coral Cloud가 예약 관리 사용 사례를 위해 생성한 주제를 Nora가 어떻게 설계하는지 살펴보겠습니다.

대화의 기반 마련하기

주제는 AI 에이전트의 목표를 정의하고, 그 목표를 달성하는 데 필요한 컨텍스트와 방향성을 제공한다는 점에서 Agentforce의 중요한 구성 요소입니다.

사용자가 AI 에이전트와 채팅을 시작하면, Agentforce의 두뇌라 할 수 있는 추론 엔진이 백그라운드에서 대규모 언어 모델(LLM)과 함께 작동하여 대화의 모호성을 해소하고 사용자의 의도를 파악합니다. 그런 다음 에이전트는 사용할 수 있는 모든 주제를 평가하고, 사용자의 목표에 가장 잘 부합하는 주제를 선택합니다. 주제를 설계할 때는 추론 엔진이 올바른 주제를 최대한 쉽게 선택할 수 있도록 해야 합니다. 올바른 주제가 선택되지 않으면 적절한 작업에 액세스할 수 없으며, 에이전트 역시 업무를 수행하는 데 필요한 도구를 사용할 수 없게 됩니다.

주제 설계하기

Agentforce에는 주제 설계를 돕는 기본 제공 도구가 있지만, Nora가 기본 제공 주제를 직접 선택할 수도 있고 기존의 주제를 편집할 수도 있습니다. Nora는 주제를 구성하는 여러 요소를 검토하면서 레이블, 분류 설명, 범위, 지침을 손쉽게 선택할 수 있습니다.

레이블

주제의 레이블은 수행해야 할 작업을 반영해야 합니다. Coral Cloud의 사용 사례에서는 예약 관리가 수행해야 할 작업으로 식별되었습니다. 따라서 새 주제의 이름은 '예약 관리'입니다. 에이전트에 여러 주제가 있는 경우, 추론 엔진이 주제를 구분할 수 있도록 유사한 이름의 사용을 피해야 합니다.

분류 설명

분류 설명은 해당 주제가 무엇인지 설명하는 1~3문장으로 구성됩니다. 에이전트는 이 설명을 사용하여 대화에서 주제를 언제 사용할지 결정합니다. 분류 설명은 에이전트의 다른 주제들과 의미적으로 명확히 구분되어야 합니다. 또한 이 주제를 트리거할 것으로 예상되는 문의 유형과 최대한 유사할 때 가장 효과적입니다.

Coral Cloud의 분류 설명 첫 번째 버전은 다음과 같습니다. 'Answers questions and addresses requests related to a guest’s hotel reservation, confirmation, or travel itinerary.(고객의 호텔 예약, 예약 확정 또는 여행 일정과 관련된 질문에 답변하고 요청을 처리합니다.)'

범위

에이전트가 예약 관리 주제를 선택하면, 범위를 통해 에이전트가 수행할 수 있는 일과 수행할 수 없는 일이 결정됩니다. 범위는 에이전트의 작업의 범위를 좁혀 명확하게 정의할 때 가장 효과적입니다.

사용 사례 정의 단계에서 Coral Cloud의 프로젝트 팀은 예약 관리를 처리하는 AI 에이전트의 MVP(최소 기능 제품) 버전부터 효율적으로 시작합니다. 그런 다음 이후 두 차례의 버전을 거치며 에이전트의 범위를 점진적으로 확장합니다. 각 버전의 경계는 Agentforce 빌더의 주제 범위에도 반영되어야 합니다.

MVP 버전의 주제 범위 예시는 다음과 같습니다.

'Your job is to only assist the user with their hotel reservation questions and communicate information to guests about existing reservations. You can also resend the reservation confirmation email or itinerary. Never make new reservations, modify reservations, or cancel reservations. Never handle inquiries unrelated to hotel reservations.(이번 작업은 호텔 예약과 관련된 질문에만 응답하고, 기존 예약에 대한 정보를 방문객에게 전달하는 것입니다. 예약 확정 이메일이나 일정표를 다시 발송할 수 있습니다. 새로운 예약을 생성하거나, 예약을 변경하거나, 예약을 취소해서는 안 됩니다. 호텔 예약과 무관한 문의는 절대 처리하지 마세요.)'

Coral Cloud가 두 번째 버전의 주제에서 에이전트의 기능을 확장할 때, 프로젝트 팀은 주제 범위를 업데이트하여 예약 생성 및 변경은 포함하되 취소와 환불은 제외할 수 있습니다.

지침

지침은 에이전트가 업무를 수행하는 방식과 주제에 할당된 작업을 사용하는 방법을 결정하는 데 도움을 주며, 자연어로 작성됩니다. Coral Cloud 주제의 지침 예시는 다음과 같습니다. 'Always confirm the details of a reservation modification with the user before finalizing any changes.(예약 변경을 최종 확정하기 전에 항상 사용자에게 변경 세부 사항을 확인하세요.)'

주제 지침은 비결정론적이라는 점에 유의하세요. 항상 동일한 결과를 100% 보장할 수는 없으며, 이는 생성형 AI의 본질적인 특성입니다. 따라서 Nora와 팀원들은 중요하거나 민감한 비즈니스 규칙, 요구 사항, 가드레일을 주제 지침이 아니라 에이전트 작업의 기능 안에 구현해야 합니다. 예를 들어 Coral Cloud는 'Don’t refund a booking unless it was canceled within 2 days of the check-in date(체크인 날짜 2일 이내에 취소된 경우에만 환불을 처리하세요.)'라는 지침을 추가하는 대신, 환불 가능 여부를 평가하는 에이전트 작업을 만듭니다.

에이전트를 프로토타이핑할 때는 주제 지침을 가장 마지막에 작성하는 것이 좋습니다. 작업에 얼마나 많은 로직을 구현했는지, 에이전트에게 얼마나 많은 의사결정을 맡길지 알지 못하는 상태에서는 효과적인 지침을 작성할 수 없기 때문입니다. Coral Cloud 팀은 주제와 작업을 생성한 후 AI 에이전트를 테스트합니다. 그다음 Salesforce 도움말과 Salesforce 개발자 블로그의 모범 사례를 따라 주제 지침을 추가하고 개선합니다.

작업을 위한 실습 시간

이전 유닛에서 Coral Cloud는 호텔 예약과 관련된 비즈니스 프로세스를 정의했습니다. 그리고 그중 많은 비즈니스 프로세스가 예약 관리 주제를 위한 사용자 정의 작업으로 전환되었습니다.

사용자 정의 작업의 장점은 무에서 유를 창조할 필요가 없다는 것입니다. 실제로 사용자 정의 작업은 사용자가 이미 알고 있으며 자주 사용하는 Salesforce 기술을 기반으로 합니다. 사용자 정의 작업을 만들 때는 호출 가능한 Apex 클래스, 자동 실행 플로, 프롬프트 템플릿과 같이 Agentforce에서 사용하려는 기존 플랫폼 기능 위에 사용자 정의 작업을 구축합니다. Agentforce에서는 이러한 기본 기능을 참조 작업이라고 부르며, 이는 Salesforce Platform 기능을 더욱 효과적으로 활용할 수 있는 탁월한 방법입니다.

참조 작업 설계 시 고려 사항

그렇다면 Coral Cloud는 에이전트 작업을 위한 기본 참조 작업(Apex, 플로, 프롬프트 템플릿)을 어떻게 설계하고 있을까요? 아래는 해당 팀이 고려한 몇 가지 요소입니다.

결정론적 또는 프롬프트 기반 방식

에이전트 작업을 위한 기본 플랫폼 기능을 개발할 때, 먼저 사용 사례와 관련된 비즈니스 프로세스와 작업을 검토합니다. 그런 다음 해당 프로세스나 작업이 결정론적이어야 하는지, 아니면 프롬프트 기반이어야 하는지를 결정합니다.

• 결정론적 방식: 호출 가능한 Apex 클래스나 자동 실행 플로를 사용하여 결과를 생성합니다. 플로나 Apex 기반 작업은 결정론적이며, 비즈니스 로직과 규칙을 사용하여 일관된 결과를 제공합니다.
  
• 프롬프트 기반 방식: 하나 이상의 프롬프트 템플릿을 사용하여 결과를 생성합니다. 프롬프트 기반 작업을 사용하면 응답 작성 방식을 제어하거나 LLM의 추론 및 생성 기능을 활용할 수 있습니다. 예를 들어 요약을 생성하거나 분위기 분석을 수행하려면 프롬프트 템플릿을 참조 작업으로 사용해야 합니다. 프롬프트 템플릿은 Knowledge나 외부 시스템 데이터와 같은 데이터에 에이전트를 그라운딩하는 데에도 사용됩니다.
  

하나의 작업이 결정론적 방식과 프롬프트 기반 접근 방식을 모두 결합할 수도 있다는 점을 기억하세요. 예를 들어 방문객이 예약을 취소하면, 플로 기반 작업이 트리거되어 취소 처리를 완료합니다. 해당 플로 중 특정 시점에 에이전트는 프롬프트를 따라 고객에게 취소 사유를 질문할 수도 있습니다. 고객이 특정 취소 사유를 제시하면, 에이전트는 해당 응답을 요약하여 검토용으로 제공할 수도 있습니다. 시간이 지남에 따라 Coral Cloud는 이처럼 결합된 접근 방식을 통해 고객에게 영향을 미치는 문제를 더 잘 이해하고 그에 대응할 수 있습니다. 또한 개인 맞춤 혜택이 포함된 취소 확인 이메일을 보내 고객의 예약을 다시 유도하기 위한 프롬프트 템플릿을 호출할 수도 있습니다.

단일 또는 복합 방식

참조 작업이 단일 방식인지, 복합 방식인지도 고려해야 할 요소입니다.

• 단일 방식: 작은 규모의 단일 작업입니다. 모듈형 접근 방식을 활용하면 에이전트가 여러 작업을 다양한 방식으로 결합하여 더 복잡한 목표를 달성할 수 있습니다. 또한 여러 주제에서 작업을 재사용할 수 있는 기회가 더 많이 제공됩니다.
  
• 복합 방식: 여러 하위 작업으로 구성된 복잡한 작업입니다. 복합적인 작업의 이점은 작업을 완료하기 위한 단계의 정확한 순서를 직접 제어할 수 있다는 것입니다.
  

입력 및 출력

Agentforce에서 각 에이전트 작업은 하나 이상의 입력을 가져야 하며, 이는 기본이 되는 플로, Apex, 프롬프트 템플릿에도 하나의 이상의 입력이 필요하다는 의미입니다. 예를 들어 호텔 예약을 조회하려면 입력으로 방문객의 이메일이나 예약 번호가 필요할 수 있습니다. 자율성을 지닌 AI 에이전트는 대화 중에 필요한 정보를 수집하고, 작업을 트리거하기에 충분한 모든 세부 정보가 갖춰졌는지를 판단한 뒤 입력값을 전달합니다.

또한 각 작업은 하나 이상의 출력을 가져야 합니다. 작업을 구축하는 방식에 따라 출력과 그 사용 방식, 대화 중 사용자에게 표시되는 방식이 달라집니다. 테스트 작업이 완벽하게 구현되지 않더라도 테스트하는 것을 주저하지 마세요. 실제 실행 과정에서 아이디어가 어떻게 작동하는지 확인하는 데 큰 도움이 됩니다.

Coral Cloud의 참조 작업

Coral Cloud의 프로젝트 팀은 비즈니스 프로세스와 Apex, 플로, 프롬프트 템플릿을 설계하는 다양한 방식을 고려한 다음, 예약 관리 주제를 위해 다음과 같은 참조 작업을 제시했습니다.

• 이메일로 예약 조회: 방문객의 이메일 주소를 사용하여 기존 예약을 조회하는 플로입니다.
  
• 예약 번호로 예약 조회: 예약 번호를 사용하여 기존 예약을 조회하는 플로입니다.
  
• 예약 확정서 발송: 예약 세부 정보가 포함된 확정 이메일을 방문객에게 발송하는 Apex 클래스입니다.
  
• 예약 생성 또는 업데이트: 예약이 존재하지 않으면 새 예약을 생성하고, 예약이 이미 존재하면 해당 레코드를 업데이트하는 플로입니다.
  
• 예약 취소: 기존 예약을 취소하는 플로입니다. 이 플로는 취소 확인 이메일을 발송하는 프롬프트 템플릿을 호출하며, 여기에 향후 예약을 유도하는 개인 맞춤 혜택을 포함할 수 있습니다.
  
• 환불 처리: 특정 조건이 충족될 경우 예약 취소에 대한 환불을 처리하는 플로입니다.
  

참조 작업에서 에이전트 작업으로

사용 사례에 필요한 모든 플로, Apex 또는 프롬프트 템플릿을 만드는 데는 시간이 좀 걸릴 수 있지만, 이를 사용자 정의 에이전트 작업으로 전환하기는 아주 쉽습니다.

사용자 정의 작업을 만들면 작업 레이블과 API 이름이 자동으로 기존 참조 작업의 이름과 API 이름으로 채워집니다. 사용자 정의 작업과 각 입력 및 출력에 대한 지침 역시 참조 작업의 설명에서 자동으로 채워집니다.

작업 지침은 AI 에이전트에게 특정 작업이 무엇을 하는지, 언제 트리거해야 하는지를 알려 줍니다. 잘 작성된 지침을 통해 일관되고 정확한 작업을 사용할 수 있습니다. 작업 지침을 최적화하는 방법을 자세히 알아보려면 작업 지침 모범 사례를 확인하세요.

Coral Cloud에는 이제 해당 사용 사례를 위한 작업 집합이 마련되었으므로, 프로젝트 팀은 이를 주제에 작업을 할당합니다. 이제 프로토타입을 테스트하고 구성 요소를 조정할 수 있습니다.

성능 평가하기

Agentforce에서 프로토타입을 구성한 후에는 AI 에이전트의 성능을 테스트하고 확인해야 합니다. AI 에이전트를 테스트하는 방법에는 두 가지가 있습니다.

• Agentforce 빌더에서 수동 테스트
  
• 테스트 센터에서 배치 테스트
  

Coral Cloud 팀은 호텔 예약과 관련해 사용자가 제시할 만한 질문과 요청으로 AI 에이전트를 테스트합니다. 그리고 다음 질문을 고려합니다.

• 에이전트가 사용자 입력을 정확하게 해석하나요?
  
• 에이전트가 올바른 작업을 실행하나요?
  
• 유용하고 정확한 응답을 제공하나요?
  
• 비즈니스 프로세스를 올바르게 실행하고 회사 정책과 규칙을 준수하나요?
  

Coral Cloud 팀은 테스트 결과를 바탕으로 주제 지침을 개선하고 반복 작업을 통해 AI 에이전트를 계속 향상시킵니다. 테스트 과정에서 오류가 발생하는 경우 반드시 AI 에이전트의 권한을 확인하세요.

마무리 작업

프로토타입을 개선하면서 Coral Cloud 팀이 마무리해야 할 몇 가지 항목이 더 있습니다.

• 필요한 경우 대화를 실제 서비스 담당자에게 연결할 수 있도록 표준 에스컬레이션 주제를 사용자 정의합니다.
  
• AI 에이전트와 상호 작용하는 사용자를 확인하기 위한 인증 솔루션을 구축합니다.
  
• 고객 채널에 AI 에이전트를 연결합니다.
  

Coral Cloud의 Sandbox 환경에서 AI 에이전트가 안정적이고 정확하게 작동하는 수준에 도달하면, Nora와 팀원들은 AI 에이전트를 프로덕션 단계로 롤아웃하기 위한 배포 계획을 수립할 수 있습니다. 그런 다음 에이전트를 모니터링하여 에이전트 설계를 지속적으로 반복하며 개선할 수 있습니다.

강력한 기반

이제 AI 에이전트를 계획하고 설계하려면 강력한 기반을 구축하는 것이 중요하다는 사실을 알게 되었습니다. 사용 사례와 목표를 식별하고, 데이터 전략을 고민하며, 사용자 경험을 고려하고, 프로젝트의 기술적 요구 사항을 정리해야 합니다. 잠재적 위험을 해결하고 비즈니스 프로세스를 정의하여 AI 에이전트가 조직의 운영, 보안, 법률, 윤리, 규정 요구 사항에 부합하도록 해야 합니다.

에이전트를 설계할 때 폭포수 접근 방식을 취하는 실수를 하지 마세요. 선형적이고 단계적인 계획으로 에이전트를 개발하고 배포를 할 필요는 없습니다. Agentforce 솔루션을 필요한 모든 관점에서 고려하면서, Sandbox 환경에서 직접 AI 에이전트 프로토타입을 만들어 보세요. 그렇게 해야 효과가 없을 수도 있는 계획에 처음부터 너무 많은 시간을 투자하지 않게 됩니다. 철저한 계획과 지속적인 테스트를 병행하면 조직에 혁신적인 가치를 제공하며 신뢰할 수 있는 AI 에이전트를 탄생시킬 수 있습니다.

리소스

• 기사: Agentforce를 사용한 맞춤형 에이전트 개발
• Salesforce 도움말: 에이전트 문제 해결
• 비디오: Agentforce 테스트 센터
• Salesforce 도움말: 감사 추적
• Salesforce 도움말: Agentforce 분석