추론 엔진 알아보기

학습 목표

이 유닛을 완료하면 다음을 수행할 수 있습니다.

• 추론 엔진이 무엇인지 정의할 수 있습니다.
  
• 추론 엔진이 문제 해결을 위해 사용하는 세 가지 추론 유형을 나열할 수 있습니다.
  
• LLM을 이끄는 네 가지 인기 있는 추론 전략을 나열할 수 있습니다.
  

AI의 최신 혁신

이제 AI의 능력은 단지 대화에 그치지 않습니다. 실제로 문제를 충분히 생각하고, 옵션을 따져보고, 결정을 내릴 수 있습니다. 이를 위해, 즉 복잡한 결정을 내리고, 인사이트를 전달하고, 그 순간의 맥락에 맞게 응답하기 위해 AI 에이전트는 추론을 사용합니다.

하지만 AI는 우리가 그 사고방식을 이해할 때 가장 효과적으로 작동합니다. 이 모듈에서는 추론 엔진이 어떻게 고급 AI가 우리가 원하는 것을 이해하고 제공하도록 돕는지 살펴봅니다. 이메일 초안 작성, 캠페인 기획서 생성, 웹 페이지 구축, 경쟁사 조사, 데이터 분석, 통화 내용 요약 등 시간을 절약해 주는 다양한 작업이 이에 해당합니다.

그러면 추론 엔진이란 정확히 무엇일까요?

AI를 신뢰할 수 있는 이유

추론 엔진은 AI의 한 유형으로, 정보를 수집하고 논리적 규칙을 따르며 의사 결정을 내립니다. 이는 마치 사람이 문제를 해결하는 방식과 같습니다.

그리고 이러한 엔진들은 사람처럼 일반적으로 세 가지 유형의 추론을 사용합니다.

• 연역: "모든 과일에는 씨가 있다. 망고는 과일이다. 그러므로 망고에는 씨가 있다." (일반 규칙으로 시작하여 이를 구체적인 사례에 적용합니다.)
  
• 귀납: "지난 다섯 번의 미팅이 늦게 시작했다. 따라서 다음 미팅도 아마 늦게 시작할 것이다." (과거 경험의 패턴을 보고 일반적인 예측을 합니다.)
  
• 귀추: "불이 모두 꺼져 있고 아무도 문을 열지 않는다. 따라서 그들은 아마 집에 없을 것이다." (제한된 단서를 바탕으로 최적의 추측을 합니다.)
  

이러한 접근 방식들은 추론 엔진을 특히 유용하게 해줍니다. AI는 추론을 통해 보통 인간의 사고 관점과 맥락의 인식이 필요한 문제를 빠르게 해결할 수 있어 대규모의 새로운 작업을 가능하게 해줍니다.

LLM의 추론 학습 방법

대규모 언어 모델(LLM)은 2022년 말에 대중화되었지만 연구자들은 계속해서 인간처럼 사고하고 계획하게 하는 방법을 실험해 왔습니다. 그 비결은 바로 LLM의 응답을 이끄는 신중하게 작성된 지침인 프롬프트입니다. 프롬프트가 LLM이 문제 해결을 위한 논리적 계획을 수립하도록 도울 때, 우리는 이를 추론 전략이라고 부릅니다.

다음은 네 가지 주요 전략입니다.

1. 사고의 사슬(CoT)

이것은 LLM에게 '작업을 보여주도록' 가르치는 것으로 생각하면 됩니다. CoT는 인간이 퍼즐을 푸는 것과 같이 어려운 문제를 여러 작은 단계로 분해합니다. 수학 문제, 상식 추론, 논리가 필요한 기타 작업에 효과적입니다. 추가 정보: 엔지니어가 각 단계를 추적하면서 잘못된 부분을 확인할 수 있습니다.

2. 추론 및 행동(ReAct)

ReAct는 추론과 실제 행동을 결합합니다. 이 전략은 LLM이 이미 알고 있는 지식에만 의존하는 것이 아니라 사용자 피드백을 바탕으로 단계별로상호 작용하고, 정보를 확인하며, 답변을 정제해 나갑니다. 이렇게 하여 '환각'(또는 오답)을 줄이고 더 신뢰할 수 있는 결과를 도출합니다.

3. 사고의 나무(ToT)

ToT는 한 가지 계획을 따르는 대신 단계마다 가능한 많은 경로를 탐색합니다. 즉, 가장 좋은 것을 선택하기 전에 다양한 옵션을 브레인스토밍하는 것입니다. 이러한 특징 덕분에 ToT는 수학 퍼즐, 창의적 글쓰기 또는 전략적 의사 결정과 같은 복잡한 문제에 더 강력한 효과를 발휘합니다.

4. 계획을 통한 추론(RAP)

RAP는 한 단계 더 발전한 추론으로서 LLM이 미래의 결과를 시뮬레이션하도록 도와줍니다. 행동이 어떻게 진행될지 예측하고, 대안을 탐색하며, 진행하면서 플랜을 다듬어 나갑니다. 이는 인간의 전략과 상당히 유사합니다. RAP는 장기 계획, 논리적 추론 또는 다단계 문제 해결이 필요한 작업에서 뛰어난 성능을 발휘합니다

이러한 전략들을 통해 LLM은 단순한 추측보다는 체계적으로 문제를 깊이있게 사고할 수 있습니다. 문제를 여러 단계로 나누고(CoT), 피드백을 반영하고(ReAct), 여러 옵션을 탐색하고(ToT), 미래 상태를 시뮬레이션하는(RAP) 등 각 접근법은 AI를 좀 더 인간의 추론 방식과 유사하게 만듭니다. 다만 속도가 더 빠른 것이죠!

Agentforce가 LLM 추론을 효율적으로 사용하는 법

Agentforce는 Salesforce의 에이전트 레이어 또는 스마트 AI 도우미입니다. Agentforce는 완전한 AI 솔루션으로서 직원 및 고객에게 쉬운 언어로 에이전트와 대화하는 다양한 방법을 제공하여 팀이 신속하게 작업할 수 있도록 지원하고 고객이 즉시 답변을 받을 수 있도록 도와줍니다. Agentforce는 이면에서 대규모 언어 모델(LLM)을 사용합니다. 단지 이해하고 응답하기 위한 것뿐만이 아니라 추론 엔진처럼 복잡한 작업을 계획하기 위한 것입니다.

단계별 과정은 다음과 같습니다.

• 사용자가 요청을 입력합니다. 예: "웹 페이지 만들어 줘."
  
• Agentforce는 면밀하게 설계된 프롬프트를 사용하여 해당 입력을 안전한 LLM에 전송합니다. 이 과정은 LLM이 사용자의 입력을 AI가 이해할 수 있는 정의된 요구로 번역하는 데 도움이 됩니다.
  
• 의도가 명확해지면 또 다른 프롬프트가 LLM에 작업 완료 계획을 생성해 달라고 요청합니다.
  
• LLM은 단계별 계획으로 응답합니다. 이 플랜은 에이전트에게 허용된 작업을 통해서만 구축되어 안전하고 신뢰할 수 있는 동작을 보장합니다.
  
• 에이전트는 단계에 따라 올바른 순서로 작업을 수행하고 결과를 사용자에게 반환합니다.
  

이러한 과정은 사용자가 들여야 하는 정신적 노력을 줄여줍니다. 사용자가 작업 수행 방법을 알아낼 필요 없이 필요한 것을 말하기만 하면 됩니다. 그러면 Agentforce가 방법을 생각해 내는 것이죠.

추론의 실제 활용 사례

Agentforce는 회사에 획기적인 신규 기능을 제공합니다. 대규모 언어 모델을 실시간 추론 엔진으로 변경하는 것이죠. 이는 AI가 단순히 질문에 답변하는 것을 넘어 복잡한 상황을 이해하고, 다음 단계를 계획하며, 적절한 조치를 취하는 것을 의미합니다.

다음은 이를 보여주는 몇 가지 예시입니다.

• 판매가 부진한 것 같나요? Agentforce가 CRM을 살펴보고 잠재 리드를 찾고 담당자에게 연결해 줄 수 있습니다.
  
• 거래가 저조한가요? 에이전트는 위험한 기회를 알려주고, 계정 이력을 요약하며, 관리자에게 빠르고 명확한 인사이트를 제공해 줄 수 있습니다.
  
• 과다 청구 문제가 있나요? 에이전트가 올바른 레코드를 가져오고, 유용한 문제 해결 단계를 제시하며 문제를 신속하게 해결할 수 있도록 도와줍니다.
  
• 이번 분기를 더 성공적으로 마감해야 하나요? 에이전트가 고객 분위기를 파악하고 거래 방향을 예측하고 내일의 성공을 준비하기 위해 오늘 무엇을 해야 하는지 추천해 줄 수 있습니다.
  

이런 모든 예에서 알 수 있듯이 Agentforce는 반자율 팀원과 같은 역할을 합니다. LLM 구동 논리를 통해 문제를 생각하고 자연어에 응답하고 이해당사자 간 연결을 이끌어냅니다.

요약 및 정리

이제 추론 엔진의 기본 사항을 이해했으니 왜 그렇게 많은 기업이 이 기술에 투자하고 있는지 이해하기 쉬울 것입니다. 현실 문제에 인간과 같은 방식으로 접근하게 된 덕분에 AI는 이제 열심히 일하는 전문가팀과 함께 협력하여 비즈니스 목표를 달성하기 위해 신뢰할 수 있고, 효율적이며 간편한 솔루션을 제공할 수 있습니다.

다음으로는 Salesforce의 추론 엔진인 Atlas를 살펴보겠습니다.

리소스

• Salesforce: 추론 엔진이란?
• Salesforce: 고급 추론 엔진이 차세대 AI 에이전트를 작동시키는 방법