Atende Direito · Docs

Appearance

LLM · llm ​

Para que serve

Imagina ter um redator ultra-rápido disponível no meio do seu atendimento. Você dá um contexto, faz uma pergunta ou dá uma instrução, e ele responde com inteligência — pode ser um texto, um resumo, uma análise, uma classificação, qualquer coisa. O nó LLM coloca o poder de um modelo de linguagem (como GPT-4, Claude ou outro) dentro do seu fluxo, num único bloco visual.

Quando usar
  • Gerar respostas personalizadas para perguntas dos clientes
  • Resumir o conteúdo de um documento longo antes de enviar por mensagem
  • Analisar o sentimento ou a intenção de uma mensagem recebida
  • Preencher um template com texto de alta qualidade
  • Extrair e estruturar informações de um texto não estruturado
  • Responder perguntas com base em dados buscados pela base de conhecimento
Passo a passo
  1. Arraste o nó **LLM** para o canvas e conecte ao bloco anterior.
    CAPTURAR: nó LLM no canvas com conexões chegando de nós de dados

    CAPTURAR: nó LLM no canvas com conexões chegando de nós de dados

  2. No painel, escolha o **Modelo** (ex.: gpt-4o, claude-3-5-sonnet, gemini-pro).
  3. Escreva o **System Prompt** — a instrução geral que diz ao modelo quem ele é e como deve se comportar.
    CAPTURAR: painel do nó LLM com o campo de system prompt preenchido com uma instrução de assistente jurídico

    CAPTURAR: painel do nó LLM com o campo de system prompt preenchido com uma instrução de assistente jurídico

  4. Escreva o **User Prompt** — a mensagem com o contexto específico desta execução. Use {{ }} para inserir variáveis do fluxo.
  5. Configure opções adicionais como memória de conversa, modo de visão ou saída estruturada, se necessário.
  6. Salve. A resposta gerada fica em {{llm.text}} (ou o nome que você deu ao nó).
Campos
CampoO que faz
ModeloO LLM a usar (varia conforme os modelos contratados)
System PromptInstrução de comportamento — "Você é um assistente jurídico amigável…"
User PromptA pergunta ou tarefa desta execução — pode usar variáveis {{ }}
Temperatura0 = respostas mais determinísticas; 1 = mais criativas
Máx. tokensLimite de tamanho da resposta gerada

Funcionalidades avançadas ​

Memória de conversa ​

Quando ativada, o nó LLM tem acesso ao histórico da conversa atual — ele "lembra" o que o cliente disse antes. Ideal para atendimentos conversacionais onde o contexto importa.

CAPTURAR: campo de memória de conversa ativado no painel do LLM com o campo top_k configurado

CAPTURAR: campo de memória de conversa ativado no painel do LLM com o campo top_k configurado

Visão multimodal ​

Se o modelo escolhido suporta visão (ex.: GPT-4o), você pode passar imagens junto ao prompt — por URL ou referência a um arquivo do fluxo. O modelo analisa a imagem e responde sobre ela.

Saída estruturada (Structured Output) ​

Em vez de texto livre, você pode pedir ao LLM que retorne um JSON com campos específicos. Ative esta opção e defina o schema esperado. A saída fica em {{llm.structured_output}}.

CAPTURAR: painel do LLM com modo de saída estruturada ativado e um schema JSON definido com campos como categoria, prioridade e resumo

CAPTURAR: painel do LLM com modo de saída estruturada ativado e um schema JSON definido com campos como categoria, prioridade e resumo

Exemplo

System Prompt:

Você é um assistente do escritório Oliveira & Associados. Responda de forma cordial, em português, com no máximo 3 parágrafos.

User Prompt:

O cliente perguntou: "{{userinput.query}}". Use as informações a seguir para responder: {{knowledge.content}}

Resultado em {{llm.text}}: resposta completa gerada pela IA, pronta para enviar ao cliente via nó de mensagem.

Dica

Seja específico no System Prompt: diga o tom, o tamanho esperado da resposta e qualquer restrição de conteúdo. Um prompt bem escrito reduz alucinações e melhora a qualidade das respostas.