LLM Connector

Descubra mais sobre o LLM Connector e como utilizá-lo na Digibee Integration Platform.

O LLM Connector envia solicitações para Modelos de Linguagem de Grande Escala (LLMs) dentro de pipelines da Digibee, permitindo tarefas como classificação de texto, extração de informações, sumarização e avaliação de conteúdo.

Ele suporta autenticação integrada e funciona com os principais provedores: Anthropic Claude, DeepSeek, Google Gemini e OpenAI. A configuração permite controlar o comportamento do modelo, o formato da resposta e a estrutura da saída com base nas necessidades da integração.

Parâmetros

Dê uma olhada nos parâmetros de configuração do conector. Parâmetros suportados por expressões Double Braces estão marcados com (DB).

General

Parâmetro	Descrição	Valor padrão	Tipo de dado
LLM Provider	Especifica o provedor LLM a ser usado. Opções disponíveis: Anthropic Claude, DeepSeek, Google Gemini e OpenAI.	N/A	String
Model	O modelo de IA a ser utilizado, baseado no provedor selecionado. Apenas modelos de texto são suportados; geração de imagem não está disponível.	N/A	String
Account	A conta para autenticação com o conector. Deve estar previamente registrada na página Accounts. Tipo suportado: Secret Key.	N/A	Account
User Prompt (DB)	O prompt enviado para o modelo de IA. Suporta sintaxe Double Braces para incluir dados ou variáveis de etapas anteriores.	N/A	Plain Text
Output Format	Quando ativado, permite definir um formato de saída personalizado para a resposta da IA.	False	Booleano
Output Format Body (DB)	A estrutura do formato de saída desejado.	N/A	JSON

System Prompt

Parâmetro	Descrição	Valor padrão	Tipo de dado
System Prompt (DB)	Uma instrução predefinida que define o tom e comportamento da IA. Pode ser usado para definir papéis ou o tipo de resposta que o modelo deve seguir.	N/A	Plain Text
Maximum Output Token (DB)	Define o número máximo de tokens permitidos na resposta da IA. Valores menores podem reduzir a qualidade e completude da saída.	1024	Integer

Settings

Parâmetro	Descrição	Valor padrão	Tipo de dado
Stop On Client Error	Se ativado, interrompe a execução do pipeline ao ocorrer um erro HTTP 4xx.	False	Booleano
Stop On Server Error	Se ativado, interrompe a execução do pipeline ao ocorrer um erro HTTP 5xx.	False	Booleano

Error Handling

Parâmetro	Descrição	Valor padrão	Tipo de dado
Fail On Error	Se ativado, interrompe a execução do pipeline ao ocorrer um erro. Se desativado, a execução continua, mas a propriedade "success" será definida como false.	False	Booleano

Documentation

Parâmetro	Descrição	Valor padrão	Tipo de dado
Documentation	Campo opcional para descrever a configuração do conector e quaisquer regras de negócio relevantes.	N/A	String

LLM Connector em ação

Configuração mínima: Requisição com User Prompt

Essa configuração utiliza apenas o parâmetro User Prompt para enviar uma requisição ao modelo de IA.

Vantagens:

• Fácil de configurar com apenas uma entrada.

• Bom para testar diferentes prompts rapidamente.

• Funciona bem para requisições simples.

Exemplo prático

• Caso de uso: Um pipeline integrado ao Zendesk recebe um novo ticket de cliente. O LLM Connector é utilizado para analisar a solicitação e classificar seu tópico.

• Objetivo: Classificar o tópico de um ticket de suporte.

User Prompt:

Classifique o tópico da seguinte solicitação de cliente:
"Meu pagamento foi recusado, mas o valor foi debitado da minha conta. Preciso de ajuda para resolver isso."

Exemplo de saída:

{
  "status": 200,
  "body": "Problemas de pagamento"
}

Configuração intermediária: Requisição com User + System Prompts

Essa configuração utiliza os parâmetros User Prompt e System Prompt para guiar a resposta da IA.

Vantagens:

• Ajuda a guiar o tom e o comportamento da IA.

• Torna as respostas mais consistentes.

• Adiciona contexto que ajuda a IA a entender melhor o prompt.

Exemplo prático

• Caso de uso: Após classificar o ticket de suporte, o pipeline consulta uma base de conhecimento. O LLM Connector é então usado novamente para gerar uma resposta personalizada ao cliente.

• Objetivo: Gerar uma resposta personalizada utilizando tom e estilo predefinidos.

System Prompt:

Você é um agente de suporte amigável e prestativo. Use sempre um tom empático e forneça instruções claras. Retorne a mensagem em texto simples, sem quebras de linha.

User Prompt:

Escreva uma resposta para o cliente abaixo, explicando que iremos investigar o pagamento e responder dentro de 24 horas:
"Meu pagamento foi recusado, mas o valor foi debitado da minha conta. Preciso de ajuda para resolver isso."

Exemplo de saída:

{
  "status": 200,
  "body": "Olá, sinto muito por ouvir que você está passando por problemas com seu pagamento. Posso imaginar que isto pode ser frustrante e quero que saiba que estamos aqui para ajudar. Vamos investigar essa situação o mais rápido possível. O processo de investigação pode levar até 24 horas e entraremos em contato assim que tivermos uma atualização para você. Enquanto isso, sugiro que verifique com sua instituição bancária se há algum problema do lado deles. Muito obrigado pela sua paciência e compreensão."
}

Configuração avançada: Requisição com Prompts + Output Format

Essa configuração utiliza User Prompt, System Prompt e Output Format para gerar uma resposta estruturada.

Vantagens:

• Produz uma saída clara e estruturada.

• Útil quando o resultado precisa seguir uma estrutura específica.

• Ajuda a controlar a imprevisibilidade da IA ao definir um formato fixo.

Exemplo prático

• Caso de uso: Um pipeline recebe um comentário gerado por usuário de uma plataforma ISV (provedor de software independente). O LLM Connector envia o comentário à IA para avaliar se é ofensivo ou prejudicial. A pontuação retornada é usada para decidir se o comentário deve ser publicado ou se o usuário deve ser sinalizado.

• Objetivo: Avaliar e pontuar a nocividade de um comentário e determinar se ele deve ser aprovado.

System Prompt:

Você é um moderador de conteúdo. Avalie se o comentário é prejudicial, atribua uma pontuação de 0 a 1 para a gravidade e indique se ele deve ser aprovado.

User Prompt:

Avalie o seguinte comentário:
"Esta empresa é uma piada. Todos que trabalham lá são completamente incompetentes."

Output Format Body:

{
  "pontuação": "",
  "classificação": "",
  "aprovado": ""
}

Possível saída:

{
  "status": 200,
  "body": {
    "pontuação": "0.7",
    "classificação": "Prejudicial",
    "aprovado": "Não"
  }
}

Configuração dinâmica: Prompt com referência Double Braces

Essa configuração utiliza o campo User Prompt para injetar dinamicamente dados de um conector anterior usando expressões Double Braces. Além disso, os campos System Prompt e Output Format são usados para orientar a IA e gerar uma resposta estruturada.

Vantagens:

• Permite prompts contextuais com base em dados do pipeline.

• Conecta a resposta da IA a informações de tempo de execução.

Exemplo prático

• Caso de uso: Um pipeline recebe dados de endereço de um conector REST que consulta a API pública brasileira de CEP (OpenCEP). O LLM Connector é então utilizado para classificar o tipo de endereço como residencial, comercial ou rural, com base no nome da rua e no bairro retornados pela API.
• Objetivo: Categorizar o tipo de endereço utilizando dados dinâmicos do conector anterior.

System Prompt:

Você é um assistente de classificação de endereços. Com base no nome da rua e no bairro, classifique o endereço como residencial, comercial ou rural. Explique seu raciocínio.

User Prompt com Double Braces:

Use o seguinte endereço para fazer sua avaliação: {{message.body}}

Output Format Body:

{
  "tipo": "",
  "razão": ""
}

Possível saída:

{
  "status": 200,
  "body": {
    "tipo": "Residencial",
    "razão": "Os endereços residenciais geralmente são caracterizados por nomes de rua sem identificadores comerciais ou industriais. A 'Rua Abilio Carvalho Bastos' não sugere que seja uma área comercial ou industrial. Além disso, as ruas normalmente representam áreas residenciais em uma cidade ou cidade. O bairro 'Fósforo', por não possuir uma identificação típica de zonas comerciais ou rurais, também sugere ser uma área residencial."
  }
}

Perguntas frequentes

Como posso testar e experimentar meus prompts?

Use o Painel de Execução para testar seus prompts. A opção Executar seleção é especialmente útil para testar prompts separadamente do restante do pipeline.

Posso usar dados de conectores anteriores?

Sim. Você pode usar expressões Double Braces para referenciar dados de conectores anteriores e incluí-los no seu prompt.

Como os dados sensíveis são tratados?

O conector não redige nem filtra os dados do payload. Recomendamos seguir as mesmas práticas de tratamento de dados usadas com outros conectores.

Posso encadear várias chamadas LLM em um único pipeline?

Sim. Você pode usar a saída de uma chamada LLM como entrada para outra. Por exemplo, primeiro classificar um ticket de suporte, depois gerar uma resposta com base na classificação.

E se o LLM gerar resultados imprecisos ou inventados?

Para tarefas críticas, reduza o risco de alucinação dividindo o processo em etapas menores, como gerar primeiro e verificar depois. Isso proporciona mais controle e permite validar o resultado antes de utilizá-lo.

O que acontece se o provedor demorar muito para responder?

Se o provedor demorar muito para responder, a solicitação será encerrada por tempo excedido e uma mensagem de erro será exibida no Painel de Execução.