Controle de uso da IA e roteamento do controlador externo para o modo IA

À medida que o uso da IA cresce, um dos principais desafios para os proprietários de plataformas é gerenciar e otimizar os custos das APIs. Atualmente, o AI Mode envia todas as consultas diretamente para a OpenAI, sem a opção de controlar ou filtrar as solicitações.

Gostaríamos de sugerir as seguintes melhorias para versões futuras do eDirectory:

  1. Controlador externo / Opção de roteamento de API

    • Permitir que as consultas do Modo IA sejam roteadas para um endpoint externo configurável antes de chamar a OpenAI

    • Isso permitiria uma lógica personalizada, como:
      • Filtragem de consultas simples (tratadas internamente)
      • Decidir quando o OpenAI é necessário
      • Integração com sistemas de IA externos ou bases de conhecimento

  2. Controles de uso de IA

    • Capacidade de definir limites de consultas (por usuário / por dia)

    • Opção de restringir o acesso à IA por nível de assinatura (por exemplo, apenas Premium)

    • Botão para ativar/desativar o Modo de IA por página ou módulo

  3. Visibilidade da gestão de custos

    • Rastreamento básico de uso (por exemplo, número de consultas de IA acionadas)

    • Registro ou relatórios opcionais para ajudar a monitorar o consumo da API

🎯 Por que isso é importante:
Esses recursos permitiriam aos proprietários de diretórios:

  • Escalar a IA de forma responsável

  • Alinhar o uso da IA com a monetização (por exemplo, listagens Premium)

  • Evitar custos descontrolados de API

  • Ampliar os recursos de IA do eDirectory além do comportamento padrão da OpenAI

Acreditamos que isso aumentaria significativamente a flexibilidade e a escalabilidade a longo prazo do Modo IA em todas as plataformas baseadas no eDirectory.

Por favor, autentique-se para participar da conversa.

Votantes
Status

In Review

Quadro

Sugestões de Funcionalidades

Data

Há cerca de 1 mês

Autor

redila

Inscrever-se na postagem

Ser notificado por email quando houver alterações.