Sobre este proyecto
it-programming / artificial-intelligence-1
Abierto
Estamos buscando um especialista em RAG (Retrieval Augmented Generation) para otimizar um módulo de nosso SaaS de licitações públicas em produção. Este módulo responde a perguntas de servidores municipais com base em um corpus jurídico composto por leis, decretos e jurisprudência de tribunais de contas. O sistema atual já está em funcionamento e possui métricas de desempenho, mas buscamos aprimoramentos significativos.
Requisito inegociável: A solução não pode alucinar. Citações de artigos inventadas ou parafraseadas de outras fontes e apresentadas como texto de lei são falhas críticas, pois as respostas geradas são utilizadas em decisões administrativas por servidores públicos.
Contexto atual:
- Aproximadamente 2.400 unidades normativas indexadas, com citação canônica e URL oficial.
- Utilização de PostgreSQL com pgvector para embeddings de 1536 dimensões.
- Implementação de busca híbrida (ramo exato por endereço + léxico tsvector pt + vetorial), com resultados fundidos por rrf (reciprocal rank fusion).
- Avaliação interna com 35 perguntas, gabarito e script Python para medir recall e citação indevida.
- Linha de base atual: 80% de recall geral, ~93% nos temas em escopo.
Problemas a serem resolvidos:
- Diluição: Incisos curtos são vetorizados junto com o caput e se perdem na busca.
- Recuperação parcial: Quando a resposta esperada é uma lista de incisos de um artigo, o modelo recupera apenas alguns (ex: 3 de 13) e completa o restante de forma inadequada.
- Falta de verificação determinística da citação contra os trechos recuperados.
- Perguntas fora de escopo ainda recuperam material forte, levando a respostas irrelevantes ou incorretas.
O projeto será dividido em duas etapas:
1. Diagnóstico pago: Incluirá a apresentação de evidências dos problemas identificados e um plano de ação priorizado.
2. Implementação: Execução do plano de melhorias.
Objetivo de aceite: Atingir recall igual ou superior a 95% nos temas em escopo, medido pelo nosso script de avaliação, com zero citações não ancoradas e sem regressão de desempenho.
Requisitos técnicos:
- Experiência comprovada com RAG em ambientes de produção (solicitaremos números de antes/depois de projetos anteriores).
- Proficiência em PostgreSQL e pgvector.
- Experiência com busca full-text em português.
- Conhecimento avançado em Python.
- Habilidade em métricas de recuperação e reranking.
Diferencial:
- Experiência com corpus jurídico pt-br.
Ambiente de trabalho: Será fornecido um ambiente de homologação, sem credenciais de produção. Será necessário assinar um NDA (Non-Disclosure Agreement).
Na proposta, solicitamos que o freelancer responda às seguintes perguntas:
1. Como resolver um inciso curto cujo vetor é dominado pelo caput? Apresente duas abordagens e qual delas tentaria primeiro.
2. Como garantir que nenhuma citação seja gerada sem estar presente nos trechos recuperados?
3. Descreva um projeto de RAG em produção que você tenha implementado: domínio, o que o sistema resolvia, o que quebrava antes da sua intervenção e os números de desempenho antes e depois.
Categoría Programación y Tecnología
Subcategoría Inteligencia Artificial
Tamaño del proyecto Pequeño
Plazo de Entrega: No definido
Habilidades necesarias