Desenvolvimento de Plataforma Interna de Conhecimento com Ia e Llms Locais

Estamos buscando um(a) Desenvolvedor(a) de IA/Backend experiente para desenvolver uma plataforma interna de conhecimento baseada em Inteligência Artificial. O objetivo principal é fornecer uma interface unificada para aproximadamente 10 a 20 colaboradores, permitindo-lhes pesquisar e utilizar o conhecimento corporativo armazenado no Box, interagir com modelos de IA locais e externos, e gerar respostas e documentos com referências claras às fontes utilizadas.

Principais requisitos do projeto incluem:
- Implementação de LLMs locais em ambiente Mac Studio, utilizando ferramentas como Ollama ou soluções similares.
- Integração robusta com a API do Box para pesquisa sob demanda em grandes volumes de dados corporativos.
- Experiência comprovada com técnicas de Retrieval-Augmented Generation (RAG), recuperação de documentos e reranking para otimização dos resultados.
- Integração com diversas APIs externas de IA, como OpenAI/GPT, Gemini, Grok, entre outras.
- Desenvolvimento de um AI Router/Orchestrator capaz de selecionar, alternar ou combinar diferentes modelos de IA de forma eficiente.
- Implementação de autenticação de usuários e controle de acesso detalhado aos documentos, respeitando as permissões existentes.

A abordagem desejada é realizar pesquisas sob demanda no Box, recuperando apenas os documentos relevantes, processando e reordenando os resultados conforme sua relevância, e fornecendo ao LLM selecionado somente o contexto necessário para gerar a resposta. Não pretendemos baixar nem gerar embeddings de todo o conjunto de dados armazenado no Box.

O projeto será iniciado com um PoC (Proof of Concept) de pequeno porte. Após a validação da precisão das buscas, qualidade das respostas, desempenho, segurança e custos operacionais, avançaremos gradualmente para o ambiente de produção. Buscamos um profissional com experiência prática na construção de sistemas de IA, que considere não apenas o funcionamento dos modelos, mas também aspectos cruciais como segurança, escalabilidade, gerenciamento de permissões, custos e manutenção a longo prazo.