O cliente busca um profissional para configurar um ambiente completo de inteligência artificial multiagente, OralAgent, e suas ferramentas auxiliares (ToolHub, Corpus e Benchmark) em um MacBook Pro M1 MAX. O sistema deve operar localmente, garantindo total privacidade (lgpd), e utilizar um modelo de linguagem (llm) compatível com apple silicon.
Requisitos do Projeto:
Hardware: MacBook Pro M1 MAX com 32GB de RAM.
Sistema Operacional: macOS Tahoe.
Modelo LLM Local: Llama 3.2 (7B) ou Gemma 2 (9B) em formato GGUF, a ser executado via
llama.cpp com aceleração Metal.
Componentes Obrigatórios: OralAgent, OralCorpus, Dental ToolHub. Opcionalmente, OralQA-ZH para testes.
O profissional será responsável por:
Integrar os três repositórios oficiais do ecossistema OralAgent, disponíveis no Hugging Face e GitHub.
Baixar os modelos de linguagem especificados.
Compilar o
llama.cpp nativamente para aproveitar a aceleração Metal do MacBook.
Clonar o repositório do OralAgent e configurar os pesos do ToolHub/Corpus.
Entregar o sistema funcionando e acessível via navegador (Gradio).
Prestar suporte para ajustar o banco de dados do OralCorpus com PDFs ou livros fornecidos pelo cliente.
Configurar scripts de backup para garantir a integridade dos dados.
Realizar otimização fina dos prompts para diagnósticos específicos do cliente.
Oferecer treinamento de uso completo do sistema.
Prazo de Entrega: Não estabelecido