Evaluating bids

Implantação Segura do Gpt-J na Aws para Processamento de Dados Confidenciais de Clientes

Published on the April 21, 2024 in IT & Programming

About this project

Open

Caro Arquiteto da AWS,

Estamos entrando em contato para solicitar sua expertise no projeto e implementação de uma solução segura, baseada na aws, para usar o modelo de linguagem gpt-j no processamento de dados confidenciais de clientes.

Nosso projeto envolve receber documentos confidenciais de clientes, extrair informações-chave deles usando IA e, em seguida, alimentar os dados processados em nossos sistemas downstream. Dada a natureza altamente sensível dos dados envolvidos, segurança e conformidade são nossas principais prioridades.

Identificamos o GPT-J como o modelo de IA que desejamos usar para essa tarefa de processamento. Nosso objetivo é implantar o GPT-J na aws da maneira mais segura, escalável e gerenciável possível, aproveitando os robustos controles de segurança e serviços gerenciados da aws.

Com base em nossa pesquisa inicial, acreditamos que uma arquitetura envolvendo os seguintes componentes pode funcionar bem:

1. Armazenamento seguro de documentos do cliente em buckets S3 criptografados
2. Pré-processamento de dados usando AWS Lambda ou Glue antes de alimentar o modelo de IA
3. Treinamento e hospedagem do modelo GPT-J usando o Amazon SageMaker
4. Exposição do modelo treinado por meio de uma API segura usando o Amazon API Gateway
5. Processamento serverless de documentos do cliente usando funções Lambda invocando a api de ia
6. Monitoramento e registro abrangentes usando CloudWatch e CloudTrail
7. Gerenciamento de acesso e permissões granulares usando o IAM
8. Criptografia de dados em repouso e em trânsito usando KMS

Necessitamos de refinamento dessa arquitetura de alto nível garantindo de que ela atenda aos mais rigorosos requisitos de segurança e conformidade para lidar com dados financeiros sensíveis.

Especificamente, gostaríamos de sua assistência com:

1. Projetar a arquitetura detalhada de ponta a ponta para implantar com segurança o GPT-J na AWS
2. Identificar os serviços e configurações apropriados da AWS para maximizar a segurança e a conformidade
3. Desenvolver as melhores práticas em torno de gerenciamento de chaves, controle de acesso, monitoramento e resposta a incidentes
4. Garantir que a solução possa escalar para lidar com nossos volumes de dados e necessidades de desempenho antecipados
5. Fornecer orientação sobre quaisquer certificações ou atestados de conformidade necessários (por exemplo, iso 27001, pci dss)
6. Apoiar nossa equipe na implementação e teste da solução projetada.

Por gentileza, informe-nos se você precisar de informações adicionais sobre nosso projeto ou necessidades específicas de segurança e conformidade.

Project overview

Aws - gpt j

Category IT & Programming
Subcategory Other
Project size Medium
Is this a project or a position? Project
I currently have I have specifications
Required availability As needed
API Integrations Other (Other APIs)

Delivery term: Not specified

Skills needed

Other projects posted by R. C.