Digital Trust PractitionersAssociation of Digital Trust Practitioners · TrustPractitioners.org
PT
Filie-seFilie-se

Página traduzida e verificada automaticamente. Prevalece a versão em inglês. Algumas partes ainda estão em inglês enquanto a tradução é verificada. Ver em inglês · Informar um erro de tradução

AIG-300Governança de IA

Segurança de aplicações LLM

A injeção de prompt vai acabar dando certo, então projete pensando nisso. Faça a modelagem de ameaças de uma aplicação LLM e construa controles que se sustentem mesmo quando o modelo for enganado.

10 lições Cerca de 3 horas 4 ALCs Certificado ao concluir

Prepara você para: AAISM · SecurityX · AWS Certified AI Practitioner

O que você será capaz de fazer

  • Fazer a modelagem de ameaças de uma aplicação LLM, incluindo todas as fontes de texto e saídas
  • Projetar para que uma injeção de prompt bem-sucedida não consiga causar muito dano
  • Proteger dados sensíveis em prompts, na recuperação e nos logs
  • Controlar o tratamento das saídas, o uso de ferramentas e o custo, e depois testar e monitorar
Você termina com

Um registro de projeto de segurança de aplicação LLM

O que contém. Fronteiras de confiança com todas as fontes de texto e destinos de saída, uma linha por ameaça aplicável com seu controle de projeto, detecção, caso de teste, responsável e risco residual, o inventário de modelos, a regra de mudança e o plano de desligamento.

Você o constrói lição por lição, usando sua própria organização, e o envia para obter seu certificado. Ele é seu para guardar e adaptar.

Para quem é

Engenheiros de segurança de aplicações, arquitetos e desenvolvedores que constroem sobre LLMs.

O que está incluído

  1. Parte 1De onde vem o requisito 18 min
  2. Parte 2Como equipes pequenas e grandes empresas o cumprem 16 min
  3. Parte 3Modelagem de ameaças de uma aplicação LLM 22 min
  4. Parte 4Injeção de prompt: projete pressupondo que ela terá sucesso 24 min
  5. Parte 5Dados sensíveis, recuperação e prompts 22 min
  6. Parte 6Saídas, ferramentas e custo 22 min
  7. Parte 7Cadeia de suprimentos, testes e monitoramento 22 min
  8. Parte 8Laboratório prático: equipe pequena escolha um 22 min
  9. Parte 9Laboratório prático: grande empresa escolha um 24 min
  10. Parte 10Conclua e envie seu entregável 20 min

Feito para o seu porte

O requisito é o mesmo em todo lugar. A forma de cumpri-lo depende de quem você tem. Você escolhe o laboratório que corresponde à sua organização.

Equipe pequena ou estágio inicialUm modelo hospedado e uma camada de recuperação, então um projeto enxuto (recuperação filtrada por permissões, sem ferramentas, saída em texto simples) e um pequeno arquivo de ataques executado a cada mudança.
Grande empresaMuitas aplicações, modelos e agentes, então classificação por níveis, um gateway de modelos, controles compartilhados para quem desenvolve, red teaming e versões de modelo fixadas.

Como você obtém o certificado

Envie seu entregável concluído, que é avaliado com base em uma rubrica publicada, e seja aprovado em um breve questionário de cenários. Seu certificado vai para sua carteira e pode ser verificado por qualquer pessoa no registro público.

Pronto para construir um registro de projeto de segurança de aplicação LLM?10 lições, cerca de 3 horas. Comece quando estiver pronto.
Associe-se e inscreva-se