Uma empresa de serviços financeiros havia adotado três produtos de IA de três fornecedores diferentes ao longo de dezoito meses: um assistente de IA para atendimento ao cliente, uma plataforma de IA para detecção de fraude e uma ferramenta de IA para revisão de documentos de conformidade. Cada um havia sido avaliado pelo processo padrão de avaliação de risco de fornecedores da empresa, cada um havia sido aprovado em sua respectiva avaliação com classificações de risco aceitáveis e cada um havia sido integrado aos fluxos de trabalho de negócio pertinentes. A equipe de TPRM da empresa havia avaliado cada fornecedor isoladamente, confirmando que o acesso a dados de cada fornecedor estava adequadamente delimitado e que seus controles de segurança eram adequados para os dados que tratavam. O que a avaliação de TPRM não havia examinado era o quadro agregado: a IA de atendimento tinha acesso a nomes de clientes, histórico de contatos e registros de interações de atendimento; a IA de fraude tinha acesso a histórico de transações, saldos de contas e padrões de pagamento; e a IA de conformidade tinha acesso a documentos de identidade, registros de beneficiários finais e envios de KYC. Nenhum fornecedor individual tinha acesso ao perfil completo do cliente. Juntos, os três fornecedores tinham acesso a um perfil completo do cliente que, se os dados dos três pudessem ser correlacionados, constituiria um dossiê abrangente sobre cada cliente: histórico de transações, interações pessoais, documentos de identidade e padrões financeiros. Um atacante sofisticado que comprometesse os três fornecedores, ou que realizasse um ataque à cadeia de suprimentos voltado ao risco de agregação de dados, obteria um perfil de cliente mais abrangente do que o comprometimento de qualquer fornecedor isolado teria proporcionado.
O que é, de fato, a expansão da superfície de ataque de IA?
A expansão da superfície de ataque de IA é o crescimento da exposição agregada de dados e da vulnerabilidade dos sistemas de uma empresa que ocorre à medida que vários fornecedores e ferramentas de IA são adotados ao longo do tempo: cada um é avaliado individualmente como risco aceitável, mas, em conjunto, criam uma superfície de risco maior que a soma das avaliações individuais. No contexto de IA, a expansão da superfície de ataque é impulsionada pelo risco de agregação de dados entre fornecedores, pelo aumento do número de conexões de API e pontos de integração e pela crescente dependência de sistemas de IA cuja falha ou comprometimento afetaria um leque cada vez maior de operações de negócio.
O risco de agregação de dados entre fornecedores de IA é a dimensão específica da cadeia de suprimentos. Cada fornecedor de IA recebe acesso a um subconjunto delimitado dos dados da empresa, adequado à sua função. Vários fornecedores de IA com acesso delimitado a subconjuntos diferentes de dados podem, em conjunto, ter acesso ao perfil de dados completo da empresa sobre determinados clientes ou entidades operacionais. Nenhuma avaliação individual de fornecedor identifica a exposição agregada: cada avaliação caracteriza corretamente o acesso do fornecedor individual como adequadamente delimitado. O quadro agregado exige uma avaliação entre fornecedores que nenhuma revisão individual de fornecedor produz.
O risco de ataque de correlação é a dimensão adversarial. Um agente de ameaça que consiga obter dados de vários fornecedores de IA que atendem à mesma empresa pode correlacionar esses conjuntos de dados para reconstruir um perfil mais completo do que a violação de qualquer fornecedor isolado teria proporcionado. Os dados da IA de atendimento, da IA de fraude e da IA de conformidade, quando correlacionados pelo identificador do cliente, produzem o mesmo perfil abrangente de cliente que a violação de um banco de dados centralizado de clientes teria exposto. O armazenamento distribuído entre três fornecedores avaliados de forma independente não oferece o isolamento de dados que as avaliações individuais poderiam sugerir.
Por que isso importa
A expansão da superfície de ataque de IA é importante para TPRM porque a empresa que avalia fornecedores de IA isoladamente pode deixar de ver o risco agregado criado por vários fornecedores de IA que, em conjunto, acessam diferentes elementos do mesmo universo de dados. Avaliações individuais de fornecedores que confirmam uma delimitação adequada dos dados não tratam da exposição agregada criada pela combinação.
- Avaliações individuais de fornecedores sem visão agregada
- Risco de agregação de dados entre fornecedores não avaliado
- Viabilidade de ataques de correlação não avaliada
- Superfície de ataque total de IA não mapeada nem monitorada
- Exposição agregada de dados superior à avaliação individual de fornecedores
Como é uma boa prática
Programas maduros de gestão da superfície de ataque de IA mantêm uma visão agregada do acesso a dados dos fornecedores de IA, mapeando quais entidades (clientes, funcionários, transações) têm dados distribuídos entre vários fornecedores de IA e avaliando a exposição combinada de dados que essa distribuição cria.
- Mapa agregado de dados dos fornecedores de IA: quais entidades de dados têm acesso distribuído entre fornecedores
- Avaliação de ataques de correlação: exposição combinada caso vários fornecedores sejam violados
- Inventário da superfície de ataque total de IA: todas as integrações de IA e o escopo de seu acesso a dados
- Avaliação de risco agregado junto com as avaliações individuais de fornecedores
- Minimização de dados entre fornecedores: prevenção de sobreposição desnecessária de dados
Ferramentas
Gestão da superfície de ataque: Axonius, Rumble para descoberta de integrações de IA, SecurityScorecard para risco agregado de fornecedores
As plataformas de gestão da superfície de ataque podem ser configuradas para acompanhar todas as integrações com fornecedores de IA e o escopo de seu acesso a dados, fornecendo a visão agregada que as avaliações individuais de fornecedores não oferecem. Para profissionais de TPRM, perguntar se a empresa mantém um mapa agregado de dados dos fornecedores de IA junto com as avaliações individuais é uma pergunta específica sobre a expansão da superfície de ataque.
Desafios de governança
O desafio de governança da expansão da superfície de ataque de IA é a estrutura de avaliação em silos. As avaliações individuais de fornecedores são conduzidas pela equipe de TPRM como revisões separadas, sem nenhum mecanismo que agregue sistematicamente o quadro de acesso a dados entre fornecedores. A solução de governança é uma avaliação agregada anual dos fornecedores de IA, que revise o panorama combinado de acesso a dados de todos os fornecedores de IA e avalie a exposição agregada que ele cria.
- Realize anualmente uma avaliação agregada dos dados dos fornecedores de IA
- Mapeie a distribuição das entidades de dados entre os fornecedores de IA
- Avalie a exposição a ataques de correlação decorrente do acesso combinado dos fornecedores
- Aplique a minimização de dados para reduzir a sobreposição desnecessária de dados entre fornecedores
- Monitore a superfície de ataque total de IA à medida que ela cresce a cada nova adoção
Se você faz parte de uma equipe pequena
Crie uma matriz simples: liste todos os fornecedores de IA da sua pilha e, para cada um, as categorias de dados que acessam. Depois, procure entidades (clientes, funcionários, transações) que aparecem em várias linhas. As entidades que aparecem em várias linhas têm dados distribuídos entre vários fornecedores de IA. O acesso combinado entre os fornecedores representa a exposição a ataques de correlação que nenhuma avaliação individual de fornecedor identifica. Essa matriz é a visão agregada que as avaliações individuais não fornecem.
- Crie uma matriz de acesso a dados dos fornecedores de IA: fornecedores versus categorias de dados
- Identifique entidades com dados distribuídos entre vários fornecedores
- Avalie a exposição combinada das entidades com dados altamente distribuídos
- Aplique a minimização de dados para reduzir a sobreposição desnecessária entre fornecedores
O que exigir
Pergunte diretamente:
“Na sua avaliação do nosso compartilhamento de dados, vocês sabem que temos outros fornecedores de IA acessando subconjuntos diferentes dos mesmos dados de clientes? E podem confirmar que a exposição por correlação entre todos os nossos fornecedores de IA foi considerada na sua avaliação de risco individual?”
O que esperar como evidência
- Documentação do escopo de acesso a dados de cada fornecedor
- Consciência do contexto de exposição agregada
- Compromisso de minimização de dados
- Integração da avaliação agregada
Um fornecedor que confirma uma delimitação adequada do acesso a dados deve ser questionado sobre sua consciência da exposição agregada. A delimitação individual é adequada para o acesso individual. A exposição agregada exige a visão combinada que as avaliações individuais não produzem.
Como comprovar
- Matriz de acesso a dados dos fornecedores de IA
- Registros de avaliação da exposição agregada
- Implementação da minimização de dados
- Registros da revisão anual agregada de fornecedores de IA
Principal conclusão
Três fornecedores de IA. Três avaliações independentes. Três classificações de risco aceitáveis. IA de atendimento: histórico de interações. IA de fraude: dados de transações. IA de conformidade: documentos de identidade. Juntos: perfil completo do cliente. Nenhuma violação individual produz o perfil completo. Uma violação correlacionada dos três produz. As avaliações individuais caracterizaram corretamente o acesso individual a dados como adequadamente delimitado. A avaliação agregada que teria revelado a exposição combinada não foi realizada. A expansão da superfície de ataque de IA é o risco que cresce uma adoção de fornecedor por vez e só se torna visível quando o agregado é mapeado. A matriz de acesso a dados é o mapa. A avaliação agregada é a identificação do risco. Nenhuma das duas é produzida pela soma das revisões individuais de fornecedores.