ISO 42001:2023 - Uma Nova Abordagem de Gerenciamento de Sistemas de Inteligência Artificial
A adoção acelerada de sistemas de inteligência artificial (IA) pelas organizações levou a um aumento significativo na escala de segurança de dados. Agora, dados sensíveis não são apenas armazenados, mas também constantemente acessados, transformados e movidos entre serviços de nuvem, APIs e pipelines de IA.
Considerando o exemplo hipotético abaixo, uma equipe de ciência de dados está construindo um modelo de IA na nuvem usando dados de clientes em armazenamento de nuvem. Esses dados são movidos por meio de pipelines ETL (extração, transformação e carregamento) que preparam e transferem dados entre sistemas antes de serem acessados por APIs e finalmente usados em um modelo de IA hospedado na nuvem. Em teoria, a organização sabe onde os dados vivem. Na prática, informações-chave estão faltando. A equipe não pode traçar claramente como os dados de cliente se movem do armazenamento, pelas pipelines, para o modelo. Eles não podem ver como os dados são acessados uma vez que o modelo está em produção e não têm forma de saber se os dados estão expostos ou acessados de maneira imprevista.
ISO 42001:2023 - Uma Referência Internacional e Um Marco para Gerenciamento de Dados Em Nuvem
A ISO 42001:2023, a primeira norma internacional para sistemas de gestão de inteligência artificial, fornece um marco para que as organizações possam governar e monitorar os sistemas de IA de forma responsável. Ela foi projetada para ajudar as organizações a entender como os sistemas de IA usam os dados ao longo do seu ciclo de vida, avaliar os riscos e impactos associados com esse uso de dados e estabelecer os processos necessários para monitoração contínua, governança e responsabilidade.
Aqui, o CrowdStrike Falcon Data Security for Cloud entra em cena. Oferecendo visibilidade sobre como dados sensíveis se movem entre ambientes de nuvem e IA, o Falcon Data Security for Cloud ajuda as organizações a entender os fluxos de dados, monitorar atividades em tempo real e identificar novos riscos que podem impactar os esforços de governança de IA.
Desafios de Segurança de Dados e A Solução Compreensiva do Falcon Data Security for Cloud
Na maioria dos casos, os ferramentas de segurança de dados foram projetadas para proteger dados relativamente estáticos. O DLP tradicional se apoia em regras e políticas pré-definidas, o DSPM tradicional busca visibilidade em tempo específico para dados parados e as ferramentas de conformidade enfatizam a documentação.
Porém, com essas ferramentas, a equipe da empresa acima pode confirmar que os dados de cliente existem na armazenamento de nuvem e até mesmo classificá-los. Elas não podem responder a questões críticas como: 'Quais dados estão sendo usados pelo sistema de IA?' e 'Como esses dados se movem pelo ambiente?' O marco ISO 42001:2023 exige que as organizações entenda:
Para ver como esses desafios de segurança de dados podem emergir na prática, vamos retornar ao exemplo hipotético e explorar como o Falcon Data Security for Cloud pode contribuir para principais áreas de controle da ISO 42001:2023.
O primeiro desafio para a organização nesse cenário é entender quais dados são utilizados pelos sistemas de IA e como eles se movem pelo ambiente. Com o Falcon Data Security for Cloud, a equipe pode ver como os dados de cliente se movem do armazenamento de nuvem pelas pipelines ETL e ao modelo de IA. Eles podem traçar a origem dos dados e identificar se eles incluem informações sensíveis como dados pessoais.
Essa visibilidade ajuda as organizações a construir uma visão mais completa das respostas que apoiam os sistemas de IA. O que antes era uma inventário estático de onde os dados sensíveis residem agora se transforma em uma visão contínua sobre como os dados se movem pelo ambiente de IA. Isso pode ajudar na conformidade com as áreas de controle da ISO 42001:2023 que se concentram na documentação de recursos de dados e governança de dados (A.4, A.7).
Feito e produzido em nuvem: O desafio se desloca da compreensão dos fluxos dos dados em compreender o que acontece dentro desses fluxos. Para os times, precisa saber não apenas onde os dados estão se movendo, mas também que dados específicos estão presentes em um pipeline em um dado momento. O Falcon Data Security for Cloud oferece uma visibilidade da atividade em execução dos dados na nuvem, permitindo que as organizações entendam que tipos de dados são sendo processados pelos sistemas de IA.
O que significa que os times podem identificar se os dados sensíveis como PII estão presentes no pipeline, até mesmo se foram esperados para estar lá. Se um conjunto dos dados contaminado com PII durante a manipulação ou transformação, isso significa que surge novas considerações em tempo de execução, monitoramento e gestão de dados. Isso pode ajudar a cumprir as exigências da ISO 42001:2023 para monitoramento, log e rastreamento (A.6), fornecendo visibilidade sobre como os sistemas de IA operam e como os dados são usados em tempo real.
Visibilidade e Responsabilidade: A Ferramenta Perfeita para Gerenciar Riscos de Dados em Nuvem AI
Em conclusão, a norma ISO 42001:2023 e as ferramentas do CrowdStrike Falcon Data Security for Cloud são as soluções perfeitas para gerenciar riscos e ameaças envolvendo dados em nuvem que se movem pelos ambientes de sistemas de IA. Com a visibilidade dos dados e a capacidade de monitorar atividades em tempo real, as organizações podem melhorar a segurança de seus dados e manter a responsabilidade. Não fique de fora: comece a gerenciar riscos de dados em nuvem AI hoje e proteja sua empresa do inimigo desconhecido.
