Por Que Governo de Inteligência Artificial Sem Limites É Cenário Frustrante

A governança de inteligência artificial é uma preocupação chave para as empresas. As organizações estão montando conselhos, publicando princípios, fornecendo listas de ferramentas de AI aprovadas e pedindo que os funcionários optem por políticas de uso aceitável.

No entanto, a realidade em muitas empresas é que a IA está amplamente integrada no trabalho diário dos funcionários, frequentemente fora de canais autorizados e da visibilidade. As mecanismos de visibilidade e controle necessários para governar o uso de IA são imaturos ou não-existentes.

A Falha na Visibilidade e Controle

Como resultado, há um grande fosso entre o que as lideranças desejam para a governança de IA e o que está ocorrendo dentro de suas organizações. Os CIOs precisam recorrer a tecnologia com limites capazes de transportar a intenção de governança de IA da esfera de princípios de política para o mundo de ambientes de produção, com visibilidade escalável e fiscalização.  

Visibilidade e Controle: Desafios na Governança de IA

A visibilidade é um dos maiores desafios na governança de IA: uma recente pesquisa encontrou que 45% dos funcionários utilizaram ferramentas de IA para o trabalho sem informar seus chefes.

A IA 'sombria' pode assumir várias formas, incluindo aplicativos web habilitados por IA, extensões de navegador, aplicativos de desktop e plataformas SaaS. A 'IA sombria' não é apenas um problema de conformidade, mas também um sério problema de segurança e exposição de dados.

Os funcionários podem digitar dados sensíveis em bate-papos, conectar contas de negócios críticas a flujos de trabalho de AI, conceder permissões excessivas a aplicações de AI ou expor arquivos corporativos proprietários a agentes de IA. Cada conexão de AI cria uma nova relação de identidade que as organizações precisam entender e governar.

Riscos da IA Sombria

A 'IA sombria' multiplica tanto o impacto quanto o risco. Ela pode afetar mais sistemas, executar mais passos, fazer mais decisões mais rapidamente do que os loops de revisão tradicionais. Os riscos vão além de respostas inadequadas para ações indesejadas: enviar dados externamente, alterar registros, disparar transações financeiras ou interagir com terceiros de maneira que ninguém tenha antecipado.

Guardando a Governança de IA

A governança de IA não é apenas sobre o que é permitido. Trata-se do que é possível na arquitetura, seguro no modelo de ameaça e útil ao negócio. A governança eficaz de IA exige esses stakeholders à mesa:

• Determinar políticas de governança de IA ainda é um trabalho em progresso para várias organizações.

Com múltiplos stakeholders e tecnologia em rápida mudança, pode ser difícil alcançar alinhamento. Uma pesquisa da IBM realizada no ano passado encontrou que quase dois terços (63%) das organizações não tinham políticas de governança de IA.

Eventos recorrentes de perda de dados em sistemas de IA estão aumentando de forma alarmante e têm levado algumas empresas a questionar o futuro da IA, mas o mercado de IA de negócios está cada vez mais focado no uso seguro e escalável da IA para ajudar as empresas a crescer e melhorar seus negócios. A governança de IA é essencial para ajudar a garantir que a IA seja usada de forma segura e responsável e para ajudar as empresas a aproveitar suas vantagens.