Ao analisar as principais tendências recentes de segurança cibernética e orientar as ações que os Chief Information Security Officer (CISOs) devem tomar para permitir uma jornada segura da inteligência artificial generativa (IA Generativa) em suas organizações, especialistas que participaram do Gartner Security & Risk Management Summit, fizeram um alerta. Durante o evento que aconteceu na Austrália, eles chamaram a atenção para o fato de que essa tecnologia exigirá cuidados adicionais e o desenvolvimento de novos recursos de segurança cibernética.

Esse cuidado extra pode resultar em um aumento de até 15% nos investimentos em cibersegurança. Mas, segundo o analista Diretor Sênior do Gartner, Richard Addiscott, os CISOs devem atualizar as práticas de segurança de aplicativos e dados para integrar novas superfícies de ataque, como prompts ou camadas de orquestração, para instrumentar modelos de IA.

IA Generativa requer cuidados especiais com a segurança cibernética

Segundo Fernando Guimarães, Head da Stone Age, vertical de negócios de Crédito e Antifraude da Tivit, a estimativa pode ser até conservadora à medida em que, além da necessidade de proteger aplicações que trabalham com IA Generativa, existe uma tendência de que cada vez mais a tecnologia seja integrada em ferramentas de combate aos fraudadores. Os benefícios da IA Generativa são inquestionáveis e com um potencial enorme de crescimento, no entanto, tais benefícios devem ser acompanhados por cuidados e investimentos de cibersegurança.

Ele comenta que este movimento foi realizado pela própria Stone Age com a incorporação da solução de inteligência artificial generativa Athena, desenvolvida pela Tivit nas suas soluções. No início de 2024, a tecnologia passou a ser oferecida como uma nova funcionalidade presente no Identify, produto focado na validação de identidade para processos de onboarding e vendas.

Lançada em dezembro do ano passado, a Athena permite ao Identify realizar, entre outras coisas, a leitura inteligente dos dados de um contrato social em 30 segundos de forma automática. Além disso, extrair destes documentos informações estruturadas, as quais imediatamente se transformam em insights colaborativos para alimentar a esteira de dados que viabiliza uma tomada de decisão mais efetiva e rápida.

Guimarães comenta que a adoção da Athena confere à Identify novas funcionalidades que tornam a jornada de utilização da ferramenta muito mais completa. Na prática, de acordo com ele, agora a empresa tem uma versão 2.0 que consegue avançar no sentido da eficiência operacional, com a redução da intervenção manual, aumento da assertividade nas decisões, além de atuar na diminuição de custos, com a viabilidade de trabalhar com equipes de atendimento e análise menores. “Acredito que este tipo de ganho possa ser disseminado por diversas outras soluções no mercado”, destaca. Uma alternativa para o uso da IA Generativa de forma mais segura, é utilizar soluções que sejam customizáveis para a necessidade da empresa.

Segundo Daniel Galante, CCO e CPO da Tivit a IA veio para tornar os processos e empresas mais ágeis, contudo, é preciso utilizá-la de maneira muito assertiva. “Imaginem um grande escritório de advocacia, que atende a importantes clientes e que todos os advogados ficam imputando dados dos clientes e dos processos em um ambiente 100% aberto, que pode se tornar público, podendo gerar um grande problema. Uma alternativa para isso é usar uma IA Generativa customizável, em que o cliente pode selecionar quais serão as bases de consultas, tornar todos os dados expostos somente nos locais pré-determinados e com os acessos restritos a quem realmente deva ter. Essa é a melhor forma de utilizar a IA, trazendo o ganho de agilidade que ela possui, mas ao mesmo tempo a segurança necessária para o processo” afirma Galante.