Em uma economia movida a IA, a segurança dos dados não é apenas um exercício de verificação de caixa. Em vez disso, a segurança é o catalisador de confiança e inovação em sua organização e com seus clientes.
Essa é a conclusão do Estado disso Relatório do Salesforce, que pesquisou mais de 4.000 tomadores de decisão de TI em todo o mundo, incluindo mais de 2.000 profissionais especializados em segurança, privacidade ou conformidade. A pesquisa teve como objetivo entender as ameaças cibernéticas e as prioridades de segurança em rápida evolução, sugerindo como criar confiança do cliente em um mundo orientado a IA e usar a IA para melhorar as posturas de segurança. Aqui estão as principais toca do relatório:
- Orçamentos de segurança em ascensão: Três quartos das organizações antecipam aumentos orçamentários para abordar tudo, desde envenenamento por dados até detecção de ameaças mais avançada.
- A confiança é elementary: Quase dois terços (64%) dos clientes acham que as empresas estão sendo imprudentes com seus dados e 61% acreditam que os avanços da IA o tornam mais importante do que nunca para as empresas proteger seus dados, destacando a importância das organizações que priorizam a administração de dados.
- A conformidade é complexa: Mais de dois terços (68%) dos líderes de segurança dizem que a conformidade se tornou mais difícil à medida que o ambiente regulatório muda rapidamente, e 43% se sentem mal preparados para possíveis regulamentos relacionados à IA.
- AI pode fortalecer as defesas: Enquanto 79% dos líderes de segurança acreditam que os agentes da IA introduzirão novos desafios de segurança e conformidade, 80% sugerem que os agentes da IA introduzirão novas oportunidades de segurança.
Os orçamentos de segurança de TI estão aumentando
De acordo com a pesquisa do estado da TI, as cinco principais ameaças de segurança mais relativas são a segurança em nuvem, envenenamento por dados, malware, phishing e ransomware. As cinco principais táticas de segurança mais eficazes são a criptografia de dados, o backup e a restauração de dados, o gerenciamento de identidade e acesso, estratégias zero-confiança e mascaramento de dados.
Além disso: a morte de planilhas: 6 razões pelas quais a IA será a ferramenta de relatório de negócios dominante em breve
A pesquisa constatou que 75% das organizações de TI esperam aumentar seus orçamentos de segurança de TI, com apenas 2% antecipando uma diminuição dos orçamentos. A conformidade também é mais difícil de gerenciar, com 68% dos líderes de segurança dizendo que a conformidade é mais difícil em meio a regulamentos em evolução. Quase metade (43%) dos líderes de segurança não se sente preparada para possíveis mudanças regulatórias em torno da IA.
Ai cria oportunidades e ameaças
O uso de agentes de IA nos negócios está aumentando rapidamente. Os agentes da IA podem agir de forma autônoma e servir como mão -de -obra digital. No entanto, os líderes de segurança reconhecem que, sem a governança adequada, os agentes da IA podem introduzir novos desafios de segurança e conformidade. Portanto, não é surpresa que os CIOs classifiquem a segurança e a conformidade como sua principal preocupação com a IA e os principais critérios ao selecionar fornecedores de IA.
Os líderes de segurança também vêem agentes de IA oferecendo vantagens poderosas e novas oportunidades de segurança e conformidade. Mais de três quartos (79%) dos líderes de segurança acreditam que os agentes da IA introduzem novos desafios de segurança. A pesquisa constatou que 80% dos líderes de segurança acreditam que os agentes da IA introduzem novas oportunidades de segurança. Os agentes de IA com habilidades adequadamente programadas podem melhorar a detecção de ameaças, automatizar o gerenciamento de vulnerabilidades e apoiar os esforços de conformidade em escala.
Segurança na period da IA Agentic
A IA mudou fundamentalmente o cenário de segurança cibernética. O relatório constatou que 75% dos líderes de segurança acreditam que as ameaças cibernéticas orientadas pela IA ultrapassarão em breve as defesas tradicionais e 79% acreditam que suas práticas de segurança devem se transformar à medida que o uso da IA aumenta.
Além disso: os agentes da IA trazem grandes riscos e recompensas por ousados adotantes, diz Forrester
Os líderes de TI veem as seguintes ameaças da IA: violações de dados, preocupações com a privacidade, envenenamento por dados, ameaças movidas a IA, ataques de modelos da cadeia de suprimentos, ataques adversários e preconceito e discriminação. O relatório também observou que a maioria dos líderes de segurança acredita que as ameaças cibernéticas orientadas pela IA poderiam em breve superar as defesas tradicionais, destacando a necessidade de novas táticas e vigilância contínua.
Então, como os agentes da IA podem melhorar as posturas de segurança organizacional? Aqui estão algumas maneiras pelas quais os agentes podem ajudar:
- Detecção de ameaças e resposta: Sinalizar atividade incomum e coordenar a remediação de incidentes com atraso mínimo
- Identificação do viés do modelo: Auditando continuamente os modelos de IA para vieses e vulnerabilidades, garantindo justiça e confiabilidade
- Automação de conformidade: Rastreando a adesão da política entre os sistemas, reduzindo a supervisão handbook
Uma poderosa realização do relatório de TI é que 100% dos líderes de segurança acreditam que os agentes da IA podem melhorar pelo menos uma preocupação de segurança. Ao descarregar tarefas repetitivas ou de alto quantity para os agentes, as equipes podem redirecionar seu foco para a estratégia de nível superior-uma mudança essencial quando as ameaças proliferam mais rapidamente do que a maioria das equipes de segurança pode acompanhar.
Conformidade e governança do agente de IA
As organizações têm espaço para melhorar nessa área. A pesquisa constatou que 55% dos líderes de segurança não se sentem totalmente confiantes de que podem implantar agentes de IA com os corrimãos certos e 53% não estão totalmente confiantes de que podem implantar agentes de IA que cumprem os regulamentos e padrões.
Embora a responsabilidade pela governança da IA seja um trabalho em andamento, mais de 70% dos líderes de segurança dizem que já têm protocolos de segurança e privacidade de IA e 64% têm papéis e responsabilidades claramente definidos em torno do desenvolvimento e governança da IA.
Além disso: por que o trabalho remoto ainda é o molho secreto por trás do sucesso das pequenas empresas
O caminho para o progresso com a conformidade é a transparência. De acordo com a Salesforce Analysis, 42% dos clientes dizem que a transparência em como a IA é usada aumentaria sua confiança na IA. Outros 31% dizem que a explicação das saídas de IA aumentaria a confiança.
Os líderes de TI reconhecem a importância da transparência com os clientes. Mais de três quartos (77%) dos líderes de segurança acreditam que os clientes sabem quando se envolvem com IA versus uma pessoa, e 81% acreditam que os clientes entendem como suas informações podem ser usadas pelos sistemas e aplicativos de IA de uma organização.
Outro elemento elementary importante para estabelecer confiança é a explicação. Entre as organizações usando ativamente a IA, 70% dos líderes de segurança sentem que a precisão e a explicação da IA são uma preocupação, e menos da metade estão totalmente confiantes de que podem explicar os resultados da IA.
Construindo confiança do cliente em agentes
A pesquisa sugeriu que a confiança com os clientes está corroendo. Quase três quartos (71%) dos clientes dizem que sua confiança nas empresas está diminuindo, ante 52% em 2023 e 47% em 2022. Os clientes dizem que, à medida que as organizações criam proteções para produtos de IA, são transparentes sobre o uso da IA, melhoram a precisão das saídas de IA e obtêm suggestions do cliente, sua confiança na IA aumentará.
Os líderes de TI vêem a confiança como o principal requisito de adoção para os clientes. A pesquisa descobriu que 64% dos líderes de segurança acreditam que os clientes hesitam em adotar serviços de IA devido a preocupações com segurança ou privacidade.
Além disso: os líderes de tecnologia estão aparentemente apressando -se a implantar a IA Agentic – aqui está o porquê
Uma descoberta importante do relatório foi a lacuna entre os padrões do setor de privacidade e sua capacidade de explicar os resultados produzidos pela AI. Embora mais de 90% dos líderes de segurança sintam que suas organizações estão em pé de igualdade com ou acima dos padrões do setor quando se trata de políticas de privacidade e suas culturas em torno de segurança, transparência e confiança, menos da metade sente que suas organizações são excelentes em fornecer a explicação dos resultados da IA, os resultados precisos da IA e a transparência para os clientes sobre como seus dados estão sendo usados em sistemas de IA.
A pesquisa foi concluída com a seguinte previsão sobre as principais tendências e considerações:
- Complexidade regulatória em andamento: O gerenciamento de conformidade será um processo contínuo à medida que os regulamentos de IA emergem em diferentes regiões
- Adoção proativa da IA: As empresas que adotam os agentes da IA como um aliado de segurança, em vez de temer, descobrirão novas eficiências e oportunidades de diferenciação
- Evolução contínua de habilidades: As funções de segurança continuarão se transformando, exigindo novas proficiências na supervisão da IA, governança de dados e tomada de decisão ética
Para saber mais sobre o estado de TI: Relatório de Segurança, você pode visitar aqui.
