Riscos-Ocultos-da-IA-e-Ciberseguranca-2.pdf

Riscos-Ocultos-da-IA-e-Ciberseguranc

1. Riscos Ocultos da IA e
Cibersegurança

2. Quem utiliza IA?

3. Quem questiona o que a IA produz?

7. 1º Risco: Perda da capacidade de questionar,
validar. O modelo nem sempre está correto.

8. 2º Risco: Aumento da superfície de ataque

10. Shadow IT (3º risco)
O Shadow IT representa ferramentas e aplicações de IA adotadas pelos
colaboradores sem aprovação formal da organização.
Adoção Sem Autorização
Colaboradores utilizam chatbots e
ferramentas de IA sem supervisão
Perda de Controlo
Empresa perde visibilidade sobre
onde e como os dados sensíveis
são processados

11. 4º risco - Exfiltração de dados
Quando utilizamos sistemas de IA, devemos sempre considerar
a anonimização dos dados como prática fundamental de
segurança.

12. Exemplos Práticos do Dia a Dia
5º Risco - Vulnerabilidades
Um desenvolvedor pediu à IA para gerar um site (Lovable), mas o resultado
continha vulnerabilidades que permitiam o acesso indevido.
Chatbots sem proteções adequadas podem ser manipulados para divulgar
informações sensíveis ou executar ações prejudiciais dentro dos sistemas da
empresa.
6º risco - Fraude por Deepfake
Um gestor financeiro recebeu uma videochamada do "CEO" (na verdade, um
deepfake) solicitando uma transferência urgente, resultando em perdas
significativas.

13. Como Reduzir os Riscos na Sua Organização
1Implementar
Governança de Dados
Defina políticas claras sobre
quais ferramentas de IA são
permitidas e como devem ser
utilizadas, com monitorização
contínua.
2Formação de
Colaboradores
Desenvolva programas de
formação que ensinem o uso
seguro e ético da IA,
identificando sinais de alerta.

14. O Futuro da Segurança com
IA: Vigilância e Adaptação
1
Monitorar
A análise contínua de tráfego e
comportamentos anómalos
gerados por IA torna-se
fundamental para identificar
ataques sofisticados antes que
causem danos.
2
Preparar para o
Imprevisto
Protocolos para responder a
ameaças emergentes e novos
vetores de ataque baseados em
IA que ainda não conhecemos.

15. Responsabilidade pelo Uso da IA: Quem Responde?
Conselho/C-Level
Direção estratégica e responsabilidade final
Equipa de TI
Definição e implementação de controles
Gestores de Departamento
Supervisão operacional e conformidade
Utilizadores
Adoção segura e reporte de incidentes
Gestores têm responsabilidade legal pela utilização segura e ética da IA nas suas
equipas, incluindo:
•Conformidade com regulamentos de proteção de dados
•Mitigação de riscos de segurança
•Prevenção de uso discriminatório ou antiético
Caso real: A OpenAI enfrentou sérias consequências reputacionais quando uma falha
no sistema expôs conversas privadas de utilizadores a outros utilizadores não
relacionados.
O incidente destacou que mesmo os líderes em IA não estão imunes a falhas de
segurança significativas.

16. A Importância de Regras
Claras e Escritas
Políticas explícitas de utilização de IA são fundamentais para minimizar
vulnerabilidades.
A documentação clara estabelece responsabilidades e processos,
eliminando zonas cinzentas (riscos) que são exploradas por atacantes.

17. Wrap Up
1.Regras claras e documentadas para utilização de IA em toda a
organização
2.Anonimização rigorosa de todos os dados processados por sistemas de
IA
3.Controlo efetivo do Shadow IT através de políticas e monitorização
4.Pensamento crítico. Questionar e desconfiar sempre.