Titulo Estágio
Segurança em Federated Learning para Deteção de Anomalias
Áreas de especialidade
Sistemas Inteligentes
Local do Estágio
Rua Dom João Castro n.12, 3030-384 Coimbra, Portugal
Enquadramento
Aplicações distribuídas de grande escala requerem cada vez mais uma abordagem diferenciada no que respeita à preservação da sua segurança e privacidade. Abordagens clássicas, centralizadas e exclusivamente baseadas em técnicas de matchmaking e/ou processos manuais não respondem a todos os desafios de segurança e privacidade expectáveis atualmente. Hoje em dia é imperativo a existência de mecanismos de análise de diversos tipos de dados com vista à deteção de problemas de segurança sob a forma de anomalias. A integração de processos inteligentes e distribuídos potenciam uma análise de dados mais automatizada e escalável capaz de detetar padrões, doutra forma inviável. Federated Learning surge na literatura como uma abordagem que permite o treino e utilização de modelos de Machine Learning descentralizados. Quando aplicada no campo da segurança, esta permite, por exemplo, a análise de grandes volumes de tráfego de rede de uma forma mais automatizada e descentralizada. Mais, por design, esta permite ainda preservar a privacidade dos dados ao não depender da troca de dados, potencialmente sensíveis, com um componente centralizado. Apesar da sua arquitetura, o princípio de Federated Learning continua a ser suscetível a alguns problemas de segurança, pelo que vários mecanismos e abordagens podem ser tomadas, desde segurança nas comunicações entre os nós, a verificação e garantia de integridade dos modelos ou até mecanismos seguros de agregação de dados, capazes de lidar com ataques de injeção de dados falsos nos modelos. Este estágio irá complementar o trabalho atualmente a decorrer no desenvolvimento de uma ferramenta para a deteção de anomalias na rede com recurso a Federated Learning, focando-se em aumentar a segurança e confiabilidade dessa mesma ferramenta.
Objetivo
Os objetivos deste trabalho são:
1. Levantamento do estado de arte relativamente a mecanismos de segurança para Federated Learning, incluindo mecanismos para preservação da privacidade e confiança.
2. Análise da ferramenta a ser desenvolvida, e identificação dos tipos de mecanismos a implementar e o impacto dos mesmos na ferramenta.
3. Especificação, integração e validação dos mecanismos identificadas na plataforma em desenvolvimento.
4. Integração do sistema no âmbito dos projetos em que se enquadra e avaliação do seu desempenho.
Plano de Trabalhos - Semestre 1
T1.1- Análise do estado da arte de Federated Learning e os mecanismos de segurança.
T1.2 Identificação de casos de uso no qual a segurança terá um impacto positivo.
T1.3- Implementação dos primeiros Proof of Concepts e protótipo inicial da plataforma.
A conclusão destas tarefas inclui a elaboração de documentação técnica.
Plano de Trabalhos - Semestre 2
T2.1- Especificação de um conjunto de cenários e testes para a avaliar o desempenho dos mecanismos de segurança e da plataforma.
T2.2- Desenvolvimento dos requisitos e funcionalidades previamente identificados.
T2.3- Integração e validação da plataforma nos casos de uso do projeto em que se enquadra.
T2.4- Elaboração de documentação, incluindo o relatório de estágio, documentos técnicos e manuais de utilização.
Condições
O estagiário terá todas as condições para realizar as tarefas previstas, sendo integrado nas equipas de investigação e desenvolvimento no âmbito de vários projetos de investigação europeus onde a OneSource está envolvida.
Observações
Os trabalhos previstos neste estágio estão enquadrados na participação que a OneSource tem no âmbito de vários projetos de investigação europeus.
Orientador
Luis Miguel Batista Rosa
luis.rosa@onesource.pt 📩