Titulo Estágio
Ataques Adversariais a Sistemas de Classificação
Áreas de especialidade
Sistemas Inteligentes
Local do Estágio
DEI-FCTUC
Enquadramento
No contexto atual, podemos encontrar sistemas de Inteligência Artificial nos mais variados serviços (eg. detecção de objectos) e produtos (eg. carros autónomos) do nosso cotidiano. Estes recorrem, frequentemente, a técnicas e modelos de Machine Learning para implementar o seu propósito. No entanto, tem-se demonstrado que muitos destes modelos podem ser enganados através de, por exemplo, pequenas perturbações na informação que lhes é dada. Na presente proposta, pretende-se desenvolver um sistema computacional que permita testar modelos de Machine Learning no domínio visual, em particular através de ataques adversariais.
Objetivo
- Análise de abordagens existentes de ataque adversarial em classificação de imagens;
- Definição e implementação de um conjunto de abordagens de ataque adversarial;
- Desenvolvimento de uma framework que execute ataques adversariais a modelos inseridos pelo utilizador.
Plano de Trabalhos - Semestre 1
1 - Realização do estado da arte sobre os diversos tipos de abordagens baseadas em ataques adversariais no domínio de classificação de imagens;
2 - Estudo de métricas para avaliação da robustez de classificadores;
3 - Proposta de framework;
4 - Escrita do relatório intermédio.
Plano de Trabalhos - Semestre 2
1 - Implementação de um conjunto de abordagens encontradas no estado da arte;
2 - Proposta e implementação de métrica(s) de qualidade do modelo;
3 - Desenvolvimento e teste da framework;
4 - Escrita de artigo científico;
5 - Escrita da dissertação.
Condições
O trabalho será desenvolvido no Centro de Informática e de Sistemas da Universidade de Coimbra (CISUC), onde haverá um acompanhamento regular por parte dos orientadores. O aluno terá acesso a uma sala de trabalho.
Observações
O aluno deverá ter conhecimento de programação em Python.
Orientador
João Nuno Gonçalves Costa Cavaleiro Correia / Tiago Filipe dos Santos Martins
jncor@dei.uc.pt 📩