Titulo Estágio
Ataques Adversariais a Sistemas de Classificação
Áreas de especialidade
Sistemas Inteligentes
Local do Estágio
Departamento de Engenharia Informática da Universidade de Coimbra
Enquadramento
No contexto atual, podemos encontrar sistemas de Inteligência Artificial nos mais variados serviços (eg. detecção de objectos) e produtos (eg. carros autónomos) do nosso cotidiano. Estes recorrem, frequentemente, a técnicas e modelos de Machine Learning para implementar o seu propósito. No entanto, tem-se demonstrado que muitos destes modelos podem ser enganados através de, por exemplo, pequenas perturbações na informação que lhes é dada. Na presente proposta, pretende-se desenvolver um sistema computacional que permita testar modelos de Machine Learning no domínio visual, em particular através de ataques adversariais.
Objetivo
Análise de abordagens existentes de ataque adversarial em classificação de imagens. Definição e implementação de um conjunto de abordagens de ataque adversarial. Desenvolvimento de uma framework que execute ataques adversariais a modelos inseridos pelo utilizador.
Plano de Trabalhos - Semestre 1
T1 - Realização do estado da arte sobre os diversos tipos de abordagens baseadas em ataques adversariais no domínio de classificação de imagens;
T2 - Estudo de métricas para avaliação da robustez de classificadores;
T3 - Proposta de framework;
T4 - Escrita do relatório intermédio.
Plano de Trabalhos - Semestre 2
T1 - Implementação de um conjunto de abordagens encontradas no estado da arte;
T2 - Proposta e implementação de métrica(s) de qualidade do modelo;
T3 - Desenvolvimento e teste da framework;
T4 - Escrita de artigo científico;
T5 - Escrita da dissertação.
Condições
Este trabalho será realizado nos grupos de investigação Cognitive and Media Systems (CMS/CISUC) e Evolutionary and Complex Systems (ECOS/CISUC).
Existe a possibilidade de o/a aluno/a receber uma bolsa de investigação para Licenciado de pelo menos 6 meses, renovável por igual período mediante acordo entre o orientador e o/a aluno/a. A bolsa seguirá as diretrizes das bolsas mensais da Fundação para a Ciência e Tecnologia (FCT).
Orientador
João Correia / Tiago Martins
jncor@dei.uc.pt 📩