Titulo Estágio
Aprendizagem computacional verificável
Áreas de especialidade
Sistemas Inteligentes
Engenharia de Software
Local do Estágio
DEI-FCTUC
Enquadramento
A Inteligência Artificial está a ganhar adoção em áreas nas quais existem vidas humanas dependentes dos resultados produzidos pelo sistema. Exemplos são os veículos autónomos, robôs médicos e urbanos, aviação, etc., nas quais é fundamental assegurar que os sistemas estão corretos.
A aprendizagem computacional é a área de Inteligência Artificial que lida principalmente com algoritmos de aprendizagem supervisionada baseada em exemplos. O resultado da aprendizagem é de difícil verificação, uma vez que a especificação é um conjunto de exemplos e podem ser cometidos erros em novos casos que não estejam nesse conjunto. Assim, é fundamental garantir que o resultado da aprendizagem seja verificável e esteja correto.
Esta dissertação tem como o objetivo o estudo de formas de garantir que é possível verificar e garantir propriedades (fiabilidade, segurança, etc.) de algoritmos de aprendizagem.
Objetivo
Esta dissertação tem como objetivos principais:
- Construir um caso de estudo e preparar um ambiente de desenvolvimento para treinar e avaliar os resultados de algoritmos de Machine Learning.
- Conceber uma abordagem na qual se possa usar algoritmos de aprendizagem baseada em exemplos combinada com um supervisor verificável que irá monitorizar o sistema durante a execução.
- Planear e executar experiências que permitam avaliar se o resultado da aprendizagem (com o supervisor) garante segurança e fiabilidade perante novos casos que não façam parte do conjunto de exemplos de treino.
Plano de Trabalhos - Semestre 1
- Estudo do estado da arte. (Meses 1 e 2)
A primeira fase consistirá em aprofundar conhecimentos nos tópicos relacionados com o estágio, com particular atenção a aprendizagem computacional, artificial networks, tolerância a falhas e injeção de falhas. O trabalho deve resultar na escrita do capítulo da dissertação sobre o estado da arte.
- Construção de um caso de estudo e preparação do ambiente. (Meses 3 e 4)
Esta tarefa consiste em conceber um caso de estudo para treinar e avaliar os resultados da aprendizagem, por forma a obter um ambiente de desenvolvimento e de testes adequado aos objetivos do estágio.
- Versão preliminar da abordagem para conseguir aprendizagem computacional que seja verificável. (Meses 4 e 5)
Desenho e conceção da primeira versão da framework e utilização do caso de estudo para realizar experiências e avaliar os resultados.
- Escrita do relatório intermédio. (Mês 5)
As tarefas realizadas no decorrer do primeiro semestre devem ser documentadas na forma de um relatório intermédio, seguindo-se a sua apresentação pública e discussão. Será importante apresentar nesse relatório os resultados preliminares obtidos.
Plano de Trabalhos - Semestre 2
- Conceção da abordagem para supervisionamento de algoritmos de Machine Learning durante a execução. (Meses 6 e 7)
O objetivo é conceber formas de supervisionar os algoritmos após deployment, devendo o supervisor ser verificável (isto é, sendo possível garantir que o supervisor cumpre os requisitos de segurança e fiabilidade).
- Avaliação da framework e dos métodos de supervisionamento propostos. (Meses 8 e 9)
Para avaliar o método de supervisionamento desenvolvido no passo anterior, o caso de estudo anteriormente desenvolvido será usado para garantir que um algoritmo de Machine Learning tem o comportamento correto ou, caso contrário, o supervisor irá detetar todos os erros.
- Escrita de artigo científico. (Mês 9)
Caso os resultados se revelem promissores será recomendada a escrita de um artigo científico sob a orientação e com a contribuição dos orientadores.
- Escrita da dissertação de Mestrado. (Mês 10)
Deve ser concluída a escrita da dissertação de mestrado e preparada a respetiva apresentação pública. A dissertação deve documentar todo o trabalho realizado, os resultados e as conclusões obtidas.
Condições
Irá ser aberta uma bolsa de investigação à qual o/a Estudante se poderá candidatar para apoiar os trabalhos.
O trabalho irá ser realizado no Departamento de Engenharia Informática da Universidade de Coimbra e o/a Estudante terá acesso a um local de trabalho nos laboratórios do DEI bem como ao equipamento informático necessário.
Observações
Esta tese insere-se no âmbito do projeto AI4EU (www.ai4eu.eu) e há a possibilidade de uma estadia para realização de trabalhos numa das universidades com as quais a U.C. tem colaboração (Paris, Barcelona ou Bolonha).
Orientador
Raul Barbosa / Nuno Lourenço
rbarbosa@dei.uc.pt 📩