Titulo Estágio
Hybrid Attractor-Separator Deep Learning Network
Áreas de especialidade
Sistemas Inteligentes
Local do Estágio
Lisboa ou Braga
Enquadramento
Enquadramento
A área de Deep Learning (DL) tem vindo a atingir um nível de maturidade bastante elevado nos últimos anos
estando já a ser aplicada em problemas reais da indústria com bastante sucesso. Não obstante, os modelos
de Deep Neural Networks (DNNs) têm-se baseado quase sempre em topologias estáticas cujos nós assentam
no conceito de híper-planos separadores. A imutabilidade à priori da topologia pressupõe um conhecimento
prévio da distribuição de probabilidades subjacente aos dados, ou então um sobredimensionamento no
número de nós separadores lineares para garantir um poder expressivo suficiente para representar a
distribuição dos dados nas regiões do espaço de features.
Objetivo
Objectivos
O principal objectivo deste trabalho de Mestrado é desenhar e desenvolver uma arquitectura de DNN
combinando nós com carácter separador linear (tal como é comummente usado hoje em dia), e nós com
carácter atractor (análogos aos nós das Radial-Basis Function Networks - RBFs) que permitem uma
representação compacta de regiões convexas de acumulação de pontos dos dados origem. Pretende-se com
este trabalho averiguar do acréscimo de poder representativo desta arquitectura híbrida e dos eventuais
ganhos de eficiência no seu treino, nomeadamente em contextos com poucos dados disponíveis (data frugal
learning).
O trabalho encontra-se dividido nos seguintes sub-objectivos:
1. Aprendizagem e Análise de Requisitos: ao longo de uma série de curtas sessões tutoriais, o aluno irá
adquirir os conceitos básicos de Neural Networks, Deep Learning, e Clustering, em contexto industrial,
necessários para a realização do trabalho e que irão auxiliar no processo de análise de requisitos;
2. Design: especificação da arquitectura da solução, suas componentes e interfaces, estruturas de dados e
algoritmos necessários para cumprir todos os requisitos;
3. Implementação, usando a linguagem de programação Python e a framework TensorFlow da solução
previamente desenhada;
4. Validação da solução e sua generalidade aplicando-a na composição de diversas DNNs para domínios
específicos;
5. Comparação da performance do sistema contra ferramentas existentes para resolver problemas
compatíveis com esses sistemas;
6. Publicação: para além da escrita da tese e de um breve manual do utilizador, dependendo da qualidade
dos resultados obtidos, poderá esperar-se a colaboração na submissão de um pedido de patente ou de
artigo científico para publicação descrevendo o sistema implementado e sumarizando os principais
resultados.
Plano de Trabalhos - Semestre 1
Plano de trabalhos Semestre 1 (Tempo parcial 16h/s, no DEI
para alunos de MDM)
Para cumprir os objectivos acima, o trabalho será dividido nas seguintes tarefas:
Tarefa T1 — Aprendizagem e Requisitos
* Período: Setembro 2018
* Descrição: Aprendizagem dos conceitos básicos de machine learning. Identificação de todos os requisitos.
Instalação de sistemas alternativos para as comparações finais de performance.
* Output: Especificação de Requisitos. Primeiras versões das subsecções de “Background”, “Motivation” e
“Objectives” da secção “Introduction” do artigo/pedido de patente a ser submetido.
Tarefa T2 — Design
* Período: Outubro-Novembro 2018
* Descrição: Especificação da arquitectura da solução. Especificação dos vários tipos de nós, ligações,
métodos de aprendizagem e inferência do modelo híbrido. Especificação das estruturas de dados e
algoritmos necessários para implementar todos os mecanismos. Definição de objectivos intermédios e plano
detalhado.
* Output: Arquitectura. Primeira versão da secção “Approach” do artigo/pedido de patente a ser submetido.
Plano de trabalho detalhado.
Tarefa T3 — Relatório intermédio
* Período: Dezembro 2018
* Descrição: Escrita do Relatório intermédio.
* Output: Relatório intermédio
Plano de Trabalhos - Semestre 2
Plano de trabalhos Semestre 2 (Tempo inteiro 40h/s)
Tarefa T4 — Revisões
* Período: Janeiro 2019
* Descrição: Ajustamento do plano de trabalhos e revisão do relatório incluindo as indicações do júri da
defesa intermédia.
* Output: Objectivos, relatório e plano de trabalhos detalhado revistos.
Tarefa T5 — Implementação e Validação
* Período: Janeiro-Abril 2019
* Descrição: Implementação da solução.
* Output: Sistema implementado, testado e validado. Primeira versão da descrição da secção
“Implementation Principles” do artigo/pedido de patente a ser submetido.
Tarefa T6 — Comparação e Publicação
* Período: Abril-Maio 2019
* Descrição: Comparação de performance entre a ferramenta desenvolvida e outras ferramentas já existentes
para problemas compatíveis. Escrita e submissão da versão final do artigo, ou escrita da versão preliminar
do pedido de patente.
* Output: Comparação detalhada de performance. Primeira versão da secção “Comparisons” do artigo a ser
submetido. Versão final do artigo a ser submetido/preliminar do pedido de patente a ser submetido.
Tarefa T7 — Escrita da Tese
* Período: Janeiro-Maio 2019
* Descrição: Escrita do documento da Tese
* Output: Tese de Mestrado
Condições
O trabalho decorrerá na Accenture em Lisboa, sendo que o(a) aluno(a) usará um computador portátil da
Accenture. O estágio terá uma remuneração mensal de 800€ de bolsa durante a duração (9 meses) do
estágio.
Orientador
Alexandre Miguel dos Santos Martins Pinto
alexandre.pinto@accenture.com 📩