-
Apresentação
Apresentação
A disciplina Fundamentos do Processamento de Linguagem Natural (NLP) oferece uma exploração aprofundada no mundo da linguística computacional, com o objetivo de fornecer aos alunos uma compreensão robusta das ferramentas, técnicas e modelos essenciais para analisar e processar dados de linguagem humana. Desenhado para 15 semanas, esta disciplina começa por tópicos fundamentais, como normalização de texto e expressões regulares, e avança para a temas mais complexos em NLP, como a semântica vetorial e as revolucionárias arquiteturas de transformadores, incluindo a engenharia de prompts em chatGPT.
-
Disciplina do curso
Disciplina do curso
-
Grau | Semestres | ECTS
Grau | Semestres | ECTS
Mestre | Semestral | 7
-
Ano | Natureza | Lingua
Ano | Natureza | Lingua
2 | Obrigatório | Português
-
Código
Código
ULHT6347-26022
-
Pré-requisitos e co-requisitos
Pré-requisitos e co-requisitos
Não aplicável
-
Estágio Profissional
Estágio Profissional
Não
-
Conteúdos Programáticos
Conteúdos Programáticos
Introdução e conceitos básicos Expressões regulares e normalização de texto Modelação de tópicos Bag-of-words Parte I: NMF e LDA Modelação de tópicos Bag-of-words Parte II: interpretação Naive Bayes e Classificação de Sentimento Conceitos fundamentais sobre semântica vetorial Word2Vec Transformadores e modelos de linguagem pré-treinados Fine-tuning e modelos de linguagem mascarados LLM Prompting
-
Objetivos
Objetivos
Desenvolver um entendimento fundamental dos conceitos básicos e desafios em NLP. Adquirir competências no uso de expressões regulares para processamento e normalização de texto. Obter insights sobre várias técnicas de modelação de tópicos, incluindo NMF, LDA e outros. Entender os princípios por trás do Naive Bayes e sua aplicação na classificação de sentimento. Compreender profundamente a semântica vetorial, word-embeddings e o seu poder de inferência Compreender a mecânica e implementação do modelo Word2Vec. Aprender sobre o poder das arquiteturas recentes de transformadores e modelos pré-treinados em NLP. Aprender técnicas avançadas de prompt engineering, fine-tuning em masked models for tarefas específicas.
-
Metodologias de ensino e avaliação
Metodologias de ensino e avaliação
A disciplina Fundamentos de NLP implementa uma combinação de instrução teórica e prática que promove uma aprendizagem abrangente às diversas áreas relevantes. Aulas expositivas tradicionais serão realizadas para elucidar conceitos, modelos e técnicas, complementados com exemplos do mundo real e estudos de caso. Para aprimorar o entendimento prático, cada aula será acompanhada por tutoriais que oferecem aos alunos oportunidades de aplicar o que aprenderam, trabalhar em projetos e resolver problemas em um ambiente orientado. Estes tutoriais e fichas práticas garantem que os alunos não apenas compreendam os fundamentos teóricos, mas também ganhem experiência prática, preparando-os para trabalho académico como para aplicações industriais.
-
Bibliografia principal
Bibliografia principal
Jurafsky, D., & Martin, J. H. Speech and Language Processing: An Introduction to Natural Language Processing, Computational Linguistics, and Speech Recognition. 3rd Edition
-
Horário de Atendimento
Horário de Atendimento
-
Mobilidade
Mobilidade
Não