Nesta disciplina vamos introduzir os conceitos elementares da teoria de matrizes e do cálculo tensorial fazendo uma abordagem do ponto de vista de aplicações modernas destas teorias, em problemas de otimização, processamento em paralelo, aprendizado de máquinas e redes neurais.

80 horas.

• Dia 1: Introdução à teoria de matrizes.
• Dia 2: Decomposição de matrizes. 
• Dia 3: Computação paralela e multiplicação de matrizes. 
• Dia 4: Teoria de operadores (matrizes). 
• Dia 5: Algoritmos matriciais em redes neurais. 
• Dia 6: Introdução ao cálculo tensorial. 
• Dia 7: Tipos de tensores e propriedades. 
• Dia 8: Álgebra de tensores. 
• Dia 9: Cálculo tensorial. 
• Dia 10: Introdução às redes tensoriais. 

• Definição, propriedades e operações.
• Matrizes especiais. 
• Matrizes e determinantes. 
• Matrizes de transformações lineares. 

• Decomposição QR. 
• Decomposição de Cholesky. 
• Ortogonalização. 
• Matrizes de Householder. 

• Introdução e conceitos básicos. 
• Multiplicação de matrizes e algoritmos. 
• Decomposição e estrutura de dados. 
• Espaços de Krylov.

• Operadores lineares como transformações lineares. 
• Operadores especiais. 
• Aplicações em otimização. 
• Aplicações em redes neurais. 

• Estrutura e design de redes neurais. 
• Otimização e regularização. 
• Algoritmos de otimização em redes neurais. 

• Exemplos e definição de tensores. 
• Representando tensores geometricamente.
• Notação de Einstein (com índices). 
• Notação abstrata sem índices. 
• Formas multilineares. 

• Tensores covariantes e contravariantes. 
• Ordem e rank de tensores. 
• Tensores de ordem maiores. 
• Transformação de coordenadas. 
• Espaços de Riemann. 

• Adição, subtração e multiplicação de tensores.
• Espaços vetoriais e soma direta. 
• Produto tensorial. 
• Contração e lei do quociente. 
• Produto escalar e vetorial, delta de Kronecker e outras identidades.

• Diferenciação de vetores (e bases de espaços). 
• O tensor métrico e conexões. 
• Derivada covariante (gradiente, divergente e rotacional, etc). 
• Outros tipos de operadores. 

• Espaço de Hilbert e notação braket. 
• Representação gráfica e diagramática de tensores. 
• Operador densidade, representação e evolução de estados. 
• Circuitos quânticos in a nutshell. 
• Integrais de caminhos como redes tensoriais. 

• Golub, Gene & Van Loan, Charles F. Matrix computations. 3. ed.  Baltimore, Johns Hopkins University, 1996.
• Stewart, G. W. Matrix algorithms, vol. 1: basic decompositions. Philadelphia, SIAM, 1998.
  
• Stewart, G. W. Matrix algorithms, vol. 2: eigesystems. Philadelphia, SIAM, 2001.
• Meyer, C. D. Matrix analysis and Applied linear algebra. Philadelphia, SIAM, 2000.
• https://arxiv.org/pdf/1912.10049.pdf
• https://www2.karlin.mff.cuni.cz/~mirektuma/ps/pp.pdf
• https://arxiv.org/pdf/1908.02400.pdf
• https://arxiv.org/pdf/1601.03805.pdf
• https://papers.nips.cc/paper/5787-tensorizing-neural-networks.pdf
• https://arxiv.org/pdf/1403.2048.pdf
• https://arxiv.org/pdf/1708.00006.pdf