1 前言
关于矩阵的运算,其实之前写过一篇:算法矩阵提速原理_矩阵分块计算速度会更快嘛-CSDN博客
还是那句话,计算机懂个毛的高等数学。只是矩阵运算的并行性和结构化特点与 SIMD/GPU 的执行模型非常一致。在实际硬件实现中,许多矩阵运算会被映射为 SIMD/GPU 指令执行流程。因此,在软件建模或算法模拟过程中,可以使用矩阵运算来类比、模拟 SIMD/GPU 的行为,特别是在信号处理、图像处理和深度学习等场景中。
好了,简而言之,线性代数就是现代算法的通用建模工具。
矩阵计算和现代计算机体系的关系:
特性 | 映射到计算机体系 |
---|---|
向量加法 | 对应 SIMD 指令、GPU 多线程加法 |
矩阵乘法 | 可以用高效缓存结构 + 并行乘加运算执行 |
向量点积、矩阵转置等 | 可以流水线、并行、块优化处理 |
稀疏矩阵操作 | 对应更高效的数据结构和存储优化 |
2 向量基础
2.1 加减法
2.2 点积