KAN: Kolmogorov–Arnold Networks

• arxiv链接：arxiv.org/abs/2404.19756

• 本文提出了基于KA（Kolmogorov Arnold）定理的K-A网络并与MLP进行比较。与MLP最大的不同是MLP在节点（神经元）上具有固定的激活函数，而KAN在边（权重）上具有可学习的激活函数。即KAN天生就不是线性权重——每个权重参数都被参数化为样条曲线的单变量函数所替代。

  本文发现这个改动使得KAN在准确性和可解释性方面要优于MLP。具体而言在数据拟合和PDE求解，更小的KAN便可以与一个大MLP取得相同的准确性。同时KAN可以直观的可视化，便于人工交互，即更好的可解释性。总而言之本文认为KAN非常有理由成为MLP的替代品。