V
主页
KAN论文分享
发布人
KAN: Kolmogorov–Arnold Networks >内容简介:受柯尔莫哥洛夫-阿诺德表示定理的启发,我们提出柯尔莫哥洛夫阿诺德网络(KAN)作为多层感知器(MLP)的有前途的替代品。 MLP 在节点(“神经元”)上具有固定的激活函数,而 KAN 在边缘(“权重”)上具有可学习的激活函数。 KAN 根本没有线性权重——每个权重参数都被参数化为样条函数的单变量函数所取代。 我们证明,这种看似简单的改变使得 KAN 在准确性和可解释性方面优于 MLP。 就准确性而言,在数据拟合和 PDE 求解中,较小的 KAN 可以比较大的 MLP 获得可比或更好的准确性。 从理论上和经验上来说,KAN 比 MLP 拥有更快的神经尺度法则。 为了可解释性,KAN 可以直观地可视化,并且可以轻松地与人类用户交互。 通过数学和物理领域的两个例子,KAN 被证明是有用的“合作者”,帮助科学家(重新)发现数学和物理定律。 总之,KAN 是 MLP 的有前途的替代品,为进一步改进当今严重依赖 MLP 的深度学习模型提供了机会。受柯尔莫哥洛夫-阿诺德表示定理的启发,我们提出柯尔莫哥洛夫阿诺德网络(KAN)作为多层感知器(MLP)的有前途的替代品。 MLP 在节点(“神经元”)上具有固定的激活函数,而 KAN 在边缘(“权重”)上具有可学习的激活函数。 KAN 根本没有线性权重——每个权重参数都被参数化为样条函数的单变量函数所取代。 我们证明,这种看似简单的改变使得 KAN 在准确性和可解释性方面优于 MLP。 就准确性而言,在数据拟合和 PDE 求解中,较小的 KAN 可以比较大的 MLP 获得可比或更好的准确性。 从理论上和经验上来说,KAN 比 MLP 拥有更快的神经尺度法则。 为了可解释性,KAN 可以直观地可视化,并且可以轻松地与人类用户交互。 通过数学和物理领域的两个例子,KAN 被证明是有用的“合作者”,帮助科学家(重新)发现数学和物理定律。 总之,KAN 是 MLP 的有前途的替代品,为进一步改进当今严重依赖 MLP 的深度学习模型提供了机会。
打开封面
下载高清视频
观看高清视频
视频下载器
强化学习论文分享20240131
强化学习论文分享20240314_2
强化学习论文分享20240509
强化学习论文分享20240110
强化学习论文分享20240411_2
强化学习论文分享20240117_3
强化学习论文分享20240117_1
强化学习论文分享20240314_1
强化学习论文分享20240411_1
强化学习论文分享20240719_1
强化学习论文分享2022-09-29
强化学习论文分享20240117_2
强化学习论文分享20240307
矩阵分解论文分享20240613
CV强化论文分享20240704
强化学习论文分享20230619
强化学习论文分享20240613-2
强化学习论文分享2023-01-05
大语言模型(LLM)综述
强化学习论文分享2023-02-02
强化学习论文分享2022-10-06
强化学习论文分享2023-02-23
强化学习论文分享20230814
强化学习论文分享2023-01-12
CV强化论文分享20240418
CV强化论文分享20240808
CV强化论文分享20240801
强化学习论文分享2023-02-09
强化学习论文分享20230417
强化学习论文分享20230522
强化学习论文分享20230316
CV强化论文分享20240530
CV论文分享20240801
强化学习论文分享2023-03-23
强化学习论文分享20230424
强化学习论文分享2022-12-22
强化学习论文分享20230612
强化学习论文分享2023-03-02
强化学习论文分享2022-10-20
强化学习论文分享20240808