ReLU激活函数在基于物理知识的机器学习中的局限性

这篇 ArXiv 论文强调了在基于物理知识的机器学习模型中使用 ReLU 激活函数的重要限制。 这一发现可能会促使人们重新评估特定任务和应用的架构选择，从而推动模型设计的创新。

• •在基于物理知识的模型的背景下，ReLU 激活的性能受到质疑。
• •这项研究可能会确定 ReLU 表现不佳的特定情况。
• •该研究可能会导致在该领域采用替代激活函数。