Bayan Bruss 与大规模图上的 Transformer - #641

这篇文章总结了一个播客节目，该节目由 Capital One 的应用机器学习研究副总裁 Bayan Bruss 参与。该节目讨论了在 ICML 会议上发表的两篇论文。第一篇论文侧重于可解释的图像表示，探讨了可解释性框架、嵌入维度和对比方法。第二篇论文“GOAT：大规模图上的全局 Transformer”解决了扩展图 Transformer 模型的挑战，包括计算障碍、同质/异质原则和模型稀疏性。该节目提供了关于克服这些挑战的研究方法的见解。

• •该节目讨论了关于可解释图像表示的研究，包括可解释性框架和对比方法。
• •该节目探讨了“GOAT”，一个为大规模图设计的全局 Transformer，解决了计算挑战。
• •该研究旨在通过解决同质/异质原则和模型稀疏性来克服扩展图模型中的计算障碍。