Berkeley AI Research·AI 评分48
如何大规模识别 LLM 的交互作用
Identifying Interactions at Scale for LLMs
AI 导读
SPEX 和 ProxySPEX 通过消融与稀疏恢复,大规模识别 LLM 中影响输出的交互作用。ProxySPEX 利用交互的层级结构,以约 10x 更少的消融次数达到 SPEX 的性能;在情感分析中,SPEX 在特征规模增至数千时仍保持较高的归因忠实度。
来源:Berkeley AI Research · bair.berkeley.edu