跳到正文
原文
OpenAI News·· 2019-04-23AI 评分28

OpenAI 发布 Sparse Transformer:序列预测新纪录

Generative modeling with sparse transformers

AI 导读

OpenAI 开发 Sparse Transformer,在文本、图像和声音的序列预测中刷新纪录。该模型通过改进注意力机制算法,能处理比此前长 30 倍的序列以提取模式。

来源:OpenAI News · openai.com