量化投资周报：Transformer用于量化投资论文推荐

免责声明和披露以及分析师声明是报告的一部分，请务必一起阅读。 1 证券研究报告 金工 Transformer 用于量化投资论文推荐 华泰研究 研究员 林晓明 SAC No. S0570516010001 SFC No. BPY421 linxiaoming@htsc.com +(86) 755 8208 0134 研究员 何康，PhD SAC No. S0570520080004 SFC No. BRB318 hekang@htsc.com +(86) 21 2897 2039 研究员 李子钰 SAC No. S0570519110003 SFC No. BRV743 liziyu@htsc.com +(86) 755 2398 7436 联系人 陈伟 SAC No. S0570121070169 chenwei018440@htsc.com +(86) 21 2897 2228 2023 年 4 月 02 日│中国内地 量化投资周报 本文推荐 3 篇将 Transformer 运用于量化投资的论文 Transformer 模型于 2017 年提出，是 GPT 系列模型的奠基者。Transformer具备多模态数据（文本、图像、语音、时间序列等）学习能力，融合各种模态信息的大模型有可能突破目前量化投资的上限。本文推荐 3 篇将Transformer 运用于量化投资的论文，论文涉及时间序列预测、多模态、多任务预测等。 文本 FADT_BERT 组合今年绝对收益 18.78%，相对中证 500 超额 10.67% 截至 2023 年 3 月 31 日，文本 FADT_BERT 组合上周绝对收益 1.62%，今年以来绝对收益为 18.78%，相对中证 500 超额收益 10.67%。组合自 2009年初回测以来年化收益率 45.11%，相对中证 500 超额年化收益率 34.98%，组合夏普比率 1.56。 文本 FADT 组合今年绝对收益 13.55%，相对中证 500 超额 5.45% 截至 2023 年 3 月 31 日，文本 FADT 组合上周绝对收益 1.44%，今年以来绝对收益 13.55%，相对中证 500 超额收益 5.45%。组合自 2009 年初回测以来年化收益率 42.44%，年化超额收益率 32.94%，夏普比率 1.44。 中证 1000 增强组合上周超额收益-1.02%，今年超额收益 2.99% 截至 2023 年 3 月 31 日，中证 1000 增强组合相对中证 1000 上周超额收益为-1.02%，今年以来超额收益为 2.99%。模型 2018 年初回测以来相对中证1000 年化超额收益率为 25.27%，年化跟踪误差为 8.22%，信息比率为 3.07，超额收益最大回撤为 6.75%，超额收益 Calmar 比率为 3.75。 机构调研选股相对中证 500 上周超额收益-0.43%，今年超额收益 3.61% 截至 2023 年 3 月 31 日，机构调研选股组合相对中证 500 上周超额收益为-0.43%，今年以来超额收益为 3.61%。模型回测以来年化收益率为 28.34%，相对中证 500 年化超额收益率为 21.63%，信息比率为 2.05，超额收益最大回撤为 14.42%。 GAT+residual 模型上周超额收益 0.55%，今年以来超额收益-2.22% 截至 2023 年 3 月 31 日，GAT+residual 模型上周超额收益为 0.55%，今年以来超额收益为-2.22%。模型 2011 年初回测以来年化超额收益率为15.57%，年化跟踪误差为 5.85%，信息比率为 2.66，超额收益最大回撤为8.30%，超额收益 Calmar 比率为 1.87。 风险提示：通过人工智能模型构建选股策略是历史经验的总结，存在失效的可能。人工智能模型可解释程度较低，使用须谨慎。本报告对基金历史数据进行梳理总结，不构成任何投资建议。 免责声明和披露以及分析师声明是报告的一部分，请务必一起阅读。 2 金工研究 Transformer 运用于量化投资论文推荐 2017 年，Google 在其论文”Attention Is All You Need”中提出了 Transformer 架构，Transformer 在传统的 CNN 和 RNN 体系之外，开创了一种完全基于注意力机制的网络架构。Transformer 的提出启发了后续大规模预训练模型的出现，是 GPT 系列模型的奠基者。Transformer 具备多模态数据（文本、图像、语音、时间序列等）学习能力，融合各种模态信息的大模型有可能突破目前量化投资的上限。本文推荐 3 篇将 Transformer 运用于量化投资的论文，论文涉及时间序列预测、多模态、多任务预测等。 1. Time Series Forecasting with Transformer Models and Application to Asset Management. 论文简介：该论文由 Amundi（东方汇理资产管理）于今年发表。Transformer 通过注意力机制和 seq2seq 架构来捕捉跨资产的长程依赖和互动，从而实现多步时间序列预测。进一步，论文介绍了将 Transformer 运用于趋势跟踪策略和多期投资组合优化。 趋势跟踪策略的投资标的由 24 种商品期货、9 种股票指数期货、13 种债券期货和 12 种货币远期构成。论文采用 logistic 回归、SVM 和 Transformer 对各资产的周度收益率进行分二分类预测。最后对 3 种机器学习策略进行集成，采用风险平价方法配置，集成策略的表现优于基准策略。 对于多期投资组合优化的问题，论文使用 Transformer 对波动率时间序列进行多期预测，投资标的包括基于标普 500 和欧洲斯托克 50 的期货合约，以及基于美国和德国 10Y 主权债券的期货合约。将波动率的预测值作为均值方差模型和风险平价模型的输入。论文比较了基于历史估计波动率的多期最优投资组合和基于 Transformer 预测波动率的多期最优投资组合之间的差异。发现使用 Transformer 模型的投资组合表现更好。 2. NumHTML: Numeric-Oriented Hierarchical Transformer Model for Multi-task Financial Forecasting 论文简介：该论文发表在 2022 年的 AAAI 会议。论文提出了一个面向数字的分层转换模型（Numeric-oriented Hierarchical Transformer Model , NumHTML），通过利用不同类别的数值数据（货币、时间、百分比等）和多模态对齐的电话会议数据，以预测股票的涨跌。投资标的为标普 500 成分股，所采用的数据集主要包含 576 份财务电话会议数据（共由88829 个文本、音频对齐的句子组成）。 论文提出的 NumHTML 模型由三个核心部分组