用于股票价格预测的 Attention LSTM 模型

Sat, 14 Jun 2025 00:00:00 +0000

在这篇项目论文中，我提出了一种结合自注意力机制的 LSTM 模型，用于预测个股价格，具体目标为英伟达（Nvidia，NVDA）。我的动机是通过引入注意力机制动态赋予重要时间步更高权重，从而改进传统 LSTM，并帮助模型捕捉标准 LSTM 往往难以充分识别的长期依赖关系。我也强调了特征工程的重要性，不仅纳入 OHLCV 数据，还加入了与英伟达供应链相关的宏观经济指标和大宗商品价格，例如锂、铜和黄金。

我的实验比较了三种模型：基准 LSTM、一个源自 AMV-LSTM 的变体，以及我提出的 Attention LSTM。尽管该变体在训练集上表现最好，F1 分数达到 0.891，但它出现了严重过拟合，并在测试集上崩溃，F1 分数仅为 0.094。相比之下，我的 Attention LSTM 取得了最高的测试集 F1 分数 0.629，比基准模型高出 2%，并展现出更好的泛化能力。我还发现，仅使用 OHLCV 数据训练的模型表现并不优于随机猜测，这进一步证明了多维特征对于该任务至关重要。

我的结论是，将 LSTM 与注意力机制结合，为股票预测提供了一个有前景的方向，尤其是在引入多样化的宏观经济与大宗商品数据后。未来工作可以探索更深层的注意力增强架构，并纳入新闻情绪等语义信息，以进一步提升预测表现。

基于新闻标题情绪分析的 S&P 500 交易策略

Fri, 06 Dec 2024 00:00:00 +0000

该项目已在线完全渲染，可在这里查看。

在这个项目中，我们旨在构建一个能够根据每日新闻标题预测 S&P 500 指数上涨或下跌的模型。我们收集并分析了来自 CNBC、The Guardian 和 Reuters 的三年多新闻标题数据，时间跨度从 2017 年末到 2020 年中，并将其与对应的每日 S&P 500 交易数据结合。我们的探索性数据分析揭示了不同数据集规模的差异、标题中常见停用词占据主导，以及 2020 年初 COVID-19 导致的显著下跌；我们预计这些因素可能会影响模型表现。

我们首先使用基于 TF-IDF 特征的逻辑回归模型作为基准，其准确率仅约为 51%–55%。随后，我们实现了基于 Transformer 的分类器，并进行了大量超参数调优实验，包括调整注意力头数量、应用学习率衰减，以及测试多种文本预处理策略。表现最好的模型移除了停用词，并取得了 61.5% 的测试准确率——虽然提升有限，但高于随机猜测。

我们将该模型转化为一个量化交易策略：当模型预测市场偏空时做空市场。该策略在六个月内产生了超过 10% 的毛收益，显著优于简单的买入并持有策略。尽管结果令人鼓舞，但我们也承认，金融市场受到新闻情绪之外众多因素的影响。我们认为，未来使用 LSTM 或 BERT 等模型可能进一步提升预测表现。

量化研究 | Aaron3963

用于股票价格预测的 Attention LSTM 模型

基于新闻标题情绪分析的 S&P 500 交易策略