智客 ZICQ
EN 登录 / 注册
智客前沿 前沿论文 #LLM #金融预测 #量化交易 #多模态学习 #合成数据

LLM能否预测股价?The Gradient深度剖析金融市场的AI应用与挑战

Mr.Xu 的头像

文 / Mr.Xu 智客前沿编译 · 审校

发布时间: · 5 次阅读

中文阅读 (Chinese) English Version
共读互动 选中正文任意句子即可高亮划线、写下你的技术批注,或一键生成金句引用卡。 直达讨论区 ↓

摘要:The Gradient 发表深度技术文章,系统探讨大语言模型(LLM)在金融市场的应用前景与核心挑战。文章指出,尽管LLM在自然语言处理上表现卓越,但金融时间序列的预测难度远高于语言建模,主要受限于数据稀缺、信噪比低和市场有效性。作者分析了多模态学习、残差化、长上下文窗口等AI技术在金融中的潜在价值,并提出了合成数据生成、极端事件建模等创新方向。文章认为,LLM短期内难以取代量化交易,但有望在基本面分析中成为投资者的“查理·芒格”,为每位投资者提供深度洞察。


引言

2023年,AI革命推动了私募和公开市场的疯狂投资,并吸引了公众的想象力。像ChatGPT这样的变革性消费产品由大语言模型(LLM)驱动,这些模型擅长建模代表单词或词元的序列。令人惊讶的是,从学习下一个词元预测中涌现出结构性理解,智能体能够完成翻译、问答和生成类人散文等任务。

自然,量化交易者不禁发问:我们能否将这些模型转化为下一个价格或交易预测器?也就是说,与其建模单词序列,不如建模价格或交易序列。这被证明是一条有趣的探究路线,它揭示了生成式AI和金融时间序列建模的诸多奥秘。

LLM与金融时间序列:本质差异

LLM是自回归学习器——利用序列中的先前词元或元素来预测下一个元素或词元。在量化交易中,例如股票统计套利策略,大多数研究关注识别自回归结构,即寻找最能预测未来价格的新闻、订单或基本面变化序列。

然而,问题在于可用于训练模型的数据数量和信息含量。在2023年NeurIPS会议上,高频交易公司Hudson River Trading比较了GPT-3训练所用的输入词元数量与股票市场每年可训练的词元数量。HRT估计,以3000只可交易股票、每只股票每天10个数据点、每年252个交易日、每个交易日23400秒计算,每年可获得1770亿个股票市场词元。GPT-3训练了5000亿个词元,所以相差不远。

但在交易背景下,词元将是价格、收益或交易,而非音节或单词;前者更难预测。语言具有潜在的语法结构,人类预测句子中的下一个词并不难,但预测给定先前交易序列的下一个收益则极具挑战,因此没有亿万富翁日内交易者。挑战在于,市场中有非常聪明的人竞争掉任何信号,使其几乎有效(用经济学家Lasse Pedersen的话说,“高效地低效”),因此不可预测。没有对手会主动让句子更难预测——相反,作者通常力求让句子易于理解,从而更可预测。

从另一个角度看,金融数据中的噪声远多于信号。个人和机构交易的原因可能不理性,或与业务基本面变化无关,2021年的GameStop事件就是例子。金融时间序列也随着新的基本面信息、监管变化以及偶尔的大规模宏观变化(如货币贬值)而不断变化。语言的演变速度则慢得多,时间跨度更长。

AI技术在金融中的潜在应用

尽管存在挑战,但有理由相信AI思想能在金融市场中发挥作用。一个新兴的AI研究领域是多模态学习,旨在利用不同模态的数据(如图像和文本输入)构建统一模型。在金融中,多模态方法可以结合传统来源(如价格、交易、成交量等技术时间序列数据)与不同模态的替代数据(如Twitter上的情绪和图形交互、自然语言新闻文章和公司报告,或大宗商品港口的航运卫星图像)。利用多模态AI,人们可能整合所有这些非价格信息来进行良好预测。

另一种在金融和AI中都很重要的策略是“残差化”,尽管在两个领域中扮演不同角色。在金融中,结构化因子模型将不同资产收益的同时观测分解为共同成分(市场收益或更一般的市场共同因子收益)和每个资产特有的异质成分。市场和因子收益难以预测并产生相互依赖,因此在单个资产层面进行预测时,移除共同元素并最大化数据中独立观测的数量通常是有帮助的。

在残差网络架构(如Transformer)中,也有类似思想:我们希望学习输入X的函数h(X),但学习h(X)相对于恒等映射的残差可能更容易,即h(X) – X。如果h(X)接近恒等,其残差接近零,因此需要学习的内容更少,学习可以更高效。在这两种情况下,目标都是利用结构来细化预测:在金融中,重点是预测超出整体市场隐含的创新;在残差网络中,重点是预测恒等映射的创新。

LLM出色性能的关键因素之一是它们能够在长上下文窗口内辨别词元之间的亲和力或强度。在金融市场中,跨长时域集中注意力的能力使得多尺度现象分析成为可能,市场变化的某些方面可以在非常不同的时间范围内解释。例如,基本面信息(如盈利)可能在数月内被纳入价格,技术现象(如动量)可能在数天内实现,而微观结构现象(如订单簿不平衡)的时间范围可能从秒到分钟。

捕捉所有这些现象涉及跨上下文窗口的多时间范围分析。然而,在金融中,预测多个未来时间范围也很重要。例如,量化系统可能寻求利用在多个时间范围内实现的多种异常进行交易(例如同时押注微观结构事件和盈利事件)。这要求不仅预测股票下一期收益,还要预测预期收益的整个期限结构或轨迹,而当前的Transformer式预测模型只关注未来一期。

LLM在金融市场的另一个应用可能是合成数据生成。这可以有几个方向。可以生成模拟股票价格轨迹,模仿市场中观察到的特征,鉴于金融数据相对于其他来源稀缺(如上文词元数量所示),这可能非常有益。人工数据可以为元学习技术打开大门,这些技术已成功应用于机器人等领域。在机器人领域,控制器首先使用廉价但不一定准确的物理模拟器进行训练,然后使用昂贵的真实世界实验进行校准。在金融中,模拟器可用于粗略训练和优化交易策略。模型将学习风险规避和分散化等高层概念,以及诸如缓慢交易以最小化交易价格影响等战术概念。然后,珍贵的真实市场数据可用于微调预测并确定最佳交易速度。

金融市场从业者通常对极端事件感兴趣,即交易策略更可能经历重大收益或损失的时刻。能够从极端情景中采样的生成模型可能有用。然而,极端事件按定义很少发生,因此确定正确的参数并从相应分布中采样数据是困难的。

结论:LLM在金融中的未来

尽管对LLM在量化交易中的应用持怀疑态度,但它们可能提升基本面分析。随着AI模型的改进,很容易想象它们帮助分析师完善投资论点、发现管理层评论中的不一致之处,或发现相邻行业和企业之间的潜在关系。本质上,这些模型可以为每位投资者提供一个“查理·芒格”。

当前生成式AI革命令人惊讶的是,它几乎让所有人——学术研究人员、尖端技术公司和长期观察者——都感到意外。构建越来越大模型会导致涌现能力的想法完全出乎意料,至今仍未完全理解。

这些AI模型的成功加速了人力和资本流向AI,这反过来又应导致更好、更强大的模型。因此,尽管GPT-4类模型接管量化交易的可能性目前不大,但我们主张保持开放心态。期待意外一直是AI业务中盈利的主题。


原文出处:Richard Dewey and Ciamac Moallemi, "Financial Market Applications of LLMs," The Gradient, 2024. 链接

—— 完 ——

主题标签: #LLM #金融预测 #量化交易 #多模态学习 #合成数据

编辑部与事实核查说明:本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译,经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏,欢迎依据勘误方针或一键向编辑部发送勘误反馈。

读完这篇,你的第一判断是?
🚀 去【作品】晒出你的相关实践

社区整体评论区

正在加载实时智能评论与划词标注…