The Gradient 长文呼吁:以人类福祉为核心,构建 AI 的积极愿景
摘要:The Gradient 发表深度长文,系统探讨如何将 AI 的发展与人类福祉相结合。文章指出,当前 AI 发展受利润、新奇性和参与度驱动,缺乏对幸福感的关注。作者提出,需要以个体幸福感和社会健康为基石,构建 AI 的积极愿景,并给出了具体的研究方向:理解目标、测量 AI 对幸福感的影响、训练支持幸福感的模型、以及以促进幸福感的方式部署模型。文章强调,AI 的影响将超越社交媒体,呼吁跨学科合作,共同塑造以人为本的 AI 未来。
引言
想象一下,十年前你突然置身于今天,与一个百科全书式的 AI 自然对话,它能创作图像、编写代码、辩论哲学。这项技术几乎肯定会改变社会——而 AI 对我们的影响至今仍是好坏参半。因此,围绕一个划时代的问题的讨论层出不穷:我们如何确保 AI 造福人类? 这些讨论常常沦为对 AI 的盲目乐观或悲观,而本文作者力求走一条务实的中间道路。
核心结论
作者提出了三个核心结论:
-
我们无法对“人类福祉”给出最终定义,但这没关系。 哲学家、经济学家、心理学家等长期争论不休,但围绕许多具体因素已达成共识,如亲密关系、有意义的工作、成长感和积极情绪。同时,我们必须考虑长期的社会基础设施,如教育、政府、市场等。
-
我们需要以福祉为基础的、可信的 AI 积极愿景。 像社交媒体一样,AI 将冲击社会基础设施,但影响将更大。我们必须主动探索、设想并迈向那些我们能在其中繁荣发展的 AI 融合世界。
-
基础模型及其未来部署至关重要。 模型能力提升迅速,未来将更深入地融入我们的生活。我们至少要让模型理解并支持我们的福祉,可能通过新算法、基于福祉的评估和训练数据。
福祉的落地
作者认为,人类福祉最终必须植根于人类的实际体验。我们想要幸福、有意义、健康、充实的生活,而 AI 可以帮助实现这一点,例如开发低成本的 AI 教练、智能日记、交友应用等。同时,社会健康也至关重要,AI 可以支持教育、政治问责、科学研究等。
积极愿景的必要性
技术是强大的社会力量,AI 的变革性影响正在发生,无需超级智能。我们的机构并非为 AI 时代设计,需要创造性地将现有价值观应用于新情境。例如,教育应培养批判性思维、能动性和社会归属感,而非仅仅防止作弊。
具体行动
作者提出了四个具体方向:
1. 理解我们想去哪里
需要跨学科、国际化的讨论,探讨人性、生活方式、价值观等问题。可以通过参与式设计、AI 驱动的协商民主等方式进行。
2. 开发衡量 AI 如何影响福祉的指标
福祉比 GDP 或参与度更复杂,但基础模型开始具备处理定性方面的能力。可以建立从能力、行为、使用到影响的分类体系,并开发相应的基准和评估。
3. 训练模型以更好地支持福祉
在预训练、微调和对齐阶段,都可以引入福祉相关数据。例如,创建情感支持互动数据集,使用基于福祉的 RLHF 等。
4. 以支持福祉的方式部署模型
AI 应用可以直接针对心理健康、教育等,也可以改善社交媒体、约会应用等。需要谨慎设计,避免利益冲突,并探索公益公司等结构。
倡议
文章列举了一些具体倡议,如全球讨论、民主化 elicitation、世界构建竞赛、福祉基准、数据集创建、民主微调等。
结论
AI 将以不可预测的方式改变社会。如果我们继续当前轨道,可能侵蚀福祉和生活的意义。我们需要开发理解和支持福祉的 AI 系统,这是重新定位的号召,希望实现 AI 支持人类繁荣的潜力。
原文出处:The Gradient AI Journal,原文链接
—— 完 ——主题标签: #AI伦理 #人类福祉 #积极愿景 #基础模型 #跨学科
编辑部与事实核查说明:本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译,经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏,欢迎依据勘误方针或一键向编辑部发送勘误反馈。
社区整体评论区