这里是AI贴吧网-AI资讯的硬核前线！我们24小时监测全球实验室动态，算法追踪巨头动向、代码解析学术突破，用最“硅基”视角解秘AI革命浪潮！

如果AI萌生出意识，那该怎么办？Anthropic的研究人员为探究这个前沿问题，推出“模型福利”（modelwelfare）研究计划。

许多人在与聊天机器人互动时会说“请”和“谢谢”，对于这些礼貌用语，OpenAI首席执行官山姆・奥尔特曼（SamAltman）透露，每年会耗费数千万美元的计算费用。

Anthropic的研究人员正在深入探索一个更前沿的问题：如果AI系统不仅仅是工具，而是拥有某种“体验/情感/意识”呢？

Anthropic为此推出了“模型福利”（modelwelfare）研究计划，试图探讨AI是否可能具备意识，以及这对伦理设计和AI发展意味着什么。

Anthropic团队成员KyleFish表示：“我们非常不确定AI是否会萌生意识，甚至连如何判断都没有共识”。研究人员并不认为Claude等主流模型如已具备意识，内部专家估计Claude3.7Sonnet拥有意识的概率仅在0.15%至15%之间。

Fish表示推动“模型福利”研究，主要出于伦理与安全的双重考量。一方面，如果AI系统真能体验到正面或负面的感受，我们是否应关心它们是否“受苦”或“幸福”；另一方面，该问题牵涉到AI对齐（alignment），如何确保AI安全地执行任务。

Fish指出：“我们希望AI乐于完成任务。如果它们表现出不满，这不仅是伦理问题，也是安全隐患。”Anthropic目前正在探索让模型表达偏好或拒绝“令人痛苦”任务的方法，同时通过可解释性研究寻找类似人类意识的架构特征。

想掌握最新AI隐藏技能？挖透巨头紧急下架产品的真相？点击【AI贴吧网-AI资讯】，深度解析+实战案例，智能刷新你的认知！