HyperAIHyperAI

Command Palette

Search for a command to run...

哲学家引领人工智能走向道德之路

人工智能公司Anthropic正委任哲学家阿曼达·阿斯凯尔(Amanda Askell)为旗下聊天机器人Claude赋予道德判断能力。作为认知科学与伦理学交叉领域的专家,阿斯凯尔致力于让AI系统不仅能理解人类语言,还能在复杂情境中做出符合人类价值观的决策。她所从事的工作核心是通过强化学习与人类反馈机制,引导AI在对话中识别并回应道德困境,例如公平、责任与伤害规避等问题。这一探索标志着AI发展正从单纯的能力提升,迈向对“合乎伦理行为”的追求。Anthropic表示,赋予AI道德感是构建安全、可信人工智能的关键一步,而阿斯凯尔的哲学背景使其在平衡技术可行性与伦理原则方面具有独特优势。随着生成式AI日益深入社会生活,如何让机器“懂得对错”,正成为全球科技与学术界共同关注的核心议题。

相关链接