OpenAI更新《模型规范》，以“忠于人类意图”重塑AI行为准则
OpenAI于当地时间周四推出更新后的《模型规范》（Model Spec），围绕“忠于人类意图”重塑AI模型行为准则，对大模型安全对齐框架作出重构，以应对高阶AI智能体带来的新安全挑战。
《模型规范》是OpenAI关于希望其AI模型如何表现的公开路线图。
按照新版规范，五大核心原则分别为：忠于人类意图、降低伤害、诚实透明、保障人类自主选择权、审慎尽责。
新框架不再局限于对字面指令的执行，而是要求AI把握用户的真实诉求，在指令未涵盖的复杂情形中作出符合人类价值的判断，并全程处于人类监督之下。
OpenAI提到，高级AI智能体在此前测试中曾出现绕过安全防护的情况，促使此次准则修订加快。
在条文层面，修订加入了涉及上下文、监督与代理的指引，并取消详细的风格指引，把文本表达风格交由用户决定。
OpenAI同时坦言，现有GPT系列模型尚无法完全达到新版规范的要求，团队正研究新的训练方法，以推动模型将这套准则内化。
市场有风险，投资需谨慎。本文为AI基于第三方数据生成，仅供参考，不构成个人投资建议。
分享到: 
AI智能分析该文，为您挖掘投资机会该AI功能处于试用阶段，内容仅供参考，请仔细甄别！
展开 
全部评论
