纳德拉批评AI模型公司双标:主张合理使用却限蒸馏
微软CEO萨提亚·纳德拉日前在X平台发文,含蓄批评部分AI大模型厂商的矛盾做法。
纳德拉指出,一些模型厂商一边主张拥有利用公开数据训练AI模型的“合理使用”权利,一边却反对其他公司通过模型蒸馏学习其模型能力,这种做法自相矛盾。模型蒸馏指利用性能更强的大模型输出结果,训练参数更少、能力较弱的新模型。
纳德拉认为,享受合理使用公开数据的权利后,却对模型蒸馏施加严格限制,还保留利用客户使用数据和交互数据继续学习的权利,颇具讽刺意味。若知识学习始终单向流动,最终获利的将是掌握AI基础设施的主体,真正创造知识的人却无法受益。
目前Anthropic、OpenAI、Google DeepMind等头部AI公司,均依赖大量他人创作内容训练模型,ChatGPT、Claude、Gemini等模型的能力均建立在公开文本、图片及其他互联网数据之上。近年来已有大量主体因未经授权抓取内容训练AI,对这些AI公司提起诉讼。
外界普遍认为纳德拉的言论主要针对Anthropic。今年早些时候,Anthropic CEO达里奥·阿莫代伊曾公开指责中国AI公司利用Claude生成的数据训练自身模型;上个月,Anthropic致信美国参议员,称阿里巴巴发起了“已知规模最大的模型蒸馏攻击”;今年2月,Anthropic曾发布声明称竞争对手可通过模型蒸馏以远低于自主研发的成本获得其先进能力。
纳德拉还提醒企业用户,过度依赖领先大模型服务,本质是将自身专有数据交给模型提供商后再付费使用。他建议企业掌握自身AI基础设施和组织知识,不依赖单一模型供应商,建立自身模型评估体系及持续学习机制,为人力资本和词元资本建立可信边界,未经许可任何信息不得跨越该边界。
埃隆·马斯克此前也曾批评Anthropic收集数据和训练模型的方式,今年2月曾发文称Anthropic大规模窃取训练数据并支付了数十亿美元和解金。
- Tag
- #Anthropic
- #人工智能
- #模型蒸馏
- #纳德拉
评论列表COMMENT
- 暂时还没有人发表评论。
发表评论
文明上网,从我做起!