#互联网观察
▎约 90 人联署声明:Anthropic 不是一家安全的 AI 公司
11 月 18 日,一份名为「MisAnthropic 声明」的公开信在网上发布,矛头直指即将上市的 Anthropic。声明由 AI 安全中心(CAIS)等机构推动,联署名单约 90 人:Hugging Face 联合创始人兼首席科学家托马斯·沃尔夫、xAI 联合创始人伊戈尔·巴布什金、哈佛大学心理学家史蒂文·平克、MIT 物理学家马克斯·泰格马克、图灵奖得主朱迪亚·珀尔、诺贝尔经济学奖得主奥利弗·哈特等人都在名单上。
声明正文只有三句话。联署方称,Anthropic 一边警告能递归自我改进的 AI 可能让权力集中、脱离人类控制,一边抢着第一个把它造出来;它用「安全」的品牌形象吸引投资者、员工与公众,同时悄悄削弱自己的安全承诺,并游说对自己有利的监管规则。声明的结论是:Anthropic 不是一家安全的 AI 公司,必须拒绝它以「为了更大的善」为名扩张权力。
联署方列出的具体依据包括:今年 2 月,Anthropic 修订其负责任扩展政策,放弃了在安全无法保证时单方面暂停训练更强模型的承诺;它游说削弱加州 SB 1047、纽约 RAISE 法案与 AEGIS 法案,并私下主张以联邦立法覆盖各州的 AI 法律。而在上市材料里,Anthropic 把递归自我改进列为核心竞争优势之一。
发表时机正卡在定价前夜:Anthropic 11 月 19 日在纳斯达克挂牌。沃尔夫本人补充说,他并不完全认同声明的措辞,但 Anthropic 正走在成为全球最有影响力公司的路上,透明度需要向主权政府看齐。截至发稿,Anthropic 未公开回应。
频道 @AppDoDo 官推 APPDOTG
▎约 90 人联署声明:Anthropic 不是一家安全的 AI 公司
11 月 18 日,一份名为「MisAnthropic 声明」的公开信在网上发布,矛头直指即将上市的 Anthropic。声明由 AI 安全中心(CAIS)等机构推动,联署名单约 90 人:Hugging Face 联合创始人兼首席科学家托马斯·沃尔夫、xAI 联合创始人伊戈尔·巴布什金、哈佛大学心理学家史蒂文·平克、MIT 物理学家马克斯·泰格马克、图灵奖得主朱迪亚·珀尔、诺贝尔经济学奖得主奥利弗·哈特等人都在名单上。
声明正文只有三句话。联署方称,Anthropic 一边警告能递归自我改进的 AI 可能让权力集中、脱离人类控制,一边抢着第一个把它造出来;它用「安全」的品牌形象吸引投资者、员工与公众,同时悄悄削弱自己的安全承诺,并游说对自己有利的监管规则。声明的结论是:Anthropic 不是一家安全的 AI 公司,必须拒绝它以「为了更大的善」为名扩张权力。
联署方列出的具体依据包括:今年 2 月,Anthropic 修订其负责任扩展政策,放弃了在安全无法保证时单方面暂停训练更强模型的承诺;它游说削弱加州 SB 1047、纽约 RAISE 法案与 AEGIS 法案,并私下主张以联邦立法覆盖各州的 AI 法律。而在上市材料里,Anthropic 把递归自我改进列为核心竞争优势之一。
发表时机正卡在定价前夜:Anthropic 11 月 19 日在纳斯达克挂牌。沃尔夫本人补充说,他并不完全认同声明的措辞,但 Anthropic 正走在成为全球最有影响力公司的路上,透明度需要向主权政府看齐。截至发稿,Anthropic 未公开回应。
频道 @AppDoDo 官推 APPDOTG
🆒2