怎样在服务器开多个代理IP
不久前,在 ChatGPT “崩了”的时候,有中国网友自嘲道,发现登不上账号,都会先卑微地反省下是不是自己的问题,直到 OpenAI 官方发了通知,才确定是对方的问题。
6月25日, OpenAI 向部分开发者发送了警告信称:“我们的数据显示,您的组织有来自 OpenAl 当前不支持区域的 APl 流量。您可以在此处寻找受支持的国家和地区。从7月9日开始,我们将采取额外措施,阻止来自不在我们支持的国家和地区列表中的区域的 APl 流量怎样在服务器开多个代理IP。要继续使用OpenAl的服务,您需要在受支持的区域中访问该服务。”
(注明:在 OpenAI 给出的“支持访问国家和地区”名单上,中国大陆、中国香港、俄罗斯、朝鲜、叙利亚、伊朗等地均未在列。)
不知道具体有多少,但来自中国的用户,显然是此次“断供”的重点受害群体。此前,虽然 OpenAI 也不向中国境内提供服务和开放中国用户注册和使用,但通过代理服务器或在海外部署反向代理机制,国内的开发者也可以使用 OpenAI 的 API 接口。
随着 OpenAI 这次明确表示将对支持地区以外的 API 流量采取更严格的监控,这些做法的风险就大幅提高了。
转向国产大模型,可能将是一个更可靠的选择。从能力上来看,在多个榜单中,国产大模型与国外主流大模型之间的差距已经逐渐缩短了,比如在 OpenCompass(司南) 2.0 大语言模型5月的月度榜单中,豆包、通义千问、零一万物、文心一言等国产大模型都有上榜。
而且国产大模型还有另一个优点,就是“价廉”。(详见《大模型大降价!字节阿里百度腾讯带头开卷!》)而就在昨日,针对这批开发者们,多个大模型厂商也及时的发布了新的优惠政策,做好了“接盘”的准备。DoNews也整理了相关的资料,来盘点下,谁是 OpenAI 的最佳“平替”?
在斯坦福最新公布的大模型测评榜单 HELM MMLU 上,通义大模型是最接近 GPT 的国产大模型,Qwen2-72B 以0.824的得分与GPT-4并列全球第四。
昨天,阿里云百炼也第一时间宣布,将为 OpenAI API 用户提供最具性价比的中国大模型替代方案,并为中国开发者提供2200万免费tokens和专属迁移服务。目前,通义千问 GPT4 级主力模型 Qwen-plus 在阿里云百炼上的调用价格为 0.004元/千tokens,仅为 GPT-4 的 1/50,可以说是性价比之选了。
由李开复创立的大模型独角兽公司零一万物,旗下的 Yi-Large 在伯克利大学公开盲测 LMSYS综合榜单上位列第7,中文榜单上与 GPT4o 并列排名世界第一(2024.6.25),在多个权威榜单上,Yi-Large 的排名也高于 GPT-4。
昨天,零一万物发起了“Yi API 二折平替计划”,面向 OpenAI 用户推出了迁移至 Yi 系列大模型的服务。目前注册使用 Yi API 的新客户,零一万物立即赠送 100 元额度,平台充值还将赠送 50% 到账额度,上不封顶,任意充值即可 RPM/TPM 限速直升 Tier3,还将提供 Prompt 兼容调优服务支持等。
昨天,百度智能云千帆也推出了大模型普惠计划,作为目前国内调用量第一的大模型平台,百度主打“0成本切换”,并表示场景更丰富、模型更全面、工具链更完整易用、更安全可靠!
同样在昨日,腾讯云也宣布,新迁移企业用户可免费获得腾讯混元大模型1亿Tokens,并提供免费专属迁移工具和服务。
在国内大模型评测机构 SuperCLUE 最新发布的《中文大模型基准测评2024年度4月报告》中,腾讯混元大模型位列国内大模型第一梯队,处于卓越领导者象限。
在昨天下午,智谱AI称向 OpenAI API 用户提供“特别搬家计划”,包括为开发者提供1.5亿Token(其中包括5000万GLM-4和1亿GLM-4-Air),以及从OpenAI到GLM系列模型的迁移培训,并且为高用量客户提供与OpenAI使用规模对等的Token赠送计划和对等的并发规模。
目前,还有国产大模型厂商在陆陆续续发布替代方案,也有的厂商如字节的豆包,对DoNews表示暂无相应的计划。不过,面对“断供”,有这样多的“性价比之选”,令人倍感安心,在大模型领域,我们和世界一流还有差距,但并没有被甩开,从算力到算法再到应用层,即使眼下多是“平替”方案,也有追上的机会。