先做个广告:如需代注册ChatGPT或充值 GPT4.0会员(plus),请添加站长微信:gptchongzhi
北京时间7月19日凌晨,OpenAI公司(该公司研发ChatGPT)推出一款新的 AI 模型“GPT-4o mini”,即GPT-4o的更小参数量、简化版本,包括免费版和商用版。
推荐使用GPT中文版,国内可直接访问:https://ai.gpt86.top
OpenAI表示,GPT-4o mini是目前功能最强大、性价比最高的小参数模型,性能逼近原版GPT-4,支持50种不同语言,替代GPT-3.5版本的ChatGPT。
两个月前,OpenAI推出可免费使用的全新旗舰AI模型GPT-4o。
GPT-4o里的“o”是Omni(全能模型)的缩写,可实时进行音频、视觉和文本推理,它可以在短至232毫秒、平均320毫秒的时间内响应音频输入,与人类在对话中的反应速度一致。
OpenAI CEO奥尔特曼(Sam Altman)当时称,新的GPT-4o是OpenAI有史以来最好的模型,它很智能,速度很快,是原生多模态。即在一个工具 ChatGPT 中提供多种媒介类型(如文本、图像、音频和视频)下的生成式 AI 技术能力。
OpenAI API 产品负责人 Olivier Godement 表示:“我们的使命是推动前沿技术的发展,打造最强大、最实用的应用程序,我们当然希望继续开发前沿模型,不断突破极限。但我们也希望拥有最好的小型模型。”这类小参数模型规模大约不到7B(70亿,通常超过10亿参数的就可以称之为大模型),可用于笔记本电脑、手机等端侧设备。
Godement表示,过去一周,一些开发人员一直在试用GPT-4o mini。一家美国电邮初创公司Superhuman使用它来制作消息的自动回复,金融服务初创公司Ramp依靠它从收据中提取信息。因为GPT-4o mini具有良好的性价比,GPT-4o mini 现已作为文本和视觉模型在 Assistants API、Chat Completions API 和 Batch API 中提供。开发人员每 100 万个输入令牌支付 15 美分,每 100 万个输出令牌支付 60 美分(大约相当于标准书籍的 2500 页)。
OpenAI表示,这比之前的 Frontier 型号便宜一个数量级,比 GPT-3.5 Turbo 便宜 60% 以上。
看完我们是不是心动了?但是很遗憾,OpenAI 未向国内市场开放服务。
2023 年 7 月,中国网信办联合有关部门推出《生成式人工智能服务管理暂行办法》,是全球范围内针对生成式人工智能的首部专门立法。根据办法,生成式人工智能服务提供者要使用具有合法来源的数据和基础模型;而 OpenAI 并未根据国内监管要求进行算法备案、生成式人工智能服务备案等。与此同时,根据 OpenAI 的政策,不向中国用户提供 GPT 服务。
怎么“平替”?
使用 OpenAI API 的应用可以迁移至 Azure OpenAI?
Azure OpenAI 是微软提供的服务,可以实现对 OpenAI 大语言模型的 REST API 访问,这些模型包括 GPT-4、GPT-4 Turbo with Vision、GPT-3.5-Turbo 和嵌入模型系列。Azure OpenAI 服务完全由微软控制;微软在 Azure 环境中托管 OpenAI 模型,该服务不会与 OpenAI 运营的任何服务(例如 ChatGPT 或 OpenAI API)进行交互。而且,微软也在 OpenAI“断供” 事件后加入了这场迁移抢客盛宴。
然而,Azure OpenAI 的合规政策没有专门针对中国法律进行适配。因此,使用 Azure OpenAI 的合规性仍然存疑,最核心的就是“数据出境”。当国内关键信息基础设施运营者或者其他数据处理者传输敏感个人信息、个人信息、重要数据超过一定标准,需要向国家网信部门申报数据出境安全评估、通过个人信息保护认证。这对于国内用户是很大的合规成本,且由于 Azure OpenAI 本身亦未查询到经过国内评估认证,难以保证可以顺利通过。
看来我们只有使用国产大模型“平替”,但也不要悲观,虽然目前还有差距,但差距在逐步缩小。AI大模型的竞争才刚刚开始,中国也好,美国也好,最好的大模型还在路上。