2024年7月18日，OpenAI宣布推出了GPT-4o mini，这是其最新GPT-4o AI语言模型的更小版本，将取代ChatGPT中的GPT-3.5 Turbo。这一消息由CNBC和Bloomberg报道，并在当天生效，免费用户以及ChatGPT Plus或团队订阅用户均可使用，预计将于下周进入ChatGPT Enterprise。
GPT-4o mini不仅在成本效益上有所提升，还具备多模态功能，目前API中已启用图像输入。OpenAI表示，未来GPT-4o mini将能够解释图像、文本和音频，并生成图像。该模型支持128K令牌的输入上下文，并具有2023年10月的知识截止日期。作为API产品，GPT-4o mini的成本也相对较低，每百万输入令牌和输出令牌的费用分别比GPT-3.5 Turbo低60%，分别为15美分和60美分。
值得注意的是，GPT-4o mini将首次使用一种名为“指令层次”的新技术，这将使AI模型能够优先处理某些指令，从而增加安全性，减少被用于执行提示注入攻击或越狱的可能性。
尽管OpenAI表示GPT-4o mini在多个基准测试中表现出色，例如MMLU（本科水平知识）和HumanEval（编码），但这些基准测试的实际应用价值仍存在争议。事实上，模型输出的质量更多地与风格和结构有关，而不仅仅是事实或数学能力。
此外，GPT-4o mini的发布并非行业内首次。Meta、Google和Anthropic等公司也推出了较小版本的语言模型，旨在以较低成本执行更简单的任务，如列表制作、摘要或单词建议。这些较小的模型通常面向API用户，他们按令牌输入和输出支付固定费用，但在这种情况下，将GPT-4o mini作为ChatGPT的一部分免费提供，也将为OpenAI节省成本。
微软也在积极推动其Azure AI服务，特别是在AI芯片和云服务方面。在2023年11月的Ignite全球技术大会上，微软推出了首款自研AI芯片Azure Maia 100，旨在支持大型语言模型和GitHub Copilot等工作负载。Azure Maia 100芯片是与OpenAI合作设计的，旨在确保其在Azure云基础设施上提供最佳性能。
微软还宣布了Azure OpenAI服务，这是一个专注于为企业提供安全、可开发GPT模型的平台。Azure OpenAI服务与OpenAI共同开发API，确保两者之间的兼容性，实现平滑过渡。通过Azure OpenAI，企业可以训练出多样化的模型，并将模型结果整合至业务系统中。
请登录之后再进行评论