【AI大模型】Kimi API大模型接口实现

强heaven 2024-10-02 14:01:02 阅读 69

一、Kimi大模型概述

Kimi,月之暗面旗下国产大模型。是北京月之暗面科技有限公司(Moonshot AI)于2023年10月9日推出的一款智能助手,主要应用场景为专业学术论文的翻译和理解、辅助分析法律问题、快速理解API开发文档等,是全球首个支持输入20万汉字的智能助手产品。

2024年3月18日,Kimi智能助手启动200万字无损上下文内测。

二、发展历程

2023年10月9日,Moonshot AI宣布在“长文本”领域实现了突破,推出首个支持输入20万汉字的智能助手产品Kimi Chat。10月10日,开放内测。11月16日,Kimi Chat面向全社会开放服务。

2024年7月1日,月之暗面官宣 Kimi 开放平台上下文缓存(Context Caching)功能开启公测。官方表示,该技术在 API 价格不变的前提下,可为开发者降低最高 90% 的长文本旗舰大模型使用成本,并提升模型响应速度。

2024年7月8日消息,据月之暗面消息,旗下大模型产品Kimi上线浏览器插件,目前有两个按钮:一个是点问笔,划选文字后就会出现;另一个是总结器,出现在网页右下角。

2024年3月18日,月之暗面宣布Kimi智能助手启动200万字无损上下文内测。

2024年4月18日,月之暗面官宣旗下Kimi智能助手更新:模型能力提升,更稳的基座能力;支持Kimi常用语,内置官方提示词;新增支持语音输入、输出、播报;支持搜索引用溯源。 4月24日,月之暗面宣布Kimi大模型学会“使用工具”,API已支持Tool Calling功能。 5月,Kimi推出付费打赏功能,开始试探C端付费意愿。

三、产品功能

Kimi主要有6项功能:长文总结和生成、联网搜索、数据处理、编写代码、用户交互、翻译。主要应用场景为专业学术论文的翻译和理解、辅助分析法律问题、快速理解API开发文档等,是全球首个支持输入20万汉字的智能助手产品,已启动200万字无损上下文内测。

Kimi智能助手在效率(免费榜)排名从2024年1月14日的第436名提升至3月19日的第11名。而尚未上线的GPT-4.5 Turbo上下文窗口指定为25.6万个token,能同时处理约20万个单词,Kimi升级后,长文本能力为其10倍。在2023年10月初次亮相时,该模型的处理能力还仅有约20万汉字。2024年3月18日,月之暗面宣布Kimi智能助手启动200万字无损上下文内测。

四、相关事件

​​​​​2024年3月21日,Kimi一度冲进App Store免费版应用第5名,超越了微信;其小程序、App、网页版均因超出承载能力而宕机。2024年3月,Kimi智能助手月访问量达1218万次,仅次于百度文心一言,超越了阿里通义千问、字节旗下豆包。

五、程序接口

<code>from openai import OpenAI

import os

api_key = os.getenv("MOONSHOT_API_KEY")

client = OpenAI(

api_key=api_key,

base_url="https://api.moonshot.cn/v1",code>

)

completion = client.chat.completions.create(

model="moonshot-v1-8k",code>

messages=[

{"role": "system",

"content": "你是 Kimi,由 Moonshot AI 提供的人工智能助手,你更擅长中文和英文的对话。你会为用户提供安全,有帮助,准确的回答。"

"同时,你会拒绝一切涉及恐怖主义,种族歧视,黄色暴力等问题的回答。Moonshot AI 为专有名词,不可翻译成其他语言。"},

{"role": "user", "content": "你好,我叫李雷,15+100等于多少?"}

],

temperature=0.3,

)

print(completion.choices[0].message.content)

运行结果:

【参考文献】:Kimi(月之暗面旗下国产大模型)_百度百科



声明

本文内容仅代表作者观点,或转载于其他网站,本站不以此文作为商业用途
如有涉及侵权,请联系本站进行删除
转载本站原创文章,请注明来源及作者。