【AI】大模型API调研及推荐

CSDN 2024-07-15 10:01:01 阅读 57


鑫宝Code

🌈个人主页: 鑫宝Code

🔥热门专栏: 闲话杂谈| 炫酷HTML | JavaScript基础

💫个人格言: "如无必要,勿增实体"


正文开始

文章目录

【AI】大模型API调研及推荐引入调研KimiAPI对接

国内GPT4的转发API对接

总结

【AI】大模型API调研及推荐

引入

最近写了脚本对接用阿里云的通义大模型<code>API来完成一些社区的问题回答,以此获得一些每日的积分和流量。🤤

为什么选择阿里云的通义大模型呢?因为在此之前是免费的,然而,最近开始收费了。是的,价格还是蛮贵的,看了下我之前调用的模型是qwen-max,都收费到了0.12元/1000 tokens。这个收费是什么概念呢,我统计了下,我每天用这个API回答5个问题, 我最近20天回答了100个问题,就用了大概 1000 * 1000 tokens,还好在免费额度里,算了下账,都差点要120元了😭.

大家都知道程序员的💰是最难赚的,是的,所以我果断就选择了弃用阿里云的API,开始调研大模型最便宜的方案。

PS: 有小伙伴们会问,有一些模型才<code>0.008元/1000 tokens呀。是的,但是调用大模型最好就调用最好的,这样可以省去很多时间。🐶

调研

于是楼主在相关论坛上发布了相关帖子进行调研。其中有两个方案呼声最高。分别如下:

月之暗面的Kimi国内的GPT4转发站

国内的GPT4转发站请自寻寻找,由于这种转发站具有不稳定性(这里的不稳定是指我不知道会不会搭建房圈钱跑路亦或是提高价格杀熟🐶) 所以此处不贴链接,还请谅解。

Kimi

呼声最高的便是当今国内人工智能炸子鸡公司,月之暗面,这家公司融资了10亿美元,旗下的Kimi可以说是国内长文本最🐮的利器。价格在0.024元/1000 tokens,而且注册用户还送15元,爽歪歪。

这里分享两个常用链接:

直接可以对话使用的KimiKimi的研发文档

API对接

由于我这里使用的都是<code>http请求对接,我这里就贴下http请求的js代码, 本人自用,欢迎自取。😃

const callMoonShot = async (prompt) => {

const url = "https://api.moonshot.cn/v1/chat/completions";

const params = {

model: "moonshot-v1-32k",

messages: [

{

role: "user",

content: prompt,

},

],

};

const res = axios

.post(url, params, {

headers: {

"Content-Type": "application/json",

Authorization: `Bearer ${ MOON_API_KEY}`,

},

})

.then((response) => {

const { data } = response;

const content = data.choices[0].message.content;

return content;

})

.catch((error) => {

console.error("调用月之暗面报错:", error);

});

return res;

};

PS: 这边要吹一下Kiwi为开发者做的努力,如果你看其他方法的调用,例如Python等,会发现它引入了OpenAI的包,我认为这个包是为了在接口层面让用户跟调用GPT4一样调用Kiwi,方便开发者迁移。上面的代码是我在写完国内GPT4的转发的接口后,改了一行modelapi_key就通了😋

国内GPT4的转发

其次,与之类似的方案便是调用GPT4,是的,你没有看错,这个GPT4是实打实的GPT4,不过不是很稳定,因为这个GPT4是由国内的转发站进行转发的,经过楼主的计算,这个价格也是在0.024元/1000 tokens,采用的价格是0.8元人名币汇算成1美元

PS: 为什么会这么便宜,听说是先通过购买正版GPT4(20美元人名币),然后用国内的请求做成转发,转发到国外的GPT4接口,如果用户量大的话,那么搭建者应该能回本,大概率能小赚一笔,但是由于如果用户量过多,那么请求也会过多,会导致响应的不稳定。其二,由于是个人搭建,所以会不会跑路依靠于搭建者的个人道德水平。🐶

API对接

const callGpt4 = async (prompt) => {

const url = "https://国内转发站地址";

const params = {

model: "gpt-4",

messages: [

{

role: "user",

content: prompt,

},

],

};

const res = axios

.post(url, params, {

headers: {

"Content-Type": "application/json",

Authorization: `Bearer ${ GPT_KKSJ_API_KEY}`,

},

})

.then((response) => {

const { data } = response;

const content = data.choices[0].message.content;

return content;

})

.catch((error) => {

console.error("调用GPT4报错:", error);

});

return res;

};

总结

目前楼主觉得性价比最高的模型就是如上两个,这两个有不同的使用场景

如果追求稳定回复,那么推荐Kiwi如果追求最佳答案,那么推荐国内GPT4转发站

PS:如果大家有觉得更好更便宜的大模型,欢迎在评论区打出,楼主都会一一调研的。

End



声明

本文内容仅代表作者观点,或转载于其他网站,本站不以此文作为商业用途
如有涉及侵权,请联系本站进行删除
转载本站原创文章,请注明来源及作者。