一 背景

根据业务或者使用场景搭建自定义的智能ai模型机器人，可以较少我们人工回答的沟通成本，而且可以更加便捷的了解业务需求给出大家设定的业务范围的回答，目前基于阿里云的通义千问模型研究。

二 模型研究

参考阿里云帮助文档：

https://help.aliyun.com/document_detail/2784263.html

https://help.aliyun.com/document_detail/2784278.html?spm=a2c4g.2779977.0.0.41c247904gVRRu

https://help.aliyun.com/zh/model-studio/user-guide/model-tools/?spm=a2c4g.11186623.0.0.451d5f17l5DF7U

1.通过阿里云百炼平台构建我们的应用模型

2.搭建我们的数据中心&知识库

3.创建应用，关联知识库文档做模型

1、模型概览

2、AI应用步骤搭建

Step 1：数据管理-导入数据

Step 2：创建知识索引

选择导入数据到知识库

 获取知识索引ID，支持与百炼Assistant API结合使用，支持RAG和插件的组合调用；

 查看切割文档

Step 3：创建应用

进入我的应用后，点击新增应用。然后在应用配置中，进行以下几步操作：

选择模型。目前仅支持qwen-max模型，后续将支持更多的模型。同时，也可以支持设置模型内容生成的相关参数，如temperature等。

开启“知识检索增强”。

选择知识库，即在Step2中创建的知识索引。

点击“保存并发布”按钮。

4、测试AI应用

4.1 简单问题

4.2、自定义插件

在某些场景下，我们除了需要根据文档回答问题之外，还需要根据我们自定义的内容给出答案，例如查询公司某些业务的数据项，指标项等，这些三方ai无法清除，那么我们就可以通过自定义插件。

 创建自定义插件

 5 SDK对接

1、获取应用appid apikey

2、对接的地址

5.1、普通请求

<code>@RequestMapping(value = "/ask/test")

public AssistantResp ask(@RequestBody AssistantReq req) {

long l = System.currentTimeMillis();

log.info("ask start={} message={}", l, req.getMessage());

try {

if (req.getMessage() == null || req.getMessage().trim().length() == 0) {

return AssistantResp.builder().message("请输入问题").build();

}

ApplicationParam param = ApplicationParam.builder()

.apiKey("sk-&&&&&&&&")

.appId("f8a%%%%%%%%%%%%%%")

.prompt(req.getMessage())

.sessionId(req.getSessionId())

.temperature(0.5F)

.build();

Application application = new Application();

ApplicationResult result = application.call(param);

log.info("result={}", JSONUtil.toJsonStr(result));

AssistantResp ask = AssistantResp.builder().message(result.getOutput().getText()).build();

log.info("请求耗时：{}", System.currentTimeMillis() - l);

log.info("ask end={},message={}", System.currentTimeMillis(), ask.getMessage());

return ask;

} catch (Exception e) {

return AssistantResp.builder().message("系统繁忙，请稍后再试").build();

}

}

5.2 流式响应

@RequestMapping(value = "/stream", produces = MediaType.TEXT_EVENT_STREAM_VALUE)

public ResponseEntity<StreamingResponseBody> stream(@RequestBody AssistantReq req) {

try {

ApplicationParam param = ApplicationParam.builder()

.apiKey("sk-&&&&&&&&&&")

.appId("**************")

.prompt(req.getMessage())

.incrementalOutput(true)

.build();

Application application = new Application();

Flowable<ApplicationResult> resultFlowable = application.streamCall(param);

StreamingResponseBody responseBody = outputStream -> {

resultFlowable.blockingForEach(data -> {

String content = data.getOutput().getText();

log.info("content={}",content);

outputStream.write(content.getBytes());

outputStream.flush(); // 确保数据立即发送

}

);

};

return ResponseEntity.ok().body(responseBody);

} catch (NoApiKeyException e) {

e.printStackTrace();

} catch (InputRequiredException e) {

e.printStackTrace();

}

return ResponseEntity.ok().body(null);

}

5.3 多轮会话

public void answer(String askStr,String tenantKey,String openId) throws Exception {

//通过openId 获取 sessionId

String sessionId = map.get(openId);

log.info("askStr start={}",askStr);

ApplicationParam param = ApplicationParam.builder()

.apiKey("sk-b**********")

.appId("f**************")

.prompt(askStr)

.sessionId(sessionId)

.build();

log.info("param={}",JSONUtil.toJsonStr(param));

Application application = new Application();

ApplicationResult result = application.call(param);

if(result.getOutput().getSessionId()!=null){

map.put(openId,result.getOutput().getSessionId());

}

String text = result.getOutput().getText();

}

下一篇：通义千问AI模型对接飞书机器人-集成飞书机器人（2-2）-CSDN博客