788 Commits

Author SHA1 Message Date
16af6eca8e refactor(llm): 重构数据集示例文件下载功能
- 使用 ResponseEntity 返回文件,提高代码可读性和可维护性
-引入 FileInfoVO 类封装文件信息,简化代码结构
- 优化文件路径和 Content-Type 的处理逻辑
- 增加对文件不存在情况的异常处理
-代码风格统一,提高整体代码质量
2025-03-24 13:32:34 +08:00
8feccb1da1 Merge remote-tracking branch 'origin/master' 2025-03-24 13:19:24 +08:00
9053d398ba build(yudao-module-llm-biz): 添加 Apache POI依赖
- 添加 poi 和 poi-ooxml 依赖,版本均为5.2.3
-这些依赖可能用于处理 Microsoft Office 文档,如 Excel 文件
2025-03-24 13:19:16 +08:00
03c073e1c4 feat(llm): 添加数据集示例文件下载功能
- 新增 DatasetController 中的 downloadExampleFile 方法
- 支持下载 txt、xlsx、csv 和 json 四种格式的示例文件
- 示例文件存放在 resources/file/dataset_example 目录下
- 根据 type 参数确定文件类型和 Content-Type
- 使用 ClassPathResource 加载文件并写入响应输出流
2025-03-24 11:11:35 +08:00
8f18b119ae fix(llm): 修复删除模型时可能存在的空指针异常- 在 FineTuningTaskServiceImpl 中添加删除微调任务时删除基模型的逻辑
- 在 ModelServiceServiceImpl 中移除删除模型服务时删除基模型的代码
2025-03-21 15:56:32 +08:00
d5c2fc3c24 fix(llm): 修复模型服务删除时未删除基础模型的问题- 在 ModelServiceServiceImpl 类中添加了 BaseModelController 和 BaseModelMapper 的引用
- 在删除模型服务时,增加了删除对应基础模型的逻辑- 通过查询基础模型名称来获取基础模型 ID,并调用删除方法
2025-03-21 15:33:59 +08:00
fbca4192f0 refactor(llm): 重构获取基座模型列表接口
- 在 BaseModelService 中添加 listBaseModels 方法
- 实现 listBaseModels 方法,查询基座模型及其关联的微调任务名称
- 优化 ModelServiceController 中的 getAllPedestalModels 接口调用
2025-03-21 15:17:03 +08:00
645244a2cb feat(module-llm):增加热线电话格式脱敏- 新增热线电话正则表达式 HOTLINE_REGEX
- 在文本脱敏处理中增加热线电话格式的匹配和替换
2025-03-21 10:06:48 +08:00
a5071fd2c0 refactor(llm): 优化数据回流列表展示
- 在数据回流列表的查询中添加创建时间的降序排序
-使得最新创建的数据回流记录优先展示
2025-03-20 15:30:45 +08:00
fe8fb45afe feat(llm): 仅获取未微调的基础模型
- 在获取基础模型列表时,添加了只获取未微调(is_finetuned=0)的模型的条件
2025-03-17 18:05:42 +08:00
dd0f65ccaf fix(llm): 修复 base model 详情中 fine tuning name空指针异常
- 在设置 fine tuning name 时,增加了对 fineTuningTaskDO 是否为空的判断
- 避免在 fineTuningTaskService.selectName 返回 null 时发生空指针异常
2025-03-17 16:19:39 +08:00
5cff4c2c04 feat(llm): 增加模型调优名称字段并实现相关功能
- 在 BaseModelDO、BaseModelRespVO 中添加 theTuningName 字段
- 在 BaseModelTaskService 中实现获取模型调优名称的方法
- 在 FineTuningTaskService 中新增 selectName 方法
- 优化 BaseModelController 中的模型创建逻辑
2025-03-17 16:11:59 +08:00
d454971b8f refactor(module-llm):优化 Prompt 模板使用次数更新逻辑
- 在 ConversationServiceImpl 中,将 PromptTemplatesSaveReqVO 的使用次数更新逻辑改为调用新的 updatePromptTemplatesUseCount 方法
- 在 PromptTemplatesApplicationsMapper 中添加 updatePromptTemplatesUseCount 方法,用于更新 Prompt 模板的使用次数
- 在 PromptTemplatesApplicationsMapper.xml 中添加对应的 SQL 语句,用于更新 Prompt 模板的使用次数- 在 PromptTemplatesService 中添加 updatePromptTemplatesUseCount 方法的接口定义
- 在 PromptTemplatesServiceImpl 中实现
2025-03-17 13:08:45 +08:00
720210d6b9 refactor(llm): 优化禁用模型功能
- 在 ModelServiceController 中添加模型禁用前的检查应用逻辑
- 在 ModelServiceService 接口中新增 inspectTheApplication 方法
- 在 ModelServiceServiceImpl 中实现 inspectTheApplication 方法,增加应用中心模型使用情况的校验
2025-03-17 12:51:24 +08:00
b0239d5884 feat(llm): 更新提示模板使用计数
- 在 ConversationServiceImpl 类中的处理逻辑中增加了对提示模板使用计数的更新
- 当应用的 promptId 存在时,获取对应的 PromptTemplatesRespVO 对象
- 将使用计数增加 1,并调用 updatePromptTemplates 方法更新提示模板
2025-03-17 12:44:38 +08:00
fe6bbbc633 refactor(yudao-module-llm): 优化数据回流 response 处理
- 使用 "(?s)" 标志使 "."匹配换行符,确保<think> 标签内的内容被正确替换
- 添加 trim() 方法去除回答两端的空白字符,提高数据准确性
2025-03-17 10:54:02 +08:00
4b02c472a1 fix(llm): 移除数据回流中的思考内容
- 在保存数据回流时,从模型的回答中移除了包含 <think> 标签的内容
- 这样可以避免将不应持久化或索引的思考过程数据保存到数据库中
2025-03-17 10:37:36 +08:00
b29cd0976b feat(llm): 为 baseModelDO 添加 aigcModelName属性
- 在创建 BaseModelDO 对象时,为 remoteModelName 设置对应的 aigcModelName
- 此修改有助于完善模型信息,支持 AIGC(人工智能生成内容)功能
2025-03-17 10:01:49 +08:00
c3106010db Merge remote-tracking branch 'origin/master' 2025-03-15 17:35:36 +08:00
d54271f9f7 feat(llm): 为 baseModelDO 添加 aigcModelName属性
- 在创建 BaseModelDO 对象时,为 remoteModelName 设置对应的 aigcModelName
- 此修改有助于完善模型信息,支持 AIGC(人工智能生成内容)功能
2025-03-15 17:35:27 +08:00
2e86ec971c refactor(yudao-module-llm): 优化知识库命中率显示格式
- 将命中率格式化为百分比形式,保留两位小数
- 使用 "0.00%" 格式,使结果更直观易懂
2025-03-15 16:59:53 +08:00
7269914f3c feat(llm): 实现知识库文档预览功能
- 新增 AsyncKnowledgeBase 类中的 previewKnowledgeBaseDocument 方法,用于预览知识库文档
- 在 KnowledgeBaseController 中添加预览知识库文档的 API 接口
- 修改 KnowledgeBasePreviewRespVO,增加文档标号字段
- 更新 KnowledgeBaseServiceImpl 中的 previewKnowledgeBaseDocument 方法,使用异步服务进行文档预览- 在 LLMBackendProperties 中添加知识库文件预览相关的配置项
- 调整 PageResult 类,移除冗余字段- 更新 RagHttpService 类,增加预览知识库文档的 HTTP 请求方法
2025-03-15 16:57:47 +08:00
59fec73c98 feat(llm): 实现知识库文档预览功能
- 新增 AsyncKnowledgeBase 类中的 previewKnowledgeBaseDocument 方法,用于预览知识库文档
- 在 KnowledgeBaseController 中添加预览知识库文档的 API 接口
- 修改 KnowledgeBasePreviewRespVO,增加文档标号字段
- 更新 KnowledgeBaseServiceImpl 中的 previewKnowledgeBaseDocument 方法,使用异步服务进行文档预览- 在 LLMBackendProperties 中添加知识库文件预览相关的配置项
- 调整 PageResult 类,移除冗余字段- 更新 RagHttpService 类,增加预览知识库文档的 HTTP 请求方法
2025-03-15 16:57:42 +08:00
efef8bb3ac refactor(llm): 调整 LLM 相关配置- 修改服务器端口:48080 -> 48081
- 更新 LLM API 配置:
  - 删除模型接口路径:/delete_model - 删除模型全路径:http://127.0.0.1:5123/delete_model
  - 新增知识库分块文件路径配置:/documents- 同步更新 ymx配置文件
2025-03-15 15:50:08 +08:00
505fc8ee06 feat(llm): 添加知识库文档预览功能
- 新增 KnowledgeBasePreviewReqVO 和 KnowledgeBasePreviewRespVO 类用于知识库文档预览请求和响应
- 在 KnowledgeBaseController 中添加 previewKnowledgeBaseDocument 方法处理预览请求
- 在 KnowledgeBaseService 接口中定义 previewKnowledgeBaseDocument 方法
- 在 KnowledgeBaseServiceImpl 中实现预览逻辑,模拟分页数据并返回
- 新增 PageUtil 工具类用于列表分页处理
- 在 PageResult 类中添加 pageNo 和 pageSize 字段
2025-03-15 15:28:19 +08:00
b5b67db5da refactor(llm): 优化模型服务状态更新逻辑
- 在 BaseModelTaskService 中添加 number 字段并更新相关逻辑
- 在 ModelServiceDO 中添加 number 字段,用于表示模型数量
- 在 ModelServiceServiceImpl 中设置模型数量为 1
- 优化模型服务状态更新逻辑,根据数量字段决定是否更新状态
2025-03-15 13:02:58 +08:00
25ed9735bf refactor(yudao-module-llm): 优化知识库测试接口的参数处理逻辑
- 设置 topK 和 score 的默认值
- 优化 topK 和 score 的处理逻辑,确保使用合适的值
- 移除不必要的条件判断,简化代码结构
2025-03-15 12:24:20 +08:00
387861888c fix(llm): 修复启动基础模型状态异常
- 将模型状态从 3 修改为 1,以符合正确的状态码
- 捕获异常并记录日志,提高错误处理的健壮性
2025-03-15 11:33:09 +08:00
58dbe84f2c refactor(llm): 移除微调任务中的延迟逻辑
- 删除了 fineTuning 方法中添加 10 秒延迟的代码块
- 移除了异步
2025-03-15 11:31:42 +08:00
fc4c7f0ac8 refactor(llm): 在删除微调任务前添加延迟
在删除微调任务前添加 10 秒延迟,以确保任务有足够的时间完成任何正在进行的操作。
2025-03-15 11:29:54 +08:00
1d7d615af4 refactor(llm): 优化聊天逻辑和知识库处理
-调整系统提示和知识库的处理顺序
- 优化聊天
2025-03-14 23:24:14 +08:00
9783c5ceb7 refactor(llm): 调整基础模型服务刷新任务的执行频率
- 将刷新任务的执行频率从每 10秒调整为每 15秒
- 此修改旨在平衡性能和实时性,减少过于频繁的任务执行对系统资源的影响
2025-03-14 21:40:09 +08:00
4a5f32cba1 feat(llm): 创建模型服务时调用部署模型接口
- 在创建模型服务后,添加了调用部署模型接口的逻辑
- 使用 HttpUtils.post 方法发送 POST 请求到 LLM 后端的部署模型接口
- 请求参数包括模型名称
- 异常情况下,记录错误日志
2025-03-14 21:18:07 +08:00
972ad6acd9 refactor(llm): 更新模型服务创建逻辑
- 引入 BaseModelTaskService 服务
- 将模型服务初始状态从 3改为 1
- 优化了与基础模型关联的逻辑
2025-03-14 21:13:49 +08:00
2038f9a40b refactor(llm): 调整基础模型服务刷新频率
- 将 refreshTheModelService 方法的执行频率从每 30秒一次修改为每 10 秒一次
- 此修改旨在提高模型服务的刷新效率,缩短更新延迟
2025-03-14 20:48:57 +08:00
bbe5984f38 refactor(llm): 调整基础模型服务刷新任务的执行周期
- 将 cron 表达式从 "0 0/1 * * * ?" 修改为 "0/30 * * * * ?"
- 此修改将刷新任务的执行周期从每分钟一次改为每 30 秒一次
2025-03-14 20:41:07 +08:00
a21317a362 refactor(llm): 在删除微调任务前添加延迟
在删除微调任务前添加 10 秒延迟,以确保任务有足够的时间完成任何正在进行的操作。
2025-03-14 20:40:09 +08:00
4d4605297c refactor(llm): 在删除微调任务前添加延迟
在删除微调任务前添加 10 秒延迟,以确保任务有足够的时间完成任何正在进行的操作。
2025-03-14 20:34:03 +08:00
a0e4979bd1 refactor(llm): 更新模型服务状态码使用统一的常量- 将模型服务状态码0、2、3 替换为统一的常量
-优化代码可维护性,减少硬编码
2025-03-14 20:30:55 +08:00
6d09621d24 Merge remote-tracking branch 'origin/master' 2025-03-14 20:19:10 +08:00
6fa848dc42 fix(llm): 修复删除微调任务的接口请求方式
- 将查询参数改为路径段参数,以符合接口设计要求
- 确保正确构建请求 URL,提高接口调用的准确性
2025-03-14 20:18:55 +08:00
5f284813fc Merge remote-tracking branch 'origin/master' 2025-03-14 20:16:16 +08:00
c444e2ebe3 fix(llm): 修复删除微调任务的接口请求方式
- 将查询参数改为路径段方式发送请求
- 提高了请求的准确性和可靠性
2025-03-14 20:16:00 +08:00
da8dd791e8 fix(llm): 修复删除微调任务的接口请求方式
- 将查询参数改为路径段参数,以符合接口设计要求
- 确保正确构建请求 URL,提高接口调用的准确性
2025-03-14 20:09:23 +08:00
201075b94e fix(llm): 修正删除微调任务的接口参数
-将查询参数名从 "fine_tuned_model" 修改为 "model_name"
- 这个修改是根据 OpenAI 官方文档进行的,以确保接口调用的正确性
2025-03-14 20:03:14 +08:00
097ffc0d5d fix(llm): 修复删除微调任务接口参数错误
-将查询参数名从 "fine_t
2025-03-14 19:58:34 +08:00
02b6da900c refactor(llm): 修改删除基座模型接口
- 将删除模型接口的参数从 BaseModelPageReqVO 改为 Long 类型的 id
- 更新了 BaseModelService接口和 BaseModelServiceImpl 实现类中的方法签名
- 优化了删除模型的逻辑,直接使用 id 进行查询和删除操作
2025-03-14 19:54:26 +08:00
8caf82845c refactor(module-llm):优化微调任务删除日志信息
- 修改 BASE URL 日志信息,提高可读性
- 新增 FULL URL 日志信息,便于调试和追踪请求
2025-03-14 19:51:48 +08:00
ba26af27cc refactor(llm): 重构模型删除功能并添加完整 URL 配置
- 修改了 BaseModelServiceImpl 中的 deleteTheModel 方法,使用 OkHttpClient 发送 HTTP DELETE 请求
- 在 LLMBackendProperties 中添加了 deleteTheModelFull 字段,用于配置完整的删除模型 URL
- 更新了 FineTuningTaskHttpService 中的删除模型逻辑,使用新的完整 URL 配置
- 修改了 Docker Compose 配置,增加了8123 和 5123 端口的映射
- 更新了 application-ymx.yaml 配置,修改了删除模型的 API 路径
2025-03-14 19:45:43 +08:00
b426e158d0 feat(llm): 添加删除微调任务功能
- 在 AsyncFineTuningTaskService 中添加 deleteFinetuning 方法
- 在 FineTuningTaskHttpService 中实现 deletedFinetuning 方法
- 在 FineTuningTaskServiceImpl 中调用 deleteFinetuning 方法
- 在 LLMBackendProperties 中添加删除微调任务的 API 路径
2025-03-14 19:28:05 +08:00