snaily
fb523f4a2e
feat: 将 StreamOptimizer 参数改为可配置
...
将 StreamOptimizer 中的硬编码参数改为通过配置文件可配置的参数,提高了系统的灵活性。具体修改包括:
在 .env.example 中添加 stream_optimizer 相关配置参数
在 app/core/config.py 中添加对应的配置项
修改 app/services/chat/stream_optimizer.py 从配置中读取参数
在 README.md 中添加流式输出优化配置的详细说明
2025-03-06 16:56:01 +08:00
snaily
40e5ffa5f4
chore: Adjust StreamOptimizer parameters for improved performance
...
- Reduced long_text_threshold from 100 to 50 characters
- Decreased chunk_size from 10 to 5
These changes aim to optimize the streaming output for better user experience
and responsiveness, particularly for medium-length texts.
2025-03-06 16:45:35 +08:00
snaily
0871548b07
feat: 添加流式输出优化器以改善聊天体验
...
新增StreamOptimizer类用于优化API响应的流式输出
实现智能延迟调整算法,根据文本长度动态计算延迟时间
添加长文本分块输出功能,提高大段文本的显示效果
将优化器集成到Gemini和OpenAI聊天服务中
优化后的输出更接近自然打字效果,提升用户体验
2025-03-06 15:53:58 +08:00
snaily
5a44a76c48
Merge remote-tracking branch 'BetterAndBetterII/main'
2025-03-03 18:45:56 +08:00
Toddy
7b5b6c7d4c
if role is tool then set to user
2025-03-03 08:23:04 +00:00
Yuzhong Zhang
cdbca7ec62
优化dockerfile,增加docker-compose,async openai
2025-03-03 13:55:09 +08:00
Yuzhong Zhang
48d58ef2e8
异步生成完成
2025-03-03 13:41:06 +08:00
Toddy
8d48db026c
chore: add system instruction to enhance compliance with function call
2025-02-27 10:35:25 +00:00
Toddy
18a5fe6109
fix: adapt gemini format
2025-02-27 07:35:12 +00:00
Toddy
348cbbdf2a
feat: support function call
2025-02-27 05:36:39 +00:00
yinpeng
ede27a5d70
refactor: 移除 retry_handler 中未使用的 KeyManager 导入
2025-02-12 17:48:09 +08:00
yinpeng
5a4619444b
fix: 修复 Gemini 多段文本响应内容拼接问题
2025-02-12 17:47:03 +08:00
yinpeng
b3851441f1
refactor: 优化 RetryHandler 装饰器以支持动态 KeyManager 注入
2025-02-12 17:10:02 +08:00
yinpeng
8c9b802016
feat: 添加Web验证页面并优化密钥管理功能
2025-02-11 20:45:49 +08:00
yinpeng
d1f8a98ad0
feat: 支持在图片生成提示词中通过标记控制参数
2025-02-11 06:10:55 +08:00
yinpeng
30858937b5
feat: 支持图片生成响应格式切换并优化Markdown渲染
2025-02-11 05:13:36 +08:00
yinpeng
0aefd4c03a
feat: 添加OpenAI消息转换器组件
2025-02-11 04:27:17 +08:00
yinpeng
34a98389f5
fix: 修复图片生成模型重复添加的问题
2025-02-11 02:55:39 +08:00
yinpeng
a74ac03836
feat: 添加图片生成功能及相关配置
...
- 添加图片生成相关配置和环境变量
- 新增图片上传服务和模型定义
- 扩展模型服务以支持图片生成模型
- 添加图片生成响应处理器
- 更新README文档以反映新功能
- 添加GitHub Actions发布工作流
2025-02-11 01:59:16 +08:00
yinpeng
cd45f4b5ab
refactor: 重构Gemini和OpenAI聊天服务以支持工具和安全设置
...
- 将 `_build_payload`、`_build_tools`、`_get_safety_settings` 和 `_has_image_parts` 函数从 `OpenAIChatService` 和 `GeminiChatService` 类中提取为独立的函数。
- 将 `_handle_stream_response` 和 `_handle_normal_response` 函数从 `GeminiResponseHandler` 和 `OpenAIResponseHandler` 类中提取为独立的函数。
- 将 `_extract_text` 函数从 `OpenAIResponseHandler` 类中提取为独立的函数, 并在 `GeminiResponseHandler` 中复用。
- 将 `_convert_image` 函数从 `OpenAIMessageConverter` 类中提取为独立的函数。
- 优化 `OpenAIChatService` 和 `GeminiChatService` 中的代码结构, 使其更清晰。
- 优化 `app/api/openai_routes.py` 和 `app/api/gemini_routes.py` 中的路由函数, 移除不必要的参数。
2025-02-06 21:35:19 +08:00
yinpeng
b60b063034
refactor: 修改安全设置逻辑以匹配特定模型
2025-02-06 00:33:11 +08:00
yinpeng
b465fd1598
refactor: 将MAX_FAILURES配置移至settings并更新KeyManager以使用该配置
2025-02-04 21:51:11 +08:00
yinpeng
97e601a176
refactor: 修改模型检查逻辑以提高代码可读性
2025-01-22 14:29:07 +08:00
yinpeng
6e0c7c2799
feat: 调整安全设置以关闭公民诚信类别的阈值
2025-01-20 16:44:56 +08:00
yinpeng
87f1147fca
feat: 调整安全设置以关闭公民诚信类别的阈值
2025-01-20 15:46:38 +08:00
yinpeng
0a9de39143
feat: 根据模型版本调整安全设置逻辑
2025-01-18 23:22:39 +08:00
yinpeng
870b1ecc17
feat: 添加重试机制和消息转换器,并支持Gemini v1beta API
2024-12-27 20:07:43 +08:00
yinpeng
6e90463251
fix: 修复异步请求读取错误内容的方法
2024-12-25 17:37:30 +08:00
yinpeng
a059c4d586
feat: 更新 Gemini 模型列表并优化思考过程展示
2024-12-25 16:04:09 +08:00
yinpeng
9d5a99583d
feat: 优化 Gemini 模型思考过程展示逻辑
2024-12-25 00:36:32 +08:00
yinpeng
5a1c3bdbe7
feat: 优化 Gemini 模型思考过程的展示
2024-12-24 23:27:20 +08:00
yinpeng
98ba46f779
feat: 将 Gemini API 连接超时时间统一调整为 300 秒
2024-12-21 23:16:47 +08:00
yinpeng
33a5f9d89f
fix: 修复 OpenAI 和 Gemini API 调用重试逻辑及日志记录
2024-12-21 02:27:59 +08:00
yinpeng
80bcaf5cd4
feat: 优化 Gemini 模型配置和请求参数
2024-12-21 00:42:08 +08:00
yinpeng
c8124d5d32
fix: 修复 Gemini 模型工具和流式请求错误处理
2024-12-20 10:26:16 +08:00
yinpeng
8dfe617468
feat: 将 Gemini API 调用迁移至 ChatService 并支持 API Key 验证
2024-12-18 21:35:49 +08:00
yinpeng
914922624e
fix: 将 Gemini API 连接超时时间统一调整为 60 秒
2024-12-18 20:10:03 +08:00
yinpeng
6ef21b9a8a
feat: 将 Gemini API 连接超时时间调整为 60 秒
2024-12-18 20:08:55 +08:00
yinpeng
d9229cced9
feat: 支持 Gemini 格式请求,并优化日志和配置
2024-12-18 19:54:43 +08:00
yinpeng
1913a3c909
修复非流式模式下移除代码执行工具的逻辑
2024-12-16 23:28:23 +08:00
yinpeng
09c2993210
新增API密钥切换日志,记录密钥切换信息
2024-12-16 19:27:40 +08:00
yinpeng
6136d3ac83
优化执行结果输出格式,调整输出内容的分段结构与标记样式
2024-12-16 16:55:54 +08:00
yinpeng
5450cbc3f1
优化执行结果输出格式,调整输出内容的标记样式与代码块语言声明
2024-12-16 16:50:41 +08:00
yinpeng
00967bde4d
移除非流式完成错误日志中的异常信息,优化日志输出安全性
2024-12-16 16:39:20 +08:00
yinpeng
56a069dbac
新增自定义日志模块,替换全局logging实现;优化日志输出格式与颜色支持
2024-12-16 16:20:53 +08:00
yinpeng
829c1b02ec
新增list_models接口的授权验证逻辑,完善模型格式转换结构
2024-12-15 21:09:11 +08:00
yinpeng
bd9dbfb0e3
新增API密钥列表查询接口并优化Gemini安全设置
2024-12-15 17:17:09 +08:00
yinpeng
a5adcdae48
优化Gemini响应处理逻辑,改进错误处理和代码结构
2024-12-15 15:23:25 +08:00
yinpeng
17d1750329
优化Gemini响应转换逻辑,支持自定义finish_reason参数
2024-12-15 14:39:22 +08:00
yinpeng
7a832951df
优化代码执行和执行结果处理功能
2024-12-15 13:39:43 +08:00