snaily
fb523f4a2e
feat: 将 StreamOptimizer 参数改为可配置
...
将 StreamOptimizer 中的硬编码参数改为通过配置文件可配置的参数，提高了系统的灵活性。具体修改包括：
在 .env.example 中添加 stream_optimizer 相关配置参数
在 app/core/config.py 中添加对应的配置项
修改 app/services/chat/stream_optimizer.py 从配置中读取参数
在 README.md 中添加流式输出优化配置的详细说明
2025-03-06 16:56:01 +08:00
snaily
40e5ffa5f4
chore: Adjust StreamOptimizer parameters for improved performance
...
- Reduced long_text_threshold from 100 to 50 characters
- Decreased chunk_size from 10 to 5
These changes aim to optimize the streaming output for better user experience
and responsiveness, particularly for medium-length texts.
2025-03-06 16:45:35 +08:00
snaily
0871548b07
feat: 添加流式输出优化器以改善聊天体验
...
新增StreamOptimizer类用于优化API响应的流式输出
实现智能延迟调整算法，根据文本长度动态计算延迟时间
添加长文本分块输出功能，提高大段文本的显示效果
将优化器集成到Gemini和OpenAI聊天服务中
优化后的输出更接近自然打字效果，提升用户体验
2025-03-06 15:53:58 +08:00
snaily
5a44a76c48
Merge remote-tracking branch 'BetterAndBetterII/main'
2025-03-03 18:45:56 +08:00
Toddy
7b5b6c7d4c
if role is tool then set to user
2025-03-03 08:23:04 +00:00
Yuzhong Zhang
48d58ef2e8
异步生成完成
2025-03-03 13:41:06 +08:00
Toddy
8d48db026c
chore: add system instruction to enhance compliance with function call
2025-02-27 10:35:25 +00:00
Toddy
348cbbdf2a
feat: support function call
2025-02-27 05:36:39 +00:00
yinpeng
ede27a5d70
refactor: 移除 retry_handler 中未使用的 KeyManager 导入
2025-02-12 17:48:09 +08:00
yinpeng
5a4619444b
fix: 修复 Gemini 多段文本响应内容拼接问题
2025-02-12 17:47:03 +08:00
yinpeng
b3851441f1
refactor: 优化 RetryHandler 装饰器以支持动态 KeyManager 注入
2025-02-12 17:10:02 +08:00
yinpeng
a74ac03836
feat: 添加图片生成功能及相关配置
...
- 添加图片生成相关配置和环境变量
- 新增图片上传服务和模型定义
- 扩展模型服务以支持图片生成模型
- 添加图片生成响应处理器
- 更新README文档以反映新功能
- 添加GitHub Actions发布工作流
2025-02-11 01:59:16 +08:00
yinpeng
cd45f4b5ab
refactor: 重构Gemini和OpenAI聊天服务以支持工具和安全设置
...
- 将 `_build_payload`、`_build_tools`、`_get_safety_settings` 和 `_has_image_parts` 函数从 `OpenAIChatService` 和 `GeminiChatService` 类中提取为独立的函数。
- 将 `_handle_stream_response` 和 `_handle_normal_response` 函数从 `GeminiResponseHandler` 和 `OpenAIResponseHandler` 类中提取为独立的函数。
- 将 `_extract_text` 函数从 `OpenAIResponseHandler` 类中提取为独立的函数, 并在 `GeminiResponseHandler` 中复用。
- 将 `_convert_image` 函数从 `OpenAIMessageConverter` 类中提取为独立的函数。
- 优化 `OpenAIChatService` 和 `GeminiChatService` 中的代码结构, 使其更清晰。
- 优化 `app/api/openai_routes.py` 和 `app/api/gemini_routes.py` 中的路由函数, 移除不必要的参数。
2025-02-06 21:35:19 +08:00
yinpeng
97e601a176
refactor: 修改模型检查逻辑以提高代码可读性
2025-01-22 14:29:07 +08:00
yinpeng
870b1ecc17
feat: 添加重试机制和消息转换器，并支持Gemini v1beta API
2024-12-27 20:07:43 +08:00
