snaily
47bf47d90e
chore: 维护doc
2025-04-03 06:50:41 +08:00
snaily
cc36ba4c9e
feat(config): 新增流式输出优化器开关配置
...
在环境变量示例文件(.env.example)和配置类(config.py)中新增 STREAM_OPTIMIZER_ENABLED 配置项，用于控制流式输出优化器的启用状态，默认设为 false
调整 Gemini 和 OpenAI 聊天服务的流式响应处理逻辑：
- 仅在流式优化器启用时（settings.STREAM_OPTIMIZER_ENABLED 为 true）
- 才会对文本内容执行流式输出优化处理
- 保持原有文本提取逻辑不变，仅增加配置条件判断
该变更使流式输出优化器变为可选功能，方便根据实际需求进行开关控制
2025-04-03 04:47:06 +08:00
snaily
baf643e884
feat: 新增请求超时配置及优化模型列表接口api_key获取方式
...
1. 新增功能：
- 在`.env.example`中添加`TIME_OUT=300`配置项（包含中文注释）
- 在`Settings`类中增加`TIME_OUT`字段（读取自`DEFAULT_TIMEOUT`）
2. 优化内容：
- 生成配置：
* 为`GenerationConfig`设置默认温度/TOP_P/TOP_K值
* 移除`maxOutputTokens`默认值，改为可选传递
- OpenAI请求：
* 移除`max_tokens`默认值
* 只有当`max_tokens`有值时才添加到请求payload
- 日志优化：
* 注释掉`stream_optimizer.py`中部分调试日志
3. 模型列表接口api_key获取方式
2025-04-03 03:12:59 +08:00
严浩
360bc9e48d
feat(ci): 更新Docker发布工作流
2025-04-02 13:49:05 +08:00
snaily
c0a27d0542
Update README.md
2025-03-29 01:03:36 +08:00
snaily
84052a2179
feat(auth): 增强Gemini API的认证机制支持URL参数
...
- 将generate_content和stream_generate_content端点的认证依赖从verify_goog_api_key更改为verify_key_or_goog_api_key
- 使Gemini API同时支持URL参数中的key和请求头中的x-goog-api-key进行认证
- 提高API的灵活性，便于不同客户端集成
2025-03-28 23:44:40 +08:00
snaily
2e7ecd88b5
feat: 增强Gemini API tools参数处理
...
- 修改GeminiRequest模型，使tools字段支持单个工具对象或工具对象列表
- 在gemini_chat_service中添加类型转换逻辑，确保tools始终以列表形式处理
- 提高API的灵活性和兼容性
2025-03-28 20:50:01 +08:00
snaily
0b1f3dfc04
feat(auth): 支持x-goog-api-key请求头认证
...
- 添加verify_key_or_goog_api_key方法，支持同时验证URL参数中的key和请求头中的x-goog-api-key
- 更新models接口使用新的认证方法，提高与Google API客户端的兼容性
2025-03-28 19:27:42 +08:00
snaily
c691c7c1cf
fix：当没有可用工具时返回空列表而非包含空字典的列表
...
在_build_tools函数中，当没有工具配置可用时（即tool为空字典），现在会返回空列表[]而不是[{}]。这个防御性编程修复可以避免向Gemini API发送无效的工具配置，防止可能的API调用错误。
2025-03-25 15:18:27 +08:00
snaily
97db7eebf1
chore:修改图片处理逻辑，统一使用base64编码
...
将_convert_image函数中对非data:image格式URL的处理方式从直接返回URL改为转换为base64编码的内联数据。这样无论图片是以data URI形式还是URL形式提供，都会统一转换为base64编码，确保与API交互时图片数据格式的一致性。
2025-03-25 13:23:17 +08:00
snaily
60dca70fcd
fix: 改进图片显示和移除调试输出
...
优化图片链接格式，在图片前后添加空行以改善显示效果
注释掉OpenAI聊天服务中的调试打印语句
2025-03-22 03:38:45 +08:00
snaily
89b9f7919a
feat: 添加对OpenAI工具调用功能的支持
...
改进消息转换器以处理OpenAI的tool_calls格式
添加JSON解析以正确转换函数调用参数
优化消息处理逻辑，增加更多空值检查
在流式响应中添加工具调用检测和处理
根据工具调用状态设置适当的finish_reason
2025-03-22 02:48:25 +08:00
Toddy
a8dc98ab6a
fix tool use with function calling is unsupported error
2025-03-21 05:04:53 +00:00
snaily
b3a057b6ba
refactor: 代码结构优化与常量化
...
将日志系统从 app/logger/ 移至 app/log/ 目录
将路由配置从 routers.py 重命名为 routes.py
将硬编码配置值移至 constants.py 中的默认常量
统一代码格式和导入排序
优化函数参数对齐方式
2025-03-20 21:59:18 +08:00
snaily
b14bb93d8f
refactor: 项目结构优化与FastAPI生命周期更新
...
重构项目目录结构，提高代码组织性和可维护性
将schemas目录重命名为domain，更好地表达领域模型概念
将services目录细分为service/chat、service/image等子目录
将api目录重命名为router，更符合FastAPI惯例
创建utils目录存放通用工具函数
更新FastAPI应用程序生命周期管理
替换已弃用的on_event方法为推荐的lifespan事件处理器
添加应用程序关闭时的日志记录
代码质量改进
抽取常量到constants.py，减少硬编码值
添加helpers.py提供通用工具函数
优化配置管理，使用环境变量和默认值
完善文档字符串，提高代码可读性
2025-03-20 17:13:03 +08:00
snaily
8ca62707ea
feat: 添加搜索模型配置并改进Markdown链接处理
...
在Dockerfile中添加SEARCH_MODELS环境变量，支持gemini-2.0-flash-exp和gemini-2.0-pro-exp模型
改进message_converter中的图片链接正则表达式
2025-03-19 19:56:50 +08:00
Toddy
21444ed6c7
chore: 统一从model_service读取模型列表
2025-03-18 18:05:00 +00:00
Toddy
ba292dbedd
chore: 规范变量名
2025-03-18 17:54:18 +00:00
snaily
6ba58ce9d1
fix: 重构图片MIME类型转换逻辑
...
将"image/jpg"到"image/jpeg"的MIME类型转换逻辑从_convert_image函数移至_get_mime_type_and_data函数，避免代码重复并提高一致性。这确保了MIME类型的标准化处理发生在数据提取的同一位置。
2025-03-18 21:50:27 +08:00
snaily
16f16a3ae9
Merge branch 'pr/yangtb2024/13'
2025-03-18 21:46:34 +08:00
snaily
26dcb64687
fix: 将image/jpg MIME类型转换为标准的image/jpeg
...
修复了图像转换过程中的MIME类型处理，确保当遇到非标准的"image/jpg"类型时，将其转换为标准的"image/jpeg"类型。这样可以提高与接收图像数据的API和系统的兼容性
2025-03-18 21:35:19 +08:00
yangtb2024
df88492113
将chat-bison-001、text-bison-001和embedding-gecko-001添加到FILTERED_MODELS列表
2025-03-18 15:21:29 +08:00
yangtb2024
851bb9c09b
将 filtered_models 从硬编码改为可配置参数
...
1. 在 config.py 中添加 FILTERED_MODELS 配置项
2. 在 .env.example 中添加 FILTERED_MODELS 示例
3. 修改 model_service.py 以使用配置的过滤模型列表
4. 优化模型过滤逻辑
2025-03-18 14:47:58 +08:00
yangtb2024
0cac178572
Merge branch 'snailyp:main' into model
2025-03-18 12:44:09 +08:00
snaily
67c85c994a
Merge pull request #14 from cr-zhichen/main
...
fix: 更新Cloudflare ImgBed上传请求URL，新增uploadNameType参数，以保持正确的目录结构命名。
2025-03-17 15:24:39 +08:00
cr-zhichen
ee979dd568
Merge branch 'main' of https://github.com/cr-zhichen/gemini-balance
2025-03-17 07:12:43 +00:00
cr-zhichen
e79a1ba56c
feat: 更新CloudFlare ImgBed上传请求URL，新增uploadNameType参数，以保持正确的日期命名目录结构。
2025-03-17 07:10:21 +00:00
yangtb2024
016e6e06ee
Filter out vision-based Gemini models from model list
2025-03-17 13:56:01 +08:00
snaily
8779a5f0b3
feat: 添加对 image-generation 模型的支持
...
在 gemini_chat_service 和 openai_chat_service 中添加对 "-image-generation" 后缀模型的支持
确保 image-generation 模型与 image 模型有相同的处理逻辑
2025-03-16 23:53:53 +08:00
cr-zhichen
89f2825ac7
feat: 新增对CloudFlare ImgBed的支持，更新环境变量和文档
2025-03-16 04:39:40 +00:00
snaily
985a12554d
fix:修改OpenAI消息转换器中assistant消息处理逻辑，将特殊处理的目标从最后一条消息调整为倒数第二条消息。
2025-03-15 21:18:20 +08:00
snaily
37a7a140fc
feat:改进消息转换器中的图像处理和消息分割逻辑
...
添加 _get_mime_type_and_data 函数从 base64 字符串中提取 MIME 类型和数据
修改 _convert_image 函数使用动态检测的 MIME 类型，而非硬编码
将 _process_text_with_image 中的 MIME 类型从 image/jpeg 改为 image/png
简化异常处理逻辑
优化 OpenAIMessageConverter 中的消息分割逻辑，仅对最后一个 assistant 消息进行分割处理
2025-03-15 21:11:10 +08:00
zhanghaoyu
28e67cc3fa
1. modify IMAGE_URL_PATTERN
...
2. modify import
2025-03-15 12:37:56 +08:00
zhanghaoyu7
d99a0bde93
feat: 新增图文上下文同步
2025-03-14 16:29:03 +08:00
snaily
cb5cd92041
fix: 修正Dockerfile中TOOLS_CODE_EXECUTION_ENABLED环境变量的拼写错误
...
将TOOLS_CODE_EXECUTION_ENABLED环境变量的值从"fasle"更正为"false"，修复了拼写错误。
2025-03-14 13:46:31 +08:00
snaily
0be85e9536
feat(gemini_routes): 添加deepcopy导入
...
在gemini_routes.py中添加了Python标准库copy模块中的deepcopy函数导入，用于创建对象的深度副本，确保数据操作过程中不会意外修改原始对象。
2025-03-14 13:43:17 +08:00
Toddy
632dee38b3
check model before send request
2025-03-14 04:11:21 +00:00
Toddy
16c28bf1ba
combine multiple system instructions into one
2025-03-14 02:55:29 +00:00
snaily
71af1db330
feat: 添加Gemini图像生成与处理功能
...
主要更新：
添加图像模型支持
新增MODEL_IMAGE配置项
在模型列表中添加gemini-2.0-flash-exp-image模型
修改ModelService以支持图像模型
增强图像处理能力
添加PicGoUploader类用于图像上传
实现图像响应处理逻辑(_extract_image_data)
支持base64图像数据的解码与上传
优化请求与响应处理
为图像模型添加特殊处理逻辑
修改API客户端以支持图像模型
更新GeminiRequest默认值
安全性调整
将TOOLS_CODE_EXECUTION_ENABLED默认设置为false
2025-03-14 00:27:23 +08:00
snaily
fb523f4a2e
feat: 将 StreamOptimizer 参数改为可配置
...
将 StreamOptimizer 中的硬编码参数改为通过配置文件可配置的参数，提高了系统的灵活性。具体修改包括：
在 .env.example 中添加 stream_optimizer 相关配置参数
在 app/core/config.py 中添加对应的配置项
修改 app/services/chat/stream_optimizer.py 从配置中读取参数
在 README.md 中添加流式输出优化配置的详细说明
2025-03-06 16:56:01 +08:00
snaily
40e5ffa5f4
chore: Adjust StreamOptimizer parameters for improved performance
...
- Reduced long_text_threshold from 100 to 50 characters
- Decreased chunk_size from 10 to 5
These changes aim to optimize the streaming output for better user experience
and responsiveness, particularly for medium-length texts.
2025-03-06 16:45:35 +08:00
snaily
0871548b07
feat: 添加流式输出优化器以改善聊天体验
...
新增StreamOptimizer类用于优化API响应的流式输出
实现智能延迟调整算法，根据文本长度动态计算延迟时间
添加长文本分块输出功能，提高大段文本的显示效果
将优化器集成到Gemini和OpenAI聊天服务中
优化后的输出更接近自然打字效果，提升用户体验
2025-03-06 15:53:58 +08:00
snaily
5a44a76c48
Merge remote-tracking branch 'BetterAndBetterII/main'
2025-03-03 18:45:56 +08:00
Toddy
7b5b6c7d4c
if role is tool then set to user
2025-03-03 08:23:04 +00:00
Yuzhong Zhang
68ed4da789
Update Dockerfile
2025-03-03 14:09:45 +08:00
Yuzhong Zhang
cdbca7ec62
优化dockerfile，增加docker-compose，async openai
2025-03-03 13:55:09 +08:00
Yuzhong Zhang
48d58ef2e8
异步生成完成
2025-03-03 13:41:06 +08:00
snaily
88d483c1ef
Merge pull request #4 from toddyoe/main
...
chore: add system instruction to enhance compliance with function call
2025-02-27 19:17:39 +08:00
Toddy
8d48db026c
chore: add system instruction to enhance compliance with function call
2025-02-27 10:35:25 +00:00
snaily
a592269198
Merge pull request #3 from toddyoe/main
...
feat: support function call
2025-02-27 16:14:50 +08:00
