211 lines
4.9 KiB
Markdown
211 lines
4.9 KiB
Markdown
|
|
# TSP智能助手新功能说明
|
|||
|
|
|
|||
|
|
## 概述
|
|||
|
|
|
|||
|
|
本次更新为TSP智能助手添加了以下核心功能模块:
|
|||
|
|
|
|||
|
|
## 1. 对话历史模块
|
|||
|
|
|
|||
|
|
### 功能特性
|
|||
|
|
- **对话管理**: 完整的对话记录管理
|
|||
|
|
- **对话记忆**: 支持多轮对话上下文保持
|
|||
|
|
- **Redis缓存**: 使用Redis提升对话历史查询性能
|
|||
|
|
- **分页查询**: 支持游标分页查询对话历史
|
|||
|
|
- **删除功能**: 支持删除单个或批量删除对话记录
|
|||
|
|
|
|||
|
|
### 核心文件
|
|||
|
|
- `src/dialogue/conversation_history.py`: 对话历史管理器
|
|||
|
|
- 集成到 `src/dialogue/dialogue_manager.py`
|
|||
|
|
|
|||
|
|
### 使用方法
|
|||
|
|
```python
|
|||
|
|
# 获取用户对话历史
|
|||
|
|
history = assistant.get_user_conversation_history(user_id, limit=10, offset=0)
|
|||
|
|
|
|||
|
|
# 删除对话记录
|
|||
|
|
assistant.delete_conversation(conversation_id)
|
|||
|
|
|
|||
|
|
# 删除用户所有对话记录
|
|||
|
|
assistant.delete_user_conversations(user_id)
|
|||
|
|
```
|
|||
|
|
|
|||
|
|
## 2. Token消耗监控
|
|||
|
|
|
|||
|
|
### 功能特性
|
|||
|
|
- **实时监控**: 实时记录和监控Token使用情况
|
|||
|
|
- **成本计算**: 自动计算AI调用成本
|
|||
|
|
- **阈值预警**: 设置成本阈值并触发预警
|
|||
|
|
- **统计分析**: 提供详细的Token使用统计
|
|||
|
|
- **趋势分析**: 成本趋势分析
|
|||
|
|
|
|||
|
|
### 核心文件
|
|||
|
|
- `src/analytics/token_monitor.py`: Token监控器
|
|||
|
|
|
|||
|
|
### 使用方法
|
|||
|
|
```python
|
|||
|
|
# 获取Token使用统计
|
|||
|
|
token_stats = assistant.get_token_usage_stats(user_id, days=7)
|
|||
|
|
|
|||
|
|
# 获取成本趋势
|
|||
|
|
cost_trend = assistant.get_cost_trend(days=30)
|
|||
|
|
```
|
|||
|
|
|
|||
|
|
## 3. AI调用成功率监控
|
|||
|
|
|
|||
|
|
### 功能特性
|
|||
|
|
- **成功率监控**: 监控AI API调用成功率
|
|||
|
|
- **性能分析**: 分析响应时间和错误率
|
|||
|
|
- **模型对比**: 不同模型的性能对比
|
|||
|
|
- **预警机制**: 连续失败和错误率预警
|
|||
|
|
- **趋势分析**: 性能趋势分析
|
|||
|
|
|
|||
|
|
### 核心文件
|
|||
|
|
- `src/analytics/ai_success_monitor.py`: AI成功率监控器
|
|||
|
|
|
|||
|
|
### 使用方法
|
|||
|
|
```python
|
|||
|
|
# 获取AI性能统计
|
|||
|
|
ai_stats = assistant.get_ai_performance_stats(hours=24)
|
|||
|
|
|
|||
|
|
# 获取性能趋势
|
|||
|
|
performance_trend = assistant.get_performance_trend(days=7)
|
|||
|
|
```
|
|||
|
|
|
|||
|
|
## 4. 系统优化模块
|
|||
|
|
|
|||
|
|
### 功能特性
|
|||
|
|
- **性能优化**: CPU、内存、磁盘使用率监控
|
|||
|
|
- **安全优化**: 输入安全检查、频率限制
|
|||
|
|
- **流量保护**: 请求频率限制和并发控制
|
|||
|
|
- **成本优化**: 成本限制和预算控制
|
|||
|
|
- **稳定性优化**: 系统健康状态监控
|
|||
|
|
|
|||
|
|
### 核心文件
|
|||
|
|
- `src/core/system_optimizer.py`: 系统优化器
|
|||
|
|
|
|||
|
|
### 使用方法
|
|||
|
|
```python
|
|||
|
|
# 检查频率限制
|
|||
|
|
can_proceed = assistant.check_rate_limit(user_id)
|
|||
|
|
|
|||
|
|
# 检查输入安全性
|
|||
|
|
security_check = assistant.check_input_security(user_input)
|
|||
|
|
|
|||
|
|
# 检查成本限制
|
|||
|
|
can_proceed = assistant.check_cost_limit(estimated_cost)
|
|||
|
|
|
|||
|
|
# 获取系统状态
|
|||
|
|
system_status = assistant.get_system_optimization_status()
|
|||
|
|
```
|
|||
|
|
|
|||
|
|
## 5. Redis集成
|
|||
|
|
|
|||
|
|
### 配置信息
|
|||
|
|
- **主机**: 43.134.68.207
|
|||
|
|
- **端口**: 6379
|
|||
|
|
- **密码**: 123456
|
|||
|
|
|
|||
|
|
### 使用场景
|
|||
|
|
- 对话历史缓存
|
|||
|
|
- Token使用数据存储
|
|||
|
|
- AI调用记录缓存
|
|||
|
|
- 系统性能指标存储
|
|||
|
|
- 频率限制计数
|
|||
|
|
- 成本限制计数
|
|||
|
|
|
|||
|
|
## 6. 启动脚本整合
|
|||
|
|
|
|||
|
|
### 更新内容
|
|||
|
|
- 整合所有新功能到 `start_dashboard.py`
|
|||
|
|
- 添加系统初始化检查
|
|||
|
|
- 显示完整功能列表
|
|||
|
|
- 错误处理和日志记录
|
|||
|
|
|
|||
|
|
### 启动方式
|
|||
|
|
```bash
|
|||
|
|
python start_dashboard.py
|
|||
|
|
```
|
|||
|
|
|
|||
|
|
## 7. 测试脚本
|
|||
|
|
|
|||
|
|
### 测试文件
|
|||
|
|
- `test_new_features.py`: 新功能测试脚本
|
|||
|
|
|
|||
|
|
### 测试内容
|
|||
|
|
- 对话历史功能测试
|
|||
|
|
- Token监控功能测试
|
|||
|
|
- AI性能监控测试
|
|||
|
|
- 系统优化功能测试
|
|||
|
|
- 对话删除功能测试
|
|||
|
|
- 数据清理功能测试
|
|||
|
|
|
|||
|
|
### 运行测试
|
|||
|
|
```bash
|
|||
|
|
python test_new_features.py
|
|||
|
|
```
|
|||
|
|
|
|||
|
|
## 8. 依赖更新
|
|||
|
|
|
|||
|
|
### 新增依赖
|
|||
|
|
- `redis>=4.5.0`: Redis客户端库
|
|||
|
|
|
|||
|
|
### 更新文件
|
|||
|
|
- `requirements.txt`: 添加Redis依赖
|
|||
|
|
|
|||
|
|
## 9. 性能优化特性
|
|||
|
|
|
|||
|
|
### 缓存策略
|
|||
|
|
- Redis缓存对话历史,提升查询性能
|
|||
|
|
- 内存缓存最近对话,减少数据库访问
|
|||
|
|
- 分层缓存策略,平衡性能和存储
|
|||
|
|
|
|||
|
|
### 监控指标
|
|||
|
|
- 实时系统资源监控
|
|||
|
|
- API调用性能监控
|
|||
|
|
- Token使用成本监控
|
|||
|
|
- 用户行为分析
|
|||
|
|
|
|||
|
|
### 安全特性
|
|||
|
|
- 输入内容安全检查
|
|||
|
|
- 请求频率限制
|
|||
|
|
- 成本预算控制
|
|||
|
|
- 异常情况预警
|
|||
|
|
|
|||
|
|
## 10. 使用建议
|
|||
|
|
|
|||
|
|
### 生产环境部署
|
|||
|
|
1. 确保Redis服务正常运行
|
|||
|
|
2. 配置合适的监控阈值
|
|||
|
|
3. 定期清理历史数据
|
|||
|
|
4. 监控系统性能指标
|
|||
|
|
|
|||
|
|
### 开发环境测试
|
|||
|
|
1. 运行测试脚本验证功能
|
|||
|
|
2. 检查Redis连接状态
|
|||
|
|
3. 观察日志输出
|
|||
|
|
4. 测试各种边界情况
|
|||
|
|
|
|||
|
|
## 11. 故障排除
|
|||
|
|
|
|||
|
|
### 常见问题
|
|||
|
|
1. **Redis连接失败**: 检查Redis服务状态和网络连接
|
|||
|
|
2. **数据库连接问题**: 检查MySQL服务状态
|
|||
|
|
3. **性能问题**: 检查系统资源使用情况
|
|||
|
|
4. **成本超限**: 调整成本限制阈值
|
|||
|
|
|
|||
|
|
### 日志位置
|
|||
|
|
- 主日志: `logs/tsp_assistant.log`
|
|||
|
|
- 启动日志: `logs/dashboard.log`
|
|||
|
|
|
|||
|
|
## 12. 未来扩展
|
|||
|
|
|
|||
|
|
### 计划功能
|
|||
|
|
- 更细粒度的权限控制
|
|||
|
|
- 更丰富的监控指标
|
|||
|
|
- 自动化运维功能
|
|||
|
|
- 机器学习优化建议
|
|||
|
|
|
|||
|
|
---
|
|||
|
|
|
|||
|
|
**注意**: 所有新功能都已集成到现有系统中,不会影响原有功能的正常使用。建议在生产环境部署前先在测试环境验证所有功能。
|