2.7 KiB
2.7 KiB
AI MIP Query Task 表创建说明
1. 创建表
在MySQL数据库中执行以下文件:
mysql -u your_user -p your_database < db/ai_mip_query_task.sql
或者在MySQL客户端中直接执行 db/ai_mip_query_task.sql 文件内容。
2. 表结构说明
字段列表
| 字段名 | 类型 | 说明 |
|---|---|---|
| id | int | 主键ID |
| query_word | varchar(512) | 查询词/关键词 |
| query_type | enum | 查询类型:keyword/phrase/long_tail |
| task_date | char(8) | 任务日期 YYYYMMDD |
| threshold_max | int | 最大抓取数量阈值 |
| current_count | int | 当前已抓取数量 |
| status | enum | 任务状态:ready/doing/failed/finished/closed |
| priority | tinyint | 优先级 1-10 |
| category | varchar(64) | 分类标签 |
| source_platform | varchar(64) | 来源平台 |
| crawl_url_count | int | 已爬取URL数量 |
| valid_url_count | int | 有效URL数量(带广告) |
| error_message | text | 错误信息 |
| started_at | timestamp | 开始执行时间 |
| finished_at | timestamp | 完成时间 |
| closed_at | timestamp | 达到阈值关闭时间 |
| created_at | timestamp | 创建时间 |
| updated_at | timestamp | 更新时间 |
| created_by | varchar(64) | 创建人 |
| remark | varchar(512) | 备注信息 |
索引
uniq_query_date: 同一查询词每天只有一个任务idx_date_status: 按日期和状态查询idx_status_priority: 按状态和优先级查询idx_category: 按分类查询idx_threshold: 阈值监控idx_closed: 关闭时间索引
3. 使用示例
Python代码
from db_manager import QueryTaskManager
# 初始化管理器
task_mgr = QueryTaskManager()
# 创建任务
task_id = task_mgr.create_task(
query_word="糖尿病治疗",
query_type="keyword",
threshold_max=50,
priority=3,
category="医疗"
)
# 获取ready任务
ready_tasks = task_mgr.get_ready_tasks(limit=10)
# 更新任务状态
task_mgr.update_task_status(task_id, 'doing')
# 增加抓取计数
task_mgr.increment_crawl_count(task_id, crawl_count=5, valid_count=3)
# 检查阈值
task_mgr.check_threshold(task_id)
# 获取统计信息
stats = task_mgr.get_task_statistics('20260119')
4. 测试
运行测试脚本:
python test_query_task.py
5. 任务状态流转
ready (准备中)
↓
doing (执行中)
↓
finished (完成) / failed (失败) / closed (达到阈值关闭)
6. 注意事项
- 唯一约束:同一查询词在同一天只能有一个任务
- 阈值检查:达到threshold_max时自动关闭任务
- 优先级:数字越小优先级越高(1-10)
- 时间戳:状态变更会自动更新对应的时间字段