开发stockdataset来摆脱对tushare的依赖
- 运行database/mysql下数据库脚本
- 修改config/database_config.yaml数据库连接信息
- 修改config/app.yaml里文件路径信息
- 运行biz/weekly.py更新股票信息
- 运行biz/main.py更新个股行情信息
- 预处理的配置中action属性可以使用keep保留原来数据
- 新增crawler用于获取股票的基本面信息(测试中),需要执行database/0.5/项下sql文件
- (未测试)对比获取的163和数据库中收盘价,如果不一致判断为发生复权,删除所有历史数据并将LAST_UPDATE_DATE初始化为1991-01-01,由第二天重新获取和计算
- 新模块rpt/batch/为每日导数导出没有更新的股票条数
- 导出seed文件时,强制把最大/小值转换成pd.Series类型
- seed文件更新结构
- 用df.values替换df.as_matrix()
- 更新requirements.txt
- 在app.yaml里添加keep_header选项
- 修复了在预处理时,如果去掉前后行之后,dataframe为空的情况下,不生成预处理文件
- 在app.yaml里可以generate_seed和output_seed_file_prefix配置是否导出预处理时候的最大/最小/均值等数据到yml
- 修复预处理中删除前后数据的bug
- 可以从main.py里添加参数运行程序
- 新的预处理配置文件用来预处理日期和数字类型的字段
- util/preprocessing.py下添加预处理方法和类,用法可以参考test/preprocessing_test.py
- 添加新视图,把行情和技术信息导入到一个文件内
- config/app.yaml下增加了关于导出的配置项
- 添加导出csv文件,具体见biz/export.py
- 修改了部分技术指标参数的默认值
- 修复了部分技术指标计算错误的问题
- 整理文件结构
- 更换新版本的sqlalchemy到1.4.12
- 优化数据库读写
- 修复内存问题
- 完成技术指标遍历,计算和入库
- 完成未迁移的技术指标
- 完成部分技术指标计算迁移, 包括MA, BBI, BIAS, BRAR, DMA, MTM, PSY, VR, KDJ, MACD
- 未迁移的指标BOLL, CCI, ROC, RSI, WR,原因涉及TALIB库
- 在从163上获取数据后更新tb_stock_list的last_update_date字段
- 在保存163数据前增加判断
- database/mysql添加了数据库创建语句
- 修正了日志不打印到文件的错误,删除了config下日志配置文件,改用util/app下config_logger()配置
- 从163获取股票的基础数据
- biz/daily从数据库中获取股票列表和最近更新日期
- biz/dao/StockBasicDailyDataDaoImpl从163下载数据
- 开启多进程将数据存入数据库表中
- 新增和更新股票列表
- 需要从上交所和深交所的网站上下载股票的列表文件。
- biz/dao/StockBasicInfoDaoImpl将读取文件内容插入数据库,新的插入,已有股票代码不做修改。
- 此版本仅插入和更新股票代码、股票名称、上市日期和上一次更新日期(默认1991-01-01, 为日后获取日交易数据使用),有序版本可能使用爬虫获取更多信息。