发明名称 |
日志数据的存储方法及系统 |
摘要 |
本发明涉及计算机技术领域,公开了一种日志数据的存储方法及系统,所述方法包括:将日志数据按照所属实体簇的不同划分为多个日志记录分片;将各个日志记录分片分别写入分布式消息队列的不同主题;采用多线程方式,将所述分布式消息队列的不同主题中存放的日志记录分片并行装载到分布式文件系统。本发明实施例提出的日志数据的存储方法及系统,不仅实现了日志数据的无丢失暂存与快速装载,而且还能够保证日志数据以方便查询的格式装载到数据仓库中。 |
申请公布号 |
CN106354434A |
申请公布日期 |
2017.01.25 |
申请号 |
CN201610797898.9 |
申请日期 |
2016.08.31 |
申请人 |
中国人民大学 |
发明人 |
陈跃国;覃雄派;杜小勇;金国栋;丛一鸣;刘阳 |
分类号 |
G06F3/06(2006.01)I;G06F17/30(2006.01)I |
主分类号 |
G06F3/06(2006.01)I |
代理机构 |
北京中政联科专利代理事务所(普通合伙) 11489 |
代理人 |
梁军丽 |
主权项 |
一种日志数据的存储方法,其特征在于,包括:将日志数据按照所属实体簇的不同划分为多个日志记录分片;将各个日志记录分片分别写入分布式消息队列的不同主题;采用多线程方式,将所述分布式消息队列的不同主题中存放的日志记录分片并行装载到分布式文件系统。 |
地址 |
100872 北京市海淀区中国人民大学信息学院 |