HBase互联网电视论文
作者:佚名; 更新时间:2020-01-18

  1.1Hbase原有系统架构

  HBase是ApacheHadoop的数据库,能够对大型数据提供随机、实时的读写访问。HBase的目标是存储并处理大型的数据。HBase是一个开源的、分布式的、多版本的、面向列的存储模型,它存储的是松散型数据。相比传统的关系型数据库,HBase具有易扩展、大数量、扩展灵活、成本低等优势。

  1.2OTT用户行为数据系统架构图

  在OTT体系中,每个机顶盒终端就是一个用户,有唯一的用户标识UserID;用户通过机顶盒来访问和使用互联网电视业务,用户在盒端系统上产生的所有行为日志都上传给系统平台(OpenApi),由系统平台进行数据的处理后进行入库,供经分系统进行单用户或批量用户的查询。

  2数据结构

  2.1数据结构设计

  Hbase底层是基于列式存储的,可以在不浪费存储空间的情况下将表设计得非常稀疏。因此可以将所有的用户行为数据存储在一张宽的表中,消除在进行“行为间组合查询条件”查询时带来的表联开销。由于Hbase目前并不能很好的处理两个或者三个以上的列族,本场景中采用单列族设计,列族的大版本数(MaxVersion)设定为1。想要获得较好的查询效率,应该将频繁查询的条件放在RowKey中,尽量保证查询条件都在RowKey中有所体现。从图3可以看出Hbase的查询效率从高到低依次为RowKey、ColumnFamily、ColumnQualifier、TimeStamp和Value。因此想要获得较好的查询效率,应该将频繁查询的条件放在RowKey中,尽量保证查询条件都在RowKey中有所体现。本应用场景中,需要频繁查询的条件依次为用户身份标识(userID)、行为发生时间、行为类型和行为类型所包含的字段及其属性值。根据查询条件的频繁度,可将RowKey设计成userID、行为发生时间和用户行为ID的组合。同时考虑到RowKey的散列性,Key设计方案为:反转userID+“,”+行为发生日期+“,”+用户行为ID。由于单个用户在特定的某一天,相同的行为类型可以发生多次(例如123456789用户在2013年9月1日这一天可以发生多次播放行为),如果采用真实的字段名称作为列名,后来写入的数据会把前面写入的数据覆盖掉。为了保证数据的完整性,需要在原有字段名的后面加上一个当天唯一的列ID以作区分。列ID仅仅为了保证数据的完整性,无任何实际意义,可以是一个从0开始依次递增的数字序列。

  2.2数据格式

  源数据部分表示由平台产生的原始日志,自定义部分表示源数据经过人工处理后的扩展属性,行为ID为人为定义,列ID为人工生成的标识ID。列ID在一天内的同一个行为日志中具有唯一性。由反转userID和用户行为发生的日期以及用户行为ID组成RowKey,由真实的列名加上列ID组成Hbase里面的列名。

  3数据处理

  源数据入库过程分为2个步骤,源数据处理和并行入库。源数据处理部分进行源数据整理,包括日志的清洗,RowKey和列ID的生成。并行入库过程将处理好的源数据以MapReduce方式将源数据导入到Hbase中。

  3.1数据入库

  源数据处理过程负责进行数据清洗及RowKey和列ID的生成,并将生成好的数据文件拷贝到HDFS中。一种列ID的设计方案是将列ID设定为一个从0开始依次递增的数字序列,此ID使得同一天内,同一种用户行为类型的每一条数据都具有唯一标识。以表1中模拟的播放日志数据为例。并行入库部分负责将处理好的源数据以MapReduce方式从HDFS导入到Hbase中。此方式通过读取HDFS上的文件,以Put的方式在Map过程中完成数据写入,无Reduce过程。

  3.2数据查询

  进行用户行为轨迹查询时需要输入userID的集合、用户行为发生的时间区间和行为类型信息这3个参数。这3个参数限定了查询的范围,即指定用户在指定时间内发生的指定行为。通过解析userID参数可以得到RowKey的前缀部分;解析用户行为发生的时间区间参数可以得到RowKey的中间部分;解析行为类型参数可以得到RowKey的后缀部分和各行为查询所需要的字段。组成RowKey的全部参数集合都确定后,可以通过迭代将查询所涉及到的RowKey全部穷举出来,生成Get对象的列表,进行批量提交。在生成Get对象的时候,可以调用多重列前缀过滤器(MultipleColumnPrefixFilter),使查询结果只包含所需字段,提高查询效率。

  3.2.1单用户查询

  查询数据时,根据上文提到的查询逻辑,将生成的Get的列表一次性提交,获取查询结果。由于Hbase的设计是基于列的,想要使查询结果按行显示,还需进行查询结果的解析。同时,部分在HBase中无法实现的数据筛选功能如“行为间组合查询条件”、值过滤等,可在此时通过编程语言灵活实现。遍历结果进行解析时,可以生成一个哈希表resultMap、resultMap的key为列ID、value为真实字段名的字符串组合。在遍历中可以根据列ID将真实字段名所对应的查询值替换哈希表中value的值。遍历完成后对resultMap的值集合进行排序,排序结果即为用户的行为轨迹。此方法仅需对查询结果进行一次遍历即可完成解析。

  3.2.2批量用户查询

  批量用户查询时采用MapReduce方式提交查询、解析查询结果。由于Hbase官方提供的MapReduce接口InputFormat(TableInputFormat)只支持Scan方式来获取数据,并不适用Get方式。因此实现批量用户行为轨迹的分布式提取和解析,需要自定义3个类,即PrefixInputFormat(继承自InputFormat)、PrefixSplit(继承自InputSplit)和PrefixRecordReader(继承自RecordReader)。自定义这3个类的目的在于将输入的userID参数(包含RowKey前缀信息)、日期区间参数(包含RowKey中间部分信息)和用户行为类型参数(包含RowKey的后缀信息和查询所需的列)传入到PrefixInputFormat中,在PrefixInputFormat根据每个userID所在的Region将其分配到不同的PrefixSplit上,在PrefixRecordReader中根据PrefixSplit传入的参数信息完成RowKey的组装和Get列表的生成,并将Get列表作为VALUEIN传递给Mapper进行查询和解析。

  4性能对比

  测试数据:天翼视讯9月1日到10日之间10d的登陆、播放、访问和订购数据,总计条数约1亿条,日志文件总大小21G;任务描述:找出在9月1日到9月10日这段时间内输入用户集合中同时发生播放、订购、访问、登陆4种行为的活跃用户,并提取这部分用户在这段时间内的用户行为轨迹。

  5结论

  本文通过对HBase数据架构及数据字段设计的分析,设计了基于互联网电视用户行为分析的数据系统模型和数据库表结构。经过实际测试发现,在提取用户行为轨迹的数据分析时,HBase与传统的关系型数据库相比,在读写性能上均具有明显优势。伴随互联网电视业务发展和用户行为数据量的增加,对用户行为数据的查询及分析显得尤为重要目前,在对普通的互联网电视用户的盒端对用户行为数据的采集方面还不够完善,还需要继续完善补充用户行为字段,优化完善基于HBase数据字段及数据库结构,建立数据挖掘模型,通过对用户行为数据的深层次挖掘分析来优化完善业务和产品,为互联网电视业务在新疆兵团的持续优化发展和运营分析提供决策支持。

    核心期刊快速发表
    Copyright@2000-2030 论文期刊网 Corporation All Rights Reserved.
    《中华人民共和国信息产业部》备案号:ICP备07016076号;《公安部》备案号:33010402003207
    cnqika@163.com;zclwnet@126.com;zclwnet@163.com;
    本网站专业、正规提供职称论文发表和写作指导,并收录了海量免费论文和上百个经国家新闻出版总署审批过的具有国内统一CN刊号与国际标准ISSN刊号的期刊杂志,供诸位选择和查阅参考,免费论文版权归原作者所有,谨防侵权。