Scala代码积累之spark streaming kafka 数据存入到hive源码实例,Scala代码积累之spark streaming kafka 数据存入到hive源码实例。
2021-10-19 13:38:34 3KB Scala
1
Janus FTL插件 这是一个正在进行中的插件,用于支持为Mixer实时流媒体服务开发的FTL“ Faster-Than-Light”协议。 该协议允许流媒体以极低的延迟(通常为亚秒级)将媒体传递到浏览器查看器。 在查看有关FTL协议的注释。 建筑 依存关系 首先,编译并安装 。 获取进行构建。 安装libavcodec库(在Ubuntu上sudo apt install libavcodec-dev )。 建筑 在构建过程中,默认情况下,我们在/opt/janus (默认安装路径)中查找Janus,但这可以使用JANUS_PATH env var进行配置。 mkdir build/ meson build/ cd build ninja 使用GCC 10编译器 该项目利用了一些仅在GCC 10或更高版本中可用的C ++ 20功能。 如果您基于最新的Ubuntu发行版,则可以
2021-09-26 19:07:26 105KB streaming ftl mixer janus-gateway
1
避免流式传输 前言:使用scala和java混编完成,其中也涉及到python脚本来自动生成日志,linux crontab调度工具来定时执行脚本生成实时日志。生成的数据主要是模拟某学习网站学习视频课程的访问量(其中*以“ / class”开头的表示实战课程,然后通过流水线Flume + Kafka + SparkStreaming进行实时日志的收集,HBase来存储数据)* 注意事项(使用的软件工具及环境配置) hadoop-2.6.0-cdh5.7.0 hbase-1.2.0-cdh5.7.0 zookeeper-3.4.5-cdh5.7.0 spark-2.2.0-bin-2.6
2021-09-24 14:31:54 921KB java scala spark ScalaJava
1
这本书绝不仅仅是在讲流式处理,它的真名是"总结过去10年大数据处理发展的历史,Google的经验; 提出新的理论,升维我们的思维模式,降维打击我们的复杂问题;展现目前的行业趋势,预测未来的行业走势….",这本书几乎影响了我对所有分布式系统的理解。
2021-09-24 10:01:19 31.56MB streaming sy flink spark
1
Spark零基础思维导图(内含spark-core ,spark-streaming,spark-sql),总结的很全面。 Spark零基础思维导图(内含spark-core ,spark-streaming,spark-sql)。 Spark零基础思维导图(内含spark-core ,spark-streaming,spark-sql) spark
2021-09-17 15:32:48 15.61MB Spark 零基础 思维导图 spark-sql
1
Dynamic Adaptive Streaming over HTTP ISO_IEC_23009-1_2012
2021-09-08 21:00:33 1.04MB DASH HTTP
1
rtsp-简单服务器 rtsp-simple-server是一个简单,易于使用且零依赖的RTSP / RTMP服务器和代理,该软件允许用户发布,读取和代理实时视频和音频流。 RTSP是一个规范,描述了如何在服务器的帮助下执行这些操作,发布者和阅读者都将其与之联系,并将发布者的流中继到阅读器。 特征: 使用RTSP(UDP或TCP模式)或RTMP发布实时流 使用RTSP读取实时流 始终或按需从其他RTSP / RTMP服务器或摄像机拉出并提供流(RTSP代理) 每个流可以具有多个视频和音频轨道,并且可以使用任何编解码器进行编码(包括H264,H265,VP8,VP9,MPEG2,MP3,
2021-09-01 10:01:29 122KB audio go golang streaming
1
操作步骤: 一.数据采集:视频网站访问日志(编辑python脚本) 1.Python日志产生器开发URL ,ip信息,状态码,时间等 2.python日志产生器测试并将日志写入到文件中 3.通过定时调度工具每一分钟产生一批数据 4.使用flume实时收集日志信息 5.对接实时数据到kafka并输出到控制台 6.spark streaming对接kafka的数据进行消费 数据采集详情:项目其他\数据采集.docx 二.数据清洗:见项目 使用spark streaming完成数据清洗操作 三.数据分析:见项目 功能一: 统计到今天为止视频的访问量 yyyyMMdd courseId 使用数据库来进行存储我们的统计结果 sparkstreaming把统计结果写入到数据库里面 hbase表设计:create 'aqy_video_clickcount','info' RowKey设计:day_videoid 功能二: 统计今天到现在为止从搜索引擎引流过来的实战课程的访问量 功能1+从搜索引擎引流过来的 HBase表设计: create 'aqy_video_search_clickcount','info' rowkey设计:根据业务需求20200529+search 功能具体实现步骤: 1.数据库访问dao层方法定义 2.hbase操作工具类开发 3.将spark streaming的处理结果写到hbase中 4.映射到hive数据仓库中 四.数据可视化:见数据可视化项目
2021-08-31 10:57:46 349KB spark 大数据
1
Flink Streaming 在滴滴的大规模生产_罗江宇@滴滴出行.pdf
2021-08-24 15:06:21 1.62MB flink
NATS .NET C# 流媒体客户端 NATS Streaming 是一个由提供支持的极其高性能、轻量级、可靠的流媒体平台。 NATS Streaming 提供以下高级功能集: 基于日志的持久性 At-Least-Once Delivery 模型,提供可靠的消息传递 基于每个订阅匹配的费率 重播/重启 最后值语义 笔记 请通过提出问题或提出问题。 对于一般性讨论,请访问我们的 slack 频道。 可以在提出加入请求。 入门 在 .NET 项目中开始使用 NATS 流客户端的最简单且推荐的方法是使用 NuGet 包。 有关如何使用客户端的示例,请参见下文或任何包含的示例项目。 使用源代码启动并运行 首先,下载源代码: git clone git@github.com:nats-io/stan.net.git 项目文件 存储库包含多个项目,都位于src\ STAN.Client-N
1