Chiefr:分布式项目开发模型和工具包
2022-05-22 08:27:49 100KB Go开发-分布式系统
1
使用 scrapy, scrapy-redis, graphite 实现的京东分布式爬虫,以 mongodb 实现底层存储。分布式 实现,解决带宽和性能的瓶颈,提高爬取的效率。实现 scrapy-redis 对进行 url 的去重 以及调度,利用redis的高效和易于扩展能够轻松实现高效率下载
2022-05-21 20:16:02 1.56MB Python开发-Web爬虫
1
第5章 MapReduce分布式计算框架 2 5.1. MapReduce简介 2 5.2. wordcount经典案例介绍 2 5.3. MapReduce进程介绍 3 5.4. MapReduce编程规范 3 5.5. wordcount经典案例的实现 5 5.5.1. 分析数据准备 5 5.5.2. 新建maven项目,导入项目所需要的依赖 6 5.5.3. Mapper阶段代码编写 10 5.5.4. Reduce阶段代码编写 12 5.5.5. 定义Driver类, 描述 Job 13 5.5.6. 使用maven将项目打包成jar包 15 5.6. MapReduce作业运行 16 5.7. END 19 第5章MapReduce分布式计算框架 本章介绍了Hadoop的MapReduce分布式计算框架的基本概念、编程规范和词频统计实战等内容。从存储的大数据中快速抽取信息,进一步进行数据价值的挖掘,需要用到大数据的分布式计算技术的支持。Hadoop支持多种语言进行MapReduce编程,包括java、Python和C++等。本章从实战的角度出发,使用java编程语言通过
2022-05-21 12:04:41 1.97MB mapreduce
1
RabbitMQ是实现了高级消息队列协议(AMQP)的开源消息代理软件
2022-05-21 11:01:02 12.31MB rabbitmq 源码软件 分布式
1
操作系统:09第九章 网络与分布式操作系统(1).ppt
2022-05-21 09:01:20 180KB 文档资料 网络 分布式
操作系统:09第九章 网络与分布式操作系统(2).ppt
2022-05-21 09:01:20 399KB 文档资料 网络 分布式
分布式温控系统 邮电大学软件工程大作 1. 工程说明 开发语言: Java, GUI 使用 Swing 运行环境: JDK 1.5 以上 集成开发环境(IDE): Intellij IDEA 14.0.2 数据库版本: MySQL 5.6 2. 工程源代码 源代码位于 app/ 文件夹中 app/server: 主机 app/client: 丛控机 3. 数据库建库脚本 脚本位于 app/server/sql/ 文件夹中 access_log.sql: 丛机登录登出信息 cost_report.sql: 报表 transaction_log.sql: 丛机事物请求交互记录 user.sql: 主机管理员信息 4. 资源文件 资源文件在 app/client/src/main/resources 文件夹中, 内容为丛控机的输出功率 以及工作模式的切图 5. Setup a) 主机 配
2022-05-20 20:18:49 7.74MB Java
1
MongoDB是一个基于分布式文件存储 [1] 的数据库。由C++语言编写。旨在为WEB应用提供可扩展的高性能数据存储解决方案。 MongoDB是一个介于关系数据库和非关系数据库之间的产品,是非关系数据库当中功能最丰富,最像关系数据库的。它支持的数据结构非常松散,是类似json的bson格式,因此可以存储比较复杂的数据类型。Mongo最大的特点是它支持的查询语言非常强大,其语法有点类似于面向对象的查询语言,几乎可以实现类似关系数据库单表查询的绝大部分功能,而且还支持对数据建立索引。 使用原理: 所谓“面向集合”(Collection-Oriented),意思是数据被分组存储在数据集中,被称为一个集合(Collection)。每个集合在数据库中都有一个唯一的标识名,并且可以包含无限数目的文档。集合的概念类似关系型数据库(RDBMS)里的表(table),不同的是它不需要定义任何模式(schema)。Nytro MegaRAID技术中的闪存高速缓存算法,能够快速识别数据库内大数据集中的热数据,提供一致的性能改进。 模式自由(schema-free),意味着对于存储在mongodb数据库中
2022-05-20 18:03:53 152.69MB mongodb 数据库 分布式 database
1
Designing Distributed Systems: Patterns and Paradigms for Scalable, Reliable Services 1st Edition
2022-05-20 18:02:58 4.44MB 分布式 distributed
1
分布式电源在配电网中并网渗透率越来越高,但增加了系统的总成本与不稳定性。本文以实现配电网经济性与安全稳定运行协调统一为目的,研究了配电网中并网DG渗透率确定情景下风光车储设备容量的优化配置方法。首先,从配电网投资管理者角度出发,以配电网年均收益最大为目标函数,同时引入DG输出功率波动最小指标,考虑配电网潮流、DG、储能三方约束条件建立风光车储容量配置双层优化模型,运用遗传算法进行求解;然后,对分布式电源接入节点已知的33节点配电网系统进行测试计算,求得DG并网总容量确定情景下的风光车储容量最优配置方案;最后,对不同DG渗透率情景下配电网年收益的影响进行分析,得出系统在该模型求解下并网DG的最大渗透率。算例结果验证了所设计方法的有效性,为含风光车储混合的配电网经济安全运行提供了新的思路。
1