CDH内Yarn动态资源池配置.pdf-Hadoop文档类资源

由于集群资源有限，可能多个应⽤用同时使⽤用Hadoop集群，防⽌止系统资源被单个应⽤用 占⽤用过多影响整体集群使⽤用情况，引⼊入资源池管理理集群资源。
unde允许未声明的池O YARN(MR2 Included)(服务范围)cyarn scheduler fair. allow-undeclaredpools默认情况下,"A| ow Undeclared pools"可选项是选中的,需要关闭。否则如果用户指定一个尚未声明的资源池时,比如prod,YARN将会自动生成一个prod资源池。配置文件修改后需要重新启动YARN服务,重新部署客户端配置。6.配置“若用户提交任务不指定特定的 queue,就使用 default资源池”Fair Schedu er User As Default Queue使用默认队列时的 Fair Scheduler O ResourceManager Default Group C当设置为true时,如果未指定池名称,Fair用户Scheduler将会使用用户名作为默认的池名yarn scheduler. fair user-as-default尔当没为1s时,所有应用程序都在名为 default的共享池中运行7.进去动态资源池配置页面cloudera manager群集核图表·倍份●ARN(MR2 Include大数据分听平台t50状态宴例配置命令应用程序H HBase主机S HDFS报告利用率报告切换至经奥布局角i HueV ImpalaYARN应用栏予v范图bOozemale个查询YAHN (MR2 Incl irlen)见围)ksey当论置为te时.如果未指动态资源池配置Scheduler将会使用用户名作为Gateway会 SEark2称。当设置为fdse时,所有应月ucbhlistory Sever静态服务池温 YARN (MR2 Inclut个名为 defaut的其享池中运行v类别Cloudera Management Service每页c| oudera MANAGER群集够断·审楼图表理文持·admn边态资潺池配置(大数分平台)YARN Impala Admission (antro源池计划模式放置规贝阳广限制可以嵌,它的每一个级别都可以支持不同的计划程序,如日FC或 Far scheduler。每个池都可以配置为仅允许某些用户和组集访问该池已为3个正在运行的 Nede Menacer总共配置72个vcre640当宇节内存。直看动态责源池钛添创建资需也默认设置访间控制没置最小资源数最大资数虚内板虚拟内核正在运行的应用程序最大量计划策略1500%150.%7.1资源池(资源分配界面)。主要配置项权重(%):动态权重,资源不是静态的,去其他池相关的资源共享最大最小CPU、内存正在运行的应用程序最大数量●计划策略创建资源池,资源池名称为deV创建资源池资源池名称d口父池Resource limits计划策略抢占提交访问控制管理访问控制4与其他池相关的资源共享资源数虚拟内核吉字节:内存The minum number of virtual cores and memory available to this pool. This takes priority over the weightbased share (optional)最大资源数虚拟内核吉字:内存The maximun number of virtual cores and memory available to this pool. This takes priority over theweight based share(optional)正在运行的应用程序最大池中同时运行的应用程序数量限制。数量取消创建7.2配置计划策略(对dev资源池控制)编辑资源池Resource Limits计划策略抢占提交访问控制管理访问控制DRF: Dominant resource fairness。根据c門U和内存公平调度资源。(建议)○FAR仅根据内存公平调度资源FIFC:拥有子池的池不能是FFO。取消保存7.3提交访问控制(对dev资源池控制)编辑资源池Resource limits计划策略抢占提交访问控制管理访问控制此功能仅在“启用 Resource Manager ACL"设置为te且“管理ACL"未设置为*时相关。(请参见顶级页面中的“访问控制设置"。)Fair scheduler访问控制列表可以控制向池提交应用程序的用户。对于子池,有杈限提交父池旳用户自动继承子池的相同功能。○允许任何用尸向该池提交允许这些用户和组向该池提交用户组 bi_dev, bi_dev_vipl取消保存7.4管理访问控制(对dev资源池控制)编辑资源池Resource limits计划策略抢占提交访问控制管理访问控制此功能仅在"启用 Resource Manager ACL"设置为true且“管理ACL未设置为*时相关。(请参见顶级页面中的"访问控制设置"。)Fair Scheduler访问控制列表可以控制可以管理池的用户。对于子池,有权限管理父池的用户自动继承子池的相同功能○允许任何用户管理该池⊙允许这些用户和组管理该池用户arm组 bi_cev, bi_dev_ vip保存7.5验证资源池访问控制●新建o用户: yan. yo用户组:Wms为该用户初始化 word count数据,具体操作见步骤3在执行 hadoop命令內加入资源池控制,如下图yan.yhi- bca?-ue-201-] s groups新的用户组Lyan. jyabi-bcao-ue-001 *]5 hadoop jar /usr/local/cloud0: 56: 08 INFO input FileInput Format Total inpt18/03/08 10: 56: 08 INFD mapreduce Job Submitter: nuber of splits8/03/08 10: 56: 09 INFO mapreduce, JobSubmitter: Submitting tokens for job: job_152041指定资源池dev9c23.8/03/08 10: 56: 09 INFD mapreduce. Jobsubmitter: Cleaning up the staging area /user/ya18/03/08 10: 56: 09 WARN security. UserGroupInformation: PriviledgedActionException asauth: SIMPLE) couse: javc io ICException: org. apache, hadoop, yarn. exceptions. YarnExceptiFat led to s bit application 1520413797733_0023 tD YARNns to queue root cevvo to IDExceticn: org. apache hadoop yarn. exceptions. YarnExceptian: Failed to submit application_1520413797733-0023 to YARN: User yan Jy camot submit applicaticns to queue roanner.java: 300)at java security Access controller. doPriv leged(Native Method)tion doAs (UserGroupInfonmaticn java: 1920)Cob, java: 1325)at sun reflect Nati veMethodAccessorIpL invoke(NativeNethodAccessorImpL java: bZn reflect. DelegatingMethodAccesJava, lcng refLectanDescription. invoke( ProgramDriver71)Java: 74)ut sun, I'e eLL Nuti ve: Lhu. Imul, niwuAee(NuLi ve ve c eexyodecessorImpl. java: 43)at sun reflect Nati veMethodAccesso-ImpL i voke(NativeNetat org. apache, hadoop, util. RunJar, matnCR unar. java: 136Caused by: org. apache hadoop yorn. exceptions. YarnException: Failed to submit application -1520413797733_0023 to YARN: User yar iy carnot subnit applications to queLe root. devat org. apache, hadoop yarn. client api imol, YarndlientInpl, subcation (Yarn CLientImpL, java: 2570saurccMgrDelcgate. java: 290)at org. apache, hadoop mapred YARNRunner subritJob (YARNRunne8.计划模式(资源池配置集)可以根据不同时段使用不同的资源池配置。动态资源池配置(大数据分析平台YaRN Mala Arm? Control池计划模式故置规则用广制要确定特定设置问时应处于活动状态,请指定计划规则及规则的评估顷序创速计划则重新持列十划模式顾序每天重复,从早上8点0O分到晚上1点0C分CSD,从2018-02-07开。2每天重复,从凌属12点00分到早上8点0C分CsT,从20180307开ETLIE编|3在所有其他规则不活用时运行配置了计划模式,资源池会有多套配置,如下图cloudera manager·主机,·审孩图,备份·管理适持warm动态资源池配置(大数据分析平台)YARN Impala Admission Control资源池计划横式款置规则用户限制池可以嵌,它的郎一个级别都可以支排不同的计划程序,如FFO或 Far scheduler。都个池都可以配置为允许某些用户和组集法间该池已为3个正在运行的 NodeManager总共配置72个 Vcore和640吉字节内存,直看动态资源池状态创建资歇认设置访问控制设置配置集ET时段default资源数最大资原数月户活跃时段名称虛拟内核内存正在运仁的立月程序最大数量计划筑暗ETL时段users116%wonhigh-bl4667计划规则主要控制配置有效时间段,创建计划规则如下图创建计划规则配置集◎新建用户活跃时段default可以将此配置集配置为包含不同的每泡CPU和内存设置。○使用现有项重复每天全天介于早上8点00分CST:晚上11点0分CsT取消创建9.放置规则主要作用:控制任务(Job、Task)使用资源池规则,即任务会根据以下规则放到对应资源池执行。cloudera MANAGeR:主机,说图表·音份理搜索dmin动念资源池配置(大数据分析平台)ARN Impala Admission Conrol负源池计划模式故置规则用产限制配置YARN如呵确定将在哪个池中运行应月程序创键放置规‖重新列放置观则放规则仅想已在适得时走存在时使用该池编相2仪当 root. users. username存在司使用该消编辐|3使用 root default此规始终满正。不会使用后续现则。10.用户限制主要作用:控制单个用户最大应用程序并发度。动态资源池配置(大数分析平台)YARN Impala Admission Control密源浊计划模式放置规Q用户见制用户可以同时捉交的最大应用程序数量创建用广阳制默认设置止在行的应用序量大数量操作bide1编辑|动态资源池到这里基本配置完成。具体配置方案,要根据项目实际情况。建议:保证默认资源池可以使用,不影响正常使用的情况下配置动态资源池。