当前，我们正处在一个“数据智能”的时代，数据呈指数级增长，数字化、智能化转型已是企业创新和高质量发展的基石。在数据为王的时代，如何让数据产生价值，让数据说话，让数据辅助决策呢？数据变宝任重而道远，只有借助于高性能计算(HPC)和人工智能(AI)，数据才能淋漓尽致的绽放其价值。而在分布式的HPC集群的工作负载运行中，调度是 “大脑中枢”，无调度不成超算。

IBM Spectrum LSF (Load Sharing Facility,下文称LSF)给分布式高性能计算系统注入灵魂，强有力地把分布在不同地方的算力组织起来，犹如万剑归一，凝心聚力，以实时的算力监控和优越的调度性能，在最短的时间内完成工作负载的调度和执行。

LSF横空出世并一往直前 

站在今天看过去，分布式高性能计算一直是IT行业的热门话题。就是算力强悍的今天，大型机(比如IBM Z系列)已经承载了一些核心的业务，但一些其他的应用和作业，无福享受到强悍的大型机的伺候，更何况把目光往前推20多年，单个主机很难满足应用作业的需求，那怎么办呢？最直接的方式就是把一群机器组织起来，并行干活。如果有一把绝世宝剑，来统一号令集群协同工作，只要调度得当，完全有可能实现“机心齐，泰山移”。

在这种背景下，LSF于1992年横空出世。到今天，LSF已经走过了29个年头。在这29年的发展中，新的技术层出不穷，用户的需求也在不断变化，经过LSF研发团队的精益求精和不懈努力，LSF已经发展成为HPC分布式集群的“瑞士军刀”，拥有高性能的大规模分布式集群管理和调度能力。近日在中国，LSF被IBM中国团队创业成长计划“12星座”冠以“白羊座”黑科技产品，算是名至所归。29岁，LSF正当壮年！

那么LSF到底是什么呢？ LSF是一个强大的分布式工作负载管理平台，基于智能的、策略驱动的调度特性，充分利用计算基础设施资源，实现最佳的应用程序性能。一言以蔽之，LSF在正确的时间内，将正确的资源分配给正确的用户作业。LSF旨在降低企业运营成本的同时，提高生产效率。LSF构架图如下。

经过二十多年的发展，相对于最初的LSF 1.0版本，最新的LSF 10.1，不管是功能上，还是性能上，都得到了质的飞跃。LSF从最初简单的调度器，发展到今天丰富多彩的调度“航母”，不仅后向兼容，而且不断创新，支持层出不群的新技术和新平台，比如支持GPU和Kubernetes等，也支持机器学习的平台和作业，AI赋能，发展出了很多周边产品，一往无前的创新和完善的功能，让29岁的LSF成为了妥妥的“黑科技”。

在分布式管理和调度方面，LSF的功能可谓应有尽有，仅仅调度策略，就有数十种，比如先来先服务 (FCFS)、抢占 (Preemption)、资源需求 (Resource Requirement)、公开共享 (Fair share Scheduling)、服务水平的资源保障(Guarantee SLA)、资源预订 (Resource Reservations)、回填调度 (Backfill Scheduling)、亲和调度 (Affinity Scheduling)等。

LSF不光支持CPU等常见算力，而且也支持GPU调度。同时支持多集群调度，块调度、作业动态调度、许可证（License）调度，基于事件的调度、计算单元和作业包装、作业开始时间预测等功能。

LSF也支持容器化的应用的调度，LSF可作为Kubernetes集群的热插拔调度器，根据策略将Pod绑定到特定节点，由Kubelet在目标节点上执行和管理Pod生命周期，HPC作业可以在不影响Kubernetes Pods的情况下提交和执行。

同时，LSF支持混合云策略，LSF有一个非常受欢迎的功能：Resource Connector。如果在作业激增的情况下，等待作业较多，本地资源不足的情况下，Resource Connector可以迅速的向公有云或者私有云申请资源，然后基于智能化的策略，把作业调度到云端资源上执行。如果业务量下降了，根据预设的门限，即刻释放云端资源。这种可伸缩性，有效的提高计算效率的同时，为客户节省了费用，真是鱼和熊掌二者兼得也！

在HPC集群中，性能非常重要，在LSF 10版本中，实现了无与伦比的大规模高性能，并且包含了很多创新性功能，提高了易用性和可访问性。LSF 10支持数以千计的并发用户数，同时管理数以万计的节点资源，同时调度数以百万计的作业。通过IO模式优化、将数据移到更靠近作业的地方、处理器间通信的优化等方法，来提高作业的吞吐量性能。在LSF 10的Benchmark测试中，LSF可以在每小时调度分发9百万的作业(超短作业)。在另外一组测试环境中，在100，000个Slots的LSF集群，纵向对比了LSF的性能提升，从图中我们可以看是LSF 10的性能得到了大幅提升。

LSF的小伙伴们

俗话说，一个好汉三个帮。LSF的核心的功能是根据集群的资源情况对作业进行调度和分发，到今天，LSF已经发展出了一个大的家族，LSF更像是一个家长，以“带头大哥”的身份带领其家族的小伙伴们，为客户降低运营成本，提高生产率。具体看，LSF家族的核心价值有：

· 通过有效的调度和共享策略提高资产利用率

· 通过易用性、易访问性和简化来提高用户的工作效率

· 通过洞察如何使用HPC环境来提高操作效率 

下面有请LSF家族中几位主要的小伙伴们亮相：

• LSF AC (Application Center)

LSF AC是LSF的Web Portal。作为是LSF家族中“大师兄”，为集群用户和管理员提供了灵活、易用的界面，使用户能够直观的和LSF集群进行交互。有了LSF AC，妈妈再也不用担心程序员小明记不住复杂的LSF后台命令了！用户可以通过Web浏览器轻松愉快的完成作业的基本操作，如停止、暂停、恢复或重新排队作业，也可以在Web界面监控作业的运行情况。同时，LSF AC有很多应用程序的模板和脚本指南，这些模板和指南，很好的简化了作业提交，很大程度上降低用户的操作错误概率。

LSF AC不光有电脑客户端，也支持手机客户端，用户随时随地的掌握作业的运行状态和资源情况。

• LSF PM (Process Manager)

在一些LSF的应用场景中，很多作业之间有依赖关系，特别是近几年来的容器化，微服务化，并行化作业愈发盛行，面对错综复杂的作业依赖关系，如果没有一套流水线的管理工具，那对于这些用户来说，简直就是灾难。LSF PM就是肩负着这个使命而诞生的，使用这个流水线工具，LSF用户可以在提交作业前，图形化的勾勒出作业的先后顺序和驱动事件，然后再提交执行。使用直观的图形界面记录和查看工作流步骤和执行情况，允许用户自动执行容易出现人为错误的、或者冗长重复任务。

同时，用户可以通过LSF PM设置一些驱动事件，比如文件事件(比如文件产生或者消失的时候，触发某些作业)，时间事件（可以在特定的时间或者周期性的触发作业的运行）等。LSF PM拥有CS模式的客户端，同时也已经集成到了LSF AC的Web界面中了。

• LSF RTM (Report, Track, Monitor) 

LSF RTM是LSF集群管理员的福音，LSF集群管理员可以通过LSF RTM的Web仪表盘来全面的、实时的监视、报告和管理集群和工作负载，极大程度上提高了集群资源利用率和用户生产率，以及控制或降低了用户的成本。同时LSF RTM支持监控应用程序许可证服务器和集群中的用户和用户组。通过LSF RTM直观的Dashboard，可以轻松有效的监控多个LSF集群，完成管理员日常的集群维护工作。

• LSF Explorer

LSF Explorer是针对LSF环境的轻量级报告解决方案，支持各种业务和用户快速创建和查看报告和Dashboard。如果没有LSF Explorer，想要满足不同用户的需求，这些报告需要从多个产品中的不同报告中获得，而且这些数据可能需要通过电子表格的方式，手动创建报告，耗时且费力。LSF Explorer使用Elasticsearch数据库来存储、索引和查询数据，LSF的用户、IT管理人员或者项目负责人，都可以轻松的、定制化的获取，定期查看计算环境的执行报告，和所在项目或业务线正在消耗什么样的资源。

• LSF License Scheduler

商业化的应用程序许可证(License)往往是一种昂贵的资源，用户可以使用LSF License Scheduler，根据已建立的分发策略分配License，从而管理和优化计算节点和项目之间的应用程序License使用。License可以在集群之间共享，也可以在集群内的项目之间共享。LSF License Scheduler可以简化License共享，帮助提高生产力和增加对License资源的整体访问，支持FlexNet和Reprise许可证管理器(RLM)等。

• LSF Data Manager

作业的执行，往往需要一些数据作为输入，或者会输入大量的数据，如果没有合理的数据管理，势必对作业的执行速度造成影响。使用LSF Data Manager，用户可以有效地管理在HPC环境中的大量数据，借助已经具备的底层文件传输基础设施（如IBM Aspera），自动化LSF集群内和集群间的数据传输，以及本地与云之间的数据传输。LSF Data Manager还提供了一个智能托管缓存，允许复用数据，并避免重复的传输，从而消除浪费的磁盘空间和数据传输的等待时间。简单的说，LSF Data Manager根据作业调度情况，决定移动哪些数据，和什么时候移动，然后可以借助文件传输技术（如IBM Aspera）实现超高速传输。

LSF应用场景和用户分析

LSF主要的应用场景为分布式计算领域和一些计算密集型的场景。LSF已经成功的应用到了众多行业，包括电子自动化，航空航天等制造业、教育培训、能源、金融、生命科学，大型超算中心、气象分析、环境监测、仿真系统、数据挖掘、人工智能、动漫渲染等。简而言之，如果后台需要大量的计算，LSF定能助一臂之力。

目前，全球前12大汽车领域的公司，有10家在使用LSF。前25家电子自动化企业，有23家在使用LSF计算机辅助作业调度。全球前3大生命科学中心均在使用LSF做后台的集群调度。一些成功的超算中心，也在使用LSF做调度和监控。很多高等学府和研究院，使用LSF做超前的研究工作。我们每天看的精准的天气预报，也有LSF默默无闻的贡献。LSF的成功案例数不胜数，可以说，虽然我们摸不到，看不到，但LSF已然和我们的生活息息相关。

结语

因篇幅有限，不能对浩瀚的LSF做详尽阐述，LSF依旧在持续的发展中。二十多年来，LSF工作负载/资源管理解决方案赢得了多个行业客户的青睐，借助于LSF，客户的作业运行效率得到了极大的提高，降低了成本。今日的成功只是明日的起跑线，风华正茂的LSF和它的小伙伴们，在以后的日子里，不改初心，会不断完善自己，持续为客户创造更大的价值。

作者简介：何金池是IBM科技事业部负责客户工程的架构师，著有《Kubeflow:云计算和机器学习的桥梁》和《大数据处理之道》等书，是Kubeflow、Tekton多个开源社区的Maintainer，亲自参与了IBM Spectrum LSF、IBM Cloud Pak for Data等产品的研发，是分布式计算、大数据处理和云原生等相关技术和产品的专家。