2024年11月Linkis(微服务架构) V0.11.0 官方版

发布时间:

  ⑴Linkis是一个非常好用的计算中间件架构软件,软件提供了Spark、Python、TiSpark、Hive和Shell等计算引擎,同时支持SparkSQL、Spark Scala、Pyspark、R、Python、HQL和Shell等的脚本语言。用户使用该软件可以管理该系统所有用户的应用,进行一站式管理。

  ⑵、统一作业执行服务:一个分布式的REST/WebSocket服务,用于接收用户提交的各种脚本请求。

  ⑶目前支持的计算引擎有:Spark、Python、TiSpark、Hive和Shell等。

  ⑷支持的脚本语言有:SparkSQL、Spark Scala、Pyspark、R、Python、HQL和Shell等。

  ⑸、资源管理服务: 支持实时管控每个系统和用户的资源使用情况,限制系统和用户的资源使用量和并发数,并提供实时的资源动态图表,方便查看和管理系统和用户的资源。

  ⑹目前已支持的资源类型:Yarn队列资源、服务器(CPU和内存、用户并发个数等。

  ⑺、应用管理服务:管理所有系统的所有用户应用,包括离线批量应用、交互式查询应用和实时流式应用,为离线和交互式应用提供强大的复用能力,并提供应用全生命周期管理,自动释放用户多余的空闲应用。

  ⑻、统一存储服务:通用的IO架构,能快速对接各种存储系统,提供统一调用入口,支持所有常用格式数据,集成度高,简单易用。

  ⑼、统一上下文服务:统一用户和系统资源文件(JAR、ZIP、Properties等,用户、系统、计算引擎的参数和变量统一管理,一处设置,处处自动引用。

  ⑽、物料库:系统和用户级物料管理,可分享和流转,支持全生命周期自动管理。

  ⑾、元数据服务:实时的库表结构和分区情况展示。

  ⑿、Linkis管理台

  ⒀用户可以查看和管理自己的Job。

  ⒁用户可以查看和管理自己的引擎。

  ⒂用户可以查看Yarn的资源使用情况和用户资源使用排名。

  ⒃用户可以配置引擎的启动参数。

  ⒄用户可以设置变量。

  ⒅支持给EngineManager打标签。

  ⒆启动引擎时,支持为引擎打标签。

  ⒇支持通过标签访问目标引擎。

  ⒈、AppGovernance应用治理实现

  ⒉系统级、用户级应用全生命周期管理,包括离线批量、交互式查询和实时流式应用。

  ⒊为离线和交互式应用提供复用能力和智能切换能力。

  ⒋智能限流、应用智能保护。

  ⒌、支持Flink和Spark Structured Streaming