应用性能加速

功能说明

创建实例时部署了支持性能加速的应用后，KeenTune会针对该应用的业务特点进行全栈的性能调优。这些调优集合了阿里云在多个领域及业务的调优经验积累，不仅针对实例的特点对CPU、内存、I/O、网络等领域进行了全面优化，也会对应用本身进行调优，来保障您的业务运行在最佳性能环境中，并能使Nginx、MySQL、Redis、PostgreSQL等应用获得平均20%左右的性能提升，助力您实现降本增效的目标。默认安装的应用版本及性能收益，请参见默认安装的应用版本及性能提升。

适用实例

性能加速类扩展程序，仅适用于部分Alibaba Cloud Linux 3操作系统的倚天实例、AMD实例和Intel实例。

新购ECS实例

如果您是新购ECS实例，可以在创建ECS实例过程中安装应用并配置性能加速。购买实例之后，只能通过命令行方式关闭性能加速能力或卸载已安装的应用。

sudo bash /etc/keentune/target/scripts/set_xps_rps.sh eth0 rps disable
sudo keentune profile rollback
sudo systemctl stop keentune-target keentuned
sudo yum remove keentune-target keentuned

sudo systemctl stop <APP_Name>
sudo yum remove <APP_Name>

存量ECS实例

如果您是存量的Alibaba Cloud Linux 3操作系统的倚天实例（g8y、c8y、r8y），可以在实例详情页面选择安装或卸载应用性能加速。

• 支持安装的应用性能加速：x264/x265、Nginx、Spark性能加速扩展。

  重要

  • Spark性能加速扩展功能在邀测中，如需使用，请联系您的商务经理开通。

  • Spark性能加速扩展仅支持ecs.g8y.8xlarge及以上规格和ecs.r8y.8xlarge及以上规格。

  • Spark性能加速扩展不会安装Spark，只提供调优包安装和配置。配置Spark性能加速扩展后，还需修改配置文件，具体操作，请参见配置Spark性能加速扩展。

  • Spark性能加速扩展仅支持对Spark 3.3版本进行加速，如需支持其他版本，请您的商务经理开通。

• 具体操作，请参见安装扩展程序、卸载扩展程序。

默认安装的应用版本及性能提升

默认安装的应用版本及性能提升的说明如下表所示。

配置Spark性能加速扩展

在Spark的Master节点和所有Worker节点配置Spark性能加速扩展的详细步骤如下：

1. 在Spark的Master节点和所有Worker节点安装Spark性能加速扩展。

   1. 在实例详情页，选择定时与自动化任务 > 安装/卸载扩展程序，单击安装扩展程序。

      

   2. 在安装扩展程序对话框中，公共扩展选择Spark性能加速扩展，配置如下参数，然后单击下一步，按照界面提示完成操作。

      • worker_number：指Spark集群中Worker节点的数量。

      • worker_type：指Worker节点的实例规格，当前仅支持ecs.g8y.8xlarge及以上规格和ecs.r8y.8xlarge及以上规格。

        

2. 在Spark所有Worker节点配置ZSTD。

   1. 替换jar包。

      sudo mv $SPARK_HOME/jars/zstd-*.jar $SPARK_HOME/jars/zstd-*.jar.bak
      sudo cp /opt/keentune/compress/zstd-*.jar $SPARK_HOME/jars/

   2. 修改/opt/keentune/spark.conf配置。

      • 如配置parquet文件写入过程的压缩方式，请修改以下参数：

        spark.sql.parquet.compression.codec    zstd
        spark.hadoop.parquet.compression.codec.zstd.level 1

        重要

        如果您的Parquet为1.13以下版本，建议您参考以下步骤升级到1.13及以上版本，以默认启用ZSTD的buffer pool。关于ZSTD JNI BufferPool的说明，请参见Support ZSTD JNI BufferPool。

        wget https://repo1.maven.org/maven2/org/apache/parquet/parquet-column/1.13.1/parquet-column-1.13.1.jar
        wget https://repo1.maven.org/maven2/org/apache/parquet/parquet-common/1.13.1/parquet-common-1.13.1.jar
        wget https://repo1.maven.org/maven2/org/apache/parquet/parquet-encoding/1.13.1/parquet-encoding-1.13.1.jar
        wget https://repo1.maven.org/maven2/org/apache/parquet/parquet-format-structures/1.13.1/parquet-format-structures-1.13.1.jar
        wget https://repo1.maven.org/maven2/org/apache/parquet/parquet-hadoop/1.13.1/parquet-hadoop-1.13.1.jar
        wget https://repo1.maven.org/maven2/org/apache/parquet/parquet-jackson/1.13.1/parquet-jackson-1.13.1.jar
        
        sudo mv $SPARK_HOME/jars/parquet-*.jar $SPARK_HOME/jars/parquet-*.jar.bak
        sudo cp -rf parquet-*.jar $SPARK_HOME/jars

      • 如配置shuffle过程的数据压缩方式，请修改以下参数：

        spark.io.compression.zstd.level 1
        spark.io.compression.codec    zstd

3. 使用Spark存算分离时，需要配置OSS的Endpoint和AccessKey。

   使用OSS存储时，必须在/opt/keentune/spark.conf文件中配置s3a相关参数。

   spark.hadoop.fs.s3a.endpoint <OSS的Endpoint>
   spark.hadoop.fs.s3a.access.key <您的AccessKey ID>
   spark.hadoop.fs.s3a.secret.key <您的AccessKey Secret>

4. 在Spark的Master节点使用新的配置启动Spark集群。

   您可以使用以下两种方式来启动Spark集群：

   • 直接使用/opt/keentune/spark.conf来重启Spark。

     # 任务提交方式一：
     spark-submit --properties-file=/opt/keentune/spark.conf 
     # 任务提交方式二：
     spark-sql --properties-file=/opt/keentune/spark.conf

   • 参考优化后的配置修改您自己的spark.conf后重启Spark。

     # 任务提交方式一：
     spark-submit --properties-file=${your_spark.conf}
     # 任务提交方式二：
     spark-sql --properties-file=${your_spark.conf}