赛尔校园公共服务平台 Logo
平台使用
阿里云
百度云
移动云
智算服务
教育生态
登录 →
赛尔校园公共服务平台 Logo
平台使用 阿里云 百度云 移动云 智算服务 教育生态
登录
  1. 首页
  2. 阿里云
  3. 日志服务
  4. 操作指南
  5. 数据加工
  6. 数据加工(新版)
  7. 数据加工新旧版本对比与升级

数据加工新旧版本对比与升级

  • 数据加工(新版)
  • 发布于 2025-04-22
  • 0 次阅读
文档编辑
文档编辑

本文介绍数据加工(新版)与数据加工(旧版)服务的差异,以及如何选择数据加工(新版)与数据加工(旧版)。

新旧版本对比

对比项

数据加工(新版)

数据加工(旧版)

数据处理语法

数据处理SPL,参考SPL语法。

  • 日志服务SPL语法使用体验升级,详情请参见新旧版本语法对比。

  • 如果需要升级已有数据加工(旧版任务),语法升级请参见升级SPL规则语法对照。

数据加工DSL,参考数据加工语法。

支持场景

  1. 数据规整、信息提取。

  2. 数据清洗与过滤。

  3. 数据分发至多目标或动态目标。

  4. 跨地域同步数据(支持中国内地区域之间)。

  1. 数据规整、信息提取。

  2. 数据清洗与过滤。

  3. 数据分发至多目标或动态目标。

  4. 信息富化:数据维表,IPv4解析等。

  5. 跨地域同步数据(公网)。

CreateETL - 创建数据加工任务(接口对比)

  1. 添加配置项lang,值为SPL。

  2. 配置项script值为SPL规则。

  3. 输出目标sink中添加配置项datasets。

  1. 无配置项lang。

  2. 配置项script值为DSL脚本。

  3. 输出目标sink中无配置项datasets。

源数据Logstore消费组依赖

不依赖

依赖

新旧版本选择

场景考量

目前,数据加工(新版)暂未支持数据富化等场景。如果需要从SLS Logstore,OSS Object、RDS Table等数据源关联维表信息,进行IP地理位置解析,或者跨地域同步数据,请选择数据加工(旧版)。

计费考量

通过数据加工服务的技术迭代升级,数据加工(新版)提供了更具优势的使用成本,仅为数据加工(旧版)的1/3,具体参考按使用功能计费模式计费项。所以,在需求场景已经支持时,推荐使用数据加工(新版)。

新旧版本语法对比

相对于数据加工(旧版)DSL语言,日志服务SPL语法提升了易用性,具体如下:

  • 数据加工(旧版)DSL语法作为Python语法子集,需要函数式编程,使用过程中存在较多语法符号冗余。相较而言,日志服务SPL语言是类Shell指令式语法,在最大程度减少语法符号的冗余。

    • 旧版本使用函数v引用字段值v("field"),SPL则直接引用字段,比如| where field='ERROR'。

    • 旧版本函数调用func(arg1, arg2),转为SPL指令| cmd arg1, arg2,编写更简洁。

  • 数据加工(旧版)DSL的定义中,字段值固定为字符串类型,类型转换的中间结果不支持保留。SPL语言支持处理过程中临时字段类型保持,请参见类型保持。

    • 数据加工(旧版):

    如下DSL脚本,需两次调用ct_int函数。

    e_set("ms", ct_float(v("sec"))*1000)
    e_keep(ct_float(v("ms")) > 500)
    • 数据加工(新版):

    对应的SPL逻辑则更为简洁,无需两次转换类型。

    | extend ms=cast(sec as double)*1000
    | where ms>1024
  • 复用日志服务SQL函数,无需额外的理解成本,详情请参考SQL函数。

相关文章

数据加工(新版)概述 2025-04-22 10:55

日志服务提供可托管、可扩展、高可用的数据加工(新版)服务。数据加工(新版)服务可应用于数据规整与信息提取、数据清洗与过滤、数据分发至多目标Logstore等数据处理场景。 加工原理 日志服务提供的数据加工(新版)功能,通过托管实时数据消费的任务,结合日志服务SPL规则消费功能,实现对日志数据的实时加

数据加工新旧版本对比与升级 2025-04-22 10:55

本文介绍数据加工(新版)与数据加工(旧版)服务的差异,以及如何选择数据加工(新版)与数据加工(旧版)。 新旧版本对比

授权 2025-04-22 10:55

您使用数据加工功能时,涉及数据加工操作权限和数据访问权限。 如果您使用的是阿里云账号,直接执行加工任务访问数据授权。

快速入门 2025-04-22 10:55

本文以网站访问日志为例,为您介绍完整的数据加工流程,帮助您快速熟悉数据加工功能及其操作。 准备工作 已创建名为web-project的Project。具体操作,请参见管理Project。

创建数据加工(新版)任务 2025-04-22 10:55

日志服务支持您使用数据加工(新版)功能,基于SPL规则消费源Logstore中的数据,并将SPL规则处理结果写入到的目标Logstore中。您也可以对加工后的数据进行查询和分析,进一步发掘数据价值。本文介绍如何在日志服务控制台上创建数据加工任务。 前提条件 已采集数据到日志服务。

管理数据加工(新版)任务 2025-04-22 10:55

本文介绍如何在日志服务控制台上管理数据加工(新版)任务,包括查看任务详情与状态,修改、启动、暂停和删除任务。 查看任务详情

目录
Copyright © 2025 your company All Rights Reserved. Powered by 赛尔网络.
京ICP备14022346号-15
gongan beian 京公网安备11010802041014号