赛尔校园公共服务平台 Logo
平台使用
阿里云
百度云
移动云
智算服务
教育生态
登录 →
赛尔校园公共服务平台 Logo
平台使用 阿里云 百度云 移动云 智算服务 教育生态
登录
  1. 首页
  2. 阿里云
  3. 对象存储
  4. 开发参考
  5. 常用工具
  6. 命令行工具ossutil 2.0
  7. 最佳实践
  8. 断点文件续传

断点文件续传

  • 最佳实践
  • 发布于 2025-04-21
  • 0 次阅读
文档编辑
文档编辑

在网络不稳定的情况下,连接中断可能导致文件传输失败,使用 ossutil 2.0 的断点续传功能从中断的地方继续上传或下载,从而提升传输效率。在 ossutil 2.0 中,默认情况下不启用断点续传。如果需要使用此功能,请在执行cp命令时指定 --checkpoint-dir 参数来启用断点续传。

前提条件

  • 已开通OSS服务。

  • 已创建Bucket。

  • 已安装ossutil 2.0命令行工具。

断点续传机制

断点续传是将文件划分为多个较小的片段进行传输,支持在传输中断时从上次中止的位置继续传输,从而确保数据的完整性和传输的高效性。

  1. 启动传输:在传输文件时指定 --checkpoint-dir 参数,启用断点续传功能。

  2. 信息存储:启用断点续传功能后, ossutil 会将传输进度的关键信息(包括文件名称、大小、upload id 以及已上传分片等)保存到 checkpoint-dir 下的 .ucp 文件中

  3. 中断恢复:如果传输过程因网络问题或其他原因中断,可以重新启动传输。ossutil 会读取 checkpoint-dir 中保存的.ucp 文件,通过之前保存的进度信息来确定哪些分片已经成功传输,哪些分片需要继续传输。

  4. 继续传输:ossutil 根据已传输分片的信息,将未传输的分片继续传输。

参数说明

参数

说明

--checkpoint-dir

用于指定断点续传信息的存储目录。

示例

上传单个文件

下面的示例展示了如何使用 ossutil 的 cp 命令将本地文件 upload.rar 上传到指定的 bucket 存储空间。上传操作开始后,将在 your-checkpoint-dir 目录下生成一个 .ucp 文件,用于存储上传进度信息。

ossutil cp upload.rar oss://bucket --checkpoint-dir D:\\your-checkpoint-dir\

如果由于网络中断、磁盘读写异常等原因导致文件上传被中断,您可能会看到如下错误信息:

Error: upload failed, upload id: 1F71C936CF7B423493BC7A664DB3FD82, cause: operation error UploadPart: Put "https://bucket.oss-cn-hangzhou.aliyuncs.com/upload.rar?partNumber=15&uploadId=1F71C936CF7B423493BC7A664DB3FD82": dial tcp: lookup bucket.oss-cn-hangzhou.aliyuncs.com: no such host

在这种情况下,您可以通过执行相同的上传命令,利用 .ucp 文件中保存的信息,继续上传文件:

ossutil cp upload.rar oss://bucket --checkpoint-dir D:\\your-checkpoint-dir\

继续传输开始后,ossutil 会读取存储在 checkpoint-dir 目录下的上传进度信息,从未上传的分片开始上传:

Total 1 objects,6.833 GiB, Upload... done:(0 objects), 3.000%, avg 4.740 MiB/s    

批量上传文件

下面的示例展示了如何使用 ossutil 的 cp 命令将本地 local_directory 目录下的文件批量上传至指定的存储空间(bucket)。在此过程中:

  • -u 参数用于仅上传那些比目标文件更新的源文件。

  • -r 参数则允许递归复制整个目录及其所有子目录中的文件。

上传过程中,进度信息会被存储在 your-checkpoint-dir 目录中生成的一个 .ucp 文件里。

 ossutil cp -u -r local_directory oss://bucket --checkpoint-dir D:\\your-checkpoint-dir\

如果由于网络中断、磁盘读写异常等原因导致文件上传被中断,您可能会看到如下错误信息:

Error occurs. See more information in file: /ossutil-2.0.6-beta.01091200-mac-arm64/ossutil_output/ossutil_report_20250122_115545_96481.report
FinishWithError: Total 2 files, 7836503730 B, Upload done:(0 objects) failed:(2 objects, 7836503730 B)

遇到这种情况,您可以再次执行相同的命令,从 .ucp 文件中读取信息,继续上传。

 ossutil cp -u -r local_directory oss://bucket --checkpoint-dir D:\\your-checkpoint-dir\

继续传输开始后,ossutil 会读取存储在 checkpoint-dir 目录下的上传进度信息,从未上传的分片开始上传:

Total 2 files,7.298 GiB, Upload... done:(0 objects), 1.645%, avg 17.521 MiB/s
相关文章

定时同步任务 2025-04-21 17:22

在日常的文件管理工作中,我们常常需要将本地文件与云端存储进行同步,以确保数据的安全备份和便捷访问。阿里云对象存储(OSS)是一款稳定可靠的云存储服务,能够满足我们对于文件存储和管理的需求。本文为您介绍如何通过配置定时任务,将本地文件自动同步至 OSS ,让您的文件管理更加高效便捷。 操作场景 某文件

上传下载时限速 2025-04-21 17:22

在进行大文件上传下载至OSS时,如果存在网络环境复杂多变或需要同时处理多任务等情况,您可以使用ossutil的限速功能实现对文件传输速度的有效控制,从而更好地满足数据的管理与使用需求,提升数据处理效率。 说明 该限

断点文件续传 2025-04-21 17:22

在网络不稳定的情况下,连接中断可能导致文件传输失败,使用 ossutil 2.0 的断点续传功能从中断的地方继续上传或下载,从而提升传输效率。在 ossutil 2.0 中,默认情况下不启用断点续传。如果需要使用此功能,请在执行cp命令时指定 --checkpoint-dir 参数来启用断点续传。

下载大文件到机械硬盘 2025-04-21 17:21

本文将详细为您介绍如何通过ossutil下载大文件到机械硬盘,顺利完成文件传输任务。 使用场景 在大文件下载的过程中,我们经常会遇到网络不稳定的情况,这可能导致文件传输中断,给工作带来极大的不便,对于外挂硬盘的场景,文件传输中断的可能性高。ossutil 提供了断点续传功能,能够很好地解决因网络问题

基于对象元数据进行筛选 2025-04-21 17:21

本文将详细为您介绍如何通过ossutil根据对象的元数据进行过滤,筛选出您需要的内容。 使用场景 对于包含大量对象(Object)的Bucket,直接浏览或处理会非常耗时。因此,ossutil 2.0提供了一系列高效的基于元数据进行过滤的选项,允许用户根据特定元数据属性对Object进行精准筛选。

批量解冻文件 2025-04-21 17:21

归档、冷归档或深度冷归档存储类型的数据在存储时为了降低成本而被冻结无法直接读取,您可以使用ossutil 2.0提供的restore(解冻文件)命令对文件进行批量解冻,完成解冻后支持访问。 说明 归档存储类型的文件支持开启归档直读功能,而冷归档和深度冷归档文件则必须

目录
Copyright © 2025 your company All Rights Reserved. Powered by 赛尔网络.
京ICP备14022346号-15
gongan beian 京公网安备11010802041014号