赛尔校园公共服务平台 Logo
平台使用
阿里云
百度云
移动云
智算服务
教育生态
登录 →
赛尔校园公共服务平台 Logo
平台使用 阿里云 百度云 移动云 智算服务 教育生态
登录
  1. 首页
  2. 阿里云
  3. 对象存储
  4. 操作指南
  5. 对象文件(Object)
  6. 上传文件
  7. 上传文件常见问题
  8. OSS中如何在分片上传中实现MD5校验

OSS中如何在分片上传中实现MD5校验

  • 上传文件常见问题
  • 发布于 2025-04-21
  • 0 次阅读
文档编辑
文档编辑

概述

OSS的PutObject、AppendObject、PostObject、Multipart、UploadPart上传接口均支持上传时进行MD5校验,在PutObject、AppendObject、PostObject上传请求meta中设置Content-MD5参数,参数值为客户端计算的文件MD5值。在分片上传MultipartUpload请求中,meta是对于文件的设置,其中分片上传实现MD5的校验是在每个分片中实现的。本文以Java SDK为例,介绍分片上传的MD5校验实现方法。

说明:OSS的PutObject、AppendObject、PostObject、MultipartUpload上传接口均支持上传时进行CRC64校验,并且默认是开启的。

详细信息

在OSS的Java SDK分片上传中,MD5校验是在每个分片中进行的,主要是调用UploadPartRequest中的setMd5Digest,用以设置客户端计算该分片的本地MD5,具体案例如下所示。

说明:案例中的函数变量请根据现场实际情况进行填写。

import java.io.File;
import java.io.FileInputStream;
import java.io.FileNotFoundException;
import java.io.InputStream;
import java.security.MessageDigest;
import java.security.NoSuchAlgorithmException;
import java.util.ArrayList;
import java.util.List;
import org.apache.commons.codec.binary.Hex;
import com.aliyun.oss.OSS;
import com.aliyun.oss.OSSClientBuilder;
import com.aliyun.oss.common.utils.BinaryUtil;
import com.aliyun.oss.model.CompleteMultipartUploadRequest;
import com.aliyun.oss.model.CompleteMultipartUploadResult;
import com.aliyun.oss.model.InitiateMultipartUploadRequest;
import com.aliyun.oss.model.InitiateMultipartUploadResult;
import com.aliyun.oss.model.PartETag;
import com.aliyun.oss.model.UploadPartRequest;
import com.aliyun.oss.model.UploadPartResult;
import com.sun.org.apache.xerces.internal.impl.dv.util.Base64;
import sun.security.provider.MD5;
public class FenPian {
public static void main(String[] args) throws Exception {
// TODO Auto-generated method stub
// Endpoint以杭州为例,其它Region请按实际情况填写。
String endpoint = "http://oss-cn-hangzhou.aliyuncs.com";
// 阿里云主账号AccessKey拥有所有API的访问权限,风险很高。强烈建议您创建并使用RAM账号进行API访问或日常运维,请登录RAM控制台创建RAM账号。
String accessKeyId = "xxxx";
String accessKeySecret = "xxxx";
String bucketName = "bucketname";
// <yourObjectName>表示上传文件到OSS时需要指定包含文件后缀在内的完整路径,例如abc/efg/123.jpg。
String objectName = "objectname";
String localFile = "localfile";
// 创建OSSClient实例。
OSS ossClient = new OSSClientBuilder().build(endpoint, accessKeyId, accessKeySecret);
// 创建InitiateMultipartUploadRequest对象。
InitiateMultipartUploadRequest request = new InitiateMultipartUploadRequest(bucketName, objectName);
// 如果需要在初始化分片时设置文件存储类型,请参考以下示例代码
// ObjectMetadata metadata = new ObjectMetadata();
// metadata.setHeader(OSSHeaders.OSS_STORAGE_CLASS, StorageClass.Standard.toString());
// request.setObjectMetadata(metadata);
// 初始化分片。
InitiateMultipartUploadResult upresult = ossClient.initiateMultipartUpload(request);
// 返回uploadId,它是分片上传事件的唯一标识,您可以根据这个uploadId发起相关的操作,如取消分片上传、查询分片上传等。
String uploadId = upresult.getUploadId();
// partETags是PartETag的集合。PartETag由分片的ETag和分片号组成。
List<PartETag> partETags = new ArrayList<PartETag>();
// 计算文件有多少个分片。
final long partSize = 1 * 1024 * 1024L;   // 1MB
final File sampleFile = new File(localFile);
long fileLength = sampleFile.length();
int partCount = (int) (fileLength / partSize);、
if (fileLength % partSize != 0) {
partCount++;
}
// 遍历分片上传。
for (int i = 0; i < partCount; i++) {
long startPos = i * partSize;
long curPartSize = (i + 1 == partCount) ? (fileLength - startPos) : partSize;
InputStream instream = new FileInputStream(sampleFile);
InputStream instream1 = new FileInputStream(sampleFile);
// 跳过已经上传的分片。
instream.skip(startPos);
instream1.skip(startPos);
String md5;
if(i==partCount-1){
//注意最后一个分片读取的是到文件尾部的数据,非一个分片的大小
md5 = md5(instream1,fileLength - startPos);
}else{
md5 = md5(instream1,partSize);
}
//instream1.skip(n)
UploadPartRequest uploadPartRequest = new UploadPartRequest();
uploadPartRequest.setBucketName(bucketName);
uploadPartRequest.setKey(objectName);
uploadPartRequest.setUploadId(uploadId);
uploadPartRequest.setInputStream(instream);
uploadPartRequest.setMd5Digest(md5);
// 设置分片大小。除了最后一个分片没有大小限制,其他的分片最小为100 KB。
uploadPartRequest.setPartSize(curPartSize);
// 设置分片号。每一个上传的分片都有一个分片号,取值范围是1~10000,如果超出这个范围,OSS将返回InvalidArgument的错误码。
uploadPartRequest.setPartNumber( i + 1);
// 每个分片不需要按顺序上传,甚至可以在不同客户端上传,OSS会按照分片号排序组成完整的文件。
UploadPartResult uploadPartResult = ossClient.uploadPart(uploadPartRequest);
//System.out.println("server md5" +uploadPartResult.getETag());
// 每次上传分片之后,OSS的返回结果包含PartETag。PartETag将被保存在partETags中。
partETags.add(uploadPartResult.getPartETag());
}
// 创建CompleteMultipartUploadRequest对象。
// 在执行完成分片上传操作时,需要提供所有有效的partETags。OSS收到提交的partETags后,会逐一验证每个分片的有效性。当所有的数据分片验证通过后,OSS将把这些分片组合成一个完整的文件。
CompleteMultipartUploadRequest completeMultipartUploadRequest =
new CompleteMultipartUploadRequest(bucketName, objectName, uploadId, partETags);
// 如果需要在完成文件上传的同时设置文件访问权限,请参考以下示例代码。
// completeMultipartUploadRequest.setObjectACL(CannedAccessControlList.PublicRead);
// 完成上传。
CompleteMultipartUploadResult completeMultipartUploadResult = ossClient.completeMultipartUpload(completeMultipartUploadRequest);
// 关闭OSSClient。
ossClient.shutdown();
}
public static String md5(InputStream in , long length1) throws Exception{
byte[] bytes = new byte[(int) length1];

long length_tmp = length1;

int readSize = in.read(bytes, (int) 0, (int) length_tmp);

        return BinaryUtil.toBase64String(BinaryUtil.calculateMd5(bytes));
}
}

相关文档

关于分片上传更多信息,请参见分片上传。

适用于

  • 对象存储OSS
相关文章

上传音视频文件时,音视频时长是否存在限制? 2025-04-21 18:17

通过不同上传方式上传音视频文件时,不同上传方式对上传资源本身的大小有限制,对音视频时长无限制。 例如,通过简单上传的方式上传音视频文件时,要求文件大小不能超过5 GB。通过分片上传的方式上传音视频文件时,要求文件大小不能超过48.8 TB。OSS不限制上传的音视频时长,即时长可以是5分钟,也可以是1

是否支持使用固定的地址访问已上传的文件? 2025-04-21 18:17

公共读以及公共读写权限的文件支持使用固定的地址访问已上传的文件,私有权限的文件不支持。 文件读写权限为公共读或者公共读写 在存储路径未修改的情况下,公共读或者公共读写的文件的访问地址不变。您可以通过拼接文件URL的方式长期访问文件,文件URL的格式为

断点续传上传时报错Too many parts, Please increase part size.怎么办? 2025-04-21 18:17

本文介绍断点续传上传时报错Too many parts, Please increase part size.的问题原因和解决方法。 问题原因 分片数量超出限制,分片数量要求不能超过10000。

并发调用PutObject接口是否能保证Object的完整性和原子性? 2025-04-21 18:17

并发调用OSS提供的上传文件接口PutObject可以保证Object的完整性和原子性。

OSS如何限制上传文件类型及大小? 2025-04-21 18:17

用户上传过大文件或恶意文件,会占用OSS大量的存储空间和带宽资源,甚至导致OSS的域名在某些环境下被封禁。OSS不直接提供限制上传文件类型和大小的功能,但您可以借助服务端生成签名时指定文件类型及大小,或在客户端自行编写拦截逻辑来实现。 服务端生成Post签名和PostPolicy 对于需要限制上传文

OSS中如何在分片上传中实现MD5校验 2025-04-21 18:17

概述 OSS的PutObject、AppendObject、PostObject、Multipart、UploadPart上传接口均支持上传时进行MD5校验,在PutObject、AppendObject、PostObject上传请求meta中设置Content-MD5参数,参数值为客户端计算的文件

目录
Copyright © 2025 your company All Rights Reserved. Powered by 赛尔网络.
京ICP备14022346号-15
gongan beian 京公网安备11010802041014号