通过SLS完成日志数据入湖OSS

这些数据包括来源于关系型数据库中的结构化数据(行和列)、半结构化数据(例如CSV、日志、XML、JSON等)、非结构化数据(例如email、文档PDF等)和二进制数据(例如图像、音频、视频等)。日志服务集成了数据投递到OSS的功能,以...

数据湖投递概述

表格存储 数据湖投递可以全量备份或实时投递数据到数据湖OSS中存储,以满足更低成本的历史数据存储,以及更大规模的离线和准实时数据分析需求。应用场景 利用数据湖投递可以实现如下场景需求:冷热数据分层 数据湖投递结合 表格存储 的 ...

创建投递任务

通过创建投递任务,您可以将表格存储数据表中的数据投递到OSS Bucket中存储。注意 请确认已安装支持数据湖投递功能的表格存储Go SDK。前提条件 已开通OSS服务且在表格存储实例所在地域创建Bucket。具体操作,请参见 开通OSS服务。已通过...

创建投递任务

通过创建投递任务,您可以将表格存储数据表中的数据投递到OSS Bucket中存储。注意 请确保已安装支持数据湖投递功能的表格存储Java SDK。关于表格存储Java SDK版本的更多信息,请参见 Java SDK历史迭代版本。前提条件 已开通OSS服务且在表格...

使用SDK

创建投递任务后,表格存储数据表中的数据会自动投递到OSS Bucket中存储。注意事项 目前支持使用数据湖投递功能的地域有华东1(杭州)、华东2(上海)、华北2(北京)和华北3(张家口)。数据湖投递不支持同步删除操作,表格存储中的删除...

产品架构

本文介绍 表格存储 的系统架构和典型应用架构。系统架构 表格存储 的架构如下图所示。业务场景 表格存储 适用于元数据、消息数据、时空数据、大数据等场景下的系统搭建。数据接入 表格存储 提供SDK、DataWorks、IoT规则引擎等多种数据接入...

通过控制台投递数据到OSS

通过表格存储控制台创建投递任务,将表格存储数据表中的数据投递到OSS Bucket中存储。前提条件 已开通OSS服务且在表格存储实例所在地域创建Bucket,详情请参见 开通OSS服务。说明 数据湖投递支持投递到和表格存储相同地域的任意OSS Bucket...

敏感数据安全防护方案

本文介绍如何将阿里云对象存储OSS与阿里云 数据安全中心DSC(Data Security Center)结合,对敏感数据进行识别、分类、分级和保护。前提条件 已开通DSC 开通步骤请参见 快速实现数据分类分级。已开通OSS 开通步骤请参见 开通OSS服务。背景...

表格存储是否支持存储JSON数据?

当前表格存储未直接支持存储JSON格式的数据。但是您可以通过字符串方式存储JSON数据,然后通过多元索引中的数组和嵌套类型实现JSON数据的灵活查询。更多信息,请参见 数组和嵌套类型。

快速入门

阿里云对象存储OSS与智能媒体管理(IMM)深度结合,支持文档预览、文档格式转换、人脸识别、图片分析、二维码识别等丰富的数据分析处理操作。本文介绍如何通过OSS使用IMM的相关功能。前提条件 仅华北 2(北京)、华东 1(杭州)、华东 2...

将表格存储的增量数据转换为全量数据格式

通过DataWorks控制台,您可以在MaxCompute中使用merge_udf.jar包将 表格存储 的增量数据转换为全量数据格式。前提条件 已导出 表格存储 全量数据到MaxCompute,且已配置同步 表格存储 增量数据到MaxCompute。具体操作,请分别参见 全量导出...

文档转换

使用REST API 转换信息 转换前 文档格式:DOCX 文档名称:example.docx 处理方式:文档格式转换 转换后 文件格式:PNG 文件存储路径:oss:/test-bucket/doc_images/转换完成消息通知:发送到主题为 doc_images 的MNS 处理示例/将文件...

触发器

例如将Bucket某个目录中新增的后缀为.docx的文件转换成.pdf格式、将新增的.mov格式的文件转码为.mp4等。和批处理的不同的是,触发器只会对创建触发器之后OSS内新增的文件进行处理,对存量文件则不会处理。说明 新版数据处理功能API、SDK...

教程示例:使用RAM Policy控制OSS的访问权限

OSS提供使用键值(key)对格式的分布对象存储服务。您可以根据其唯一的key(对象名)检索对象的内容。例如,名为 examplebucket 的存储空间有三个文件夹,分别为 Development、Marketing 和 Private,以及一个对象 oss-dg.pdf。在创建 ...

使用AccessKey登录ossbrowser时出现“You are ...

问题描述 使用阿里云OSS图形化管理工具ossbrowser,您可以快速完成存储空间(Bucket)和文件(Object)的相关操作。在ossbrowser工具安装完成之后,RAM子账号使用AccessKey登录ossbrowser时,出现“AccessDenied:You are forbidden to list...

高级配置

对于其他未涉及的版本,请自行参考平台相关文档设置开机自动挂载。Ubuntu 14.04及以上和CentOS 6.5及以上系统版本通过fstab的方式自动挂载 在/etc/fstab 中加入如下命令:ossfs#bucket_name mount_point fuse_netdev,url=url,allow_other 0...

文档处理概述

文档转换是由智能媒体管理IMM提供的对多种文档格式进行格式转换的处理能力。您可以将原始文档上传到阿里云对象存储OSS,通过OSS的RESTful数据处理接口 x-oss-process 和 x-oss-async-process 在任何时间、任何地点、任何互联网设备上对文档...

音视频转码

存储在OSS上的多媒体音视频数据,可以通过经济、弹性、高扩展的阿里云媒体转码服务,转换成适合在移动端、PC、TV上播放的格式。媒体转码核心能力包括:转换媒体格式,支持多平台播放。保证相同画质质量的前提下,调整视频码率、提高视频...

查看NAS容量监控

文件存储NAS已与云监控无缝集成。通过容量监控功能,您可以实时查看通用型NAS存储空间中通用型NAS数据量和低频介质数据量以及低频读写数据流量和文件数。本文介绍如何查看通用型NAS的容量监控数据。前提条件 已创建NAS文件系统。具体操作,...

查询原始日志

原始日志界面 快速分析日志 配置显示字段 系统默认显示表格存储支持的日志字段,您可以在 索引字段 节点下拖动鼠标到目标字段,单击目标字段右侧的 图标,将目标字段移动到 显示字段 节点下。此时使用 表格 或 原始 方式查看日志时只显示...

查看NAS性能监控

文件存储 NAS 已与云监控无缝集成。通过性能监控功能,您可以实时查看文件系统的IOPS、吞吐、延迟等性能概况。本文介绍如何查看 NAS 文件系统的性能监控数据。前提条件 已创建 NAS 文件系统。具体操作,请参见 创建文件系统。已开通云监控...

数据湖加速查询

TPCH Q11查询语句 select ps_partkey,sum(ps_supplycost*ps_availqty)as value from partsupp,supplier,nation where ps_suppkey=s_suppkey and s_nationkey=n_nationkey and RTRIM(n_name)='EGYPT' group by ps_partkey having sum(ps_...

功能特性

备份 功能集 功能 功能描述 参考文档 本地数据备份上云 本地数据库备份 按照预设的备份策略将本地数据库定期备份到云备份云上备份库,支持MySQL,SQL Server及Oracle的多个版本。支持MySQL及Oracle实时备份,可恢复到任一秒的数据。本地数据...

OSS图片格式转换提示“Maximum width and height ...

问题描述 转换存储在阿里云对象存储OSS内图片的格式时,提示“Maximum width and height allowed is 16383 pixels for converting webp”错误。问题原因 WebP格式图片的边长限制为16383像素,您的图片超过了这个限制。解决方案 在转换存储...

批计算

通过在E-MapReduce集群中使用Spark2访问表格存储。对于批计算,Tablestore on Spark提供索引选择、分区裁剪、Projection列和Filter下推、动态指定分区大小等功能,利用表格存储的全局二级索引或者多元索引可以加速查询。前提条件 已创建E-...

功能特性

数据库文件存储 功能集 功能 功能描述 参考文档 DBFS特性 原子写 支持DIRECT IO的原子写,需按4K,8K,16K对齐-共享读写 一份数据可共享多点挂载并进行读写,读写可线性扩展-存储加密 通过对数据库文件存储实施加密,可以确保数据库文件...

数据集成服务

数据导入的迁移方案包括同步MySQL数据到表格存储、同步Oracle数据到表格存储、同步Kafka数据到表格存储、同步HBase数据到表格存储、同步MaxCompute数据到表格存储、同步表格存储数据表中数据到另一个数据表和同步表格存储时序表中数据到另...

格式转换

通过格式转换参数,您无需将图片下载到本地进行转换,只需指定URL转换存储在OSS内原图的格式。本文介绍对图片进行格式转换时所用到的参数及示例。使用场景 适应不同设备和平台:不同的浏览器、操作系统或移动设备可能支持不同的图片格式。...

revert-versioning(恢复版本)

revert-versioning 命令用于在开启版本控制的存储空间(Bucket)中,将已删除的文件(Object)恢复至最近的版本。注意事项 要恢复文件的版本,您必须具有 oss:ListObjectVersions 和 oss:DeleteObjectVersion 权限。具体操作,请参见 为RAM...

使用Go语言驱动

本文介绍如何使用Go语言驱动连接表格存储。注意事项 目前支持使用SQL查询功能的地域有华东1(杭州)、华东2(上海)、华北2(北京)、华北3(张家口)、华北5(呼和浩特)、华北6(乌兰察布)、华南1(深圳)、西南1(成都)、中国香港、...

CreateDataFlow-创建数据流动

创建一个CPFS文件系统与源端存储的数据流动。接口说明 基础操作 文件存储 CPFS 2.2.0 及以上版本、智算 CPFS 2.4.0 及以上版本支持数据流动。文件存储 CPFS、CPFS 智算版状态为运行中,才能创建数据流动。一个文件存储 CPFS 或者 CPFS 智算...

JDBC连接表格存储

本文介绍如何使用JDBC访问表格存储。注意事项 目前支持使用SQL查询功能的地域有华东1(杭州)、华东2(上海)、华北2(北京)、华北3(张家口)、华北5(呼和浩特)、华北6(乌兰察布)、华南1(深圳)、西南1(成都)、中国香港、新加坡、...

获取存储空间的存储容量

本文介绍如何获取指定存储空间(Bucket)的存储容量以及Bucket内不同存储类型文件(Object)的数量及其存储容量。注意事项 本文以华东1(杭州)外网Endpoint为例。如果您希望通过与OSS同地域的其他阿里云产品访问OSS,请使用内网Endpoint。...

GetBucketStat

调用 GetBucketStat 接口获取指定存储空间(Bucket)的存储容量以及文件(Object)数量。注意事项 调用该接口时需要拥有 oss:GetBucketStat 权限。调用该接口获取的数据并非是实时数据,延时可能超过一个小时。调用该接口获取到的存储信息...

获取存储空间的存储容量

本文介绍如何获取指定存储空间(Bucket)的存储容量以及Bucket内不同存储类型文件(Object)的数量及其存储容量。注意事项 本文以华东1(杭州)外网Endpoint为例。如果您希望通过与OSS同地域的其他阿里云产品访问OSS,请使用内网Endpoint。...

获取存储空间的存储容量

本文介绍如何获取指定存储空间(Bucket)的存储容量以及Bucket内不同存储类型文件(Object)的数量及其存储容量。注意事项 本文以华东1(杭州)外网Endpoint为例。如果您希望通过与OSS同地域的其他阿里云产品访问OSS,请使用内网Endpoint。...

获取存储空间的存储容量

本文介绍如何获取指定存储空间(Bucket)的存储容量以及Bucket内不同存储类型文件(Object)的数量及其存储容量。注意事项 本文以华东1(杭州)外网Endpoint为例。如果您希望通过与OSS同地域的其他阿里云产品访问OSS,请使用内网Endpoint。...

如何查看OSS文件被删除的详细操作记录

概述 本文主要介绍当发现您存储在阿里云对象存储OSS中的文件被删除后,如何查看阿里云对象存储OSS文件被删除的详细操作记录,定位是否存在误删除的情况。详细信息 如您需要查看OSS文件被访问、删除等操作的记录,需要开启OSS的Logging日志...

音频转码

您可以通过音频转码功能,将音频转换为需要的格式。本文介绍音频转码处理功能参数及示例。使用场景 音乐文件格式转换:用户从网络下载的音乐可能不是其设备或播放器支持的格式,需要转换音频格式才能进行播放。存储空间优化:高品质无损...

对象存储优化

对象存储OSS提供存储管理功能,帮助您优化存储性能和成本。分析数据访问模式并对数据进行转储或删除 您可以分析数据访问模式并配置 生命周期规则,自动将访问频率较低的数据转换为成本更低的存储类型,或者在到期日之后自动删除数据。例如...
共有200条 < 1 2 3 4 ... 200 >
跳转至: GO
产品推荐
云服务器 安全管家服务 安全中心
这些文档可能帮助您
云存储网关 文件存储 CPFS 混合云存储 对象存储 弹性公网IP 短信服务
新人特惠 爆款特惠 最新活动 免费试用