阿里云Databricks数据洞察服务等级协议（SLA）
阿里云Databricks数据洞察服务等级协议（SLA）的详情，请参见 阿里云Databricks数据洞察服务等级协议。
管理项目告警
添加联系人 登录阿里云 Databricks 数据洞察控制台 在左侧导航栏单击 项目空间 单击 项目空间 中的 告警 在 联系人 区域，单击 添加；在 联系人 对话框中，输入 姓名、手机号码 和 Email 信息。分别单击 手机号码 和 Email 所在行的 获取...
管理Notebook
本文介绍如何创建、打开、删除和导入Note等操作，帮助您管理Notebook。前提条件 已创建集群，详情请参见 创建集群。...您在使用阿里云Databricks数据洞察过程中有任何疑问，欢迎用钉钉扫描下面的二维码加入钉钉群进行反馈。
PySpark及Python库使用
本文介绍如何使用阿里云 Databricks数据洞察 Notebook 进行 PySpark 开发。注意 若要使用其他数据源进行数据开发，需开通相应服务。本示例采用OSS数据源。步骤一：创建 Databricks数据洞察集群 登录 阿里云Databricks数据洞察控制台。创建...
使用Notebook
Notebook是由一个或多个Note单元组成的，每个Note是一个独立的Spark任务。本文介绍如何使用Notebook。前提条件 已创建Note，详情请参见...您在使用阿里云Databricks数据洞察过程中有任何疑问，欢迎用钉钉扫描下面的二维码加入钉钉群进行反馈。
Python库管理
本文介绍在Databricks数据洞察控制台，执行Spark作业时，如何安装自定义的库或者第三方库。添加库 使用阿里云账号登录 Databricks数据洞察控制台。在Databricks数据洞察控制台页面，选择所在的地域（Region）。创建的集群将会在对应的地域...
弹性伸缩概述
弹性伸缩开启并配置完成后，当业务需求增长时Databricks数据洞察会自动为您增加Task节点以保证计算能力，当业务需求下降时Databricks数据洞察会自动减少Task节点以节约成本。应用场景 在以下场景中，开启Databricks数据洞察的弹性伸缩功能...
按负载伸缩规则配置
在使用Databricks数据洞察集群时，如果您无法准确的预估大数据计算的波峰和波谷，则可以使用按负载伸缩配置的策略。在Databricks数据洞察中开启弹性伸缩时，如果选择按负载配置伸缩规则，则根据以下说明配置相关参数即可。详细配置步骤请...
HBase
打通网络环境 登录 阿里云Databricks数据洞察控制台。进入DDI 数据源 点击 添加 选择 通用网络 打通，选择HBase数据库所在的VPC和vsw。登录 HBase控制台 添加DDI集群各个机器IP至访问白名单。创建HBase表准备数据，本实例使用的HBase表为：...
设置安全组白名单
（Spark Thrift Server）优先级 无 授权对象 IP地址 操作步骤 登录阿里云 Databricks 数据洞察控制台。在左侧导航栏的菜单下，单击 集群管理。选择想要设置安全组白名单的集群，单击 集群ID 进入集群详情页面。在集群基础信息页面中单击 ...
管理运维中心
在Databricks数据洞察控制台页面，选择所在的地域（Region）。创建的集群将会在对应的地域内，一旦创建后不能修改。在左侧导航栏，单击 项目空间。在 项目空间 页面，单击待操作项目所在行的 运行记录。单击上方的 概览 页签。展示当前项目...
Databricks数据洞察 vs Open-Source Delta Lake功能...
Apache Spark Databricks数据洞察 Built-in file system optimized for cloud storage access No Yes Spark-native fine grained resource sharing for optimum utilization No Yes Fault isolation of compute resources No Yes Faster ...
数据源概览
本章节主要介绍如何使用Databricks数据洞察完成对多种数据源的读写，以及如何使用Databricks数据洞察完成与其他阿里云产品数据源之间的网络连接。静态数据源 Databricks数据洞察支持直接读取静态数据源。CSV文件 JSON文件 Parquet文件 ORC...
Redis
打通网络环境 登录 阿里云Databricks数据洞察控制台。进入DDI 数据源 点击 添加 选择 通用网络 打通，选择Redis数据库所在的VPC和vsw。登录 Redis控制台 添加DDI集群各个机器IP至访问白名单，或者在VPC登录处设置允许VPC内免密访问。使用...
角色授权
首次使用Databricks数据洞察服务创建集群时，需要使用主账号为Databricks数据洞察服务授权名为AliyunDDIEcsDefaultRole的系统默认角色。同时需要您创建一个系统目录存储Bucket。背景信息 关于角色详细信息，具体可以参见 RAM角色概览。通过...
独立RDS元数据库
本文介绍如何配置独立的阿里云RDS，作为Databricks数据洞察集群的元数据。前提条件 已购买RDS，详情请参见 创建RDS&MySQL实例。说明 本文以MySQL&5.7版本为例介绍。元数据库准备 创建hivemeta的数据库 详情请参见 创建数据库和账号 中的...
创建集群
本节介绍如何使用Databricks数据洞察控制台创建集群。前提条件 已注册阿里云账号，并完成实名认证。详情请参见 阿里云账号注册流程。操作步骤 使用阿里云账号登录 Databricks数据洞察控制台。在Databricks数据洞察控制台页面，选择所在的...
释放集群
在Databricks数据洞察控制台页面，选择所在的地域（Region）。在左侧导航栏中，单击 集群。设置释放。在集群管理页面，单击待释放集群所在行的释放。单击待释放集群的集群ID，在集群基础信息页面，单击集群操作>释放。在弹出的集群管理-...
集群
Q：如何购买Databricks数据洞察集群 请使用阿里云账号进行购买，如需折扣优惠，请提工单或在产品群中联系我们享受折扣优惠。Q：可以使用阿里云子账号创建集群么？可以。但子账号必须通过主账号进行授权方可购买，权限包括：...
产品架构
Databricks数据洞察构建在ECS之上，使用阿里云对象存储服务（OSS）为核心存储。本文介绍Databricks数据洞察的产品架构。存储访问加速层方便您可以像操作HDFS上的数据一样访问OSS上的数据。目前，Databricks数据洞察提供了两种执行Spark作业...
到期与欠费
本文介绍Databricks数据洞察的停服欠费策略。停服欠费说明 计费方式 停服或欠费说明 包年包月 购买的集群资源到期后立即停机。停机后168小时（7天），集群资源会被释放。按量计费 暂不支持
Spark作业原生运维与监控
背景信息 Databricks数据洞察提供了原生的监控运维UI，例如Spark UI和YARN UI，用户可根据自己的需求进行查询。本文主要介绍原生UI透露出来的日志监控和指标查询，配合平台侧的运维与监控能力，更好的服务于用户，运维Spark作业。集群Web ...
Notebook概述
管理Notebook 使用Notebook 说明 每个Databricks数据洞察集群都会部署独立DataInsight Notebook服务。用户在使用Notebook时，需要先选择一个可用的集群。icmsDocProps={'productMethod':'created','language':'zh-CN',};
Notebook
需要通过Databricks数据洞察控制页面选择相应的python包。Q：如何配置Spark Application 资源 通过以下属性配置driver的资源：spark.driver.memory spark.driver.cores 通过以下属性配置executor的资源： spark.executor.memory spark....
开启并配置弹性伸缩
当您的业务量需求不断波动时，建议您开启弹性伸缩功能并配置相应的伸缩规则，以使Databricks数据洞察可按业务量波动来增加和减少Task节点。操作步骤 登录 阿里云Databricks控制台。在顶部菜单栏处，根据实际情况选择地域（Region）和资源组...
按时间伸缩规则配置
在Databricks数据洞察中开启弹性伸缩时，如果选择按时间配置伸缩规则，则根据以下说明配置相关参数即可 伸缩规则分为扩容规则和缩容规则。集群关闭弹性伸缩功能后，所有规则会被清空，再次开启弹性伸缩功能时，需要重新配置伸缩规则。规则...
续费流程
本文为您介绍如何手动和自动续费Databricks数据洞察(DDI)集群，以及取消自动续费。背景信息 只有包年包月集群才需要进行续费操作，按量集群是实时结算的。DDI续费方式包括手动续费和自动续费两种。前提条件 请确认包年包月集群还未到期。您...
Databricks数据洞察快速使用
本文指引您快速完成一次完整的Databricks数据洞察的使用操作。前提条件 已使用OSS管理控制台创建 非系统目录存储空间，详情请参见 创建存储空间。警告 首次使用DDI产品创建的Bucket为系统目录Bucket，不建议存放数据，您需要再创建一个...
RDS(SQL Server)
如图所示查看RDS实例所在的 VPC 和 VSwitch 登录到Databricks数据洞察集群 阿里云Databricks控制台 选择集群所在region进入 集群 列表 点击集群实例进入集群详情页面 点击详情页面上方 数据源 页签进入数据源页面点击 添加 选择通用网络，...
访问Web UI
Databricks数据洞察集群提供了多个Web UI的访问入口，包括Notebook、Spark UI、Yarn UI和Ganglia监控。增加安全组白名单 为了用户的数据安全，DDI提供了安全组白名单机制来访问集群Web UI。默认不添加白名单是不能进行访问的，具体添加入口...
作业提交示例
前提条件 在Databricks数据洞察产品中创建一个集群，详情请参见 创建集群 已使用OSS管理控制台创建 非系统目录存储空间，详情请参见 创建存储空间 警告 首次使用DDI产品创建的Bucket为系统目录Bucket，不建议存放数据，您需要再创建一个...
数据湖元数据管理
Databricks 数据洞察DBR 7.3,Spark 3.0.1,Scala 2.12及之后版本，在创建集群选择元数据类型时支持数据湖元数据作为Hive数据库。数据湖元数据是服务化高可用并且可扩展的元数据库，您无需额外购买独立的元数据库，就可以实现多个引擎计算，...
MongoDB
数据库SSL证书库jks下载 说明 阿里云MongoDB证书下载，可以到 云数据库MongoDB管控 进行下载，证书库的默认密码：apsaradb 将jks证书库分发到DDI所有服务器节点（此步骤可以联系DDI开发运维人员协助）在notebook读写数据 引入spark.conf...
应用场景
Databricks数据洞察（简称DDI）的核心引擎是Databricks Runtime和Databricks Delta Lake。商业版引擎的加持下，为您提供了新一代云数仓的解决方案。本文为您介绍Databricks数据洞察适用的典型应用场景。数据湖分析 Databricks数据洞察支持...
访问外部数据源
本文介绍如何在Databricks数据洞察实现访问外部数据源的需求。背景信息 Databricks数据洞察为了满足您在计算任务里访问您在阿里云上已有的数据，支持通过添加外部数据源的方式，打通集群到您自己VPC下的网络环境。绑定数据源 绑定数据源的...
服务关联角色
本文介绍Databricks数据洞察服务关联角色AliyunServiceRoleForDDI以及如何删除该角色。背景信息 Databricks数据洞察服务关联角色AliyunServiceRoleForDDI是Databricks数据洞察在某些情况下，为了完成自身的某个功能，需要获取其他云服务的...
什么是Databricks数据洞察
Databricks数据洞察包含以下组件： Spark SQL和DataFrames Spark SQL是用来处理结构化数据的Spark模块。DataFrames是被列化了的分布式数据集合，概念上与关系型数据库的表近似，也可以看做是R或Python中的data frame。Spark Streaming 实时...
用户管理
数据洞察的用户管理功能，管理集群DDI用户。DDI用户信息存储在集群自带的OpenLDAP中，主要用于在DDI集群内的身份认证。DDI用户可以用于访问链接与端口，查看组件Web& UI时的用户身份认证，也可以在开启组件LDAP认证之后进行身份认证。准备...
管理作业
在Databricks数据洞察控制台页面，选择所在的地域（Region）。创建的集群将会在对应的地域内，一旦创建后不能修改。在左侧导航栏，单击 项目空间。在 项目空间 页面，单击待操作项目所在行的 作业编辑。在 作业编辑 区域，在需要操作的文件...
- 产品推荐
- 这些文档可能帮助您