文章 2023-05-26 来自:开发者社区

《云原生机密计算最佳实践白皮书》——07解决方案——Intel Confidential Computing Zoo: Intel机 密计算开源解决方案——部署TensorFlow Serving在线推理服务(1)

Intel Confifidential Computing Zoo: Intel机密计算开源解决方案项目位置链接https://github.com/intel/confidential-computing-zoo技术自身介绍问题&挑战目前,机密计算还处于早期阶段,用户对SGX和TDX技术的了解和使用还需要进一步的加深和推广,对特定应用场景下如...

《云原生机密计算最佳实践白皮书》——07解决方案——Intel Confidential Computing Zoo: Intel机 密计算开源解决方案——部署TensorFlow Serving在线推理服务(1)
文章 2023-05-26 来自:开发者社区

《云原生机密计算最佳实践白皮书》——07解决方案——部署TensorFlow Serving在线推理服务(2)

步骤一:部署客户端本实践运行的环境信息参考:• 规格:加密内存≥8G• 镜像: Ubuntu20.04• 公网IP• 安装SGX软件栈1、环境配置安装所需的mesa-libGL软件包。sudo pip3 install --upgrade pip sudo pip install multidict sudo yum install me...

文章 2023-05-26 来自:开发者社区

《云原生机密计算最佳实践白皮书》——07解决方案——部署TensorFlow Serving在线推理服务(3)

步骤二:部署Anolis OS SGX端1、下载本实践所用的TensorFlow Serving脚本代码git clone https://github.com/intel/confifidential-computing-zoo.git cd confifidential-computing-zoo/cczoo/tensorflflow-serving-cluster/tenso...

文章 2023-05-26 来自:开发者社区

《云原生机密计算最佳实践白皮书》——07解决方案——部署TensorFlow Serving在线推理服务(4)

步骤三:远端访问1、切换到客户端cd confifidential-computing-zoo/cczoo/tensorflflow-serving-cluster/tensorflflow-serving/docker /client/2、获取client容器镜像用户可以通过下面任意方式获取client镜像:• a. 下载TensorFlow Serving镜像su...

文章 2023-05-26 来自:开发者社区

《云原生机密计算最佳实践白皮书》——07解决方案——部署TensorFlow横向联邦学习(1)

部署TensorFlow横向联邦学习1概述本文介绍在Intel® SGX使能的平台,基于Anolis OS部署TensorFlow横向联邦学习。2背景信息横向联邦学习是一种分布式的机器学习模型训练方案,该方案联合多个参与方在数据不出域的前提下完成模型的训练,保证了数据安全。Intel® SGX (Software Guard Extension) 技术&...

《云原生机密计算最佳实践白皮书》——07解决方案——部署TensorFlow横向联邦学习(1)
文章 2023-05-26 来自:开发者社区

《云原生机密计算最佳实践白皮书》——07解决方案——部署TensorFlow横向联邦学习(2)

5 实践部署本实践提供两种部署方式:下载镜像和通过Dockerfifile编译镜像。5.1 下载镜像方式5.1.1 下载Docker镜像docker pull intelcczoo/horizontal_flfl:anolis_sgx_latest docker tag intelcczoo/horizontal_flfl:anolis_sgx_latest anolisos_ho...

文章 2023-05-26 来自:开发者社区

《云原生机密计算最佳实践白皮书》——07解决方案——部署TensorFlow横向联邦学习(3)

5.2 编译镜像方式5.2.1 下载实践源码在已创建好的SGX实例中,下载本实践所使用到的代码。git clone https://github.com/intel/confifidential-computing-zoo.git cd confifidential-computing-zoo/cczoo/horizontal_flfl/针对推荐系统任务,需要下载数据...

文章 2023-05-26 来自:开发者社区

《云原生机密计算最佳实践白皮书》——07解决方案——部署TensorFlow横向联邦学习(4)

6 实践运行6.1 图像分类在多台服务器上部署不同分布式节点的情况下,可以通过修改Docker容器中/image_classifification/目录下的train.py训练脚本来配置分布式节点IP地址:tf.app.flflags.DEFINE_string("ps_hosts", "['localhost:60002']&...

问答 2023-04-25 来自:开发者社区

机器学习PAI部署到tensorflow serving上面,下面这个问题怎么解决?

机器学习PAI部署到tensorflow serving上面,需要自己组装物品特征作为input 然后请求tf serving,好像没有看见如何设置只导出具体某些字段 就是训练的时候有用户的和物品的特征请求时只需要用户的input,还是说这样的话要给物品的input设置为空之类的?

阿里云文档 2023-03-24

如何将Tensorflow,Pytorch和Python等模型部署到Seldon中

DataScience集群的KubeFlow服务内置了SeldonCore组件, 可以为模型提供在线服务,基于Kubernetes,您无需关心在线服务的运维工作。您可以根据提供的dsdemo代码,将Tensorflow,Pytorch和Python等模型部署到Seldon中。

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

人工智能

了解行业+人工智能最先进的技术和实践,参与行业+人工智能实践项目

+关注