浅谈机器学习模型推理性能优化 (insights.thoughtworks.cn)

【简介】

在机器学习领域,清晰明了的数据预处理和表现优异的模型往往是数据科学家关注的重点,而实际生产中如何让模型落地、工程化也同样值得关注,工程化机器学习模型避不开的一个难点就是模型的推理(Inference / Serving)性能优化。

点击查看全文 >>

@ThoughtWorks 2021-01-02 11:08分享 / 0个评论
赞过的人: IT技术博客大学习
要不要再学学下面的文章?
浅谈 Android 的安全启动和完整性保护 (evilpan.com)
在 IoT 中保证设备安全性的重要一环就是保证代码的完整性,不让恶意代码影响业务的正常逻辑。一般而言是及时修复现有攻击面所面临的漏洞,比如浏览器、蓝牙、调试接口;另一方面需要确保的是即便恶意代码获取了执行权限,也无法修改系统镜像进行持久化。针对这点所构造的安全方案通常称为 Secure Boot,对于不同的厂商,实现上可能会引入不同的名字,比如 Verified Boot、High Assurance Boot 等等,但本质上都是类似的。
by @shengting 2021-03-19 17:07 分享 查看详情
8 个超赞的机器学习项目 (mp.weixin.qq.com)
在人工智能的大潮中,机器学习项目琳琅满目。哪些项目是兼具代表性和实用性的呢?近日,一位名为 Kajal Yadav 的作者列出了 8 个经典的机器学习项目,实用又有趣。目前已在 medium 上获赞 1.7K。
by @code小生 2021-01-26 00:46 分享 查看详情
记一次线上商城系统 Tomcat、JVM 高并发的优化 (mp.weixin.qq.com)
对于线上系统调优,它本身是个技术活,不仅需要很强的技术实战能力,很强的问题定位,问题识别,问题排查能力,还需要很丰富的调优能力。
by @code小生 2021-01-18 15:23 分享 查看详情
性能优化那些事 (insights.thoughtworks.cn)
性能在软件工程诞生时就占据着非常重要的位置,如何用更少的硬件资源来支撑更多的功能、来完成更多的任务是软件工程师的职责,也是用来衡量一个软件工程师技艺高低的标准。
by @ThoughtWorks 2021-01-06 16:42 分享 查看详情
14个 JavaScript 代码优化技巧 (mp.weixin.qq.com)
JavaScript 已经成为有史以来最受欢迎的编程语言之一。从 W3Tech 的数据来看,全世界将近 96%的网站都在使用它。关于 Web 有一个关键的事实是,你无法控制访问网站的用户所用设备。当用户访问你的网站时,使用的可能是高端设备也可能是低端设备,网络连接条件也有好有差。这意味着你必须尽可能优化自己的网站,以满足任何用户的需求。
by @code小生 2021-01-03 14:52 分享 查看详情
机器学习平台带给QA的挑战 (insights.thoughtworks.cn)
机器学习平台是一款集数据集、特征工程、模型训练、评估、预测、发布于一体的全流程开发和部署的工作平台。其数据量大、数据多样性、支持算法种类多,加上算法模型结果不确定、集成复杂等等特点;这会给QA的工作带来怎样挑战、以及如何克服,本文一一揭晓。
by @ThoughtWorks 2020-12-07 11:02 分享 查看详情
快手基于 Apache Flink 的优化实践 (developer.aliyun.com)
本次内容主要分为三部分,首先介绍流式计算的基本概念, 然后介绍 Flink 的关键技术,最后讲讲 Flink 在快手生产实践中的一些应用,包括实时指标计算和快速 failover。
by @可耐芊小仙女 2020-11-24 13:31 分享 查看详情
AI云原生浅谈:好未来AI中台实践 (developer.aliyun.com)
AI时代的到来,给企业的底层IT资源的丰富与敏捷提出了更大的挑战,利用阿里云稳定、弹性的GPU云服务器,领先的GPU容器化共享和隔离技术,以及K8S集群管理平台,好未来通过云原生架构实现了对资源的灵活调度,为其AI中台奠定了敏捷而坚实的技术底座。
by @可耐芊小仙女 2020-11-20 14:00 分享 查看详情
T级内存,创建效率提升10倍以上,阿里云 KVM异构虚拟机启动时间优化实践 (developer.aliyun.com)
阿里云工程师李伟男和郭成在 KVM Forum 2020 上详细介绍了阿里云 KVM 虚拟机创建及启动时间优化的具体技术实现,本文根据其演讲整理而成。
by @可耐芊小仙女 2020-11-11 10:10 分享 查看详情
Serverless X OpenKruise 部署效率优化之道 (developer.aliyun.com)
相信在不久的将来,SAE 的极致弹性,无论在弹性效率,弹性规模,还是智能精准等方面都会大放异彩。
by @可耐芊小仙女 2020-11-03 17:34 分享 查看详情