GPU通用计算API的变迁和趋势--技术头条 -- 微博大V帮你宣传技术博文开发者头条码农头条

【简介】

摘要：在高性能计算、机器学习等现代应用领域中，GPU（Graphics Processing Unit）是占统治地位的计算引擎。GPU从早期的固化逻辑实现、到可编程、到今天的通用计算架构（GPGPU），其应用接口（API）随着功能和通用性的提升而变得越来越灵活和高效。

在高性能计算、机器学习等现代应用领域中，GPU（Graphics Processing Unit）是占统治地位的计算引擎。GPU从早期的固化逻辑实现、到可编程、到今天的通用计算架构（GPGPU），其应用接口（API）随着功能和通用性的提升而变得越来越灵活和高效。

1. 图形渲染：DirectX 和 OpenGL
早期的GPU有浑名显卡也不冤枉。从软件角度来说，其逻辑架构基本上就是图形的三角形坐标变换、顶点照明、像素着色等一系列功能。因为逻辑固化、功能单纯，应用程序通过驱动接口可以直接执行这些功能，主要API就是较早版本的OpenGL和DirectX。

OpenGL源于曾经非常风光的SGI公司，然后演进成支持跨平台图形的工业标准，版本也从最初的1.x，到2.0，3.x，到今天的4.5【1】。目前Khronos Group（OpenGL标准化组织）正在推进OpenGL5.0。而DirectX是微软的windows平台上专用API。DirectX图形API最初的几个版本基本上是奋力直追OpenGL的features，直到DirectX 9.3c，微软才完成了实质上的超越。DirectX 9.3在features上大致相当于OpenGL3.3。（注意，OpenGL分为台式、嵌入式两个不同的profile，其版本之间的一一对应关系不甚明显）

随着图形算法的改进和对高质清晰画面的追求，GPU需要越来越强大的灵活性来支持纹理、材料属性、和精细度渲染，固化的逻辑显然无法跟得上这些需求。GPU实现真正意义上的可编程是支持高层渲染语言（shading language）。对应于OpenGL的高层语言是GL Shading Language（简称GLSL），对应于DirectX的高层语言是High Level Shading Language （或HLSL）。

点击查看原文 >>

由 @sweet离歌 2017-07-07 15:32 / 0个评论

赞过的人： @技术头条

美团外卖基于GPU的向量检索系统实践 (tech.meituan.com)

到家搜索业务具有数据量大、过滤比高等特点，为了在保证高召回率的同时进一步提高检索性能，美团到家搜索技术团队与基础研发机器学习平台团队基于GPU实现了支持向量+标量混合检索的通用检索系统，召回率与检索性能均有较大提升。本文将介绍我们在GPU向量检索系统建设中遇到的挑战及解决思路，希望对大家有所帮助或启发。

by @技术头条 2024-04-23 23:26 查看详情

为什么需要 “API 网关”？ (www.addesp.com)

在 OSI 模型的网络层中，网关通常指路由器，因为它可以实现局域网间的数据互通。API 网关的作用也类似，即接受客户端的请求，转发客户端的请求，转发服务端的响应给客户端。

那么这和客户端直接请求有什么区别呢？一大区别就是 API 网关可以将不同服务的接口聚合成一个接口，客户端只要请求一次，API 网关就可以根据请求向若干个服务发起请求，等到请求完成后，一起返回给客户端。

by @技术头条 2023-11-06 23:29 查看详情

美团前端研发框架Rome实践和演进趋势 (tech.meituan.com)

本文整理自美团技术沙龙第76期《大前端研发协同效能提升与实践》，为大家介绍了美团到店前端研发框架Rome实践和演进趋势。具体来讲，本文首先介绍了Rome整体的工程生态、演变路径、规模化升级以及工程框架外的开发辅助工具；第二部分，重点阐述了如何做框架度量和相关的业务实践；最后做整体的总结以及对工程框架的下一阶段的思考。希望能对大家带来一些帮助或启发。

by @技术头条 2023-08-18 22:56 查看详情

如何在命令行中安全存取密钥信息：以 OpenAI API 密钥为例 (type.cyhsu.xyz)

大量涌现的 AI 项目引发了如何有效管理和取用 API 密钥的问题。每次复制粘贴过于麻烦，明文写进配置文件也不安全。但通过合理利用内置功能或第三方工具，就能用加密存储代替明文密钥，达到兼顾安全和便捷的目的。

by @技术头条 2023-07-23 12:30 查看详情

实用 Web API 规范 (blog.alswl.com)

当开始创建一个新系统，或参与一个新团队或项目时，都会面临一个简单却深刻的问题：这个系统（Web Server）的 API 是否有设计规范？

这个问题困扰了我很长时间，始于我求学时期，每一次都需要与团队成员进行交流和讨论。从最初的自由风格到后来的 REST，我经常向项目组引用 Github v3 和Foursqure API（已经无法访问，暴露年龄）文档。然而，在实践过程中，仍然会有一些与实际工作或公司通用规范不匹配的情况，这时候我需要做一些补充工作。最终，我会撰写一个简要的 DEVELOPMENT.md 文档，以描述设计方案。

但我对该文档一直有更多的想法，它还不够完善。因此，我想整理出一份简单（Simple）而实用（Pragmatic）的 Web API 最佳实践，也就是本文。

by @技术头条 2023-04-07 00:37 查看详情

美团视觉GPU推理服务部署架构优化实践 (tech.meituan.com)

面对在线推理服务使用的GPU资源不断增加、GPU利用率普遍较低的挑战，美团视觉研发团队决定通过模型结构拆分和微服务化进行优化，他们提出一种通用高效的部署架构，来解决这种常见的性能瓶颈问题。以“图像检测+分类”服务为例，优化后的服务压测性能指标GPU利用率由40%提升至100%，QPS也提升超过3倍。本文将会重点介绍推理服务部署架构优化的工程实践，希望对大家能有所帮助或启发。

by @技术头条 2023-02-12 14:37 查看详情

通过编写嵌入式系统入门边缘计算 (linux.cn)

用于操控无线调制解调器的 AT 设备包是 RTOS 最流行的扩展功能之一。

RTOS 是一个开源的嵌入式设备操作系统，由 RT-Thread 开发。它为开发者提供了标准化的、友好的基础架构，开发者可以基于各种设备编写代码，它包含大量有用的类库和工具包，使开发过程更加便捷。

RTOS 使用的是模块方式，以便于扩展，这一点跟 Linux 类似。各种软件包可以让开发者将 RTOS 用于任何想要的目标设备。RTOS 最常用的一种扩展是 AT 设备包，它包含各种不同 AT 设备（例如调制解调器）的移植文件和示例代码。

在超过 62,000 次下载中（截止至撰写本文时），最流行的 RTOS 扩展之一是 AT 设备包，其中包括用于不同 AT 设备的移植文件和示例代码。

by @技术头条 2023-02-12 14:08 查看详情

隐私计算在医疗行业的应用 (blog.nsfocus.net)

隐私计算是指在提供隐私保护的前提下，实现数据价值挖掘的技术体系，目前主要包括三大核心技术，分别是：联邦学习(Federated Learning)、安全多方计算(Secure Multi-Party Computation)和可信执行环境(Trusted Execution Environment)。隐私计算基于同态加密和密码学底层协议，可以实现“数据可用不可见”的效果，在满足法律法规和数据安全的条件下，加速数据的流转。

by @技术头条 2023-02-12 14:04 查看详情

前端原生API实现条形码二维码的JS解析识别 (www.zhangxinxu.com)

今天才知道，原来浏览器有原生的API，可以对二维码、条形码进行解析，使用非常简单！

by @技术头条 2023-01-10 00:07 查看详情

以综合指数观察和评价研发效能的趋势 (link.zhihu.com)

研发效能就是团队能持续快速交付价值的能力。目的是交付价值，其研发核心能力在于“响应力”与“稳健性”，同时，响应力这一概念又可以从“流动速率”和“资源速率”两个维度来观察。

by @Thoughtworks 2022-11-11 10:15 查看详情