News

7月24日,以“倾听·践行 服务行业数智化 ...
编辑 | 云昭 CUDA一直被视为英伟达GPU的最强壁垒,让许多业界的玩家望洋兴叹。 但,今天这篇文章会给各位习惯C++、CUDA开发的大佬提个醒: 有一种新的编程语言,正在AI圈兴起,撬动英伟达的围墙花园。而CUDA也不再是护城河。 近日,一位大牛 Thomas Cherickal,发表了一篇博客,阐述了一种新的编程 ...
AIGC 、大模型等技术的应用落地在对数据中心算力提出更高要求的同时,也对数据中心的能耗带来了前所未有的挑战。当 ChatGPT 每日处理 2 亿次请求消耗 50 万度电时,当训练 GPT-4 模型需要 2.4 亿度电时,数据中心能源优化已从技术命题升级为生存命题。 根据国际能源署(IEA)数据显示,全球数据 ...
在科技飞速发展的当下,系统级芯片(SoC)宛如一颗璀璨的明星,广泛闪耀于手机、智能家居、车载设备等众多领域,成为推动现代电子设备不断革新的核心力量。它将 CPU、GPU、内存以及各类通信模块精妙集成于方寸之间,宛如把设备的 “智慧大脑” 浓缩进了一个小小的芯片里,为我们的生活带来 ...
“芯片问题其实没必要担心,用叠加和集群等方法,计算结果上与最先进水平是相当的。”近日任正非与人民日报的对话刷遍网络,在芯片这个“缺芯少魂”的关键问题上给业界吃下“定心丸”。 任正非这一重要发声,恰逢昇腾芯片被 “警告”使用风险之际。他在对话中直接给出了解决路径 ...
我们开发的软件服务需要在服务器上运行,所以服务器性能代表了软件的性能上限,因此服务器性能调优是个十分重要的环节,然而大部分同学对服务器性能调优关注的较少,今天从3个部分对服务器性能调优进行介绍,分别是:服务器配置选择,服务器负载分析,服务器内核参数调优。 服务器配置 ...
Nginx 是一款高性能的 HTTP 和反向代理服务器,广泛应用于 Web 服务、负载均衡和 API 网关等场景。 本文将详细介绍 Nginx 的常用配置,涵盖基本配置、静态资源服务、反向代理、负载均衡、HTTPS 配置、缓存优化等内容,帮助读者快速掌握 Nginx 的核心功能。 一、Nginx 基础配置 Nginx 的核心配置文件通常 ...
服务器故障检测与维修是保障系统稳定性和数据完整性的关键环节。随着数据中心规模的不断扩大,对服务器健康状态的实时监测和及时响应变得更加重要。 随着B站业务的快速发展,用户规模和内容生态不断扩展,平台的技术 ...
英伟达这几年很火。因为AI的带动,它几乎成为全球最受关注的公司。 我们总是会在网上看到和英伟达有关的一些名词,例如: A100、B100、H100、GH200、GB200、NVLINK、NVSwitch、DGX、HGX、Quantum、Spectrum、BlueField、CUDA等等。 这些名词看多了,就有点晕。搞不懂到底是什么,有什么关系。 今天这篇文章 ...
全球采用USB技术的设备有上百亿,尽管创造了如此重大的发明,阿贾伊·巴特却一分钱都没赚到,因为专利权归Intel所有。 上世纪90年代初的某一天,Intel芯片组高级架构师阿贾伊·巴特正在家里休息。 这时候书房传来了妻子的 ...
Nginx负载均衡 Nginx作为一款高性能的Web服务器、和反向代理服务器,其负载均衡功能通过将客户端请求分发到多台后端服务器, 如下图所示: 当某个后端服务器发生故障时,Nginx 可以将请求转发到其他健康的服务器,保证服务的连续性。 以及, 通过将请求分发到多台服务器上,可以显著提高系统的 ...