时间:2025-11-04 20:59:25 来源:网络整理编辑:系统运维
高基数列是指数据基本不重复或者均为唯一值的列。典型的高基数列有ID标识,电子邮件地址或者用户名等。一个具有高基数的数据表列的例子是具有一个名为USER_ID的列的USERS表。这一列包含1-n的唯一值
高基数列是什高基数指数据基本不重复或者均为唯一值的列。典型的什高基数高基数列有ID标识,电子邮件地址或者用户名等。什高基数一个具有高基数的什高基数数据表列的例子是具有一个名为USER_ID的列的USERS表。
这一列包含1-n的什高基数唯一值。每次在USERS表中创建一个新用户时,什高基数将在USER_ID列中创建一个新数字,什高基数以唯一地标识它们。什高基数由于USER_ID列中保存的什高基数值是唯一的,因此该列的什高基数基数类型被称为高基数。
如果你的什高基数工作中用到了数据库,特别是什高基数要处理时序数据,那么可能你就会面对处理高基数数据的什高基数挑战。
特别是什高基数工业物联网(如制造业、石油和天然气、什高基数公用事业等)以及一些监控和事件数据工作负载中,时间序列高基数的源码库处理是一个常见问题。高基数也是开发人员经常讨论的一个话题,围绕它经常会有很多问题。
这里要澄清一个常见的混淆点:高基数在时序数据世界中之所以成为如此大的问题,是因为一些流行的时序数据库的局限性。如果选择了正确的数据库,高基数数据其实是一个已经解决了的问题。
让我们回过头来首先来定义什么是高基数。

广义上讲,基数是指一个集合中的值的数量。有时,集合的基数很小(低基数),有时可能很大(高基数)。例如,上图中有很多(美味的)M&M,服务器托管但该数据集的基数非常小(6):

在数据库世界中,基数是指数据库的特定列或字段中包含的唯一值的数量。
然而,对于时序数据来说,事情可能变得有些复杂了。时序数据往往与描述该数据的元数据(有时称为“标签”)配对。
通常,主时序数据或元数据会被索引以提高查询性能,这样就可以快速找到匹配所有指定标签的值。时序数据集的基数最典型是定义方式为每个索引列的基数的交叉乘积。
如果有6种颜色的m&m巧克力豆以及5种类型的m&m巧克力豆(普通的、花生的、杏仁的、椒盐脆饼的和脆的),那么我们的站群服务器基数现在是6x5 = 30种m&m巧克力豆。有了正确的索引,我们就能高效地找到所有蓝色的、酥脆的m&m巧克力豆(这是客观上最好的)。
如果你有多个索引列,每个列都有大量的唯一值,那么叉乘的基数可能会变得非常大。这是软件开发人员在谈论具有“高基数”的时序数据集时,“高基数”的通常含义。
让我们来看一个例子。
高基数示例:工业物联网想象一个物联网场景,在某个采石场,有大型、沉重的设备在进行采矿、破碎岩石和分类岩石这三种作业。
假设有10000件设备,每件设备有100个传感器,运行10个不同的固件版本,分布在100个地点:这个数据集的最大基数变成了10亿[10,000 x 100 x 10 x 100]。现在,假设设备也可以移动,我们想要存储精确的GPS位置(lat、long)(纬度,经度),并将其用作查询的索引元数据。因为(lat, long)是一个连续的字段(而不是像equipment_id这样的离散字段),通过对位置进行索引,这个数据集的最大基数现在是无限大的(无界)。
为时序设计的关系型数据库如何处理高基数不同的数据库采用不同的方法来处理高基数。根本上说,在使用高基数数据集时,数据库的性能表现如何可以追溯到它从一开始是如何设计的。
如果你正在处理大量的时序数据并使用关系数据库,那么用于索引数据的一种经过验证的数据结构是b树。依赖b树数据结构来索引数据对于高基数数据集有几个好处:
你可以清晰地理解数据库的执行方式。只要你希望查询的数据集的索引和数据适合内存(这是可以调优的),基数就不是问题。你可以控制索引哪些列,包括在多个列上创建联合索引的能力。你还可以随时添加或删除索引,如果你的查询工作负载发生了变化。你可以在离散和连续字段上创建索引,特别是因为b树可以很好地使用以下操作符进行比较:<,<=,=,>=,>,BETWEEN, IN, IS NULL, IS NOT NULL。我们的示例查询(“SELECT * from sensor_data WHERE mem_free = 0”和“SELECT * from sensor_data WHERE temperature > 90”)将运行在对数或O(log n)的时间复杂度内。虽然时序数据库使用其他方法来实现高基数,但使用b树结构已被证明是可靠的。如果你遇到有关高基数的数据问题,可以留言一起讨论。
参考链接:https://dzone.com/articles/what-is-high-cardinality
译者介绍卢鑫旺,51CTO社区编辑,半路出家的九零后程序员。做过前端页面,写过业务接口,搞过爬虫,研究过JS,有幸接触Golang,参与微服务架构转型。目前主写Java,负责公司可定制化低代码平台的数据引擎层设计开发工作。
OPPOA57自拍效果实测(探秘OPPOA57自拍的魅力与功能)2025-11-04 20:44
解决网络密码错误电脑的方法(忘记密码、密码被破解如何应对?)2025-11-04 19:58
多元环球水务(创新技术与全球合作,实现可持续水资源开发与管理)2025-11-04 19:46
情侣智能手表(打造时尚浪漫,连接心灵的智能配对)2025-11-04 19:30
电脑开机重置错误的解决方法(应对电脑开机重置错误的有效措施)2025-11-04 19:01
深入了解HALO护肤品(HALO护肤品质量如何?用户口碑是怎样的?一起来了解!)2025-11-04 18:56
戴尔15M7548s(性能强劲、设计精美、适合多种用途的15寸笔记本电脑)2025-11-04 18:55
探索MacBookPro17寸的卓越表现与卓越屏幕(一款重磅级别的移动工作站,重新定义专业性能和视觉体验)2025-11-04 18:27
苹果6升级到10.3系统的优劣势分析(探究苹果6升级10.3系统的关键特性和用户体验)2025-11-04 18:17
乐视手机如何进行截屏操作(学习乐视手机截屏技巧,让你操作更简单)2025-11-04 18:16
解读电脑显示内存错误代码的意义(探索内存错误代码背后的故障原因与解决方法)2025-11-04 20:39
酷派电话的性能及用户体验评测(了解酷派电话的特点与优势,决定是否购买)2025-11-04 20:38
探究外星人11寸R3的功能和性能(一款引领科技潮流的创新产品)2025-11-04 20:35
魅蓝5s自拍照质出众,再创美丽新高度(以魅蓝5s自拍怎么样为主题,揭秘它的出色自拍功能)2025-11-04 20:17
一体机系统重装教程(简明易懂的一体机系统重装步骤,帮你重拾流畅体验)2025-11-04 19:45
三星A8升级后的全新体验(卓越性能与创新功能让你爱不释手)2025-11-04 19:22
荣耀6白色联通版4G手机怎么样?(性能强劲价格亲民适合联通用户)2025-11-04 19:11
ExploringtheFunandCreativityofEnglishDubbing(UnlockingthePowerofFunnyVoiceoversinEnglish)2025-11-04 18:50
WebP文件转换为JPG格式的完全指南(简单易懂的教程及关键技巧)2025-11-04 18:28
电脑网络电缆错误的原因及解决办法(网络电缆问题的常见原因和快速修复方法)2025-11-04 18:24