高效处理Long列表与集合运算:基于RoaringBitmap的工具类解析与应用场景
- Java
- 15天前
- 40热度
- 0评论
高效处理Long列表与集合运算:RoaringBitmap工具类详解及应用
在Java开发中,高效地处理长整型列表(List<Long>)并进行复杂的集合操作是一项常见需求。为了满足这一需求,本文将详细介绍如何使用RoaringBitmap库来实现高效的存储和计算,并提供一些实际应用场景。
<dependency>
<groupId>org.roaringbitmap</groupId>
<artifactId>RoaringBitmap</artifactId>
<version>0.9.23</version> <!-- 建议使用最新稳定版本 -->
</dependency>
<aa>
<aa>1</aa>
</aa>RoaringBitmap工具类概览
该工具类提供了多种方法将List<Long>转换为RoaringBitmap,并内置了集合逻辑运算功能。核心目标是精简代码量的同时提升性能与效率。
方法详解与使用场景
1. eachLongToBitmap / eachLongToBitmapStream
作用: 遍历输入列表,为每一个Long值单独创建一个RoaringBitmap对象。
public static List
<RoaringBitmap> eachLongToBitmap(List<Long> longList);
public static List
<RoaringBitmap> eachLongToBitmapStream(List<Long> longList); // Stream版本应用场景
- 文档词项倒排索引: 在某些情况下,需要记录每个关键词出现在哪些文档的哪个位置。通过为每个位置创建独立的bitmap,可以快速定位特定关键词的位置。
- 用户行为序列标记: 分析用户的点击流数据时,可以使用RoaringBitmap来追踪每次点击的具体序号,并高效查询某个序号对应的用户集合。
- 分布式ID分片校验: 验证一批ID是否属于某个分片。通过创建单独的bitmap对象进行成员测试。
注意事项: 此方法会生成N个bitmap对象,内存消耗与列表长度成正比,适合小规模数据处理和需要独立操作每个元素的情况。
2. allLongsToOneBitmap / allLongsToOneBitmapStream
作用: 将整个List<Long>中的所有值合并到一个RoaringBitmap中,并返回单一的bitmap对象列表。
public static List
<RoaringBitmap> allLongsToOneBitmap(List<Long> longList);
public static List
<RoaringBitmap> allLongsToOneBitmapStream(List<Long> longList); // Stream版本应用场景
- 用户标签系统: 电商平台可以使用RoaringBitmap来高效地存储和查询多个标签集合的交集。
- 黑白名单过滤: 风控系统的黑名单可以通过RoaringBitmap快速进行成员测试,判断某个ID是否在黑名单中。
- 离线数据同步时的集合差集: 在增量用户推送场景中,通过计算新增用户的bitmap来排除已经处理过的用户。
注意事项: 推荐大多数"集合存储与运算"场景采用此方法,以减少内存消耗和提高性能。
3. computeLogic 私有方法
作用: 对传入的多个RoaringBitmap执行AND(交集)或OR(并集)操作,并返回结果bitmap对象。
private static RoaringBitmap computeLogic(List
<RoaringBitmap> bitmaps, String logic);应用场景
- 多条件组合筛选: 招聘平台可以使用此方法来快速查询满足多个条件的职位列表。
- A/B实验流量划分: 实验平台可以通过RoaringBitmap进行用户分组,并高效地计算出符合特定条件的目标人群。
- 动态权限聚合: 在一个角色系统中,可以将不同角色的资源ID集合合并为单个bitmap对象。
集合运算示例与实际应用场景
1. 交集(AND)—— RoaringBitmap.and(bitmapA, bitmapB)
业务场景 :精准营销人群圈选
某APP需要向过去7天登录过且加购过商品的用户推送优惠券。
- 集合A:登录用户ID
- 集合B:加购用户ID
交集结果即为目标人群。
2. 并集(OR)—— RoaringBitmap.or(bitmapA, bitmapB)
业务场景 :合并多渠道用户来源
市场部门需要统计通过抖音广告或百度搜索进入落地页的独立用户总数。
- 集合A:抖音渠道用户
- 集合B:百度渠道用户
并集给出去重后的总用户数。
3. 差集(AND NOT)—— RoaringBitmap.andNot(bitmapA, bitmapB)
业务场景 :排除已推送过的用户
运营团队需要每天发送Push消息,但不能重复推送给昨天已经收到的用户。
- 集合A:今天符合条件的用户
- 集合B:昨天已推送的用户
差集 A - B 得到“今天应推送但昨日未推送”的用户列表。
4. 对称差(XOR)—— RoaringBitmap.xor(bitmapA, bitmapB)
业务场景 :好友推荐中的“双向未关注”
社交平台需要找出双方尚未建立好友关系的候选对象,即在一方的好友中但不在另一方的好友列表中的用户。
5. 多Bitmap逻辑组合(computeLogic)
业务场景 :高级筛选器
电商后台可以利用RoaringBitmap来快速筛选出满足特定条件的商品。例如,价格在100~200元且品牌为小米或华为的商品。
- priceBitmap: 表示价格范围内的商品ID集合
- xiaomiBitmap 和 huaweiBitmap: 分别表示小米和华为品牌的商品ID集合
通过先执行OR运算,再与priceBitmap做AND操作来获取最终结果。
以上案例展示了RoaringBitmap在实际业务场景中的强大功能和使用灵活性。通过合理利用这些特性,开发者可以显著提升应用性能并简化代码实现。
后续章节将详细介绍更多集合运算的应用实例,并提供完整的Java代码示例,帮助读者更好地理解和掌握RoaringBitmap库的使用技巧。
四、总结与最佳实践
转换方式对比表
| 转换方式 | 内存占用 | 适用数据量 | 典型场景 |
|---|---|---|---|
| eachLongToBitmap | 高(N个bitmap对象) | 小(N<1000) | 位置索引、独立事件标记 |
| allLongsToOneBitmap | 低(1个bitmap) | 极大(千万级) | 用户画像、黑白名单、集合运算 |
额外建议:
数据范围限制:若原始Long值可能超过int范围(> 2^31-1),RoaringBitmap无法直接存储。实际业务中,用户ID和商品ID通常控制在int范围内;否则需采用Roaring64NavigableMap。
Stream版本优化:对于小列表,使用Java Stream可提升代码的可读性;而对于大列表,则推荐使用传统循环以避免装箱开销。
集合运算性能:尽量使用RoaringBitmap提供的静态方法(如and, or, xor, andNot),它们内部经过高度优化,在处理大规模数据时比手动循环快数倍。
通过合理运用RoaringBitmap,你可以在不引入重型计算引擎(如Spark、Flink)的情况下,在单机内存中轻松处理亿级ID的集合运算。希望本文能帮助你在实际项目中选对工具、用对场景。
Java代码示例
public class LongListToBitmapList {
/**
* 方式一:每个Long值生成一个独立的RoaringBitmap
* @param longList 原始Long列表
* @return List
<RoaringBitmap> 每个bitmap包含对应位置的一个long值
*/
public static List
<RoaringBitmap> eachLongToBitmap(List<Long> longList) {
List
<RoaringBitmap> bitmapList = new ArrayList<>();
for (Long value : longList) {
RoaringBitmap bitmap = new RoaringBitmap();
//RoaringBitmap存储的是int范围内的无符号整数,long需要转成int(实际场景确保值不超过int范围)
bitmap.add(value.intValue());
bitmapList.add(bitmap);
}
return bitmapList;
}
/**
* 方式二:将所有Long值合并到一个RoaringBitmap中,然后返回仅含该bitmap的列表
* @param longList 原始Long列表
* @return List
<RoaringBitmap> 包含一个聚合了所有值的bitmap
*/
public static List
<RoaringBitmap> allLongsToOneBitmap(List<Long> longList) {
RoaringBitmap bitmap = new RoaringBitmap();
for (Long value : longList) {
bitmap.add(value.intValue());
}
List
<RoaringBitmap> result = new ArrayList<>();
result.add(bitmap);
return result;
}
// 使用Java Stream的简洁写法(方式一)
public static List
<RoaringBitmap> eachLongToBitmapStream(List<Long> longList) {
return longList.stream()
.map(value -> {
RoaringBitmap bitmap = new RoaringBitmap();
bitmap.add(value.intValue());
return bitmap;
})
.collect(Collectors.toList());
}
// 使用Java Stream的简洁写法(方式二)
public static List
<RoaringBitmap> allLongsToOneBitmapStream(List<Long> longList) {
RoaringBitmap bitmap = new RoaringBitmap();
longList.forEach(value -> bitmap.add(value.intValue()));
return Arrays.asList(bitmap);
}
/**
* 对多个RoaringBitmap执行交(AND)或并(OR)运算
* @param bitmaps 参与运算的bitmap列表
* @param logic "AND" 或 "OR"(大小写不敏感)
* @return 运算结果
*/
private static RoaringBitmap computeLogic(List
<RoaringBitmap> bitmaps, String logic) {
if (bitmaps == null || bitmaps.isEmpty()) {
return new RoaringBitmap();
}
RoaringBitmap result = new RoaringBitmap();
if ("AND".equalsIgnoreCase(logic)) {
// 先用第一个bitmap作为初始值,再与其余做and
result.or(bitmaps.get(0));
for (int i = 1; i < bitmaps.size(); i++) {
result.and(bitmaps.get(i));
}
} else if ("OR".equalsIgnoreCase(logic)) {
bitmaps.forEach(result::or);
}
return result;
}
// 测试示例(包含交、并、差)
public static void main(String[] args) {
// 准备两个Long列表,分别代表两个集合
List
<Long> listA = Arrays.asList(1L, 2L, 3L, 4L, 5L);
List
<Long> listB = Arrays.asList(4L, 5L, 6L, 7L, 8L);
// 转换为独立的bitmap(每个元素一个bitmap,用于演示多bitmap交并)
// 实际业务中往往每个集合对应一个bitmap(包含多个元素),这里我们演示两种风格:
// 风格1:每个集合合并为一个bitmap(更常见)
RoaringBitmap bitmapA = new RoaringBitmap();
listA.forEach(v -> bitmapA.add(v.intValue()));
RoaringBitmap bitmapB = new RoaringBitmap();
listB.forEach(v -> bitmapB.add(v.intValue()));
System.out.println("集合 A: " + listA);
System.out.println("集合 B: " + listB);
// 1.交集 (AND)
RoaringBitmap intersection = RoaringBitmap.and(bitmapA, bitmapB);
System.out.println("交集 (A ∩ B): " + intersection);
// 2.并集 (OR)
RoaringBitmap union = RoaringBitmap.or(bitmapA, bitmapB);
System.out.println("并集 (A ∪ B): " + union);
// 3.差集 (A - B,即 A AND NOT B)
RoaringBitmap differenceAB = RoaringBitmap.andNot(bitmapA, bitmapB);
System.out.println("差集 (A - B): " + differenceAB);
// 4.差集 (B - A)
RoaringBitmap differenceBA = RoaringBitmap.andNot(bitmapB, bitmapA);
System.out.println("差集 (B - A): " + differenceBA);
// 5.对称差 (XOR) 即 (A - B) ∪ (B - A)
RoaringBitmap xor = RoaringBitmap.xor(bitmapA, bitmapB);
System.out.println("对称差 (A ⊕ B): " + xor);
// 6.演示computeLogic方法(支持多个bitmap)
List
<RoaringBitmap> multiBitmaps = Arrays.asList(bitmapA, bitmapB);
RoaringBitmap andResult = computeLogic(multiBitmaps, "AND");
RoaringBitmap orResult = computeLogic(multiBitmaps, "OR");
System.out.println("computeLogic AND: " + andResult);
System.out.println("computeLogic OR : " + orResult);
}
}此代码示例展示了如何使用RoaringBitmap进行基本操作,包括将Long列表转换为RoaringBitmap、执行集合运算等。通过这些示例,你可以更好地理解并应用RoaringBitmap在实际项目中的功能和优势。