mybatis使用流式查询避免查询大批量数据导致OOM内存溢出
ztj100 2025-01-08 18:45 22 浏览 0 评论
Mybatis提供了一般查询和流式查询模式，先说一下怎么配置
1、一般查询
2、流式查询
测试场景
mysql中循环插入100,000条数据
IDEA运行时堆内存设置为初始分配堆内存20m，最大堆内存30m。如下
先使用一般查询测试：
可以发现这里GC占用大量时间为了释放很小的空间，这是一种保护机制。由于堆内存太小，导致需要频繁的GC垃圾回收。官方给出的解释：超过98%的时间用来做GC并且回收了不到2%的堆内存时抛出的异常。
大概意思就是Mybatis一次性将所有的数据查出，放到当前JVM的堆内存中，堆内存不够用了
再来看看流式查询是什么结果
OK，程序运行正常，没有发生OOM。
可见大批量数据用流式查询确实能防止OOM的发生
但是，原理是什么呢？
可以看到Mapper文件中配置参数有一个
resultSetType="FORWARD_ONLY"我们在访问数据库的时候，在读取返回结果的时候，可能要前后移动指针，比如我们先计算有多少条信息，这是我们就需要把指针移到最后来计算，然后再把指针移到最前面，逐条读取，有时我们只需要逐条读取就可以了。还有就是有只我们只需要读取数据，为了不破坏数据，我们可采用只读模式，有时我们需要望数据库里添加记录，这是我们就要采用可更新数据库的模式。
对于DB层，三种查询模式的参数如下所示
ResultSet.TYPE_FORWORD_ONLY 结果集的游标只能向下滚动。
ResultSet. TYPE_SCROLL_INSENSITIVE 结果集的游标可以上下移动，当数据库变化时，当前结果集不变。
ResultSet.TYPE_SCROLL_SENSITIVE 返回可滚动的结果集，当数据库变化时，当前结果集同步改变。
相关推荐
- 再说圆的面积-蒙特卡洛（蒙特卡洛方法求圆周率的matlab程序）
-
在微积分-圆的面积和周长(1)介绍微积分方法求解圆的面积，本文使用蒙特卡洛方法求解圆面积。...
- python创建分类器小结（pytorch分类数据集创建）
-
简介：分类是指利用数据的特性将其分成若干类型的过程。监督学习分类器就是用带标记的训练数据建立一个模型，然后对未知数据进行分类。...
- matplotlib——绘制散点图（matplotlib散点图颜色和图例）
-
绘制散点图不同条件（维度）之间的内在关联关系观察数据的离散聚合程度...
- python实现实时绘制数据（python如何绘制）
-
方法一importmatplotlib.pyplotaspltimportnumpyasnpimporttimefrommathimport*plt.ion()#...
- 简单学Python——matplotlib库3——绘制散点图
-
前面我们学习了用matplotlib绘制折线图，今天我们学习绘制散点图。其实简单的散点图与折线图的语法基本相同，只是作图函数由plot()变成了scatter()。下面就绘制一个散点图：import...
- 数据分析-相关性分析可视化（相关性分析数据处理）
-
前面介绍了相关性分析的原理、流程和常用的皮尔逊相关系数和斯皮尔曼相关系数，具体可以参考...
- 免费Python机器学习课程一:线性回归算法
-
学习线性回归的概念并从头开始在python中开发完整的线性回归算法最基本的机器学习算法必须是具有单个变量的线性回归算法。如今，可用的高级机器学习算法，库和技术如此之多，以至于线性回归似乎并不重要。但是...
- 用Python进行机器学习(2)之逻辑回归
-
前面介绍了线性回归，本次介绍的是逻辑回归。逻辑回归虽然名字里面带有“回归”两个字，但是它是一种分类算法，通常用于解决二分类问题，比如某个邮件是否是广告邮件，比如某个评价是否为正向的评价。逻辑回归也可以...
- 【Python机器学习系列】拟合和回归傻傻分不清?一文带你彻底搞懂
-
一、拟合和回归的区别拟合...
- 推荐2个十分好用的pandas数据探索分析神器
-
作者：俊欣来源：关于数据分析与可视化...
- 向量数据库:解锁大模型记忆的关键!选型指南+实战案例全解析
-
本文较长，建议点赞收藏，以免遗失。更多AI大模型应用开发学习视频及资料，尽在...
- 用Python进行机器学习(11)-主成分分析PCA
-
我们在机器学习中有时候需要处理很多个参数，但是这些参数有时候彼此之间是有着各种关系的，这个时候我们就会想：是否可以找到一种方式来降低参数的个数呢？这就是今天我们要介绍的主成分分析，英文是Princip...
- 神经网络基础深度解析:从感知机到反向传播
-
本文较长，建议点赞收藏，以免遗失。更多AI大模型应用开发学习视频及资料，尽在...
- Python实现基于机器学习的RFM模型
-
CDA数据分析师出品作者：CDALevelⅠ持证人岗位：数据分析师行业：大数据...
欢迎 你 发表评论:
- 一周热门
- 最近发表
- 标签列表
-
- idea eval reset (50)
- vue dispatch (70)
- update canceled (42)
- order by asc (53)
- spring gateway (67)
- 简单代码编程 贪吃蛇 (40)
- transforms.resize (33)
- redisson trylock (35)
- 卸载node (35)
- np.reshape (33)
- torch.arange (34)
- npm 源 (35)
- vue3 deep (35)
- win10 ssh (35)
- vue foreach (34)
- idea设置编码为utf8 (35)
- vue 数组添加元素 (34)
- std find (34)
- tablefield注解用途 (35)
- python str转json (34)
- java websocket客户端 (34)
- tensor.view (34)
- java jackson (34)
- vmware17pro最新密钥 (34)
- mysql单表最大数据量 (35)