百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术分类 > 正文

用图像增强来充实训练数据集,算不算是一种‘摸鱼’的方法?

ztj100 2024-12-28 16:50 40 浏览 0 评论



序言:图像增强其实就是对现有图片做一些变化,让数据集看起来更多样化,减少去额外收集数据的需求。虽然从某种程度上来说,它能提高数据的质量,但严格来说它不是传统意义上的数据清洗。数据清洗的目的就是把数据里的错误、不一致或者缺失的部分给清理掉,让数据变得更干净、更好用。

图像增强

在上一节中,我们构建了一个马或人分类器模型,这个模型是基于一个相对较小的数据集训练的。因此,在分类一些之前未见过的图片时,我们很快就遇到了问题,比如误把一个带马的女人分类错误,因为训练集中并没有包含类似姿势的人物图片(对,人工智能就是这样愚蠢,没有泛化能力??)

应对这些问题的一种方法是使用图像增强。这种技术的核心思想是,当 TensorFlow 加载数据时,可以通过多种变换方式来创建额外的新数据。比如,看看图 3-11。虽然数据集中并没有右侧那位女士的图像,但左侧的图像在某种程度上与之相似。



因此,如果在训练过程中,例如可以放大左侧的图像,如图 3-12 所示,就可以增加模型正确地将右侧图像分类为人物的概率。



同样地,我们可以通过多种其他变换来扩充训练集,包括:

? 旋转

? 水平平移

? 垂直平移

? 错切

? 缩放

? 翻转

由于我们一直在使用 ImageDataGenerator 加载图像,因此已经看到它进行了一次变换——即通过以下方式对图像进行了归一化处理:

train_datagen = ImageDataGenerator(rescale=1/255)

其他变换在 ImageDataGenerator 中也可以轻松实现,所以,我们可以像这样操作:

train_datagen = ImageDataGenerator(

rescale=1./255,

rotation_range=40,

width_shift_range=0.2,

height_shift_range=0.2,

shear_range=0.2,

zoom_range=0.2,

horizontal_flip=True,

fill_mode='nearest'

)

在这里,除了对图像进行归一化处理之外,我们还做了以下操作:

? 随机将每张图片向左或向右旋转最多 40 度

? 垂直或水平平移图片最多 20%

? 将图片错切最多 20%

? 将图片缩放最多 20%

? 随机将图片水平或垂直翻转

? 移动或错切后用最近的像素填充任何缺失的像素

当我们用这些参数重新训练时,会首先注意到训练时间变长了,因为所有这些图像处理需要额外的计算。同时,模型的准确率可能没有之前那么高,因为之前模型是对一个相对统一的数据集过拟合了。

在我的实验中,使用这些增强后,准确率从 99% 降到了 85%(经过 15 轮训练),验证集的准确率稍高,为 89%。(这表明模型稍微欠拟合,可以对参数进行一些微调。)

那之前在图 3-9 中被错误分类的图像呢?这次模型正确分类了。得益于图像增强,现在的训练集覆盖范围足够,使得模型也能理解这个特殊的图像是一个人(见图 3-13)。这只是一个数据点,可能不代表实际数据的全部结果,但这确实是朝正确方向迈出的一个小步。


可以看到,即使是一个相对较小的数据集(如“马或人”),我们也可以开始构建一个相当不错的分类器。如果有更大的数据集,可以进一步提升模型效果。

另一个提升模型的技术是利用已在其他地方学到的特征。许多拥有大量资源的研究人员(数百万张图片)和巨型模型(已在成千上万的类别上进行训练)分享了他们的模型,借助一个称为迁移学习的概念,我们可以利用这些模型学到的特征并将其应用于自己的数据。我们接下来将探索这个方法!

相关推荐

Sublime Text 4 稳定版 Build 4113 发布

IT之家7月18日消息知名编辑器SublimeText4近日发布了Build4113版本,是SublimeText4的第二个稳定版。IT之家了解到,SublimeTe...

【小白课程】openKylin便签贴的设计与实现

openKylin便签贴作为侧边栏的一个小插件,提供便捷的文本记录和灵活的页面展示。openKylin便签贴分为两个部分:便签列表...

“告别 Neovim!为什么我投奔了刚开源的 Zed 编辑器?”

...

壹啦罐罐 Android 手机里的 Xposed 都装了啥

这是少数派推出的系列专题,叫做「我的手机里都装了啥」。这个系列将邀请到不同的玩家,从他们各自的角度介绍手机中最爱的或是日常使用最频繁的App。文章将以「每周一篇」的频率更新,内容范围会包括iOS、...

电气自动化专业词汇中英文对照表(电气自动化专业英语单词)

专业词汇中英文对照表...

Python界面设计Tkinter模块的核心组件

我们使用一个模块,我们要熟悉这个模块的主要元件。如我们设计一个窗口,我们可以用Tk()来完成创建;一些交互元素,按钮、标签、编辑框用到控件;怎么去布局你的界面,我们可以用到pack()、grid()...

以色列发现“死海古卷”新残片(死海古卷是真的吗)

编译|陈家琦据艺术新闻网(artnews.com)报道,3月16日,以色列考古学家发现了死海古卷(DeadSeaScrolls)新残片。新出土的羊皮纸残片中包括以希腊文书写的《十二先知书》段落,这...

鸿蒙Next仓颉语言开发实战教程:订单列表

大家上午好,最近不断有友友反馈仓颉语言和ArkTs很像,所以要注意不要混淆。今天要分享的是仓颉语言开发商城应用的订单列表页。首先来分析一下这个页面,它分为三大部分,分别是导航栏、订单类型和订单列表部分...

哪些模块可以用在 Xposed for Lollipop 上?Xposed 模块兼容性解答

虽然已经有了XposedforLollipop的安装教程,但由于其还处在alpha阶段,一些Xposed模块能不能依赖其正常工作还未可知。为了解决大家对于模块兼容性的疑惑,笔者尽可能多...

利用 Fluid 自制 Mac 版 Overcast 应用

我喜爱收听播客,健身、上/下班途中,工作中,甚至是忙着做家务时。大多数情况下我会用MarcoArment开发的Overcast(Freemium)在iPhone上收听,这是我目前最喜爱的Po...

Avalonia日志组件实现与优化指南(ar日志表扣)

...

浅色Al云食堂APP代码(三)(手机云食堂)

以下是进一步优化完善后的浅色AI云食堂APP完整代码,新增了数据可视化、用户反馈、智能推荐等功能,并优化了代码结构和性能。项目结构...

实战PyQt5: 121-使用QImage实现一个看图应用

QImage简介QImage类提供了独立于硬件的图像表示形式,该图像表示形式可以直接访问像素数据,并且可以用作绘制设备。QImage是QPaintDevice子类,因此可以使用QPainter直接在图...

滚动条隐藏及美化(滚动条隐藏但是可以滚动)

1、滚动条隐藏背景/场景:在移动端,滑动的时候,会显示默认滚动条,如图1://隐藏代码:/*隐藏滚轮*/.ul-scrool-box::-webkit-scrollbar,.ul-scrool...

浅色AI云食堂APP完整代码(二)(ai 食堂)

以下是整合后的浅色AI云食堂APP完整代码,包含后端核心功能、前端界面以及优化增强功能。项目采用Django框架开发,支持库存管理、订单处理、财务管理等核心功能,并包含库存预警、数据导出、权限管理等增...

取消回复欢迎 发表评论: