百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术分类 > 正文

Go语言进阶之路(七)文件读写os、io、bufio、ioutil

ztj100 2025-01-11 18:52 17 浏览 0 评论

文件读写

Go内置库中io.Reader/Writer是比较常用的接口。很多原生的接口都围绕这个系列的接口展开,在实际的开发过程中,你会发现通过这个接口可以在多种不同的io类型之间进行过渡和转化。

围绕io.Reader/Writer,Go语言中有几个常用的实现:

  • net.Conn, os.Stdin, os.File: 网络、标准输入输出、文件的流读取
  • strings.Reader: 把字符串抽象成Reader
  • bytes.Reader: 把[]byte抽象成Reader
  • bytes.Buffer: 把[]byte抽象成Reader和Writer
  • bufio.Reader/Writer: 抽象成带缓冲的流读取(比如按行读写)


可以看到os.File结构也实现了Reader和Writer接口。Go语言内置的文件读写函数有很多都是基于Reader和Writer接口实现的。

Go语言中文件读写主要涉及到4个包:

  • os
  • io
  • bufio
  • ioutil

os和io包读写文件和目录

Go语言最基础的打开文件函数os.OpenFile:

file2, error := os.OpenFile("./2.txt", os.O_RDWR|os.O_CREATE, 0766)  // 返回File指针,打开的文件将会拥有O_RDWR权限(读写权限),传入的os.O_CREATE的意思是,如果文件不存在,则创建该文件,如果创建了文件,则该文件的权限设置为0766
if error != nil {
  fmt.Println(error);
}
fmt.Println(file2);
file2.Close();

我们来看一下OpenFile的函数定义:

func OpenFile(name string, flag int, perm FileMode) (*File, error)

第一个参数name表示需要打开的文件路径。

第二个参数flag取值如下,可以组合起来用或运算符,表示要以什么权限打开文件。

const (
    // Exactly one of O_RDONLY, O_WRONLY, or O_RDWR must be specified.
    O_RDONLY int = syscall.O_RDONLY // open the file read-only.
    O_WRONLY int = syscall.O_WRONLY // open the file write-only.
    O_RDWR   int = syscall.O_RDWR   // open the file read-write.
    // The remaining values may be or'ed in to control behavior.
    O_APPEND int = syscall.O_APPEND // append data to the file when writing.
    O_CREATE int = syscall.O_CREAT  // create a new file if none exists.
    O_EXCL   int = syscall.O_EXCL   // used with O_CREATE, file must not exist.
    O_SYNC   int = syscall.O_SYNC   // open for synchronous I/O.
    O_TRUNC  int = syscall.O_TRUNC  // if possible, truncate file when opened.
)

第三个参数FileMode为类Unix系统文件组权限值,可以直接设置,比如0755,则表示“-rwxr-xr-x”的文件权限。这个参数表示如果创建了文件,则把该文件权限设置成0755。

Go语言官方建议:绝大多数情况下应该使用Open和Create方法来打开文件和创建文件,因为它们更简洁更直接。Open和Create方法内部其实也是调用了OpenFile来实现的。


打开文件os.Open:

file, error := os.Open("./1.txt")  // Open内部调用OpenFile,返回File指针,打开的文件将会拥有O_RDONLY权限
if error != nil {
  fmt.Println(error)
}
fmt.Println(file)
file.Close()

来看一下Go语言的Open源码:

func Open(name string) (*File, error) {
  return OpenFile(name, O_RDONLY, 0)  // 表明Open返回的文件指针对该文件具有O_RDONLY的权限(只读权限)
}


创建文件os.Create(string):

file3, error := os.Create("./3.txt");
if error != nil {
  fmt.Println(error);
}
fmt.Println(file3);
file3.Close();

来看一下Go语言的Create源码:

func Create(name string) (*File, error) {
  return OpenFile(name, O_RDWR|O_CREATE|O_TRUNC, 0666)  // 表明Create返回的文件指针对该文件具有O_RDWR、O_CREATE和O_TRUNC的权限(读写、创建、删除权限),该文件的权限设置为0666
}


打开文件os.Open(string)和读取文件File.Read([]byte):

file, err := os.Open(`D:\test.py`)
if err != nil {
  fmt.Println(err)
}
//创建字节切片用于接收文件读取数据(类似于Java中读取文件时的缓冲数组)
buf := make([]byte, 1024)
for {
  length, _ := file.Read(buf)  // Read函数从当前偏移量读取字节切片长度的文件内容到字节切片内。该函数读取完成后,会改变文件当前偏移量
  //读取字节数为0时跳出循环
  if length == 0 {
    break
  }
  fmt.Println(string(buf))
  buf = make([]byte, 1024)
}
file.Close()


偏移量读取文件File.ReadAt([]byte, int64):

file5, error := os.Open(`D:\address.txt`)
if error != nil {
  fmt.Println(error)
}
//创建字节切片用于接收文件读取数据(类似于Java中读取文件时的缓冲数组)
buf2 := make([]byte, 1024)
ix := 0
for {
  len, _ := file5.ReadAt(buf2, int64(ix))  //ReadAt函数从指定的偏移量开始读取字节切片长度的文件内容到字节切片内。
  ix = ix + len
  if len == 0 {
    break
  }
  fmt.Println(string(buf2))
  buf2 = make([]byte, 1024)
}
file5.Close()


创建文件和写入文件File.Write([]byte)、File.WriteString(string):

file6, err := os.Create("./4.txt")
if err != nil {
  fmt.Println(err)
}
data := "我是数据\r\n"
for i := 0; i < 10; i++ {
  //写入byte的slice数据
  length, _ := file6.Write([]byte(data))
  fmt.Println(length)
  //写入字符串
  length, _ = file6.WriteString(data)
  fmt.Println(length)
}
file6.Close()


创建文件和偏移量写入文件File.WriteAt([]byte, int64):

file7, err := os.Create("./5.txt")
if err != nil {
  fmt.Println(err)
}
for i := 0; i < 10; i++ {
  //按指定偏移量写入数据
  ix := i * 64
  length, _ := file7.WriteAt([]byte("我是数据"+strconv.Itoa(i)+"\r\n"), int64(ix))  //WriteAt函数从指定的偏移量开始写入字节切片长度的文件内容到文件内。 
  fmt.Println(length)
}
file7.Close()


删除文件os.Remove(string):

err := os.Remove("./1.txt")
if err != nil {
  fmt.Println(err)
}


删除路径下所有的文件夹、文件和子文件夹:

err := os.RemoveAll("./dir")
if err != nil {
  fmt.Println(err)
}


os其他有用的文件操作和目录操作:

func Chdir(dir string) error
func Exit(code int)
func Getenv(key string) string
func Getwd() (dir string, err error)
func Hostname() (name string, err error)
func IsExist(err error) bool
func IsNotExist(err error) bool
func IsPathSeparator(c uint8) bool
func IsPermission(err error) bool
func Link(oldname, newname string) error
func LookupEnv(key string) (string, bool)
func Mkdir(name string, perm FileMode) error
func MkdirAll(path string, perm FileMode) error
func Readlink(name string) (string, error)
func Remove(name string) error
func RemoveAll(path string) error
func Rename(oldpath, newpath string) error
func SameFile(fi1, fi2 FileInfo) bool
func Setenv(key, value string) error
func Symlink(oldname, newname string) error
func TempDir() string
func Unsetenv(key string) error


ioutil包读写文件和目录:

ioutil下只有这么几个非常有用的函数:

  1. func ReadAll(r io.Reader) ([]byte, error)
  2. func ReadFile(filename string) ([]byte, error)
  3. func WriteFile(filename string, data []byte, perm os.FileMode) error
  4. func ReadDir(dirname string) ([]os.FileInfo, error)
  5. func TempFile(dir, pattern string) (f *os.File, err error)
  6. func TempDir(dir, pattern string) (name string, err error)


func ReadAll(r io.Reader) ([]byte, error)

一次性读取Reader中的所有内容,返回读取内容的字节切片。如果error为nil则表示读取成功。其内部使用了bytes.Buffer从io.Reader中读取所有内容。

file, err := os.Open(`D:\address.txt`)  // 打开文件,返回文件实例File指针。Go语言中File实现了Reader和Writer接口
if err != nil {
  fmt.Println(err)
}
data, err := ioutil.ReadAll(file)
if err != nil {
  fmt.Println(err)
} else {
  fmt.Println(string(data))
}

func ReadFile(filename string) ([]byte, error)

一次性从参数文件路径表示的文件中读取文件的所有内容,返回读取内容的字节切片。如果error为nil则表示读取成功。其内部使用了bytes.Buffer从os.Open()返回的Reader中读取所有内容。

data, err := ioutil.ReadFile(`D:\address.txt`)
if err != nil {
  fmt.Println(err)
} else {
  fmt.Println(string(data))
}

func WriteFile(filename string, data []byte, perm os.FileMode) error

一次性把字节切片data内容写入到filename表示的文件里面。其内部使用了os.OpenFile()打开文件和File.Write()写入文件内容。

content := "准备写入的内容"
err := ioutil.WriteFile(`D:\address1.txt`, []byte(content), 0666)
if err != nil {
  panic(err)
}

来看一下源码:

func WriteFile(filename string, data []byte, perm os.FileMode) error {
  // 以只读权限O_WRONLY打开文件,如果文件不存在则会创建文件,如果文件存在,则打开文件的时候会先清空文件内容(O_TRUNC)
  f, err := os.OpenFile(filename, os.O_WRONLY|os.O_CREATE|os.O_TRUNC, perm)
  if err != nil {
    return err
  }
  _, err = f.Write(data)
  if err1 := f.Close(); err == nil {
    err = err1
  }
  return err
}

func ReadDir(dirname string) ([]os.FileInfo, error)

读取目录下的所有文件和目录,返回FileInfo切片(os.File结构体实现了FileInfo接口)。

fileInfos, err := ioutil.ReadDir(`D:\`)
if err != nil {
  fmt.Println(err)
}
for index, fileInfo := range fileInfos {
  fmt.Println(index, fileInfo.Name())  // 隐藏文件$RECYCLE.BIN也包含在里面
}

ReadDir内部使用了File.Readdir来读取目录下的所有文件和子目录,还会对结果进行排序。来看一下源码:

// ReadDir reads the directory named by dirname and returns
// a list of directory entries sorted by filename.
func ReadDir(dirname string) ([]os.FileInfo, error) {
  f, err := os.Open(dirname)
  if err != nil {
    return nil, err
  }
  list, err := f.Readdir(-1)
  f.Close()
  if err != nil {
    return nil, err
  }
  sort.Slice(list, func(i, j int) bool { return list[i].Name() < list[j].Name() })
  return list, nil
}

func TempFile(dir, pattern string) (f *os.File, err error)

在参数dir目录下生成一个pattern名称的文件,返回生成的文件File实例。文件名称将会以pattern开头,一串随机数字结尾。如果pattern中包含星号*,则那串随机数字会放在星号的位置,而不是放在结尾。

file, err := ioutil.TempFile(`D:\`, "temp*File")
if err != nil {
  fmt.Println(err)
}
fmt.Println(file.Name())  // 输出:D:\temp584004487File

此时,D盘目录下生成了temp584004487File文件:

func TempDir(dir, pattern string) (name string, err error)

在参数dir目录下生成一个pattern名称的目录,返回生成的目录路径(含路径和目录名称)。目录名称将会以pattern开头,一串随机数字结尾。如果pattern中包含星号*,则那串随机数字会放在星号的位置,而不是放在结尾。

name, err := ioutil.TempDir(`D:\`, "temp*Dir")
if err != nil {
  fmt.Println(err)
}
fmt.Println(name)  // 输出:D:\temp731435683Dir

此时,D盘目录下生成了temp731435683Dir文件夹:


bufio包读写文件

bufio.NewReader(rd io.Reader) *Reader

使用bufio.NewReader(rd io.Reader) *Reader创建一个带缓冲区(缓冲区默认大小4096字节)的Reader实例,然后使用该Reader读文件内容:

f, err := os.Open("connect.go")
defer f.Close()
if err != nil {
  panic(err)
}
//func NewReader(rd io.Reader) *Reader
reader := bufio.NewReader(f)
totLine := 0
for {
  //func (b *Reader) ReadLine() (line []byte, isPrefix bool, err error)
  content, isPrefix, err := reader.ReadLine()
  fmt.Println(string(content), isPrefix, err)
  //当单行的内容超过缓冲区时,isPrefix会被置为true;否则为false;
  if !isPrefix {
    totLine++
  }
  if err == io.EOF {
    fmt.Println("一共有", totLine, "行内容")
    break
  }
}

除了ReadLine方法,bufio.Reader还有ReadString(delim byte) (string, error)方法,这个ReadString方法从Reader中读取字符串,直到读到参数delim,就返回delim和之前的字符串。如果将delim设置为\n,相当于按行来读取了。

bufio.NewWriter(rd io.Writer) *Writer

使用bufio.NewWriter(rd io.Writer) *Writer创建一个带缓冲区(缓冲区默认大小4096字节)的Writer实例,然后使用该Writer写文件内容:

path := "test.txt"
f, err := os.Create(path)
defer f.Close()
if err != nil {
  panic(err)
}
//func NewWriter(w io.Writer) *Writer
bufferWrite := bufio.NewWriter(f)
if err != nil {
  panic(err)
}
demo := "1234567890"
for _, v := range demo {
  // 将数据写入缓冲区
  // func (b *Writer) WriteString(s string) (int, error)
  bufferWrite.WriteString(string(v))
}
data, _ := ioutil.ReadFile(path)
fmt.Println(string(data))   // 输出空的内容
// 将缓冲区的数据写入文件
// func (b *Writer) Flush() error
bufferWrite.Flush()
data, _ = ioutil.ReadFile(path)
fmt.Println(string(data))   // 输出:1234567890


相关推荐

其实TensorFlow真的很水无非就这30篇熬夜练

好的!以下是TensorFlow需要掌握的核心内容,用列表形式呈现,简洁清晰(含表情符号,<300字):1.基础概念与环境TensorFlow架构(计算图、会话->EagerE...

交叉验证和超参数调整:如何优化你的机器学习模型

准确预测Fitbit的睡眠得分在本文的前两部分中,我获取了Fitbit的睡眠数据并对其进行预处理,将这些数据分为训练集、验证集和测试集,除此之外,我还训练了三种不同的机器学习模型并比较了它们的性能。在...

机器学习交叉验证全指南:原理、类型与实战技巧

机器学习模型常常需要大量数据,但它们如何与实时新数据协同工作也同样关键。交叉验证是一种通过将数据集分成若干部分、在部分数据上训练模型、在其余数据上测试模型的方法,用来检验模型的表现。这有助于发现过拟合...

深度学习中的类别激活热图可视化

作者:ValentinaAlto编译:ronghuaiyang导读使用Keras实现图像分类中的激活热图的可视化,帮助更有针对性...

超强,必会的机器学习评估指标

大侠幸会,在下全网同名[算法金]0基础转AI上岸,多个算法赛Top[日更万日,让更多人享受智能乐趣]构建机器学习模型的关键步骤是检查其性能,这是通过使用验证指标来完成的。选择正确的验证指...

机器学习入门教程-第六课:监督学习与非监督学习

1.回顾与引入上节课我们谈到了机器学习的一些实战技巧,比如如何处理数据、选择模型以及调整参数。今天,我们将更深入地探讨机器学习的两大类:监督学习和非监督学习。2.监督学习监督学习就像是有老师的教学...

Python教程(三十八):机器学习基础

...

Python 模型部署不用愁!容器化实战,5 分钟搞定环境配置

你是不是也遇到过这种糟心事:花了好几天训练出的Python模型,在自己电脑上跑得顺顺当当,一放到服务器就各种报错。要么是Python版本不对,要么是依赖库冲突,折腾半天还是用不了。别再喊“我...

超全面讲透一个算法模型,高斯核!!

...

神经网络与传统统计方法的简单对比

传统的统计方法如...

AI 基础知识从0.1到0.2——用“房价预测”入门机器学习全流程

...

自回归滞后模型进行多变量时间序列预测

下图显示了关于不同类型葡萄酒销量的月度多元时间序列。每种葡萄酒类型都是时间序列中的一个变量。假设要预测其中一个变量。比如,sparklingwine。如何建立一个模型来进行预测呢?一种常见的方...

苹果AI策略:慢哲学——科技行业的“长期主义”试金石

苹果AI策略的深度原创分析,结合技术伦理、商业逻辑与行业博弈,揭示其“慢哲学”背后的战略智慧:一、反常之举:AI狂潮中的“逆行者”当科技巨头深陷AI军备竞赛,苹果的克制显得格格不入:功能延期:App...

时间序列预测全攻略,6大模型代码实操

如果你对数据分析感兴趣,希望学习更多的方法论,希望听听经验分享,欢迎移步宝藏公众号...

AI 基础知识从 0.4 到 0.5—— 计算机视觉之光 CNN

...

取消回复欢迎 发表评论: