659 lines
16 KiB
Markdown
659 lines
16 KiB
Markdown
# I/O操作
|
||
|
||
输入输出是一切实现的基础。
|
||
|
||
标准IO：`stdio`
|
||
|
||
系统调用IO（文件IO）：`sysio`
|
||
|
||
优先使用标准IO，兼容性更好，还有合并系统调用的优势。
|
||
|
||
## 标准IO
|
||
|
||
```c
|
||
/* stdio */
|
||
/* FILE类型贯穿始终 */
|
||
|
||
FILE *fopen(const char *path, const char *mode);
|
||
/**
|
||
* fopen 返回指针的储存位置？ 1.栈 2.静态区 3.堆
|
||
* 正确答案：3.堆。
|
||
* 因为如果是栈，就是函数内部局部变量，无法返回地址。
|
||
* 如果是静态区，无法确定需要多少个这个变量。
|
||
*
|
||
* 只有 r 和 r+ 一定要求文件存在
|
||
* 另外几种不存在会创建
|
||
*
|
||
* 创建文件的权限
|
||
* 0666 & ~umask
|
||
*
|
||
* 对于普通用户
|
||
* umask 得到 022
|
||
*
|
||
*/
|
||
int fclose(FILE *fp);
|
||
|
||
int fputc(FILE *stream);
|
||
int fgetc(int c, FILE *stream);
|
||
|
||
char *fgets(char *s, int size, FILE *stream);
|
||
/**
|
||
* 两种正常返回的情况：
|
||
* 1. 读了 size-1 个字节，最后一个字节留给 '\0'
|
||
* 2. 读到了 '\n'
|
||
*
|
||
* eg. 加入用fgets(buf, 5, stream) 来读 abcd
|
||
* 是会读两次的
|
||
* 第一次：abcd'\0'
|
||
* 第二次：'\n''\0'
|
||
*/
|
||
int fputs(const char *restrict s, FILE *restrict stream);
|
||
|
||
/**
|
||
* 这一对函数常用但是无法验证边界
|
||
* 尽量一次只读单字节，更安全
|
||
*
|
||
* 返回值：成功读/写的对象的数量
|
||
*/
|
||
size_t fread(void *ptr, size_t size, size_t nemmb, FILE *stream);
|
||
size_t fwrite(const void *ptr, size_t size, size_t nmemb, FILE *stream);
|
||
|
||
|
||
int printf(const char *restrict format, ...);
|
||
/**
|
||
* 常用于 fprintf(stderr,...)
|
||
*/
|
||
int fprintf(FILE *restrict stream, const char *restrict format, ...);
|
||
|
||
// TODO:
|
||
int dprintf(int fd, const char *restrict format, ...);
|
||
|
||
/**
|
||
* 将格式化内容输出到一个字符串
|
||
*
|
||
* 和 atoi() 正好相反
|
||
*
|
||
*/
|
||
int sprintf(char *restrict str, const char *restrict format, ...);
|
||
|
||
/**
|
||
* 比sprintf多了size参数，更安全
|
||
*/
|
||
int snprintf(char str[restrict.size],
|
||
size_t size,
|
||
const char *restrict format,
|
||
...)
|
||
|
||
// !!! 慎用%s
|
||
int scanf(const char *restrict format, ...);
|
||
int fscanf(FILE *restrict stream,
|
||
const char *restrict format, ...);
|
||
|
||
|
||
/**
|
||
* 移动文件当前位置指针
|
||
*
|
||
* 可用于生成空洞文件，下载器原理
|
||
*
|
||
* @prarm: offset 移动多远
|
||
* @prarm: whence 移动方向
|
||
* SEEK_SET, SEEK_CUR, SEEK_END
|
||
*
|
||
* @return 成功0，失败-1
|
||
*/
|
||
int fseek(FILE *stream, long offset, int whence);
|
||
|
||
/**
|
||
* 反映当前文件指针所在位置
|
||
*
|
||
* 这个long的负值部分无法使用。
|
||
* 所以文件无法超过2G。
|
||
*
|
||
*/
|
||
long ftell(FILE *stream);
|
||
|
||
/**
|
||
* 解决上面long的问题。
|
||
*
|
||
* 最好编译时加上
|
||
* #define _FILE_OFFSET_BITS 64
|
||
* 可以写入makefile
|
||
*
|
||
* 但是这俩函数是方言，前面那个long的一对支持C89，C99
|
||
*
|
||
*/
|
||
int fseeko(FILE *stream, off_t offset, int whence);
|
||
off_t ftello(FILE *stream);
|
||
|
||
/**
|
||
* 将文件指针置于文件首
|
||
* equivalent to:
|
||
* fseek(stream, 0L, SEEK_SET);
|
||
*/
|
||
void rewind(FILE *stream);
|
||
|
||
/**
|
||
* 缓冲区的作用：
|
||
* 大多数情况下是好事，合并系统调用
|
||
*
|
||
* 行缓冲： 换行时候刷新，满了的时候刷新，强制刷新（标准输出是这样的，因为是终端设备）
|
||
*
|
||
* 全缓冲： 满了的时候刷新，强制刷新（默认，只要不是终端设备）
|
||
*
|
||
* 无缓冲： 如stderr，需要立即输出的内容
|
||
*/
|
||
fflush();
|
||
|
||
/**
|
||
* @prarm: mode
|
||
* _IONBF
|
||
* _IOLBF
|
||
* _IOFBF
|
||
*/
|
||
int setvbuf(FILE *stream, char *buf, int mode, size_t size);
|
||
|
||
/**
|
||
* 为了读取一行
|
||
*
|
||
* 使用办法：
|
||
* #define _GNU_SOURCE 这个不想写到代码里面的话可以写到makefile
|
||
* eg. CFLAGS+=-D_FILE_OFFSET_BITS=64 -D_GNU_SOURCE
|
||
* #include <stdio.h>
|
||
*
|
||
* !!! 里面有 malloc 动作，未释放
|
||
* !!! 是方言，可以自己封装一个mygetline和mygetline_free
|
||
* !!! 但是根据chatgpt，好像直接 free(*lineptr) 就行了
|
||
*
|
||
*/
|
||
ssize_t getline(char **lineptr, size_t *n, FILE *stream);
|
||
|
||
/**
|
||
* 临时文件
|
||
* 1. 如何不冲突的创建
|
||
* 2. 及时销毁
|
||
*
|
||
* tmpnam: 创建临时文件名字
|
||
* 有并发危险，因为产生名字和创建文件是两步
|
||
*
|
||
* tmpfile: 创建临时文件
|
||
* 是匿名文件，ls -a 都看不到
|
||
* 避免冲突
|
||
*/
|
||
char *tmpnam(char *s);
|
||
FILE *tmpfile(void);
|
||
|
||
```
|
||
|
||
|
||
## 文件IO/系统调用IO
|
||
|
||
文件描述符（`fd`）是在文件IO中贯穿始终的类型。
|
||
|
||
### 文件描述符的概念
|
||
是一个整型数，是一个指针数组的下标。
|
||
优先使用当前可用范围内最小的。
|
||
|
||
### 文件IO操作相关函数：
|
||
- open
|
||
- close
|
||
- read
|
||
- write
|
||
- lsee
|
||
|
||
```c
|
||
|
||
/**
|
||
* r -> O_RDONLY
|
||
* r+ -> O_RDWR
|
||
* w -> O_WRONLY | O_CREAT | O_TRUNC
|
||
* w+ -> O_RDWR | O_TRUNC | O_CREAT
|
||
*
|
||
* 如果有creat就必须用三参数的形式
|
||
* C语言没有重载，这是变参函数
|
||
*
|
||
* @prarm: pathname 文件路径
|
||
* @prarm: flags 文件打开方式
|
||
* @prarm: mode 文件权限
|
||
*
|
||
*/
|
||
int open(const char *pathname, int flags);
|
||
int open(const char *pathname, int flags, mode_t mode);
|
||
|
||
int close(int fd);
|
||
|
||
/**
|
||
* read from a file descriptor
|
||
*
|
||
* @return 读取的字节数，失败返回-1
|
||
*/
|
||
ssize_t read(int fd, void *buf, size_t count);
|
||
|
||
/**
|
||
* write to a file descriptor
|
||
*
|
||
* @return 写入的字节数，失败返回-1
|
||
*/
|
||
ssize_t write(int fd, const void *buf, size_t count);
|
||
|
||
/**
|
||
* 移动文件指针
|
||
*
|
||
* @prarm: offset 移动多远
|
||
* @prarm: whence 移动方向
|
||
* SEEK_SET, SEEK_CUR, SEEK_END
|
||
*
|
||
* @return 成功0，失败-1
|
||
*/
|
||
off_t lseek(int fd, offt offset, int whence);
|
||
|
||
```
|
||
|
||
|
||
### 文件IO与标准IO的区别
|
||
区别：响应速度&吞吐量
|
||
文件IO需要频繁进入内核，标准IO通过缓冲区合并系统调用。
|
||
响应速度快就文件IO，吞吐量大就标准IO。
|
||
> [!warning]
|
||
> 二者不可混用
|
||
|
||
转换方法：`fileno`, `fdopen`
|
||
|
||
### IO的效率问题
|
||
习题：将`mycpy.c`程序进行更改，将`BUFSIZE`的值放大，观察进程消耗的时间，注意性能出现拐点的值以及程序何时段错误。
|
||
|
||
解答：
|
||
将`BUFSIZE`作为命令行参数传入，`int bufsize = atoi(argv[3]);`
|
||
通过脚本进行试验：
|
||
```bash
|
||
#!/bin/bash
|
||
|
||
# 生成一个 5GB 的文件
|
||
dd if=/dev/urandom of=/tmp/bigfile bs=1G count=5
|
||
|
||
# 输入和输出文件的路径
|
||
src="/tmp/bigfile"
|
||
dst="/tmp/outfile"
|
||
|
||
# 编译你的程序
|
||
gcc -o mycpy_bufsize mycpy_bufsize.c
|
||
|
||
# 初始化 BUFSIZE
|
||
bufsize=512
|
||
|
||
# 循环，每次 BUFSIZE * 2
|
||
while true; do
|
||
# 用 time 命令运行你的程序，并将结果重定向到一个临时文件
|
||
{ time ./mycpy_bufsize $src $dst $bufsize; } 2> time.txt
|
||
|
||
# 检查程序的退出状态
|
||
if [ $? -ne 0 ]; then
|
||
echo "Max BUFSIZE before segfault: $bufsize"
|
||
break
|
||
fi
|
||
|
||
# 提取 time 的结果
|
||
real_time=$(grep real time.txt | awk -F' ' '{print $2}')
|
||
user_time=$(grep user time.txt | awk -F' ' '{print $2}')
|
||
sys_time=$(grep sys time.txt | awk -F' ' '{print $2}')
|
||
|
||
# 输出 BUFSIZE 和 time 的结果
|
||
echo "BUFSIZE: $bufsize, Real Time: $real_time, User Time: $user_time, Sys Time: $sys_time"
|
||
|
||
# BUFSIZE * 2
|
||
bufsize=$((bufsize * 2))
|
||
done
|
||
|
||
# 删除临时文件
|
||
rm time.txt
|
||
rm $src
|
||
rm $dst
|
||
|
||
```
|
||
|
||
结果：
|
||
```bash
|
||
wan@SK-20240106UQUX:~/Linux-C-Notes/C13-Linux系统编程/io/sys$ ./time.sh
|
||
BUFSIZE: 512, Real Time: 0m7.672s, User Time: 0m0.650s, Sys Time: 0m7.007s
|
||
BUFSIZE: 1024, Real Time: 0m5.026s, User Time: 0m0.201s, Sys Time: 0m4.651s
|
||
BUFSIZE: 2048, Real Time: 0m3.535s, User Time: 0m0.158s, Sys Time: 0m3.183s
|
||
BUFSIZE: 4096, Real Time: 0m2.418s, User Time: 0m0.059s, Sys Time: 0m2.232s
|
||
BUFSIZE: 8192, Real Time: 0m2.363s, User Time: 0m0.040s, Sys Time: 0m2.150s
|
||
BUFSIZE: 16384, Real Time: 0m2.279s, User Time: 0m0.030s, Sys Time: 0m2.079s
|
||
BUFSIZE: 32768, Real Time: 0m2.238s, User Time: 0m0.020s, Sys Time: 0m2.026s
|
||
BUFSIZE: 65536, Real Time: 0m2.114s, User Time: 0m0.000s, Sys Time: 0m1.972s
|
||
BUFSIZE: 131072, Real Time: 0m2.302s, User Time: 0m0.019s, Sys Time: 0m1.982s
|
||
BUFSIZE: 262144, Real Time: 0m2.244s, User Time: 0m0.000s, Sys Time: 0m2.016s
|
||
BUFSIZE: 524288, Real Time: 0m2.254s, User Time: 0m0.000s, Sys Time: 0m2.039s
|
||
BUFSIZE: 1048576, Real Time: 0m2.249s, User Time: 0m0.010s, Sys Time: 0m2.037s
|
||
BUFSIZE: 2097152, Real Time: 0m2.304s, User Time: 0m0.000s, Sys Time: 0m2.108s
|
||
BUFSIZE: 4194304, Real Time: 0m2.234s, User Time: 0m0.010s, Sys Time: 0m2.082s
|
||
Max BUFSIZE before segfault: 8388608
|
||
```
|
||
在`ulimit -a`中，我的系统的`stack size`是`8192`，所以`BUFSIZE`不能超过`8192`，否则会段错误。与测试结果一致。
|
||
|
||
|
||
### 文件共享
|
||
多个任务共同操作一个文件或者协同完成任务
|
||
|
||
面试题：写程序删除一个文件的第10行
|
||
补充函数：
|
||
```c
|
||
// 截断文件到某长度
|
||
int truncate(const char *path, off_t length);
|
||
int ftruncate(int fd, off_t length);
|
||
```
|
||
|
||
```c
|
||
// 最简单思路，将11行开始的内容到第10行开始处覆盖写
|
||
while()
|
||
{
|
||
lseek 11 + read +lseek 10 + write
|
||
}
|
||
|
||
// 优化思路，两个文件描述符，一个读一个写
|
||
1 -> open r -> fd1 -> lseek 11
|
||
2 -> open r+ -> fd2 -> lseek 10
|
||
|
||
while()
|
||
{
|
||
1->fd1-> read
|
||
2->fd2-> write
|
||
}
|
||
|
||
// 两个进程, 设计进程间通信
|
||
process1 -> open -> r
|
||
process2 -> open -> r+
|
||
|
||
p1->read -> p2->write
|
||
|
||
```
|
||
|
||
### 原子操作
|
||
指不可分割的操作
|
||
作用：解决竞争和冲突
|
||
如`tmpnam`函数，产生文件名和创建文件是两步，会有并发问题。
|
||
|
||
|
||
### 程序中的重定向：`dup`, `dup2`
|
||
```c
|
||
int dup(int oldfd);
|
||
int dup2(int oldfd, int newfd);
|
||
```
|
||
|
||
### 同步
|
||
同步内核层面的buffer和cache
|
||
```c
|
||
void sync(void);
|
||
int fsync(int fd);
|
||
int fdatasync(int fd); // 只刷新数据，不刷新亚数据
|
||
|
||
// 文件描述符所有的操作几乎都来源于该函数
|
||
int fcntl(int fd, int cmd, ... /* arg */);
|
||
|
||
// 设备相关的内容
|
||
int ioctl(int fd, unsigned long request, ... /* arg */);
|
||
|
||
```
|
||
|
||
### /dev/fd/目录
|
||
**虚目录**：显示当前进程的文件描述符信息
|
||
|
||
|
||
|
||
# 文件系统
|
||
|
||
类`ls`的实现，如`myls -l -a -i -n`
|
||
|
||
`cmd --长格式 -短格式 非选项的传参`
|
||
|
||
## 目录和文件
|
||
|
||
1. 获取文件属性
|
||
```c
|
||
/**
|
||
* 将文件的属性存储到buf中
|
||
* stat : 通过文件路径获取属性，面对符号链接文件时，
|
||
* 获取的是指向的目标文件的属性
|
||
* fstat: 通过文件描述符获取属性
|
||
* lstat: 通过文件路径获取属性，面对符号链接文件时，
|
||
*/
|
||
int stat(const char *path, struct stat *buf);
|
||
int fstat(int fd, struct stat *buf);
|
||
int lstat(const char *path, struct stat *buf);
|
||
|
||
struct stat {
|
||
dev_t st_dev; /* ID of device containing file */
|
||
ino_t st_ino; /* inode number */
|
||
// 文件唯一标识，身份证号
|
||
|
||
mode_t st_mode; /* protection */
|
||
// st_mode: 文件权限+文件类型
|
||
// 文件权限
|
||
// 七种文件类型：dcb-lsp
|
||
|
||
nlink_t st_nlink; /* number of hard links */
|
||
uid_t st_uid; /* user ID of owner */
|
||
gid_t st_gid; /* group ID of owner */
|
||
dev_t st_rdev; /* device ID (if special file) */
|
||
off_t st_size; /* total size, in bytes */
|
||
// 在linux下，与windows不同，size值仅仅是属性
|
||
// 不能实际体现占用磁盘大小，详见 big.c
|
||
|
||
blksize_t st_blksize; /* blocksize for file system I/O */
|
||
blkcnt_t st_blocks; /* number of 512B blocks allocated */
|
||
time_t st_atime; /* time of last access */
|
||
time_t st_mtime; /* time of last modification */
|
||
time_t st_ctime; /* time of last status change */
|
||
};
|
||
```
|
||
|
||
2. 文件访问权限
|
||
`st_mode`是一个16位的二进制数，文件类型，文件权限，特殊权限。
|
||
|
||
3. `umask`
|
||
作用：防止产生权限过松的文件。
|
||
`0666 &~umask`
|
||
`umask`也是一个终端命令，可以查看和设置。
|
||
`mode_t umask(mode_t mask);`
|
||
|
||
4. 文件权限的更改/管理
|
||
```c
|
||
/**
|
||
* 更改文件权限
|
||
*/
|
||
int chmod(const char *path, mode_t mode);
|
||
int fchmod(int fd, mode_t mode);
|
||
```
|
||
|
||
5. 粘住位
|
||
t位，例如`/tmp`目录。
|
||
|
||
6. 文件系统：`FAT`, `UFS`
|
||
文件或数据的存储格式。
|
||
- `FAT`：静态存储的单链表
|
||
```c
|
||
struct node_st{
|
||
int next[N];
|
||
char data[N][SIZE];
|
||
};
|
||
```
|
||
- `UFS`：
|
||
缺点：不善于处理大量的小文件，因为每个文件都有一个`inode`，占用空间。
|
||
|
||
> 面试题：
|
||
> 不用比较，比较两个uint32_t的大小
|
||
> 使用位图
|
||
|
||
7. 硬链接，符号链接
|
||
- 硬链接
|
||
`ln bigfile bigfile_link`
|
||
与目录项是同义词
|
||
相当于目录项又弄了一份，使用`ls -i`可以看到`inode`号相同。
|
||
|
||
限制：不能给分区建立，不能给目录建立
|
||
|
||
- 符号链接
|
||
`ln -s bigfile_link bigfile_s`
|
||
|
||
优点：可以跨分区，可以给目录建立
|
||
|
||
```c
|
||
int link(const char *oldpath, const char *newpath);
|
||
|
||
/**
|
||
* 只有没有引用的数据才会真正删除
|
||
* 可以利用这一点创建匿名文件
|
||
*/
|
||
int unlink(const char *pathname);
|
||
|
||
int remove(const char *pathname);
|
||
|
||
/**
|
||
* 改变文件的路径或者名字
|
||
*/
|
||
int rename(const char *oldpath, const char *newpath);
|
||
```
|
||
|
||
8. `utime`
|
||
```c
|
||
/**
|
||
* 更改文件最后读/写的时间
|
||
*/
|
||
int utime(const char *filename, const struct utimbuf *times);
|
||
|
||
struct utimbuf {
|
||
time_t actime; /* access time */
|
||
time_t modtime; /* modification time */
|
||
};
|
||
|
||
struct time_t {
|
||
long tv_sec; /* seconds */
|
||
long tv_usec; /* microseconds */
|
||
};
|
||
```
|
||
|
||
9. 目录的创建和销毁
|
||
`mkdir, rmdir`
|
||
```c
|
||
int mkdir(const char *pathname, mode_t mode);
|
||
|
||
/**
|
||
* 只有目录为空才能删除
|
||
*/
|
||
int rmdir(const char *pathname);
|
||
```
|
||
|
||
10. 更改当前工作路径
|
||
`cd, pwd`
|
||
```c
|
||
/**
|
||
* 改变当前工作路径
|
||
* 可以突破假根目录
|
||
* 但是不能突破chroot
|
||
*/
|
||
int chdir(const char *path);
|
||
int fchdir(int fd);
|
||
|
||
/**
|
||
* 获取当前工作路径
|
||
*/
|
||
long getcwd(char *buf, unsigned long size);
|
||
```
|
||
|
||
11. 分析目录/读取目录内容
|
||
|
||
```c
|
||
|
||
/**
|
||
* 法一
|
||
* 解析模式/通配符
|
||
*
|
||
* @prarm: pattern 匹配模式
|
||
* @prarm: flags 匹配标志
|
||
* @prarm: errfunc 错误回调函数
|
||
* @prarm: pglob 匹配结果
|
||
*
|
||
* @return 匹配的文件数量
|
||
*/
|
||
int glob(const char *restrict pattern, int flags,
|
||
int (*errfunc)(const char *epath, int eerrno),
|
||
glob_t *restrict pglob);
|
||
/**
|
||
* 释放glob_t结构体
|
||
*/
|
||
void globfree(glob_t *pglob);
|
||
|
||
/**
|
||
* 与argc, argv类似
|
||
*/
|
||
typedef struct {
|
||
size_t gl_pathc; /* Count of paths matched so far */
|
||
char **gl_pathv; /* List of matched pathnames */
|
||
size_t gl_offs; /* Slots to reserve in gl_pathv */
|
||
} glob_t;
|
||
|
||
/**
|
||
* 法二
|
||
*/
|
||
|
||
/**
|
||
* 打开一个目录
|
||
* 返回一个指向DIR结构体的指针
|
||
* 是堆区，需要 closedir 释放
|
||
*/
|
||
DIR *opendir(const char *name);
|
||
DIR *fdopendir(int fd);
|
||
|
||
/**
|
||
* 关闭一个目录
|
||
*/
|
||
int closedir(DIR *dirp);
|
||
|
||
/**
|
||
* 读取一个目录
|
||
*
|
||
* 返回指针指向静态区
|
||
*/
|
||
struct dirent *readdir(DIR *dirp);
|
||
int readdir_r(DIR *restrict dirp,
|
||
struct dirent *restrict entry,
|
||
struct dirent **restrict result);
|
||
|
||
struct dirent {
|
||
ino_t d_ino; /* inode number */
|
||
off_t d_off; /* offset to the next dirent */
|
||
unsigned short d_reclen; /* length of this record */
|
||
unsigned char d_type; /* type of file; not supported
|
||
by all file system types */
|
||
char d_name[256]; /* filename */
|
||
};
|
||
|
||
|
||
/**
|
||
* 重置一个目录
|
||
*/
|
||
void rewinddir(DIR *dirp);
|
||
|
||
void seekdir(DIR *dirp, long offset);
|
||
|
||
long telldir(DIR *dirp);
|
||
|
||
/**
|
||
* du 命令
|
||
* 以字节为单位，统计目录下所有文件的大小
|
||
*
|
||
*/
|
||
|
||
|
||
```
|
||
|
||
作业：用另一套函数实现`mydu`
|
||
|
||
|
||
## 系统数据文件和信息
|
||
|
||
|
||
|
||
## 进程环境
|
||
|