🦄 refactor(C13, C14, C115): 更新了linux系统开发部分的结构

2024-05-16 20:36:01 +08:00
parent cb969dfd41
commit 60d670d130
53 changed files with 1407 additions and 1246 deletions
--- a/C13-IO/C13-IO.md
+++ b/C13-IO/C13-IO.md
@@ -0,0 +1,515 @@
+# 目录
+- [目录](#目录)
+- [I/O操作](#io操作)
+  - [标准IO](#标准io)
+  - [文件IO/系统调用IO](#文件io系统调用io)
+    - [文件描述符的概念](#文件描述符的概念)
+    - [文件IO操作相关函数：](#文件io操作相关函数)
+    - [例题：通过文件IO处理csv表格](#例题通过文件io处理csv表格)
+    - [文件IO与标准IO的区别](#文件io与标准io的区别)
+    - [IO的效率问题](#io的效率问题)
+      - [习题](#习题)
+      - [解答](#解答)
+      - [结果](#结果)
+    - [文件共享](#文件共享)
+    - [原子操作](#原子操作)
+    - [程序中的重定向：`dup`, `dup2`](#程序中的重定向dup-dup2)
+    - [同步](#同步)
+    - [/dev/fd/目录](#devfd目录)
+
+
+# I/O操作
+
+输入输出是一切实现的基础。
+
+- 标准IO：`stdio`
+
+- 系统调用IO（文件IO）：`sysio`
+
+优先使用**标准IO**，兼容性更好，还有合并系统调用的优势。
+
+
+
+## 标准IO
+
+```c
+/* stdio */
+/* FILE类型贯穿始终 */
+
+FILE *fopen(const char *path, const char *mode);
+/**
+ * fopen 返回指针的储存位置？ 1.栈  2.静态区  3.堆
+ * 正确答案：3.堆。
+ * 因为如果是栈，就是函数内部局部变量，无法返回地址。
+ * 如果是静态区，无法确定需要多少个这个变量。
+ * 
+ * 只有 r 和 r+ 一定要求文件存在
+ * 另外几种不存在会创建
+ * 
+ * 创建文件的权限
+ * 0666 & ~umask
+ * 
+ * 对于普通用户
+ * umask 得到 022
+ * 
+*/
+int fclose(FILE *fp);
+
+int fputc(int c, FILE *stream);
+int fgetc(FILE *stream);
+
+char *fgets(char *s, int size, FILE *stream);
+/**
+ * 两种正常返回的情况：
+ * 1. 读了 size-1 个字节，最后一个字节留给 '\0'
+ * 2. 读到了 '\n'
+ * 
+ * eg. 加入用fgets(buf, 5, stream) 来读 abcd
+ * 是会读两次的
+ * 第一次：abcd'\0'
+ * 第二次：'\n''\0'
+*/
+int fputs(const char *restrict s, FILE *restrict stream);
+
+/**
+ * 这一对函数常用但是无法验证边界
+ * 尽量一次只读单字节，更安全
+ * 
+ * 返回值：成功读/写的对象的数量
+*/
+size_t fread(void *ptr, size_t size, size_t nemmb, FILE *stream);
+size_t fwrite(const void *ptr, size_t size, size_t nmemb, FILE *stream);
+
+
+int printf(const char *restrict format, ...);
+/**
+ * 常用于 fprintf(stderr,...)
+*/
+int fprintf(FILE *restrict stream, const char *restrict format, ...);
+int dprintf(int fd, const char *restrict format, ...);
+
+/**
+ * 将格式化内容输出到一个字符串
+ * 
+ * 和 atoi() 正好相反
+ * 
+*/
+int sprintf(char *restrict str, const char *restrict format, ...);
+
+/**
+ * 比sprintf多了size参数，更安全
+*/
+int snprintf(char   str[restrict.size],
+             size_t size,
+             const char *restrict format,
+             ...)
+
+// !!! 慎用%s
+int scanf(const char *restrict format, ...);
+int fscanf(FILE *restrict stream,
+                  const char *restrict format, ...);
+
+
+/**
+ * 移动文件当前位置指针
+ * 
+ * 可用于生成空洞文件，下载器原理
+ * 
+ * @prarm: offset 移动多远
+ * @prarm: whence 移动方向
+ *         SEEK_SET, SEEK_CUR, SEEK_END
+ * 
+ * @return  成功0，失败-1
+*/
+int fseek(FILE *stream, long offset, int whence);
+
+/**
+ * 反映当前文件指针所在位置
+ * 
+ * 这个long的负值部分无法使用。
+ * 所以文件无法超过2G。
+ * 
+*/
+long ftell(FILE *stream);
+
+/**
+ * 解决上面long的问题。
+ * 
+ * 最好编译时加上
+ * #define _FILE_OFFSET_BITS 64
+ * 可以写入makefile
+ * 
+ * 但是这俩函数是方言，前面那个long的一对支持C89，C99
+ * 
+*/
+int fseeko(FILE *stream, off_t offset, int whence);
+off_t ftello(FILE *stream);
+
+/**
+ * 将文件指针置于文件首 
+ * equivalent to:
+ * fseek(stream, 0L, SEEK_SET);
+*/
+void rewind(FILE *stream);
+
+/**
+ *  缓冲区的作用：
+ *     大多数情况下是好事，合并系统调用
+ * 
+ * 行缓冲： 换行时候刷新，满了的时候刷新，强制刷新（标准输出是这样的，因为是终端设备）
+ * 
+ * 全缓冲： 满了的时候刷新，强制刷新（默认，只要不是终端设备）
+ * 
+ * 无缓冲： 如stderr，需要立即输出的内容
+*/
+fflush();
+
+/**
+ * @prarm: mode
+ * 三种缓冲模式: 
+ *            _IONBF
+ *            _IOLBF
+ *            _IOFBF
+*/
+int setvbuf(FILE *stream, char *buf, int mode, size_t size);
+
+/**
+ * 为了读取一行
+ * 
+ * 使用办法：
+ *   #define _GNU_SOURCE  这个不想写到代码里面的话可以写到makefile
+ *   eg. CFLAGS+=-D_FILE_OFFSET_BITS=64 -D_GNU_SOURCE
+ *   #include <stdio.h>
+ * 
+ * !!! 里面有 malloc 动作，未释放
+ * !!! 是方言，可以自己封装一个mygetline和mygetline_free
+ * !!! 但是根据chatgpt，好像直接 free(*lineptr) 就行了
+ * 
+*/
+ssize_t getline(char **lineptr, size_t *n, FILE *stream);
+
+/**
+ * 临时文件
+ *       1. 如何不冲突的创建
+ *       2. 及时销毁
+ * 
+ * tmpnam: 创建临时文件名字
+ *         有并发危险，因为产生名字和创建文件是两步
+ * 
+ * tmpfile: 创建临时文件
+ *          是匿名文件，ls -a 都看不到
+ *          避免冲突
+*/
+char *tmpnam(char *s);
+FILE *tmpfile(void);
+
+```
+
+
+
+## 文件IO/系统调用IO
+
+文件描述符（`fd`）是在文件IO中贯穿始终的类型。
+
+
+
+### 文件描述符的概念
+
+是一个整型数，是一个指针数组的下标。
+
+优先使用当前可用范围内最小的。
+
+
+
+### 文件IO操作相关函数：
+
+- `open`
+- `close`
+- `read`
+- `write`
+- `lsee`
+
+可以使用`./open file &`来后台运行一个程序。
+
+然后通过`ps`查看进程号
+
+然后进入`/proc/进程号/fd`查看文件描述符
+
+前三个是标准输入、输出、错误，后面的是打开的文件描述符
+
+```c
+/**
+ * flag:
+ *
+ * r  -> O_RDONLY
+ * r+ -> O_RDWR
+ * w  -> O_WRONLY | O_CREAT | O_TRUNC
+ * w+ -> O_RDWR   | O_TRUNC | O_CREAT
+ *
+ * O_RDONLY     只读
+ * O_WRONLY     只写
+ * O_RDWR       读写
+ * O_CREAT      创建
+ * O_TRUNC      截断
+ * O_APPEND     追加
+ * O_EXCL       排他(若要创建的文件已存在则报错)
+ * O_NONBLOCK   非阻塞
+ * O_SYNC       同步
+ * O_DSYNC      数据同步
+ * O_RSYNC      读同步
+ * O_DIRECT     直接IO
+ * O_LARGEFILE  大文件
+ * O_DIRECTORY  目录
+ * O_NOFOLLOW   不跟踪符号链接
+ * O_CLOEXEC    close-on-exec
+ * O_PATH       仅打开目录
+ * O_TMPFILE    临时文件
+ * O_NOCTTY     不分配控制终端
+ * 
+ * 如果有creat就必须用三参数的形式
+ * C语言没有重载，这是变参函数
+ * 
+ * @prarm: pathname 文件路径
+ * @prarm: flags    文件打开方式
+ * @prarm: mode     文件权限
+ *                  假如0666，就是rw-rw-rw-，110110110
+ * 
+*/
+int open(const char *pathname, int flags);
+int open(const char *pathname, int flags, mode_t mode);
+
+int close(int fd);
+
+/**
+ * @return 读取的字节数，失败返回-1
+*/
+ssize_t read(int fd, void *buf, size_t count);
+
+/**
+ *  想要控制写入的位置，需要使用lseek
+ * 
+ * @return 写入的字节数，失败返回-1
+*/
+ssize_t write(int fd, const void *buf, size_t count);
+
+/**
+ *  移动文件指针
+ * 
+ * @prarm: offset 移动多远
+ * @prarm: whence 移动方向
+ *         SEEK_SET, SEEK_CUR, SEEK_END
+ * 
+ * @return  成功0，失败-1
+*/
+off_t lseek(int fd, offt offset, int whence);
+
+```
+
+
+
+### 例题：通过文件IO处理csv表格
+
+```csv
+,语文,数学,英语,总分,评价
+张三,90,91,92,,
+李四,80,81,82,,
+王五,70,71,72,,
+```
+
+思路：逐行处理
+
+可以使用16进制查看工具
+
+
+
+### 文件IO与标准IO的区别
+
+区别：响应速度&吞吐量
+
+文件IO需要频繁进入内核，标准IO通过缓冲区合并系统调用。
+
+响应速度快就文件IO，吞吐量大就标准IO。
+
+
+
+> [!warning]
+> 二者不可混用
+
+
+
+转换方法：`fileno`, `fdopen`
+
+
+
+### IO的效率问题
+
+#### 习题
+
+将`mycpy.c`程序进行更改，将`BUFSIZE`的值放大，观察进程消耗的时间，注意性能出现拐点的值以及程序何时段错误。
+
+#### 解答
+
+将`BUFSIZE`作为命令行参数传入，`int bufsize = atoi(argv[3]);`
+
+通过脚本进行试验：
+
+```bash
+#!/bin/bash
+
+# 生成一个 5GB 的文件
+dd if=/dev/urandom of=/tmp/bigfile bs=1G count=5
+
+# 输入和输出文件的路径
+src="/tmp/bigfile"
+dst="/tmp/outfile"
+
+# 编译你的程序
+gcc -o mycpy_bufsize mycpy_bufsize.c
+
+# 初始化 BUFSIZE
+bufsize=512
+
+# 循环，每次 BUFSIZE * 2
+while true; do
+  # 用 time 命令运行你的程序，并将结果重定向到一个临时文件
+  { time ./mycpy_bufsize $src $dst $bufsize; } 2> time.txt
+  
+  # 检查程序的退出状态
+  if [ $? -ne 0 ]; then
+    echo "Max BUFSIZE before segfault: $bufsize"
+    break
+  fi
+
+  # 提取 time 的结果
+  real_time=$(grep real time.txt | awk -F' ' '{print $2}')
+  user_time=$(grep user time.txt | awk -F' ' '{print $2}')
+  sys_time=$(grep sys time.txt | awk -F' ' '{print $2}')
+
+  # 输出 BUFSIZE 和 time 的结果
+  echo "BUFSIZE: $bufsize, Real Time: $real_time, User Time: $user_time, Sys Time: $sys_time"
+  
+  # BUFSIZE * 2
+  bufsize=$((bufsize * 2))
+done
+
+# 删除临时文件
+rm time.txt
+rm $src
+rm $dst
+
+```
+
+
+
+#### 结果
+
+```bash
+wan@SK-20240106UQUX:~/Linux-C-Notes/C13-Linux系统编程/io/sys$ ./time.sh
+BUFSIZE: 512, Real Time: 0m7.672s, User Time: 0m0.650s, Sys Time: 0m7.007s
+BUFSIZE: 1024, Real Time: 0m5.026s, User Time: 0m0.201s, Sys Time: 0m4.651s
+BUFSIZE: 2048, Real Time: 0m3.535s, User Time: 0m0.158s, Sys Time: 0m3.183s
+BUFSIZE: 4096, Real Time: 0m2.418s, User Time: 0m0.059s, Sys Time: 0m2.232s
+BUFSIZE: 8192, Real Time: 0m2.363s, User Time: 0m0.040s, Sys Time: 0m2.150s
+BUFSIZE: 16384, Real Time: 0m2.279s, User Time: 0m0.030s, Sys Time: 0m2.079s
+BUFSIZE: 32768, Real Time: 0m2.238s, User Time: 0m0.020s, Sys Time: 0m2.026s
+BUFSIZE: 65536, Real Time: 0m2.114s, User Time: 0m0.000s, Sys Time: 0m1.972s
+BUFSIZE: 131072, Real Time: 0m2.302s, User Time: 0m0.019s, Sys Time: 0m1.982s
+BUFSIZE: 262144, Real Time: 0m2.244s, User Time: 0m0.000s, Sys Time: 0m2.016s
+BUFSIZE: 524288, Real Time: 0m2.254s, User Time: 0m0.000s, Sys Time: 0m2.039s
+BUFSIZE: 1048576, Real Time: 0m2.249s, User Time: 0m0.010s, Sys Time: 0m2.037s
+BUFSIZE: 2097152, Real Time: 0m2.304s, User Time: 0m0.000s, Sys Time: 0m2.108s
+BUFSIZE: 4194304, Real Time: 0m2.234s, User Time: 0m0.010s, Sys Time: 0m2.082s
+Max BUFSIZE before segfault: 8388608
+```
+
+在`ulimit -a`中，我的系统的`stack size`是`8192`，所以`BUFSIZE`不能超过`8192`，否则会段错误。与测试结果一致。
+
+
+
+### 文件共享
+
+多个任务共同操作一个文件或者协同完成任务
+
+面试题：写程序删除一个文件的第10行
+
+补充函数：
+
+```c
+// 截断文件到某长度
+int truncate(const char *path, off_t length);
+int ftruncate(int fd, off_t length);
+```
+
+```c
+// 最简单思路，将11行开始的内容到第10行开始处覆盖写
+while()
+{
+    lseek 11 + read +lseek 10 + write
+}
+
+// 优化思路，两个文件描述符，一个读一个写
+1 -> open r  -> fd1 -> lseek 11
+2 -> open r+ -> fd2 -> lseek 10
+
+while()
+{
+    1->fd1-> read
+    2->fd2-> write
+}
+
+// 两个进程, 设计进程间通信
+process1 -> open -> r
+process2 -> open -> r+
+
+p1->read -> p2->write
+
+```
+
+
+
+### 原子操作
+
+指不可分割的操作
+
+作用：解决竞争和冲突
+
+如`tmpnam`函数，产生文件名和创建文件是两步，会有并发问题。
+
+
+
+### 程序中的重定向：`dup`, `dup2`
+
+```c
+/**
+ *  dup 和 dup2 都是复制文件描述符
+ *  dup2 可以指定新的文件描述符
+ *  dup 会返回一个新的文件描述符
+ */
+int dup(int oldfd);
+int dup2(int oldfd, int newfd);
+```
+
+
+
+### 同步
+
+同步内核层面的buffer和cache
+
+```c
+void sync(void);
+int fsync(int fd);
+int fdatasync(int fd); // 只刷新数据，不刷新亚数据
+
+// 文件描述符所有的操作几乎都来源于该函数
+int fcntl(int fd, int cmd, ... /* arg */);
+
+// 设备相关的内容
+int ioctl(int fd, unsigned long request, ... /* arg */);
+
+```
+
+
+
+### /dev/fd/目录
+
+**虚目录**：显示当前进程的文件描述符信息