第一章：手写数据库的核心设计理念

在构建一个手写数据库的过程中，核心设计理念围绕着“简洁性、可控性和可扩展性”展开。目标是实现一个轻量级、易于理解且功能完整的数据存储系统，适用于教学、原型开发或小型项目。

数据抽象与结构定义

数据库的基础是数据的组织方式。采用结构化的数据模型，例如表（Table）和记录（Record），将数据以行列形式进行存储。每张表由多个字段定义，每个字段包含名称和数据类型。

存储引擎的轻量化设计

为了简化实现，数据库使用文件系统作为底层存储。每张表对应一个文件，记录以固定长度的格式存储。这种方式便于实现，同时也方便进行读写操作。

// 示例：定义记录结构
typedef struct {
    int id;
    char name[64];
} Record;

查询执行与解析机制

数据库需支持基本的查询语言，例如类似 SQL 的语法。解析器负责将用户输入的查询语句转换为内部指令，执行器则根据这些指令操作数据。例如，支持 INSERT、SELECT 等基础操作。

事务与一致性保障

尽管是手写数据库，但仍需引入简单的事务机制。通过日志记录每次修改，在发生异常时进行回滚或恢复，确保数据一致性。

特性	目标描述
简洁性	代码量小，逻辑清晰
可控性	易于调试和扩展
可扩展性	支持后续添加索引、并发控制等特性

通过上述设计原则，手写数据库能够在有限资源下实现高效的数据管理能力。

第二章：存储引擎的实现原理

2.1 数据文件的组织结构设计

在构建大型信息系统时，合理的数据文件组织结构是保障系统可维护性与扩展性的基础。良好的结构设计不仅能提升数据访问效率，还能简化后续的数据管理与同步工作。

分层结构设计原则

数据文件通常按照功能模块、数据类型或时间维度进行分类存储。例如：

• 按模块划分：/user/data/, /order/history/
• 按类型划分：/logs/, /config/, /cache/
• 按时间划分：/2025/04/, /daily/, /monthly/

这种设计方式便于权限控制与备份策略的实施。

数据目录结构示例

以下是一个典型的数据目录结构示例：

/data/
├── user/
│   ├── profiles/
│   └── preferences/
├── order/
│   ├── daily/
│   └── archive/
└── logs/
    ├── access.log
    └── error.log

上述结构通过清晰的层级划分，使不同类别的数据彼此隔离，降低了命名冲突和管理复杂度。

文件命名规范

建议采用统一命名规范，例如：

• 时间戳前缀：20250405_data.json
• 环境标识：prod_config.yaml, dev_config.yaml
• 版本控制：v1_userdata.csv, v2_userdata.csv

这有助于在多环境、多版本共存时，快速识别文件内容与用途。

2.2 页（Page）与块（Block）的管理机制

在操作系统或存储系统中，页（Page）与块（Block）是两个核心的存储抽象单位。页通常用于虚拟内存管理，而块则多用于磁盘或存储设备的数据读写。

页与块的基本概念

页是内存管理的基本单位，通常大小为4KB；块是存储设备数据读写的基本单位，如磁盘或SSD上的512B或4KB。

项目	页（Page）	块（Block）
应用层级	虚拟内存系统	存储设备（磁盘、SSD）
典型大小	4KB	512B ~ 4KB

页与块的映射机制

操作系统通过页表（Page Table）将虚拟地址映射到物理地址，而文件系统则负责将文件数据按块形式存储在磁盘上。这种映射关系由I/O调度器与块设备驱动共同维护。

// 示例：页结构体定义
typedef struct {
    unsigned long virtual_addr; // 虚拟地址
    unsigned long physical_addr; // 物理地址
    int ref_count;              // 引用计数
} page_t;

上述代码定义了一个页结构体，用于跟踪页的虚拟地址、物理地址和使用计数。通过这种方式，系统可以高效管理内存资源。

数据传输流程

当用户进程访问一个不在内存中的页时，触发缺页异常，系统从磁盘中加载对应块到内存页中。该过程涉及页缓存（Page Cache）与块缓存（Buffer Cache）的协同工作。

graph TD
    A[用户访问虚拟页] --> B{页是否在内存?}
    B -->|是| C[直接访问物理页]
    B -->|否| D[触发缺页中断]
    D --> E[从磁盘读取对应块]
    E --> F[加载到空闲页并更新页表]

该流程图展示了页缺失时的处理逻辑，体现了页与块之间的协同关系。

2.3 B+树索引的底层实现与优化

B+树是数据库和文件系统中广泛使用的索引结构，其设计支持高效的范围查询和磁盘I/O优化。每个节点包含多个键值对和子节点指针，所有数据最终存储在叶子节点中，且叶子节点之间通过指针相连，形成链表结构。

数据结构与节点分裂

B+树的节点分为内部节点和叶子节点两种类型。内部节点用于索引，不存储实际数据；叶子节点则存储数据记录或指向数据的指针。当插入新键导致节点超过容量时，节点会分裂，以保持树的平衡性。

查询流程示意

以下是一个简化的B+树查询流程代码片段：

BPlusNode* search(BPlusNode* root, int key) {
    if (root->is_leaf) {
        return root;
    }

    int i = 0;
    while (i < root->num_keys && key > root->keys[i]) {
        i++;
    }
    return search(root->children[i], key); // 递归查找对应子节点
}

逻辑分析：

• root->is_leaf 判断当前节点是否为叶子节点，若是则返回；
• key > root->keys[i] 控制查找路径，决定进入哪个子节点；
• 递归调用实现自顶向下的查找过程，时间复杂度为 O(log n)。

2.4 日志系统（WAL）的设计与落盘策略

日志系统（Write-Ahead Logging，WAL）是保障数据一致性和持久性的核心机制。其核心思想是：在任何数据变更之前，先将变更操作记录到日志中，确保系统崩溃后可通过日志回放恢复数据。

日志写入流程

WAL 的写入流程通常包括日志缓冲、日志落盘和事务提交三个阶段。以下是一个简化版本的伪代码：

// 日志缓冲阶段
void log_buffer_append(LogBuffer *buffer, LogRecord *record) {
    memcpy(buffer->current_pos, record, record->length);
    buffer->current_pos += record->length;
}

// 强制刷盘操作
void log_flush(LogBuffer *buffer) {
    write(buffer->fd, buffer->data, buffer->size);  // 写入磁盘
    fsync(buffer->fd);                              // 确保落盘
}

• log_buffer_append：将日志记录追加到内存缓冲区；
• log_flush：将缓冲区内容写入磁盘并调用 fsync 保证持久化。

落盘策略对比

策略类型	描述	性能影响	数据安全性
每次提交刷盘	每个事务提交时调用 fsync	低	高
定时批量刷盘	定期批量刷盘	中	中
异步延迟刷盘	依赖操作系统缓冲机制	高	低

WAL 的演进方向

随着硬件发展，如 NVMe SSD 和持久化内存（PMem）的引入，WAL 的设计正朝着绕过传统文件系统、直接操作持久化内存的方向演进，从而进一步降低日志写入延迟。

2.5 缓存机制（Buffer Pool）与LRU算法实现

在数据库与操作系统中，Buffer Pool 是提升数据访问效率的核心组件。其核心目标是通过缓存热点数据，减少磁盘I/O操作。

LRU算法原理与实现

LRU（Least Recently Used）算法依据“近期最少使用”原则淘汰缓存页。其典型实现结合哈希表与双向链表：

class LRUCache {
    private Map<Integer, Node> cache;
    private DoubleLinkedList list;
    private int capacity;

    public void put(int key, int value) {
        if (cache.containsKey(key)) {
            Node node = cache.get(key);
            node.value = value;
            list.moveToTail(node); // 更新访问顺序
        } else {
            Node newNode = new Node(key, value);
            if (cache.size() >= capacity) {
                Node lru = list.removeFirst(); // 移除最近最少使用节点
                cache.remove(lru.key);
            }
            list.addLast(newNode); // 添加新节点至尾部
            cache.put(key, newNode);
        }
    }
}

逻辑说明：

• cache 用于快速定位节点；
• DoubleLinkedList 维护访问顺序；
• moveToTail 表示该页被命中；
• removeFirst 实现淘汰策略。

缓存优化方向

现代数据库（如MySQL）对标准LRU进行了优化，引入“冷热数据分离”机制，防止全表扫描污染缓存。

第三章：SQL解析与执行引擎

3.1 SQL词法与语法解析（Lexer & Parser）

SQL解析是数据库系统中执行查询的第一步，主要由词法分析（Lexer）和语法分析（Parser）两个阶段组成。

词法分析（Lexer）

词法分析器负责将原始SQL字符串拆分为一系列“标记”（Token），例如关键字、标识符、运算符和常量等。

// 伪代码示例：词法分析过程
Token next_token(char *sql) {
    skip_whitespace(&sql); // 跳过空格
    if (is_keyword(sql)) return make_keyword_token(&sql); // 判断是否为关键字
    if (is_identifier(sql)) return make_identifier_token(&sql); // 标识符
    if (is_operator(sql)) return make_operator_token(&sql); // 操作符
    return TOK_EOF; // 结束标记
}

逻辑说明：该函数逐字符扫描SQL字符串，跳过空白后识别当前字符类型，并返回相应的Token对象。 Lexer的输出将作为Parser的输入。

语法分析（Parser）

语法分析器接收Token流，根据SQL语法规则构建抽象语法树（AST）。例如，以下为SELECT语句解析后的结构示例：

Token类型	值
Keyword	SELECT
Identifier	name
Keyword	FROM
Identifier	users

语法分析过程通常基于上下文无关文法（CFG）并通过递归下降或LR解析器实现。

3.2 查询计划的生成与优化策略

在数据库系统中，查询优化器是决定SQL执行效率的核心组件。它负责将用户提交的SQL语句转化为高效的执行计划。

查询计划生成流程

查询计划的生成主要包括语法解析、语义分析、逻辑计划生成与物理计划选择四个阶段。优化器通过代价模型评估不同执行路径，选择代价最小的执行计划。

EXPLAIN SELECT * FROM orders WHERE customer_id = 100;

执行上述语句后，数据库将展示查询计划树，包括扫描方式（如索引扫描或全表扫描）、连接顺序和数据过滤条件等信息。

常见优化策略

优化策略主要包括：

• 基于规则的优化（RBO）：依赖预定义规则选择执行路径
• 基于代价的优化（CBO）：依据统计信息估算代价，选择最优路径
• 动态剪枝：在执行过程中根据运行时信息跳过无效数据扫描

查询优化器的演进方向

随着AI技术的发展，现代数据库开始引入机器学习模型，用于预测查询行为、自动调优索引和优化执行计划缓存，从而进一步提升查询性能。

3.3 执行引擎的调度与表达式求值

执行引擎在处理任务时，首先依据优先级与依赖关系对任务进行调度。调度器会将任务拆分为可执行的表达式单元，并构建为有向无环图（DAG）结构：

graph TD
    A[任务开始] --> B[表达式解析]
    B --> C[生成中间表示]
    C --> D[执行优化]
    D --> E[表达式求值]
    E --> F[任务结束]

表达式求值机制

表达式求值通常采用栈式计算模型，支持常量折叠、类型推导等优化策略。以下为一个简单的表达式求值示例：

def evaluate(expr):
    if isinstance(expr, int):  # 直接返回整型常量
        return expr
    elif expr['op'] == '+':   # 加法操作
        return evaluate(expr['left']) + evaluate(expr['right'])
    elif expr['op'] == '*':   # 乘法操作
        return evaluate(expr['left']) * evaluate(expr['right'])

逻辑分析：

• expr 为表达式节点，可以是整型或字典结构；
• 若为操作符节点，递归求值左右子节点，并根据操作符进行运算；
• 该模型支持嵌套表达式，如 {'op': '+', 'left': 2, 'right': {'op': '*', 'left': 3, 'right': 4}}。

第四章：事务与并发控制

4.1 ACID实现原理与事务生命周期管理

事务是数据库管理系统中最核心的概念之一，其ACID特性（原子性、一致性、隔离性、持久性）保障了数据的可靠性与完整性。事务的生命周期通常包括：开始事务、执行操作、提交或回滚四个阶段。

事务的ACID实现机制

• 原子性（Atomicity）：通过日志（如Redo Log和Undo Log）保证事务的执行要么全部成功，要么全部失败回滚。
• 一致性（Consistency）：在事务执行前后，数据库的完整性约束始终有效。
• 隔离性（Isolation）：通过锁机制或MVCC（多版本并发控制）实现并发事务之间的数据隔离。
• 持久性（Durability）：事务一旦提交，其修改将持久化到磁盘。

事务生命周期流程图

graph TD
    A[开始事务] --> B[执行SQL操作]
    B --> C{提交还是回滚?}
    C -->|提交| D[持久化更改]
    C -->|回滚| E[撤销所有更改]
    D --> F[事务结束]
    E --> F

4.2 MVCC多版本并发控制机制详解

MVCC（Multi-Version Concurrency Control）是一种用于数据库管理系统中的并发控制机制，旨在提高并发性能的同时保证事务的隔离性。

核心原理

MVCC通过为数据保留多个版本来实现非锁定读操作。每个事务在读取数据时看到的是一个一致性的快照，而不是锁定数据行。

MVCC的关键要素包括：

• 版本号（事务ID）
• 行级版本管理
• 事务可见性规则

版本号与可见性判断

每个事务在开始时都会被分配一个唯一的递增事务ID（如 trx_id）。数据行保存多个版本，每个版本关联创建该版本的事务ID和可能的删除事务ID（roll_pointer）。

字段名	说明
trx_id	创建该数据版本的事务ID
roll_pointer	指向撤销日志中前一个版本的指针
数据内容	实际存储的字段值

查询可见性判断流程

graph TD
    A[事务执行SELECT] --> B{当前行版本trx_id是否小于等于当前事务ID?}
    B -->|是| C{该行是否被当前事务修改或删除？}
    C -->|否| D[该行版本对当前事务可见]
    C -->|是| E[查找上一版本]
    B -->|否| E

事务写操作与版本链维护

当事务对某行执行更新或删除操作时，不会直接覆盖原数据，而是创建一个新版本，并通过 roll_pointer 链接到旧版本。例如：

UPDATE users SET name = 'Alice_new' WHERE id = 1;

执行后，系统会创建一个新的数据版本，保留原有版本用于其他事务的读一致性。每个版本通过 roll_pointer 构成链表结构。

MVCC与隔离级别

MVCC的行为会根据事务隔离级别的不同而有所变化：

• 在 Read Committed 下，每个语句看到的是执行时刻已提交事务的最新快照；
• 在 Repeatable Read 下，整个事务看到的是事务开始时刻的一致性快照。

这种机制显著减少了锁竞争，提高了系统的并发处理能力。

4.3 锁系统设计（行锁、表锁、死锁检测）

在数据库系统中，锁机制是保障并发访问一致性的核心组件。根据锁定粒度的不同，常见的锁包括表锁和行锁。表锁作用于整张表，开销小但并发能力弱；行锁则针对具体数据行，粒度细、并发能力强，但管理开销较大。

死锁检测机制

当多个事务相互等待对方持有的锁时，将导致死锁。系统需通过等待图（Wait-for Graph）进行死锁检测，构建事务之间的依赖关系，并周期性检查是否存在环路。

graph TD
  A[事务T1] -->|等待行R2锁| B(事务T2)
  B -->|等待行R3锁| C(事务T3)
  C -->|等待行R1锁| A

如上图所示，事务T1、T2、T3形成环路，系统应触发死锁处理机制，通常选择牺牲其中一个事务以打破循环。

4.4 两阶段提交协议与崩溃恢复

在分布式系统中，两阶段提交协议（2PC） 是一种经典的协调机制，用于确保事务在多个节点间一致性提交或回滚。

协议流程

1. 协调者发送“准备”请求给所有参与者；
2. 参与者写入日志并回复“就绪”或“中止”；
3. 若所有参与者都“就绪”，协调者发送“提交”指令；
4. 否则，发送“回滚”。

mermaid 流程图示意

graph TD
    A[协调者] -->|准备| B(参与者1)
    A -->|准备| C(参与者2)
    B -->|就绪| A
    C -->|就绪| A
    A -->|提交| B
    A -->|提交| C

崩溃恢复机制

在2PC执行过程中，任何节点崩溃都可能导致系统处于不确定状态。为此，日志记录和持久化状态是关键。协调者在每次决策前写入日志，参与者在准备阶段记录事务状态，以便重启后可依据日志恢复一致性。

恢复过程中的状态处理

状态	参与者行为	协调者行为
未收到准备	等待协调者重新询问	超时后回滚
已提交	直接确认事务完成	忽略，事务已完成
已回滚	忽略	忽略

第五章：总结与扩展方向

本章旨在对前文所讨论的技术体系进行归纳，并从实际落地的角度出发，探讨其在不同业务场景下的应用潜力与延展路径。

技术架构的可复用性

通过对模块化设计和微服务架构的深入实践，我们发现其在多个项目中的复用率高达70%以上。以某电商系统为例，其用户中心、订单服务、支付网关等模块在重构后，成功复用至另一个供应链管理系统中。这种架构不仅提升了开发效率，还显著降低了系统耦合度。

以下是该模块化架构的部分服务划分示例：

服务名称	功能描述	接口调用频率（QPS）
user-service	用户注册与权限管理	1200
order-service	订单创建与状态更新	900
payment-gateway	支付流程与回调处理	600

多云部署与弹性扩展

随着业务规模的扩大，单一云平台的局限性逐渐显现。我们尝试将部分服务部署至多个云厂商，通过API网关统一接入流量。这种方式不仅提升了系统的容灾能力，也优化了区域访问性能。例如，将日志服务部署在A云，而核心业务部署在B云，通过专线打通实现低延迟通信。

与AI能力的融合探索

在已有系统中引入AI推理服务，是当前扩展方向之一。例如在内容推荐系统中，将用户行为日志实时推送到特征工程服务，结合模型服务进行在线推理，从而实现个性化内容推送。以下是该流程的简化架构图：

graph TD
    A[用户行为采集] --> B(特征提取)
    B --> C{在线推理服务}
    C --> D[推荐结果返回]
    C --> E[模型服务]
    E --> F[模型热更新]

边缘计算场景下的延伸

随着IoT设备的普及，我们将部分计算任务从中心节点下放到边缘节点。例如，在智能园区系统中，视频流的初步识别任务由本地边缘盒子完成，仅将结构化数据上传至中心服务器，从而显著降低了带宽压力与响应延迟。

未来，该架构还可向区块链、联邦学习等方向拓展，以应对更复杂的业务需求与数据治理挑战。