Serverless核心技术和大规模实践

第1章Serverless基础知识1
1.1Serverless基础概念1
1.1.1Serverless理念1
1.1.2Serverless技术特点2
1.2Serverless技术能力4
1.3Serverless应用场景4
1.4本章小结7
第2章业内概况9
2.1业界产品9
2.1.1AWSLambda9
2.1.2GoogleCloudPlatform10
2.1.3CloudflareWorkers11
2.1.4Compute@Edge13
2.2开源项目13
2.2.1OpenFaaS13
2.2.2Fission14
2.2.3Knative15
2.3字节跳动ByteFaaS15
2.3.1定位、特点和生态15
2.3.2整体架构16
2.3.3应用规模18
2.4本章小结18
第3章FaaS控制面19
3.1控制面的整体架构19
3.2多地区多机房部署21
3.2.1单地区多机房容灾部署21
3.2.2多地区统一控制面22
3.3构建和发布24
3.3.1构建24
3.3.2发布25
3.4可观测性27
3.4.1日志27
3.4.2监控29
3.4.3链路追踪31
3.5开发体验31
3.5.1ByteFaaSCLI32
3.5.2本地调试33
3.5.3在线调试34
3.6本章小结37
第4章FaaS数据面39
4.1数据面整体架构39
4.2函数实例管理41
4.2.1函数实例的服务发现41
4.2.2函数实例的就绪检测42
4.3函数流量调度44
4.3.1函数请求并发控制45
4.3.2函数分片46
4.3.3函数实例缓存48
4.3.4自适应降载49
4.4函数冷启动优化51
4.4.1冷启动问题背景51
4.4.2镜像代码分离52
4.4.3函数实例预热53
4.4.4冷启动实例调度54
4.4.5用户侧优化56
4.5函数代码分发57
4.5.1多级缓存58
4.5.2下载优化59
4.5.3大规模分发59
4.6本章小结61
第5章FaaS运行时63
5.1函数运行时63
5.1.1函数运行时规范64
5.1.2函数实例生命周期67
5.2函数运行时隔离技术70
5.2.1基于Docker的容器封装隔离.70
5.2.2从Docker到containerd的迁移71
5.2.3轻量级虚拟化：从runC到KataContainers73
5.2.4Unikernel76
5.2.5进程内隔离78
5.3函数运行时性能优化80
5.3.1RuntimeAgent进程和数据面性能损耗81
5.3.2在net/http基础上的优化81
5.3.3更优的CPU、内存分配策略84
5.4本章小结86
第6章FaaS触发器87
6.1FaaS平台常见的触发器87
6.1.1触发器的分类87
6.1.2HTTP触发器的设计与实现.88
6.1.3服务发现触发器的设计与实现89
6.1.4定时触发器的设计与实现89
6.2MQ触发器的设计与实现90
6.2.1MQ触发器的整体设计.90
6.2.2触发函数的并发控制92
6.2.3函数调用的反压控制93
6.2.4触发函数的限流控制94
6.3MQ触发器在大规模场景下的优化.96
6.3.1消息的高效过滤96
6.3.2触发器的重新平衡优化.99
6.3.3超大规模函数的连接数分片优化101
6.4基于MQ触发器的第三方触发器的接入102
6.4.1基于EventGateway的接入103
6.4.2基于MQ的接入103
6.5本章小结104
第7章FaaS弹性伸缩105
7.1弹性伸缩系统的定义和架构105
7.1.1弹性伸缩系统的定义105
7.1.2弹性伸缩系统的架构106
7.2弹性伸缩系统的策略设计108
7.2.1策略的分级和结合108
7.2.2策略的详细设计109
7.2.3评分和策略反馈机制110
7.3弹性伸缩系统的指标设计111
7.3.1整体的架构设计111
7.3.2如何对指标数据进行存储.113
7.3.3FaaSMAS自适应云原生分片方案114
7.4弹性伸缩系统的分片架构115
7.4.1分片架构设计方案115
7.4.2分片架构的容错机制116
7.5本章小结117
第8章FaaS助推PaaS演进119
8.1FaaSNative：开发原生应用的解决方案119
8.1.1FaaSNative的目标120
8.1.2运行原生应用代码120
8.1.3自定义镜像121
8.2多协议支持124
8.2.1数据调用与流量调度的解耦124
8.2.2HTTP/2支持126
8.2.3gRPC协议支持128
8.2.4Thrift协议支持131
8.2.5客户端流量接入133
8.3融入字节跳动微服务治理体系ByteMesh135
8.3.1ByteMesh：字节跳动内部ServiceMesh服务治理体系136
8.3.2上游服务访问下游FaaS.137
8.3.3上游FaaS访问下游服务138
8.3.4FaaS接入ByteMesh入流量代理139
8.4异步长时间执行任务支持140
8.4.1架构设计140
8.4.2任务管理142
8.4.3适用场景144
8.5本章小结144
第9章FaaS轻量级函数与云边一体.145
9.1轻量级函数145
9.2WebAssembly轻量级函数运行时146
9.2.1什么是WebAssembly146
9.2.2Hostcall+WASI147
9.2.3运行时架构149
9.2.4冷启动优化150
9.2.5代码样例151
9.3JavaScript轻量级函数运行时152
9.3.1背景知识153
9.3.2HostAPI153
9.3.3运行时架构154
9.3.4冷启动优化155
9.3.5代码样例156
9.3.6两种函数轻量级运行时对比157
9.4精简架构158
9.4.1整体架构158
9.4.2请求路径160
9.4.3流量调度161
9.4.4冷启动优化162
9.4.5高密度部署164
9.5云边架构165
9.5.1理念介绍165
9.5.2流量接入166
9.5.3云边通信167
9.5.4边缘可用性169
9.6存储服务171
9.6.1存储资源172
9.6.2GlobalKV172
9.6.3LocalCache174
9.6.4多层缓存机制176
9.7开发者工具177
9.7.1代码在线预览工具177
9.7.2JavaScript轻量级函数开发工具179
9.8本章小结180
第10章Serverless在字节跳动的落地实践181
10.1突破Serverless资源和性能的瓶颈181
10.2基于Kubernetes的云原生体系183
10.3触发器和自动扩缩容，承载大规模消费场景184
10.3.1一键配置，支持活动业务的快速迭代184
10.3.2弹性伸缩，潮汐流量的省钱“利器”185
10.4通用型Serverless，多协议支持PaaS演进186
10.4.1早期尝试：基于HTTP的ThriftRPC186
10.4.2原生支持：与周边团队深度合作，打通RPC生态.187
10.4.3进一步发挥FaaS优势，RPC与事件驱动架构结合.188
10.5轻量级函数，打造云边一体架构188
10.5.1收敛长尾函数，承载突发流量188
10.5.2边缘业务上线189
10.6本章小结191
第11章Serverless展望193
11.1规范标准193
11.2通用型Serverless194
11.3云边一体196
11.4本章小结197