fix: 改进 HTTP 请求日志记录和敏感信息脱敏 (#577) Co-authored-by: jingjingwu jingjingwu@tencent.com
fix: 改进 HTTP 请求日志记录和敏感信息脱敏 (#577)
Co-authored-by: jingjingwu jingjingwu@tencent.com
Tencent Server Web(TSW) 是一套面向 WEB 前端开发者,以提升问题定位效率为初衷,提供 染色抓包 和 全息日志 的 Node.js 基础设施。TSW 关注业务的运维监控能力,适用于 http、https 协议的业务场景,可无缝与现有应用(Koa、Express)进行整合。
TSW 2.0 在 1.0 的基础上抽丝剥茧,辅以现代化的设计模式,去除了 1.0 中的大量糟粕,同时对容器化、云原生更加友好。做到了无侵入、低成本接入。
npm install --save @tswjs/tsw // yarn add @tswjs/tsw
配置文件是 TSW 启动时加载进运行时的配置文件,主要声明需要使用的 插件 列表。默认会加载项目根目录下的 tswconfig.js 文件,也可以通过启动参数 -c 或者 --config 来手动指定配置文件路径。
tswconfig.js
-c
--config
注意事项: 2.0 中没有集成开放平台相关逻辑,而是封装成了一个插件让用户按需使用,详情见插件章节。
配置文件示例:
module.exports = { plugins: [ new MyPlugin({}) ] }
参数列表: | Name | Type | default | Optional | Description | | :-: | :-: | :-: | :-: | :-: | | plugins | Array<Plugin>| - | yes | 插件列表 | | cleanLog | boolean | false | yes | 是否关闭默认打印 | | logLevel | DEBUG/INFO/WARN/ERROR | DEBUG | yes | 设置 log level | | winstonTransports | Array<TransportStream> | - | yes | Winston日志通道 |
false
DEBUG/INFO/WARN/ERROR
DEBUG
npx @tswjs/tsw ./index.js
注意事项:原先 node --inspect ./index.js 中的 CLI 参数如 --inspect 需要转化为环境变量 NODE_OPTIONS 来执行,如 NODE_OPTIONS="--inspect" npx @tswjs/tsw ./index.js。
node --inspect ./index.js
--inspect
NODE_OPTIONS
NODE_OPTIONS="--inspect" npx @tswjs/tsw ./index.js
使用 ts: 在保证项目有 ts-node 依赖包的情况下,按照如下方式执行即可直接加载 ts 文件。
NODE_OPTIONS="--require=ts-node/register" npx @tswjs/tsw ./index.ts
使用 npx @tswjs/tsw --help 来获取 CLI 选项。
npx @tswjs/tsw --help
我们提供了一些示例项目以让大家尽快了解该项目。
cd ~
git clone https://github.com/Tencent/TSW.git
cd TSW
cd examples/koa
yarn
yarn serve
npm run serve
curl -v localhost:4443/path/to/foo -X POST -d "hello, server"
TSW 核心的实现方式是 Hack NodeJS 自身的 http.request 以及 http.createServer, 以此来实现抓包机制。在服务器处理请求的前后,在服务器向其他服务器发包的前后,等等,都会有相应的事件抛出,以供用户来进行自定义处理。为了让用户更加方便地复用、传播这样一组组自定义处理,我们将他们抽象出来,形成了插件机制。
http.request
http.createServer
export.modules = class MyPlugin() { constructor() { this.name = "MyPlugin" } async init(eventBus, config) { eventBus.on("RESPONSE_CLOSE", (payload) => { console.log(payload); }) } }
init 方法是必须的,这个方法在插件加载开始时会被调用,可以是同步也可以是异步。
init
eventBus
eventBus 是通过 new EventEmitter() 得到的。TSW 核心会在各个关键时机触发上面的事件。
new EventEmitter()
DNS_LOOKUP_SUCCESS
string | dns.LookupAddress[]
DNS_LOOKUP_ERROR
NodeJS.ErrorException
RESPONSE_START
writeHead
ResponseEventPayload
RESPONSE_FINISH
res.on("finish")
RESPONSE_CLOSE
res.on("close")
REQUEST_START
RequestEventPayload
在默认的情况下,TSW 只是会把所有的日志和抓包内容抓取到并且送到事件总线上,以供 插件 消费。所以将日志和抓包内容落地查看一般需要用户自己编写插件以及提供存储,使用成本过于高昂。因此,TSW 官方提供了公共的服务平台 https://tswjs.org,让用户低成本、更快、更方便地使用 TSW 的特性,详情见 开放平台使用指引。
TSW 2.0 是面对容器化和云原生设计的,所以没有内置 Cluster 相关功能,推荐直接使用容器的健康检查来完成服务的无损重启和故障重启机制。对于没有使用容器化方案的场景来说,我们推荐使用 pm2 类似工具来实现多进程模式。
// ecosystem.config.json { "apps": [ { "name": "app-name", "script": "built/index.js", "interpreter": "node", "interpreter_args": "./node_modules/@tswjs/tsw/dist/cli.js", // other options } ] }
// package.json { ... "scripts": { "start": "pm2 start ecosystem.config.json" }, ... }
winston 是一个通用且轻量的日志包。winston 支持多个日志通道,并且可以分别定义日志优先级。除了内置的三个日志传输通道Console、 File、HTTP,在 Winston 项目外部还会维护一些传输模块。查看 winston 官方文档。
winston
Console
File
HTTP
TSW 2.0 支持使用 winston 传输通道记录日志信息,用户在配置文件中可以添加 winston.transports 实例,日志会落到对应配置中。
winston.transports
使用 winston 记录 error 级别 以及 debug 级别以下的日志信息到对应文件中,当前 config 文件配置如下:
error
debug
config
module.exports = { winstonTransports: [ new winston.transports.File({ filename: 'error.log', level: 'error'}), new winston.transports.File({ filename: 'debug.log', level: 'debug'}) ] }
日志记录
Tencent Server Web 的开源协议为 MIT, 详情参见 LICENSE 。
版权所有:中国计算机学会技术支持:开源发展技术委员会 京ICP备13000930号-9 京公网安备 11010802032778号
Tencent Server Web 2.0
What is it
Tencent Server Web(TSW) 是一套面向 WEB 前端开发者,以提升问题定位效率为初衷,提供 染色抓包 和 全息日志 的 Node.js 基础设施。TSW 关注业务的运维监控能力,适用于 http、https 协议的业务场景,可无缝与现有应用(Koa、Express)进行整合。
TSW 2.0 在 1.0 的基础上抽丝剥茧,辅以现代化的设计模式,去除了 1.0 中的大量糟粕,同时对容器化、云原生更加友好。做到了无侵入、低成本接入。
Highlights
🚀
0 侵入
📒
全息日志
🛠
请求抓包
特别提醒
TSW 1.0 迁移到 2.0 需要注意的地方
Quick Start
1. 安装
2. 添加配置文件
配置文件是 TSW 启动时加载进运行时的配置文件,主要声明需要使用的 插件 列表。默认会加载项目根目录下的
tswconfig.js文件,也可以通过启动参数-c或者--config来手动指定配置文件路径。注意事项: 2.0 中没有集成开放平台相关逻辑,而是封装成了一个插件让用户按需使用,详情见插件章节。
配置文件示例:
参数列表: | Name | Type | default | Optional | Description | | :-: | :-: | :-: | :-: | :-: | | plugins | Array<Plugin>| - | yes | 插件列表 | | cleanLog | boolean |
false| yes | 是否关闭默认打印 | | logLevel |DEBUG/INFO/WARN/ERROR|DEBUG| yes | 设置 log level | | winstonTransports | Array<TransportStream> | - | yes | Winston日志通道 |3. 启动
注意事项:原先
node --inspect ./index.js中的 CLI 参数如--inspect需要转化为环境变量NODE_OPTIONS来执行,如NODE_OPTIONS="--inspect" npx @tswjs/tsw ./index.js。使用 ts: 在保证项目有 ts-node 依赖包的情况下,按照如下方式执行即可直接加载 ts 文件。
CLI (Command Line Interface)
使用
npx @tswjs/tsw --help来获取 CLI 选项。Examples
我们提供了一些示例项目以让大家尽快了解该项目。
cd ~git clone https://github.com/Tencent/TSW.gitcd TSWKoa
cd examples/koayarnyarn serve或者npm run servecurl -v localhost:4443/path/to/foo -X POST -d "hello, server"Plugins
插件是什么?
TSW 核心的实现方式是 Hack NodeJS 自身的
http.request以及http.createServer, 以此来实现抓包机制。在服务器处理请求的前后,在服务器向其他服务器发包的前后,等等,都会有相应的事件抛出,以供用户来进行自定义处理。为了让用户更加方便地复用、传播这样一组组自定义处理,我们将他们抽象出来,形成了插件机制。一个最简单的插件
init方法是必须的,这个方法在插件加载开始时会被调用,可以是同步也可以是异步。eventBuseventBus是通过new EventEmitter()得到的。TSW 核心会在各个关键时机触发上面的事件。DNS_LOOKUP_SUCCESSstring | dns.LookupAddress[]DNS_LOOKUP_ERRORNodeJS.ErrorExceptionRESPONSE_STARTwriteHead)时触发ResponseEventPayloadRESPONSE_FINISHres.on("finish"))触发ResponseEventPayloadRESPONSE_CLOSEres.on("close"))触发ResponseEventPayloadREQUEST_STARTRequestEventPayloadOpen Platform
在默认的情况下,TSW 只是会把所有的日志和抓包内容抓取到并且送到事件总线上,以供 插件 消费。所以将日志和抓包内容落地查看一般需要用户自己编写插件以及提供存储,使用成本过于高昂。
因此,TSW 官方提供了公共的服务平台 https://tswjs.org,让用户低成本、更快、更方便地使用 TSW 的特性,详情见 开放平台使用指引。
Cluster
TSW 2.0 是面对容器化和云原生设计的,所以没有内置 Cluster 相关功能,推荐直接使用容器的健康检查来完成服务的无损重启和故障重启机制。对于没有使用容器化方案的场景来说,我们推荐使用 pm2 类似工具来实现多进程模式。
pm2
使用 Ecosystem File
Winston
winston 是什么?
winston是一个通用且轻量的日志包。winston支持多个日志通道,并且可以分别定义日志优先级。除了内置的三个日志传输通道Console、File、HTTP,在 Winston 项目外部还会维护一些传输模块。查看winston官方文档。TSW 2.0 支持使用
winston传输通道记录日志信息,用户在配置文件中可以添加winston.transports实例,日志会落到对应配置中。一个简单的示例
使用
winston记录error级别 以及debug级别以下的日志信息到对应文件中,当前config文件配置如下:日志记录
Users
License
Tencent Server Web 的开源协议为 MIT, 详情参见 LICENSE 。