Node 中异常收集与监控

栏目: 数据库 · 发布时间: 7年前

内容简介:在一个后端服务设计中,异常捕获是必不可少需要考虑的因素而当异常发生时,能够第一时间捕捉到并且能够获得足够的信息定位到问题至关重要这也是本篇文章的内容刚开始,先抛出两个问题

在一个后端服务设计中,异常捕获是必不可少需要考虑的因素

而当异常发生时,能够第一时间捕捉到并且能够获得足够的信息定位到问题至关重要这也是本篇文章的内容

刚开始,先抛出两个问题

  1. 在生产环境中后端连接的数据库挂了,是否能够第一时间收到通知并定位到问题,而不是等到用户反馈之后又用了半天时间才找到问题 (虽然运维肯定会在第一时间知道数据库挂了)
  2. 在生产环境中有一条 API 出了问题,能否衡量该错误的紧急重要程度,并根据报告解决问题

本文链接:

异常收集

异常一般发生在以下几个位置

  1. API/GraphQL 层,在 API 层的最外层使用一个中间件对错误集中进行处理,并进行上报。在具体逻辑层往往不需要主动捕捉异常,除非针对异常有特殊处理,如数据库事务失败后的回退

    // 在中间件中集中处理异常
    app.use(async (ctx, next) => {
      try {
        await next();
      } catch (err) {
        ctx.body = formatError(err)
      }
    })
    
    // graphql 中也可以
    new ApolloServer({
      typeDefs,
      resolvers,
      formatError
    })
    复制代码
  2. script 等非 API 层,如拉取配置,数据库迁移脚本以及计划任务等

另外除了主动捕捉到的异常,还有一些可能漏掉的异常,可能导致程序退出

process.on('uncaughtException', (err) => {
  console.error('uncaught', err)
})

process.on('unhandledRejection', (reason, p) => {
  console.error('unhandle', reason, p)
})
复制代码

API 异常结构化

当 API 层发生异常时,传输数据至客户端时需要对异常进行结构化,方便下一步的异常上报与前端对结构化信息的解析以及对应的展示

以下使用 FormatError 表示当发生异常时 API 应该返回的结构化的信息

而当异常发生时,异常可以在最顶层中间件作为错误处理中间件统一捕获,捕获到时可以使用一个函数 formatError 在中间件中统一结构化异常信息

type FormatError {
  code: string;
  message: string;
  info: any;
  stack?: string;
  data: Record<string, any> | null;
}

function formatError (error: Error): FormatError;
复制代码

以下是 FormatError 各字段的示意

code

表示错误标识码,用以对错误进行归类,如用户输入数据不合法 (ValidationError),数据库异常 (DatabaseError),外部服务请求失败 (RequestError)

根据经验我把 code 分为以下几类

  • ValidationError,用户输入不合法
  • DatabaseError,数据库问题
    • DatabaseUniqueError
    • DatabaseConnectionError
    • ...
  • RequestError,外部服务
    • RequestTimeoutError
  • ForbiddenError
  • AuthError,未授权请求授权资源
  • AppError,业务问题
    • AppBadRequest
    • ...
  • ...

对于数据校验,数据库异常与请求失败,我们通常会使用第三方库。 此时可以根据第三方库的 Error 来定制 code

message

表示 human-readable 的错误信息,但不一定代表它可以展示在前端。这里的 human 代表的是开发人员,而非用户,如以下两个 message 就不适宜展示在前端

  1. connect ECONNREFUSED postgres.xiange.tech. 不需要把数据库断连的消息展示在前端
  2. email is required. 输入数据校验,虽然可以展示给用户,但是需要展示中文 (国际化)

你可以根据 code,来决定前端是否可以展示后端期待它展示的信息,而在前端也可以根据 code 来进行全局集中处理

info

表示一些针对 code 的更为详细的信息

  • 当发送请求失败的时候,你至少得知道失败的这个请求长什么样子: method,params/body 以及 headers
  • 当用户输入数据校验失败时,至少得知道是那几个字段

stack

表示当前错误的堆栈,当异常发生时可以快速定位问题发生的位置 (虽然 node 有时候抛出的堆栈信息都是自己从未见过的文件)

当在开发和测试环境时,把 stack 附到 API 中可以快速定位问题, 当在生产环境时,不要把你的堆栈也放到 API 里 ,你可以在监控系统中找到你的堆栈位置

你可以使用以下两个 API 来优化你的 stacktrace

Error.captureStackTrace(error, constructorOpt)
Error.prepareStackTrace(error, structuredStackTrace)
复制代码

具体使用方法可以参考v8 stack trace api

data

代表该接口返回的数据。当 API 报错时 data 是不是应该返回为 null ?

不应该,当 API 报错时,可能只有部分字段有问题,剩余字段可以正常返回。由于 graphql 是由字段(field)聚合而成,这在 graphql 中体现地非常明显。

http status

当API处理过程中发生错误时,应该返回 400+ 的 status code

  • HTTP/1.1 400 Bad Request
  • HTTP/1.1 401 Unauthorized
  • HTTP/1.1 403 Forbidden
  • HTTP/1.1 429 Too Many Requests

监控系统

监控首先需要有一个监控系统,我这里比较推荐 Sentry ,具体如何部署可以参考我的上一篇文章:如何部署 Sentry。

你也可以直接在官方注册使用 SaaS 版本:Sentry 付费。个人免费版每个月有 5K 的报错限额,也足够个人使用。

相比自建版本,使用 SaaS 免了一些运维的日常工作。最主要的是, 自建系统有功能限制 。

这里有关于 Sentry 的文档

指标

异常监控除了异常本身以外,还要采集更多一些的指标

  1. 异常级别: Fatel, Error 以及 Warn。这决定你周日收到报警邮件或报警短信是继续浪还是打开笔记本改 Bug。可以通过 code 来标记

    const codeLevelMap = {
      ValidationError: 'warn',
      DatabaseError: 'error'
    }
    复制代码
  2. 环境: 生产环境还是测试环境,早于用户及测试发现问题,可以直接读取应用服务的环境变量

  3. 上下文: 如哪一条 API 请求,哪一个用户,以及更详细的 http 报文信息。可以直接利用 Sentry 的API上报上下文信息

    Sentry.configureScope(scope => {
      scope.addEventProcessor(event => Sentry.Handlers.parseRequest(event, ctx.request))
    })
    复制代码
  4. 用户: API 错误是由那个用户触发的

  5. code: 便于对错误进行分类

  6. request_id: 便于 tracing,也方便获取更多的调试信息:在 elk 中查找当前 API 执行的 SQL 语句

    const requestId = ctx.header['x-request-id'] || Math.random().toString(36).substr(2, 9)
    Sentry.configureScope(scope => {
      scope.setTag('requestId', requestId)
    })
    复制代码

由上可见,对于采集指标的数据一般来源于两个方面,http 报文以及环境变量

Filter

在本地开发时,往往不需要把异常上报到 Sentry 。 Sentry 也提供了 hook 再上报之前对异常进行过滤

beforeSend?(event: Event, hint?: EventHint): Promise<Event | null> | Event | null;
复制代码

欢迎关注我的公众号 山月行 ,在这里记录着我的技术成长,欢迎交流

Node 中异常收集与监控

以上就是本文的全部内容,希望本文的内容对大家的学习或者工作能带来一定的帮助,也希望大家多多支持 码农网

查看所有标签

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们。

Ruby原理剖析

Ruby原理剖析

[美] Patrick Shaughnessy / 张汉东、秦凡鹏 / 华中科技大学出版社 / 2016-12-1 / 78.80元

《Ruby原理剖析》解开Ruby编程语言的魔法面纱。全书图文并茂、深入浅出地剖析了Ruby编程语言的核心工作原理。作者本着科学实证的精神,设计了一系列实验,帮助读者轻松了解这门编程语言的工作奥秘,包括Ruby如何用虚拟机执行代码,Ruby的垃圾回收算法,以及类和模块在Ruby内部的关系等。一起来看看 《Ruby原理剖析》 这本书的介绍吧!

JS 压缩/解压工具
JS 压缩/解压工具

在线压缩/解压 JS 代码

SHA 加密
SHA 加密

SHA 加密工具

UNIX 时间戳转换
UNIX 时间戳转换

UNIX 时间戳转换