RabbitMQ 在node下的使用

相关代码

src

确保主机已经安装 RabbitMQ 并映射到 5762 端口

  • 多 worker 下默认调度是 RR

RabbitMQ 的一些名词定义

  • Producer 生产者是一个用户端程序,用来发送消息
  • Consumer 消费者是一个服务端程序,用来接收消息
  • Queue 队列是一个RabbitMQ的内部对象,用来存储消息

Message acknowledgment 消息回执

在实际应用中,可能会发生消费者收到Queue中的消息,但没有处理完成就宕机(或出现其他意外)的情况,这种情况下就可能会导致消息丢失。为了避免这种情况发生,我们可以要求消费者在消费完消息后发送一个回执给RabbitMQ,RabbitMQ收到消息回执(Message acknowledgment)后才将该消息从Queue中移除;如果RabbitMQ没有收到回执并检测到消费者的RabbitMQ连接断开,则RabbitMQ会将该消息发送给其他消费者(如果存在多个消费者)进行处理。这里不存在timeout概念,一个消费者处理消息时间再长也不会导致该消息被发送给其他消费者,除非它的RabbitMQ连接断开。

Message durability 消息持久化

将队列中的消息进行本地持久化存储,避免因为意外原因导致丢失的大部分消息,通过设置durable: true

Prefetch count 消息处理树

通过设置每一个消费者处理消息的数量,如果没有完成确认,就不再派发消息给消费者

exchange 交换器

生产者并不直接将消息发送到对应队列中,而是先发送到exchange 交换器中,交换器再通过一定的规则分发给一个或多个队列。交换器有四种类型:

  • 1
  • 2
  • 3
  • 4

routing key 路由key(生产者定义)

生产者在将消息发送给Exchange的时候,一般会指定一个routing key,来指定这个消息的路由规则,而这个routing key需要与Exchange Type及binding key联合使用才能最终生效。 在Exchange Type与binding key固定的情况下(在正常使用时一般这些内容都是固定配置好的),我们的生产者就可以在发送消息给Exchange时,通过指定routing key来决定消息流向哪里。 RabbitMQ为routing key设定的长度限制为255 bytes。

routing key 作用于发送的消息上

  1. ch.publish('direct_logs', 'info', Buffer.from(ctx.request.body.content))
  2. // 其中的 info 就是 binding key

Binding Bindg将exchange和Queue联系起来

Bing作用于消息队列Queue上

  1. ch.bindQueue(queue.queue, ex, '')

Exchange Types 交换器的类型

  • fanout 将所有的消息发送到订阅的消息队列中
  • direct 将 binding key 与 routing key 完全相等的消息发送到订阅的队列中
  • topic 按照一定的规则匹配路由
    1. routing key为一个句点号“. ”分隔的字符串(我们将被句点号“. ”分隔开的每一段独立的字符串称为一个单词),如“stock.usd.nyse”、“nyse.vmw”、“quick.orange.rabbit”
    2. binding key与routing key一样也是句点号“. ”分隔的字符串
    3. binding key中可以存在两种特殊字符“ ”与“#”,用于做模糊匹配,其中“ ”用于匹配一个单词,“#”用于匹配多个单词(可以是零个)
  • headers 根据消息内容中的 header 值进行匹配,该 header 是一个键值对,在建立队列与exchange的链接时,会生成一个键值对,exchange将发送消息到键值对完全匹配的队列中

RPC 远程过程调用 消息队列本身并不具备回调的功能,即发出一个消息后,生产者并不知道消费者返回的消息(能够知道是否消费,通过 ch.ack(msg) ),通过RPC能够返回消费者的消息。其原理在于新建一个replyQueue,消费者在之前订阅该队列

思考:在HTTP1.1的情况下,server 接收到前端响应提交消息,与接收到replyQueue的消息是两个独立的事件,没办法在前者的响应中加上后者返回的信息。因此只能通过ws协议实现推送。

Node下的RabbitMQ应用

  1. # 一个最简单的生产者与消费者建立过程
  2. const URL = 'amqp://guest:Sunshine@localhost:5672'
  3. // 创建一个连接
  4. const connection = amqp.connect(URL)
  5. // 创建生产者
  6. connection.then(conn => {
  7. // 创建一个通道
  8. return conn.createChannel()
  9. }).then(ch => {
  10. // 指定一个消息队列如果不存在则新建
  11. return ch.assertQueue('node').then(ok => {
  12. // 消息只能发送二进制
  13. ch.sendToQueue('node', Buffer.from('始终相信美好的事情即将发生'))
  14. ch.sendToQueue('node', Buffer.from('用心就能看见'))
  15. ch.sendToQueue('node', Buffer.from('从陌生的脸看到明天'))
  16. })
  17. }).catch(err => {
  18. console.error(err)
  19. })
  20. // 创建消费者
  21. connection.then(conn => {
  22. // 创建一个通道
  23. return conn.createChannel()
  24. }).then(ch => {
  25. ch.assertQueue('node').then(ok => {
  26. ch.consume('node', msg => {
  27. if (msg) {
  28. console.log(chalk.green(msg.content.toString()))
  29. ch.ack(msg)
  30. }
  31. })
  32. })
  33. }).catch(err => {
  34. console.error(err)
  35. })
  1. # KoaRabbitMQ的应用,省略部分koa的代码
  2. // 定义一个 Promise 避免每次都重复调用(利用Promise的状态不可逆)
  3. const CHANNEL = rabbit.getChannel()
  4. const Queue = 'node'
  5. const ex = 'logs'
  6. const key = 'anonymous.info'
  7. // 普通的消息队列 WorkQueues
  8. router.post('/send', async ctx => {
  9. const ch = await CHANNEL
  10. // 定义durable属性使得信道具有持久性
  11. ch.assertQueue(Queue, { durable: true })
  12. if (typeof ctx.request.body.content !== 'string') {
  13. ctx.status = 400
  14. ctx.body = {
  15. status: 'faild'
  16. }
  17. return
  18. }
  19. ch.sendToQueue(Queue, Buffer.from(ctx.request.body.content))
  20. ctx.body = {
  21. result: 'success'
  22. }
  23. log(chalk.magenta`[x] Sent${ctx.request.body.content}`)
  24. })
  25. // 使用 exchange 的消息队列
  26. router.post('/exchange', async ctx => {
  27. const ch = await CHANNEL
  28. // 定义类型 fanout,所有订阅的队列都会收到接受消息
  29. ch.assertExchange(ex, 'fanout', { durable: false })
  30. try {
  31. // 默认为空的名字
  32. ch.publish(ex, '', Buffer.from(ctx.request.body.content))
  33. ctx.body = {
  34. result: 'success'
  35. }
  36. } catch (error) {
  37. console.error(chalk.red`${error.toString()}`)
  38. ctx.body = error
  39. }
  40. })
  41. // 带routing的exchange
  42. router.post('/routing', async ctx => {
  43. const ch = await CHANNEL
  44. // 设置 exchange 的名字 以及分发方法
  45. ch.assertExchange('direct_logs', 'direct', { durable: false })
  46. try {
  47. // 向管道分发 info 级的方法
  48. ch.publish('direct_logs', 'info', Buffer.from(ctx.request.body.content))
  49. ctx.body = {
  50. result: 'success'
  51. }
  52. } catch (error) {
  53. console.error(chalk.red`${error.toString()}`)
  54. ctx.body = error
  55. }
  56. })
  57. // topic的exchange
  58. router.post('/topic', async ctx => {
  59. const ch = await CHANNEL
  60. ch.assertExchange(ex, 'topic', { durable: false })
  61. ch.publish(ex, key, Buffer.from(ctx.request.body.content))
  62. })
  1. #订阅 fanout 类型的队列
  2. rabbit.getChannel().then(ch => {
  3. // 将通道绑定到名为 ex 路由方法为 fanout(监听所有)的 exchange 上
  4. ch.assertExchange(ex, 'fanout', { durable: false })
  5. // 获取队列
  6. ch.assertQueue('', { exclusive: false }).then(queue => {
  7. log(chalk.blue`[*] Waiting for messages in ${queue.queue}. To exit press CTRL+C`)
  8. // 将通道绑定到具体的队里上
  9. ch.bindQueue(queue.queue, ex, '')
  10. // 消费
  11. ch.consume(queue.queue, msg => {
  12. log(chalk.green`[x] Received${msg.content.toString()}`)
  13. ch.ack(msg)
  14. }, { noAck: false })
  15. })
  16. })
  17. #订阅 direct 类型的队列
  18. rabbit.getChannel().then(ch => {
  19. ch.assertExchange(ex, 'direct', { durable: false })
  20. ch.assertQueue('', { exclusive: true }).then(q => {
  21. log(chalk.blue`[*] Waiting for messages in ${q.queue}. To exit press CTRL+C`)
  22. ch.bindQueue(q.queue, ex, 'info')
  23. ch.consume(q.queue, msg => {
  24. log(chalk.green`[x] Received${msg.content.toString()}`)
  25. ch.ack(msg)
  26. }, { noAck: true })
  27. })
  28. })
  29. #设置 prefetch 的消费者
  30. rabbit.getChannel().then(ch => {
  31. // 将该消费者设定到 Queue 队列中
  32. ch.assertQueue(Queue, { durable: true })
  33. // 该消费者最多同时消费两条信息
  34. ch.prefetch(2)
  35. // 进行消费
  36. ch.consume(Queue, (msg) => {
  37. // 模拟一个消耗时间较长的任务
  38. global.setTimeout(() => {
  39. log(chalk.green`[x] Received ${msg.content.toString()}`)
  40. // 消息被消费后一定要调用 channel 的 ack 方法确认消费,否则会一直停在队列中
  41. ch.ack(msg)
  42. }, 2000)
  43. }, { noAck: false })
  44. })

P.S 参考资料RabbitMQ基础概念详细介绍