文中详细阐述了经过全量 增量 Oplog 的搬迁方式，完成一套副本集 MongoDB 搬迁的全进程。

作者：张然，DBA 数据库技能爱好者~

爱可生开源社区出品，原创内容未经授权不得随意运用，转载请联系小编并注明来源。

本文约 900 字，预计阅览需要 3 分钟。

布景介绍

客户要将出产环境上一套副本集架构的 MongoDB 进行搬迁，数据量 240GB 左右。经过测验，全量备份耗时 3.5 小时，康复耗时 4.5小时。

为了削减割接时刻，采取全量 增量 Oplog 的搬迁方式。提前一天进行全备，割接当天只需备份增量的 Oplog 康复即可，可大幅削减割接窗口。

实操进程

查看 Oplog 信息

查看并评价出产环境 Oplog 的发生信息，以防全量和增量备份期间发生的 Oplog 被掩盖掉。

mongo> db.getReplicationInfo()
{
"logSizeMB" : 20480,
"usedMB" : 20374.38,
"timeDiff" : 7074665,
"timeDiffHours" : 1965.18,
"tFirst" : "Fri Feb 24 2023 18:36:32 GMT 0800 (CST)",
"tLast" : "Wed May 17 2023 15:47:37 GMT 0800 (CST)",
"now" : "Wed May 17 2023 15:47:43 GMT 0800 (CST)"
}

可以看出在 1965.18h 的运转中，发生了 10374.38MB 大小的 Oplog。

全量备份

全量备份并复制备份期间发生的 Oplog 用来增量复原。

#!/bin/bash
user=admin
password=123
host=127.0.0.1
port=27017
outputdir=/data/mongobak_`date  %F`
authenticationdatabase=admin
start_time=`date  %s`
mongodump -u$user --host $host --port $port -p$password --authenticationDatabase $authenticationdatabase --oplog --gzip -o $outputdir
stop_time=`date  %s`
duration=$((stop_time-start_time)) 
echo "Spend times: $duration seconds"

全量康复

运用全备进行数据康复。

#!/bin/bash
start_time=`date  %s`
user=admin
password=123
host=127.0.0.1
port=27017
authenticationdatabase=admin
mongorestore -u$user --host $host --port $port -p$password --authenticationDatabase $authenticationdatabase --oplogReplay --gzip /data/mongobak_2023-07-17
stop_time=`date  %s`
duration=$((stop_time-start_time)) 
echo "Spend times: $duration seconds"

提取增量备份开始的时刻点

全备备份出来的 Oplog，可以运用 bsondump 东西将 bson 转换为 json 格局，查看备份时刻发生的最终的 Oplog 的时刻戳，根据此时刻戳来进行增量的 Oplog 备份。

shell> cd /data/ mongobak_2023-07-17
shell> mv oplog.bson oplog.bson.gz
shell> gzip -d oplog.bson.gz
shell> bsondump --pretty oplog.bson > op.json

查看 op.json 文件，找出增量备份开始的时刻点。

"ts": {
          "$timestamp": {
                      "t": 1686669429,
                      "i": 4
          }
},

增量备份

备份 Oplog（时刻戳大于上一次全备结束时的时刻）。

#!/bin/bash
user=admin
password=123
host=127.0.0.1
port=27017
outputdir=/tmp/oplog_`date  %F`
authenticationdatabase=admin
start_time=`date  %s`
mongodump -u$user --host $host --port $port -p$password --authenticationDatabase $authenticationdatabase -d local -c oplog.rs -q '{"ts":{"$gt": {"$timestamp":{"t":1686669429, "i":4}}}}' -o $outputdir
stop_time=`date  %s`
duration=$((stop_time-start_time)) 
echo "Spend times: $duration seconds"

增量康复

#!/bin/bash
user=admin
password=123
host=127.0.0.1
port=27017
authenticationdatabase=admin
start_time=`date  %s`
mongorestore -u$user --host $host --port $port -p$password --authenticationDatabase $authenticationdatabase --oplogReplay  /data/oplog_2023-07-17
stop_time=`date  %s`
duration=$((stop_time-start_time)) 
echo "Spend times: $duration seconds"

增量搬迁后事务文档数量比照

分别在源端和方针端运转脚本，查看搬迁完成后事务数据库下文档数量是否一致。

#!/bin/bash
user=admin
password=123
host=127.0.0.1
port=27017
authenticationdatabase=admin
mpid=`pidof mongod`
tooldir=`dirname $(ls -l /proc/$mpid/exe | awk '{print $11}')`
database=$(echo "show dbs" | $tooldir/mongo -uadmin --host $host --port $port -p$password --authenticationDatabase $authenticationdatabase  --quiet |awk '{print $1}'| sed -E '/^admin$|^config$|^local$/d')
for db in $database
do
  collections=$(echo -e "use $dbn show collections" | $tooldir/mongo -u $user --host $host --port $port -p $password  $authenticationdatabase --quiet | sed '/switched to db/d')
  for table in $collections
  do
    count=$(echo -e "use $dbn db.$table.count()" | $tooldir/mongo -u $user --host $host --port $port -p $password  --authenticationDatabase $authenticationdatabase  --quiet | sed '/switched to db/d')
    echo "$db.$table have $count documents"
  done
done

源端运转成果：

一则 MongoDB 副本集搬迁实操事例

方针端运转成果：

一则 MongoDB 副本集搬迁实操事例

注意事项

  • 运用 secondary 备份时，在割接停止事务后，增量备份前，首要查看下从库与主库的延时，保证主从没有延时，避免备份出的数据和主库不一致。
  • 假如全备时指定了 gzip，在提取时刻戳时要重命名 oplog.bson 为 oplog.bson.gz，然后解压，再运用 bsondump 东西解析 bson 文件，不然会报错。

更多技能文章，请拜访：opensource.actionsky.com/

关于 SQLE

SQLE 是一款全方位的 SQL 质量办理平台，掩盖开发至出产环境的 SQL 审阅和办理。支撑干流的开源、商业、国产数据库，为开发和运维提供流程自动化能力，进步上线功率，进步数据质量。