如何用Python合并lmdb文件

Python  /  管理员 发布于 7年前   255

由于Caffe使用的存储图像的数据库是lmdb，因此有时候需要对lmdb文件进行操作，本文主要讲解如何用Python合并lmdb文件。没有lmdb支持的，需要用pip命令安装。

pip install lmdb

代码及注释如下：

# coding=utf-8# filename: merge_lmdb.pyimport lmdb# 将两个lmdb文件合并成一个新的lmdbdef merge_lmdb(lmdb1, lmdb2, result_lmdb):  print 'Merge start!'  # env代表Environment, txn代表Transaction  # 打开lmdb文件，读模式  env_1 = lmdb.open(lmdb1)  env_2 = lmdb.open(lmdb2)  # 创建事务  txn_1 = env_1.begin()  txn_2 = env_2.begin()  # 打开数据库  database_1 = txn_1.cursor()  database_2 = txn_2.cursor()  # 打开lmdb文件，写模式，  env_3 = lmdb.open(result_lmdb, map_size=int(1e12))  txn_3 = env_3.begin(write=True)  count = 0  # 遍历数据库  for (key, value) in database_1:    # 将数据放到结果数据库事务中    txn_3.put(key, value)    count++    if(count % 1000 == 0):      # 将数据写入数据库，必须的，否则数据不会写入到数据库中      txn_3.commit()      count = 0      txn_3 = env_3.begin(write=True)  if(count % 1000 != 0):    txn_3.commit()    count = 0    txn_3 = env_3.begin(write=True)  for (key, value) in database_2:    txn_3.put(key, value)    if(count % 1000 == 0):      txn_3.commit()      count = 0      txn_3 = env_3.begin(write=True)  if(count % 1000 != 0):    txn_3.commit()    count = 0    txn_3 = env_3.begin(write=True)  # 关闭lmdb  env_1.close()  env_2.close()  env_3.close()  print 'Merge success!'  # 输出结果lmdb的状态信息，可以看到数据是否合并成功  print env_3.stat()def main():  fr = open('lmdb.txt')  # lmdb1的目录  lmdb1 = fr.readline().strip()  # lmdb2的目录  lmdb2 = fr.readline().strip()  # result lmdb的目录  result_lmdb = fr.readline().strip()  fr.close()  merge_lmdb(lmdb1, lmdb2, result_lmdb)if __name__ == '__main__':  main()

以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持。