侯体宗的博客
  • 首页
  • Hyperf版
  • beego仿版
  • 人生(杂谈)
  • 技术
  • 关于我
  • 更多分类
    • 文件下载
    • 文字修仙
    • 中国象棋ai
    • 群聊
    • 九宫格抽奖
    • 拼图
    • 消消乐
    • 相册

在PostgreSQL的基础上创建一个MongoDB的副本的教程

数据库  /  管理员 发布于 5年前   173

我有一个偷懒的想法。这个好点子该如何开始呢?好吧,这是一个恰如其分的小疯狂:为什么不直接在Postgres的基础上建立我们自己的MongoDB版本呢?这听起来有点牵强附会,但却简单而实在。

当NoSQL运动风生水起的时候,Postgres社区没有干坐着摆弄他们的大拇指。他们持续开发,贯穿整个Postgres的生态系统,几个突出的功能吸引了我的眼球:整合JSON支持和PLV8。PLV8把V8 Javascript引擎引入到Postgres,他让Javascript成为一个第一类别的语言(first-class language)。拥有JSON类型让它能更容易地处理JSON(这很有效)。

开始前需要做的准备:

  •     Postgres 9.2+ (as of this blog entry, 9.2 is in beta) - http://www.postgresql.org/ftp/source/
  •     V8 - https://github.com/v8/v8
  •     PLV8 - http://code.google.com/p/plv8js/wiki/PLV8

 MongoDB的最低级别是集合.  集合可以用表来表示:
 

  CREATE TABLE some_collection (   some_collection_id SERIAL NOT NULL PRIMARY KEY,   data JSON  );

字符型的JSON 被保存在 Postgres 表里,简单易行 (现在看是这样).

下面实现自动创建集合.  保存在集合表里:
 

  CREATE TABLE collection (   collection_id SERIAL NOT NULL PRIMARY KEY,   name VARCHAR  );   -- make sure the name is unique  CREATE UNIQUE INDEX idx_collection_constraint ON collection (name);

一旦表建好了,就可以通过存储过程自动创建集合.  方法就是先建表,然后插入建表序列.
 
  

 CREATE OR REPLACE FUNCTION create_collection(collection varchar) RETURNS  boolean AS $$   var plan1 = plv8.prepare('INSERT INTO collection (name) VALUES ($1)', [ 'varchar' ]);   var plan2 = plv8.prepare('CREATE TABLE col_' + collection +    ' (col_' + collection + '_id INT NOT NULL PRIMARY KEY, data JSON)');   var plan3 = plv8.prepare('CREATE SEQUENCE seq_col_' + collection);      var ret;      try {    plv8.subtransaction(function () {     plan1.execute([ collection ]);     plan2.execute([ ]);     plan3.execute([ ]);         ret = true;    });   } catch (err) {    ret = false;   }      plan1.free();   plan2.free();   plan3.free();      return ret;  $$ LANGUAGE plv8 IMMUTABLE STRICT;

有了存储过程,就方便多了:
 
  

 SELECT create_collection('my_collection');


解决了集合存储的问题,下面看看MongoDB数据解析.  MongoDB 通过点式注解方法操作完成这一动作:
 

  CREATE OR REPLACE FUNCTION find_in_obj(data json, key varchar) RETURNS  VARCHAR AS $$   var obj = JSON.parse(data);   var parts = key.split('.');      var part = parts.shift();   while (part && (obj = obj[part]) !== undefined) {    part = parts.shift();   }      // this will either be the value, or undefined   return obj;  $$ LANGUAGE plv8 STRICT;

上述功能返回VARCHAR,并不适用所有情形,但对于字符串的比较很有用:
 

  SELECT data   FROM col_my_collection   WHERE find_in_obj(data, 'some.element') = 'something cool'

除了字符串的比较, MongoDB还提供了数字类型的比较并提供关键字exists .  下面是find_in_obj() 方法的不同实现:
 

  CREATE OR REPLACE FUNCTION find_in_obj_int(data json, key varchar) RETURNS  INT AS $$   var obj = JSON.parse(data);   var parts = key.split('.');      var part = parts.shift();   while (part && (obj = obj[part]) !== undefined) {    part = parts.shift();   }      return Number(obj);  $$ LANGUAGE plv8 STRICT;     CREATE OR REPLACE FUNCTION find_in_obj_exists(data json, key varchar) RETURNS  BOOLEAN AS $$   var obj = JSON.parse(data);   var parts = key.split('.');      var part = parts.shift();   while (part && (obj = obj[part]) !== undefined) {    part = parts.shift();   }      return (obj === undefined ? 'f' : 't');  $$ LANGUAGE plv8 STRICT;

接下来是数据查询.  通过现有的材料来实现 find() 方法.
保存数据到集合中很简单。首先,我们需要检查JSON对象并寻找一个_id值。这部分代码是原生的假设,如果_id已存在这意味着一个更新,否则就意味着一个插入。请注意,我们目前还没有创建objectID,只使用了一个序列待其发生:
 

  CREATE OR REPLACE FUNCTION save(collection varchar, data json) RETURNS  BOOLEAN AS $$   var obj = JSON.parse(data);    var id = obj._id;    // if there is no id, naively assume an insert   if (id === undefined) {    // get the next value from the sequence for the ID    var seq = plv8.prepare("SELECT nextval('seq_col_" +      collection + "') AS id");    var rows = seq.execute([ ]);        id = rows[0].id;    obj._id = id;     seq.free();       var insert = plv8.prepare("INSERT INTO col_" + collection +      " (col_" + collection + "_id, data) VALUES ($1, $2)",      [ 'int', 'json']);     insert.execute([ id, JSON.stringify(obj) ]);    insert.free();   } else {    var update = plv8.prepare("UPDATE col_" + collection +     " SET data = $1 WHERE col_" + collection + "_id = $2",     [ 'json', 'int' ]);     update.execute([ data, id ]);   }    return true;  $$ LANGUAGE plv8 IMMUTABLE STRICT;

基于这个观点,我们可以构建一些插入的简单文档:

  {   "name": "Jane Doe",   "address": {    "street": "123 Fake Street",    "city": "Portland",    "state": "OR"   },   "age": 33  }     {   "name": "Sarah Smith",   "address": {    "street": "456 Real Ave",    "city": "Seattle",    "state": "WA"   }  }     {   "name": "James Jones",   "address": {    "street": "789 Infinity Way",    "city": "Oakland",    "state": "CA"   },   "age": 23  }

让我们创建一个集合并插入一些数据:

 

  work=# SELECT create_collection('data');   create_collection  -------------------   t  (1 row)     work=# SELECT save('data', '{ our object }');   save  ------   t  (1 row)

你可以通过检查“col_data”表的内容来查看对象。

其它翻译版本(1)

现在我们已经有了一些数据,让我们再查询一下。假设我们想查找住在俄勒冈或华盛顿州年龄大于30的所有人,使用一个MongoDB风格的find():
 

  {   "$or": [    {     "address.state": "OR"    },    {     "address.state": "WA"    }   ],   "age": {    "$gt": 30   }  }

因为上次我们已经创建了一些深度的包检测,现在就很容易创建查询并返回Jane Doe:
 

  SELECT data   FROM col_data   WHERE find_in_obj_int(data, 'age') > 30    AND (       find_in_obj(data, 'address.state') = 'OR'      OR       find_in_obj(data, 'address.state') = 'WA'      )

我采用了写一个递归调用函数来建立WHERE子句的方法。它有点长,所以我没有把它贴在这里而是放在GitHub上。一旦find()存储过程被创建,我们就可以在查询中使用它。我们应该能够看到Jane Doe被返回:

  work=# SELECT find('data', '{ "$or": [ { "address.state": "OR" }, { "address.state": "WA" } ], "age": { "$gt": 30 } }');

这样奏效:它不优雅,但它奏效。这是一个概念的证明,而且几乎没有像它一样好的可能。我之前曾被问过为什么不使用HSTORE。虽然你可以存储嵌套的HSTORE和数组值,但它仍不是JSON,并且不容易通过PLV8操作。这将需要一个从HSTORE到JSON的序列器,这个序列器在任何时间将请求的返回序列化成MongoDB接受的数据形式,但依旧太容易在JavaScript中处理。这是次优选择,毕竟我们是要在Postgres的基础上创建一个MongoDB的副本。

源码可以在GitHub上找到:fork并尝试一下吧,记得回馈哦。


  • 上一条:
    详细讲解PostgreSQL中的全文搜索的用法
    下一条:
    在PostgreSQL中使用数组时值得注意的一些地方
  • 昵称:

    邮箱:

    0条评论 (评论内容有缓存机制,请悉知!)
    最新最热
    • 分类目录
    • 人生(杂谈)
    • 技术
    • linux
    • Java
    • php
    • 框架(架构)
    • 前端
    • ThinkPHP
    • 数据库
    • 微信(小程序)
    • Laravel
    • Redis
    • Docker
    • Go
    • swoole
    • Windows
    • Python
    • 苹果(mac/ios)
    • 相关文章
    • 分库分表的目的、优缺点及具体实现方式介绍(0个评论)
    • DevDB - 在 VS 代码中直接访问数据库(0个评论)
    • 在ubuntu系统中实现mysql数据存储目录迁移流程步骤(0个评论)
    • 在mysql中使用存储过程批量新增测试数据流程步骤(0个评论)
    • php+mysql数据库批量根据条件快速更新、连表更新sql实现(0个评论)
    • 近期文章
    • 在go中实现一个常用的先进先出的缓存淘汰算法示例代码(0个评论)
    • 在go+gin中使用"github.com/skip2/go-qrcode"实现url转二维码功能(0个评论)
    • 在go语言中使用api.geonames.org接口实现根据国际邮政编码获取地址信息功能(1个评论)
    • 在go语言中使用github.com/signintech/gopdf实现生成pdf分页文件功能(0个评论)
    • gmail发邮件报错:534 5.7.9 Application-specific password required...解决方案(0个评论)
    • 欧盟关于强迫劳动的规定的官方举报渠道及官方举报网站(0个评论)
    • 在go语言中使用github.com/signintech/gopdf实现生成pdf文件功能(0个评论)
    • Laravel从Accel获得5700万美元A轮融资(0个评论)
    • 在go + gin中gorm实现指定搜索/区间搜索分页列表功能接口实例(0个评论)
    • 在go语言中实现IP/CIDR的ip和netmask互转及IP段形式互转及ip是否存在IP/CIDR(0个评论)
    • 近期评论
    • 122 在

      学历:一种延缓就业设计,生活需求下的权衡之选中评论 工作几年后,报名考研了,到现在还没认真学习备考,迷茫中。作为一名北漂互联网打工人..
    • 123 在

      Clash for Windows作者删库跑路了,github已404中评论 按理说只要你在国内,所有的流量进出都在监控范围内,不管你怎么隐藏也没用,想搞你分..
    • 原梓番博客 在

      在Laravel框架中使用模型Model分表最简单的方法中评论 好久好久都没看友情链接申请了,今天刚看,已经添加。..
    • 博主 在

      佛跳墙vpn软件不会用?上不了网?佛跳墙vpn常见问题以及解决办法中评论 @1111老铁这个不行了,可以看看近期评论的其他文章..
    • 1111 在

      佛跳墙vpn软件不会用?上不了网?佛跳墙vpn常见问题以及解决办法中评论 网站不能打开,博主百忙中能否发个APP下载链接,佛跳墙或极光..
    • 2017-06
    • 2017-08
    • 2017-09
    • 2017-10
    • 2017-11
    • 2018-01
    • 2018-05
    • 2018-10
    • 2018-11
    • 2020-02
    • 2020-03
    • 2020-04
    • 2020-05
    • 2020-06
    • 2020-07
    • 2020-08
    • 2020-09
    • 2021-02
    • 2021-04
    • 2021-07
    • 2021-08
    • 2021-11
    • 2021-12
    • 2022-02
    • 2022-03
    • 2022-05
    • 2022-06
    • 2022-07
    • 2022-08
    • 2022-09
    • 2022-10
    • 2022-11
    • 2022-12
    • 2023-01
    • 2023-03
    • 2023-04
    • 2023-05
    • 2023-07
    • 2023-08
    • 2023-10
    • 2023-11
    • 2023-12
    • 2024-01
    • 2024-03
    Top

    Copyright·© 2019 侯体宗版权所有· 粤ICP备20027696号 PHP交流群

    侯体宗的博客