当前位置:首页 » HTML/CSS

JanusGraph集群搭建,多图配置及索引

2018-03-08 17:03 本站整理 浏览(79)

下载和启动实例
1、下载和启动Cassandra,生产环境会使用HBase作为Storage backend,但在开发环境部署HBase比较复杂
http://cassandra.apache.org/download/    下载3.11.2
解压后 sh bin/cassandra -f, 默认绑定IP:127.0.0.1  PORT:9042
启动thrift,sh ./bin/nodetool enablethrift    默认绑定IP:127.0.0.1  PORT:9160
2、下载和启动ES
JanusGraph的发布包自带ES,sh /elasticsearch/bin/elasticsearch,默认绑定IP:127.0.0.1  PORT:9200
也可以使用独立的ES,但建议5.0以上版本。
PS:centos6下启动es5.0以上版本遇到的问题及解决方法
[1]: max file descriptors [10240] for elasticsearch process is too low, increase to at least [65536]
ulimit -n 65536
[2]: max virtual memory areas vm.max_map_count [65530] is too low, increase to at least [262144]
修改/etc/sysctl.conf配置文件,
cat /etc/sysctl.conf | grep vm.max_map_count
vm.max_map_count=262144
如果不存在则添加
echo "vm.max_map_count=262144" >>/etc/sysctl.conf
sysctl -p
[3]: system call filters failed to install; check the logs and fix your configuration or disable system call filters at your own risk
在elasticsearch.yml中配置bootstrap.system_call_filter为false,注意要在Memory下面:
bootstrap.memory_lock: false
bootstrap.system_call_filter: false
3、下载和安装JanusGraph
https://github.com/JanusGraph/janusgraph/releases/    下载janusgraph-0.2.0-hadoop2.zip
编辑janusgraph-cassandra-es.properties,将es和cassandra的ip指定为步骤1,2中的IP
sh bin/gremlin.sh
graph = JanusGraphFactory.open("conf/janusgraph-cassandra-es.properties"),如提示standardjanusgraph[cassandrathrift:[127.0.0.1]],则配置成功
4、启动gremlin server
修改conf/gremlin-server/gremlin-server.yaml,确定properties文中的cassandra和es的ip正确
sh bin/gremlin-server.sh
使用gremlin.sh测试是否可以连上服务,:remote connect tinkerpop.server conf/remote.yaml
组建集群及多图
1、GremlinServer多图配置
服务器gremlin-server.yaml中可以设置多个graph的properties文件
graphs: {
graph: conf/gremlin-server/janusgraph-cassandra-es-server.properties,
pressureGraph: conf/gremlin-server/janusgraph-pressure.properties
}
janusgraph-pressure.properties中需要声明keyspace和index-name,否则会按照默认名字janusgraph建立存储和索引。多个properties指向同一个图。
storage.hostname=10.*.*.*
storage.cassandra.keyspace=pressure
index.pressure.hostname=10.*.*.*:9200
index.pressure.index-name=pressure
PS:可使用cqlsh describe keyspaces , curl -XGET 10.*.*.*:9200/_cat/indices查看存储及索引情况
scripts/empty-sample.groovy,增加traversalSource,对应不同的graph
globals << [g : graph.traversal(), p : pressureGraph.traversal()]
2、集群配置配置
客户端remote-objects.yaml,指定多实例IP,并实现负载均衡
hosts: [10.*.*.*,10.*.*.*]
jgex-remote.properties指定服务器上的traversalSource
gremlin.remote.driver.sourceName=p
索引优化及检查
1、composite索引,基于storage backend实现,仅支持相等(完全匹配),速度快
    mgmt.buildIndex('copIndustryCode', Vertex.class).addKey(industryCode).buildCompositeIndex()
2、mixed索引,基于index backend实现,支持如ES的特性,速度慢于composite索引。最后一个参数为index-name。
    mgmt.buildIndex('mixCompanyCode', Vertex.class).addKey(companyCode).buildMixedIndex("pressure")
3、可以使用gramlin.sh进行检索,如提示Query requires iterating over all vertices [(companyCode = 10)]. For better performance, use indexes,则表示未使用索引。
相反则代表使用了索引
gremlin> g.V().has("companyCode", textContains("1000")).valueMap()
==>[companyCode:[1000],companyName:[机构1000]]
gremlin> g.V().has("companyCode", "10").valueMap()
19:34:32 WARN org.janusgraph.graphdb.transaction.StandardJanusGraphTx - Query requires iterating over all vertices [(companyCode = 10)]. For better performance, use indexes
4.1 全剧配置
schema.default=none  // 关闭自动创建vertex label,edge label, property
# Required to enable Metrics in JanusGraph
metrics.enabled = true
force-index
4.2 storage backend
4.3 index backend
参考资料:
http://docs.janusgraph.org/latest/getting-started.html    官网
https://groups.google.com/forum/#!topic/gremlin-users/yWqS6gzmoYY         配置多graph, traversalSource