首 页 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179 180 181 182 183 184 185 186 187 188 189 190 191 192 193 194 195 196 197 198 199 200 201 202 203 204 205 206 207 208 209 210 211 212 213 214 215 216 217 218 219 220 221 222 223 224 225 226 227 228 229 230 231 232 233 234 235 236 237 238 239 240 241 242 243 244 245 246 247 248 249 250 251 252 253 254 255 256 257 258 259 260 261 262 263 264 265 266 267 268 269 270 271 272 273 274 275 276 277 278 279 280 281 282 283 284 285 286 287 288 289 290 291 292 293 294 295 296 297 298 299 300 301 302 303 304 305 306 307 308 309 310 311 312 313 314 315 316 317 318 319 320 321 322 323 324 325 326 327 328 329 330 331 332 333 334 335 336 337 338 339 340 341 342 343 344 345 346 347 348 349 350 351 352 353 354 355 356 357 358 359 360 361 362 363 364 365 366 367 368 369 370 371 372 373 374 375 376 377 378 379 380 381 382 383 384 385 386 387 388 389 390 391 392 393 394 395 396 397 398 399 400 401 402 403 404 405 406 407 408 409 410 411 412 413 414 415 416 417 418 419 420 421 422 423 424 425 426 427 428 429 430 431 432 433 434 435 436 437 438 439 440 441 442 443 444 445 446 447 448 449 450 451 452 453 454 455 456 457 458 459 460 461 462 463 464 465 466 467 468 469 470 471 472 473 474 475 476 477 478 479 480 481 482 483 484 485 486 487 488 489 490 491 492 493 494 495 496 497 498 499 500 501 502 503 504 505 506 507 508 509 510 511 512 513 514 515 516 517 518 519 520 521 522 523 524 525 526 527 528 529 530 531 532 533 534 535 536 537 538 539 540 541 542 543 544 545 546 547 548 549 550 551 552 553 554 555 556 557 558 559 560 561 562 563 564 565 566 567 568 569 570 571 572 573 574 575 576 577 578 579 580 581 582 583 584 585 586 587 588 589 590 591 592 593 594 595 596 597 598 599 600 601 602 603 604 605 606 607 608 609 610 611 612 613 614 615 616 617 618 619 620 621 622 623 624 625 626 627 628 629 630 631 632 633 634 635 636 637 638 尾 页

Mongodb导入json数据

发布者: superzhang | 发布时间:2018-01-08

Mongodb导入json数据

1、在命令行打开mongo

2、创建新的collection

show bds

use ceshi

show tables

db.createCollection('item_infoX')

3、在命令行打开Mongod

4、导入json数据

mongoimport -d database_name -c collection_name path/file_name.json

Mongodb的collection的备份

show bds

use ceshi

show tables

db.createCollection('item_infoY')

db.item_infoX.copyTo('item_infoY')

想读更多 ->

Redis在LM云化产品中运用

发布者: superzhang | 发布时间:2018-01-08

Redis在LM云化产品中运用

利用Redis数据的持久化方式,解决了历史版本数据重启后丢失的问题。

利用Redis自身的主备机制实现了节点内的数据容灾。

节点故障发生后,FTP获取另一节点Redis持久化文件到本地进行全量数据恢复,实现数据节点间的数据容灾。

基于Redis的高性能,单节点完全支撑全量业务、全量数据,通过同步程序保持节点间数据一致性,解决了历史版本数据分片的问题。

Redis在LM云化产品中运用

redis测试

在测试环境中的结果为:写入速度超过30000/s,写入约5000万条数据,rdb文件约为11GB,重启加载时间约为3分钟,主备切换时间约5分多钟。

业务测试

全业务测试结果如下,测试结果为单机测试:

想读更多 ->

MySQL触发器的简单操作

发布者: superzhang | 发布时间:2018-01-08

触发器是MySQL的数据库对象之一,该对象与编程语言中的函数非常类似,都需要声明、执行等。但触发器的执行不是有程序调用的,也不是有手动启动的,而是有事件来触发、激活从而实现执行。

1、为什么要用触发器呢?

先看两个实例:

*在学生表中,有用字段学生名字,字段学生总数,每当添加一条关于学生记录时,协商的总数就必须同时改变。

*在客户信息表中,有字段客户名字,字段客户电话和字段客户地址缩写,每当添加一条客户记录时,都需要检查客户电话号码是否正确,客户地址缩写是否正确。

上述实例,业务逻辑不同,但有共同之处,即在表发生更改时,自动进行一些处理。这时就可以使用触发器数据库对象,例如第一个实例,可以创建一个触发器,在添加一条记录时,就执行一次计算学生总数的操作,这样就可以保证每次添加后数据一致。

MySQL软件在触发如下语句时,就会自动执行所设置的操作:

*DELETE 语句。

*INSERT 语句。

*UPDATE 语句。

其他SQL语句在不会触发。

2、创建触发器

在MySQL中,创建触发器的SQL语句如下:

create trigger trigger_name BEFORE|AFTER trigger_EVENT ON TA

想读更多 ->

非常重要的一些SQL语句(一)

发布者: superzhang | 发布时间:2018-01-08

非常重要的一些SQL语句(一)

罗列一些非常重要的SQL语句,供需要的时候查询使用:

1.你可以随时使用DESCRIBE查询表的结构,例如你忘记表中的列的名称或类型时,使用如:DESCRIBE table_a;

2.要想将文本文件text.txt(该文件包含了表的插入数据信息,每行包含一个记录,用定位符(tab)把值分开,并且以CREATE TABLE语句中列出的列次序给出。)装载到table_a表中,使用这个命令:

mysql> LOAD DATA LOCAL INFILE '/path/pet.txt' INTO TABLE table_a;

如果用Windows中的编辑器(使用\r\n做为行的结束符)创建文件,应使用:

mysql> LOAD DATA LOCAL INFILE '/path/pet.txt' INTO TABLE table_a-> LINES TERMINATED BY '\r\n';

3.增加关键字DISTINCT可以检索出每个唯一的输出记录,避免结果重复

想读更多 ->

MySQL 优化实施方案(简版)

发布者: superzhang | 发布时间:2018-01-08

1 前言

  在进行MySQL的优化之前必须要了解的就是MySQL的查询过程,很多的查询优化工作实际上就是遵循一些原则让MySQL的优化器能够按照预想的合理方式运行而已。

MySQL 优化实施方案(简版)

MySQL查询过程

2 优化的哲学 (优化有风险,涉足需谨慎)

2.1 优化可能带来的问题

优化不总是对一个单纯的环境进行,还很可能是一个复杂的已投产的系统。

优化手段本来就有很大的风险,只不过你没能力意识到和预见到!

任何的技术可以解决一个问题,但必然存在带来一个问题的风险!

对于优化来说解决问题而带来的问题,控制在可接受的范围内才是有成果。

保持现状或出现更差的情况都是失败!

2.2 优化的需求

稳定性和业务可持续性,通常比性能更重要!

优化不可避免涉及到变更,变更就有风险!

优化使性能变好,维持和变差是等概率事件!

切记优化,应该是各部门协同,共同参与的

想读更多 ->

阿里500k程序员:教你在10分钟搭建MySQL Binlog分析+可视化方案

发布者: superzhang | 发布时间:2018-01-08

阿里500k程序员:教你在10分钟搭建MySQL Binlog分析+可视化方案

日志服务 最近在原有30+种数据采集渠道 基础上,新增MySQL Binlog、MySQL select等数据库方案,仍然主打快捷、实时、稳定、所见即所得的特点。我自己是名大数据程序员,建了一个大数据资源共享群593188212 每天分享大数据学习资料和学习方法,最新资料已经放在群里,以下我们以用户登录数据库作为案例。公司内非常多的人员依赖于用户登录数据以及其衍生出来的相关数据:

阿里500k程序员:教你在10分钟搭建MySQL Binlog分析+可视化方案

老板要看大屏,每天UV、PV增长在哪里?

安全要监控登录是否异常,现在用户账户是否遭到集体攻击?

客户小二接到用户反馈,如何实时查询用户登录信息?

想读更多 ->

今天说说关系型数据库MySQL

发布者: superzhang | 发布时间:2018-01-08

关系型数据库有很多个,MySQL只是其中的一个。

关于安装也有很多方式:比如 yum安装 二进制安装 源码安装等等。

比较常用的就这三种:yum安装,二进制安装,源码安装。

今天说说关系型数据库MySQL

本次以yum安装为例

系统采用:

[root@kibana ~]# cat /etc/redhat-release

CentOS Linux release 7.2.1611 (Core)

由于在7系列上,MySQL逐渐被mariadb代替,先进行卸载mariadb

[root@kibana ~]# yum list installed | grep maria

Repodata is over 2 weeks old. Install yum-cron? Or run: yum makecache fast

mariadb-libs.x86_64 1:5.5.52-1.el7 @base

[root@kib

想读更多 ->

MySQL 日期操作分析

发布者: superzhang | 发布时间:2018-01-08

在进行日期操作之前,首先需要创建一个test表,在这不再详解,请查看小编上一篇文章。

日期操作如下:

1、获得 2018-01-08 日的前7天的日期:

-- SELECT DATE_SUB('2018-01-08 11:40:02',INTERVAL 7 day) AS created--2018-01-01 11:40:02

-- SELECT * FROM tb_test WHERE 1=1 AND DATE_FORMAT(created,'%Y-%m-%d') = (SELECT DATE_FORMAT(DATE_SUB('2017-11-09',INTERVAL 7 DAY),'%Y-%m-%d') AS created)

MySQL 日期操作分析

-- SELECT * FROM tb_test WHERE 1=1 AND created = (SELECT DATE_SUB('2017-10-01 11:40:02',INTERVAL 7 DAY) AS created)

想读更多 ->

读写分离插件 spring-boot-mybatis-rw

发布者: superzhang | 发布时间:2018-01-08

spring-boot-mybatis-rw

基于mybatis,springboot开箱即用的读写分离插件

Quick Start

读写分离插件 spring-boot-mybatis-rw

java

介绍

此插件由以下2部分组成

datasource:读写数据源的代理,支持一写多读,用户只需实现 org.spring.boot.mybatis.rw.starter.datasource.AbstractReadRoutingDataSource这个类,实现自己读数据源的负载均衡算法

pulgin:mybatis插件实现读写路由

spring-boot 配置

spring.mybatis.rw.readDataSources[0].url=jdbc:MySql://localhost:3306/test?characterEncoding=UTF-8spring.mybatis.rw.read

想读更多 ->

Linux shell编程 09 &命令和nohup命令

发布者: superzhang | 发布时间:2018-01-08

Linux shell编程 09 &命令和nohup命令

&命令

当在前台运行某个作业时,终端被该作业占据;而在后台运行作业时,它不会占据终端。可以使用&命令把作业放到后台执行。

该命令的一般形式为:

命令 &

为什么要在后台执行命令?因为当在后台执行命令时,可以继续使用你的终端做其他事情。适合在后台运行的命令有 f i n d、费时的打印作业、费时的排序及一些 s h e l l脚本。在后台运行作业时要当心:需要用户交互的命令不要放在后台执行,因为这样你的机器就会在那里傻等。

不过,作业在后台运行一样会将结果输出到屏幕上,干扰你的工作。如果放在后台运行的作业会产生大量的输出,最好使用下面的方法把它的输出重定向到某个文件中:

command >out.file 2>&1 &

在上面的例子中,所有的标准输出和错误输出都将被重定向到一个叫做 out.file 的文件中。

当你成功地提交进程以后,就会显示出一个进程

想读更多 ->