存档

‘Java’ 分类的存档

阿里巴巴开发秘籍:MYSQL规约

2017年5月12日 评论已被关闭

一、   MYSQL建表规约

1       【强制】表达是与否概念的字段,必须使用 is_xxx 的方式命名,数据类型是 unsigned tinyint( 1 表示是,0 表示否),此规则同样适用于 odps 建表。

说明:任何字段如果为非负数,必须是 unsigned。

举例:`is_star`tinyint unsigned DEFAULT NULL COMMENT ‘项目状态(1 表示是,0 表示否)’,

 

2       【强制】表名、字段名必须使用小写字母或数字;禁止出现数字开头,禁止两个下划线中间只出现数字。数据库字段名的修改代价很大,因为无法进行预发布,所以字段名称需要慎重考虑。

正例:getter_admin,task_config,level3_name

反例:GetterAdmin,taskConfig,level_3_name

 

3       【强制】表名不使用复数名词。

说明:表名应该仅仅表示表里面的实体内容,不应该表示实体数量,对应于 DO 类名也是单数形式,符合表达习惯。

 

4      【强制】禁用保留字,如 desc、range、match、delayed 等,参考官方保留字。

 

5       【强制】唯一索引名为 uk_字段名;普通索引名则为 idx_字段名。

说明:uk_ 即 unique key;idx_ 即index 的简称。

 

6       【强制】小数类型为 decimal,禁止使用 float 和 double。

说明:float 和 double 在存储的时候,存在精度损失的问题,很可能在值的比较时,得到不正确的结果。如果存储的数据范围超过 decimal 的范围,建议将数据拆成整数和小数分开存储。

 

7       【强制】如果存储的字符串长度几乎相等,使用 CHAR 定长字符串类型。

 

8       【强制】varchar 是可变长字符串,不预先分配存储空间,长度不要超过 5000,如果存储长度大于此值,定义字段类型为 TEXT,独立出来一张表,用主键来对应,避免影响其它字段索引效率。

 

9       【强制】表必备三字段:id, gmt_create, gmt_modified。

说明:其中 id 必为主键,类型为 unsigned bigint、单表时自增、步长为 1; 分表时改为从TDDL Sequence 取值,确保分表之间的全局唯一。gmt_create,gmt_modified 的类型均为date_time 类型。

 

10    【推荐】表的命名最好是加上“业务名称_表的作用”,避免上云梯后,再与其它业务表关联时有混淆。

正例:tiger_task /tiger_reader / mpp_config

 

11    【推荐】库名与应用名称尽量一致。

 

12    【推荐】如果修改字段含义或对字段表示的状态追加时,需要及时更新字段注释。

 

13    【推荐】字段允许适当冗余,以提高性能,但是必须考虑数据同步的情况。冗余字段应遵循:

1)不是频繁修改的字段。

2)不是 varchar 超长字段,更不能是 text 字段。

正例:各业务线经常冗余存储商品名称,避免查询时需要调用 IC 服务获取。

 

14    【推荐】单表行数超过 500 万行或者单表容量超过 2GB,才推荐进行分库分表。

说明:如果预计三年后的数据量根本达不到这个级别,请不要在创建表时就分库分表。

反例:某业务三年总数据量才 2 万行,却分成 1024 张表,问:你为什么这么设计?答:分 1024张表,不是标配吗?

 

15    【参考】合适的字符存储长度,不但节约数据库表空间、节约索引存储,更重要的是提升检索速度。

正例:人的年龄用unsigned tinyint(表示范围 0-255,人的寿命不会超过 255 岁);海龟就必须是 smallint,但如果是太阳的年龄,就必须是 int;如果是所有恒星的年龄都加起来,那么就必须使用 bigint。

 

二、    SQL语句书写规约

1.       【强制】不要使用 count(列名)或 count(常量)来替代count(*),count(*)就是 SQL92 定义的标准统计行数的语法,跟数据库无关,跟 NULL 和非 NULL 无关。

说明:count(*)会统计值为 NULL 的行,而 count(列名)不会统计此列为 NULL 值的行。

 

2.      【强制】count(distinct col) 计算该列除 NULL 之外的不重复数量。注意 count(distinct col1, col2) 如果其中一列全为 NULL,那么即使另一列有不同的值,也返回为 0。

 

3.       【强制】当某一列的值全是 NULL 时,count(col)的返回结果为 0,但 sum(col)的返回结果为NULL,因此使用 sum()时需注意 NPE 问题。

正例:可以使用如下方式来避免 sum 的 NPE 问题:

SELECTIF(ISNULL(SUM(g)),0,SUM(g)) FROM table;

 

4.       【强制】使用 ISNULL() 来判断是否为 NULL 值。注意: NULL 与任何值的直接比较都为 NULL

说明:

1)NULL<>NULL 的返回结果是 NULL ,不是 false 。

2) NULL=NULL 的返回结果是 NULL ,不是 true 。

3)NULL<>1 的返回结果是 NULL ,而不是true 。

 

5.       【强制】在代码中写分页查询逻辑时,若 count 为 0 应直接返回,避免执行后面的分页语句。

 

6.       【强制】不得使用外键与级联,一切外键概念必须在应用层解决。

说明:(概念解释)学生表中的student_id 是主键,那么成绩表中的 student_id 则为外键。如果更新学生表中的 student_id,同时触发成绩表中的 student_id 更新,则为级联更新。外键与级联更新适用于单机低并发,不适合分布式、高并发集群;级联更新是强阻塞,存在数据库更新风暴的风险;外键影响数据库的插入速度。

 

7.       【强制】禁止使用存储过程,存储过程难以调试和扩展,更没有移植性。

 

8.       【强制】IDB 数据订正时,删除和修改记录时,要先 select,避免出现误删除,确认无误才能提交执行。

 

9.       【推荐】in 操作能避免则避免,若实在避免不了,需要仔细评估 in 后边的集合元素数量,控制在 1000 个之内。

 

10.    【参考】因阿里巴巴全球化需要,所有的字符存储与表示,均以 utf-8 编码,那么字符计数方法注意:

说明

SELECTLENGTH(“阿里巴巴”); 返回为 12

SELECTCHARACTER_LENGTH(“阿里巴巴”); 返回为 4

如果要使用表情,那么使用 utfmb4 来进行存储,注意它与 utf-8 编码。

 

11.    【参考】TRUNCATE TABLE 比 DELETE 速度快,且使用的系统和事务日志资源少,但 TRUNCATE无事务且不触发 trigger,有可能造成事故,故不建议在开发代码中使用此语句。

说明:TRUNCATETABLE 在功能上与不带 WHERE 子句的 DELETE 语句相同。

 

三、    MYSQL索引规约

1.       【强制】业务上具有唯一特性的字段,即使是组合字段,也必须建成唯一索引。

说明:不要以为唯一索引影响了insert 速度,这个速度损耗可以忽略,但提高查找速度是明显的;另外,即使在应用层做了非常完善的校验和控制,只要没有唯一索引,根据墨菲定律,必然有脏数据产生。

 

2.       【强制】超过三个表禁止 join。需要 join 的字段,数据类型保持绝对一致;多表关联查询时,保证被关联的字段需要有索引。

说明:即使双表 join 也要注意表索引、SQL 性能。

 

3.       【强制】在 varchar 字段上建立索引时,必须指定索引长度,没必要对全字段建立索引,根据实际文本区分度决定索引长度。

说明:索引的长度与区分度是一对矛盾体,一般对字符串类型数据,长度为 20 的索引,区分度会高达 90%以上,可以使用 count(distinct left(列名, 索引长度))/count(*)的区分度来确定。

 

4.       【强制】页面搜索严禁左模糊或者全模糊,如果需要请走搜索引擎来解决。

说明:索引文件具有 B-Tree的最左前缀匹配特性,如果左边的值未确定,那么无法使用此索引。

 

5.       【推荐】如果有 order by 的场景,请注意利用索引的有序性。order by 最后的字段是组合索引的一部分,并且放在索引组合顺序的最后,避免出现 file_sort 的情况,影响查询性能。

正例:where a=? andb=? order by c; 索引:a_b_c

反例:索引中有范围查找,那么索引有序性无法利用,如:WHERE a>10 ORDER BY b; 索引 a_b

无法排序。

 

6.       【推荐】利用覆盖索引来进行查询操作,来避免回表操作。

说明:如果一本书需要知道第 11章是什么标题,会翻开第 11 章对应的那一页吗?目录浏览一下就好,这个目录就是起到覆盖索引的作用。

正例:IDB 能够建立索引的种类:主键索引、唯一索引、普通索引,而覆盖索引是一种查询的一种效果,用 explain 的结果,extra 列会出现:using index.

 

7.       【推荐】利用延迟关联或者子查询优化超多分页场景。

说明MySQL 并不是跳过 offset 行,而是取 offset+N 行,然后返回放弃前 offset 行,返回 N行,那当offset 特别大的时候,效率就非常的低下,要么控制返回的总页数,要么对超过特定阈值的页数进行 SQL 改写。

正例:先快速定位需要获取的 id段,然后再关联:

SELECTa.* FROM 表 1 a, (select id from 表 1 where 条件 LIMIT 100000,20 ) b where a.id=b.id

 

8.       【推荐】 SQL 性能优化的目标:至少要达到 range 级别,要求是 ref 级别,如果可以是 consts最好。

说明

1)consts 单表中最多只有一个匹配行(主键或者唯一索引),在优化阶段即可读取到数据。

2)ref 指的是使用普通的索引。(normal index)

3)range 对索引进范围检索。

反例:explain 表的结果,type=index,索引物理文件全扫描,速度非常慢,这个 index 级别

比较 range 还低,与全表扫描是小巫见大巫。

9.       【推荐】建组合索引的时候,区分度最高的在最左边。

正例:如果 where a=?and b=? ,a 列的几乎接近于唯一值,那么只需要单建idx_a 索引即可。

说明:存在非等号和等号混合判断条件时,在建索引时,请把等号条件的列前置。如:where a>?

andb=? 那么即使 a 的区分度更高,也必须把 b 放在索引的最前列。

 

10.    【参考】创建索引时避免有如下极端误解:

1)误认为一个查询就需要建一个索引。

2)误认为索引会消耗空间、严重拖慢更新和新增速度。

3)误认为唯一索引一律需要在应用层通过“先查后插”方式解决。

分类: Java 标签:

log4j+logback+slf4j+commons-logging的关系与调试

2017年3月30日 评论已被关闭

背景
由于现在开源框架日益丰富,好多开源框架使用的日志组件不尽相同。存在着在一个项目中,不同的版本,不同的框架共存。导致日志输出异常混乱。虽然也不至于对系统造成致命伤害,但是明显可以看出,架构不够精良,追求极致略有不足。
其中有一些标准通用接口,标准实现,各种桥接器的存在,下面就让笔者树立一下这些框架之间的关系。

从上图中,我们可以看到4部分。
接口:将所有日志实现适配到了一起,用统一的接口调用。
实现:目前主流的日志实现
旧日志到slf4j的适配器:如果使用了slf4j,但是只想用一种实现,想把log4j的日志体系也从logback输出,这个是很有用的。
slf4j到实现的适配器:如果想制定slf4j的具体实现,需要这些包。

slf4J与旧日志框架的关系
slf4j等于commons-logging,是各种日志实现的通用入口,会根据classpath中存在下面哪一个Jar来决定具体的日志实现库。
logback-classic(默认的logback实现)
slf4j-jcl.jar(apache commons logging)
slf4j-logj12.jar(log4j 1.2.4)
slf4j-jdk14(java.util.logging)
将所有使用旧式日志API的第三方类库或旧代码的日志调用转到slfj
jcl-over-slf4j.jar/jcl104-over-slf4j:apache commons logging 1.1.1/1.0.4,直接替换即可。
log4j-over-slf4j.jar:log4j,直接替换即可。
jul-to-slf4j:jdk logging,需要在程序开始时调用SLF4JBridgeHandler.install()来注册listener参考JulOverSlf4jProcessor,可在applicationContext.xml中定义该bean来实现初始化。注意原有的log4j.properites将失效,logback网站上提供转换器,支持从log4j.properties 转换到logback.xml 。

优势:转移到logback的理由
slf4j支持参数化的logger.error(“帐号ID:{}不存在”, userId);告别了if(logger.isDebugEnable()) 时代。
另外logback的整体性能比log4j也较佳,hibernate等项目已经采用了slf4j:”某些关键操作,比如判定是否记录一条日志语句的操作,其性能得到了显著的提高。这个操作在LOGBack中需要3纳秒,而在Log4J中则需要30纳秒。 LOGBack创建记录器(logger)的速度也更快:13毫秒,而在Log4J中需要23毫秒。更重要的是,它获取已存在的记录器只需94纳秒,而 Log4J需要2234纳秒,时间减少到了1/23。”

slf4j和logback的使用
1.如果日志的参数超过3个,需要写成
Object[] params = {newVal, below, above}; logger.debug(“Value {} was inserted between {} and {}.”, params);
commons-logging 和slf4j的代码比较:commons-logging 示例代码:

  1. import org.apache.commons.logging.Log;
  2. import org.apache.commons.logging.LogFactory;
  3. public class TestLog {
  4.     Log log = LogFactory.getLog(TestLog.class);
  5.     public void print() {
  6.         if (log.isDebugEnabled()) {
  7.             log.debug(sql);
  8.             log.debug(“My name is ” + name + ”, I am ” + age + ” years old.”);
  9.         }
  10.     }
  11. }

slf4j的示例代码:

  1. import org.slf4j.Logger;
  2. import org.slf4j.LoggerFactory;
  3. public class TestLogBySlf4J {
  4.     Logger logger = LoggerFactory.getLogger(TestLogBySlf4J.class);
  5.     public void print() {
  6.         logger.debug(sql);
  7.         logger.debug(“My name is {}, I am {} years old.”, name, age);
  8.     }
  9. }

2.因为内部已优化,作者认为slf4j的logger不需要定义为static。
3.可设置缓存后批量写日志文件(但服务器如果重启,可能会丢失未写到磁盘的记录)
4.MDC,用Filter,将当前用户名等业务信息放入MDC中,在日志format定义中即可使用该变量。
5.JMS Appender用于告警, DB Appender用于业务日志等

生产环境情况以及优雅方案
我厂的项目由于使用了众多的开源架构,所以导致项目中的日志体系非常混乱。经常出现日志包冲突的情况。例如:commons-logging-1.0.4,commons-logging-1.1.3,log4j,logback,jboss-logging,java.util.logging……不同的版本,不同的实现。之前笔者至少要配置log4j,logback,commons-logging三个配置文件,才能完成日志的输出。研究了日志体系以后,我厂的maven的pom.xml如下

  1.  <!– log –>
  2. <dependency>
  3.     <groupId>org.slf4j</groupId>
  4.     <artifactId>slf4j-api</artifactId>
  5.     <version>${org.slf4j-version}</version>
  6. </dependency>
  7. <dependency>
  8.     <groupId>org.slf4j</groupId>
  9.     <artifactId>jcl-over-slf4j</artifactId>
  10.     <version>${org.slf4j-version}</version>
  11. </dependency>
  12. <dependency>
  13.     <groupId>org.slf4j</groupId>
  14.     <artifactId>log4j-over-slf4j</artifactId>
  15.     <version>${org.slf4j-version}</version>
  16. </dependency>
  17. <dependency>
  18.     <groupId>org.slf4j</groupId>
  19.     <artifactId>jul-to-slf4j</artifactId>
  20.     <version>${org.slf4j-version}</version>
  21. </dependency>
  22. <dependency>
  23.     <groupId>org.jboss.logging</groupId>
  24.     <artifactId>jboss-logging</artifactId>
  25.     <version>3.1.4.GA</version>
  26. </dependency>
  27. <!–
  28. <dependency>
  29.     <groupId>commons-logging</groupId>
  30.     <artifactId>commons-logging</artifactId>
  31.     <version>1.1.3</version>
  32. </dependency>
  33. <dependency>
  34.     <groupId>log4j</groupId>
  35.     <artifactId>log4j</artifactId>
  36.     <version>1.2.17</version>
  37. </dependency>
  38.  –>

加了几个重要的实现适配器,log4j-over-slf4j,log4j-over-slf4j,jul-to-slf4j。然后jboss-logging部分也进行了统一的版本控制。同时删除及exclude掉所有log4j,commons-logging的各个版本。适配器和具体日志实现,不能共存,否则适配器不生效。这样的话,我们只有logback配置文件即可,因为log4j的输出已经委托给了slf4j(通过log4j-over-slf4j),而slf4j的默认实现是logback。
其中JUL需要额外执行一行初始化代码

  1. SLF4JBridgeHandler.install();// jul to slf4j

常见错误调试
【错误1】只是一个典型错误,主要是错误的第二行红色部分
log4j:WARN No appenders could be found for logger (com.mchange.v2.log.MLog).
log4j:WARN Please initialize the log4j system properly.
log4j:WARN See http://logging.apache.org/log4j/1.2/faq.html#noconfig for more info.
出现此错误是由于没有log4j配置文件导致。在classpath下添加log4j.xml,并做一些配置即可。配置完以后,启动输出
2014-02-25 09:30:31:743[INFO ][com.mchange.v2.log.MLog.<clinit>(MLog.java:80)] – MLog clients using log4j logging.
2014-02-25 09:30:31:780[INFO ][com.mchange.v2.c3p0.C3P0Registry.banner(C3P0Registry.java:204)] – Initializing c3p0-0.9.1.2 [built 21-May-2007 15:04:56; debug? true; trace: 10]
即表示回复正常
。例如我的配置文件如下
log4j.xml

  1. <?xml version=”1.0″ encoding=”UTF-8″?>
  2. <!DOCTYPE log4j:configuration SYSTEM ”log4j.dtd”>
  3. <log4j:configuration xmlns:log4j=’http://jakarta.apache.org/log4j/’>
  4.     <appender name=”console” class=”org.apache.log4j.ConsoleAppender”>
  5.         <layout class=”org.apache.log4j.PatternLayout”>
  6.             <param name=”ConversionPattern” value=”%d{yyyy-MM-dd HH:mm:ss:SSS}[%-5p][%l] - %m%n” />
  7.         </layout>
  8.     </appender>
  9.     <logger name=”org.springframework” additivity=”false”>
  10.         <level value=”info” />
  11.         <appender-ref ref=”console” />
  12.     </logger>
  13.     <root>
  14.         <level value=”info” />
  15.         <appender-ref ref=”console” />
  16.     </root>
  17. </log4j:configuration>

参考文章
log4j.xml详细配置 http://zhangxiang390.iteye.com/blog/258455

分类: Java 标签: