Fastjson為何能跑得更快的技術內幕

火星人 @ 2014-03-03 , reply:0


Fastjson為何能跑得更快的技術內幕

Fastjson為何能跑得更快的技術內幕


You are here: Home / Performance / Fastjson為何能跑得更快的技術內幕
Fastjson為何能跑得更快的技術內幕
八月 7, 2011 by Eugene · Leave a Comment



JSON協議使用方便,越來越流行。JSON的處理器有很多,為什麼需要再寫一個呢?因為我們需要一個性能很好的JSON Parser,希望JSON Parser的性能有二進位協議一樣好,比如和protobuf一樣,這可不容易,但確實做到了。有人認為這從原理上就是不可能的,但是計算機乃實踐科學,看實際的結果比原理推導更重要。
這篇文章告訴大家:

•Fastjson究竟有多快
•為什麼Fastjson這麼快
•你能用Fastjson來做什麼!
•如何獲得fastjson?

首先,Fastjson究竟有多快?


我們看一下使用https://github.com/eishay/jvm-serializers/提供的程序進行測試得到的結果:

序列化時間 反序列化時間 大小 壓縮后大小
java序列化 8654 43787 889 541
hessian 6725 10460 501 313
protobuf 2964 1745 239 149
thrift 3177 1949 349 197
avro 3520 1948 221 133
json-lib 45788 149741 485 263
jackson 3052 4161 503 271
fastjson 2595 1472 468 251


這是一個468bytes的JSON Bytes測試,從測試結果來看,無論序列化和反序列化,Fastjson超越了protobuf,可以當之無愧fast! 它比java deserialize快超過30多倍,比json-lib快100倍。由於Fastjson的存在,你可以放心使用json統一協議,達到文本協議的可維護性,二進位協議的性能。

JSON處理主要包括兩個部分,serialize和deserialize。serialize就是把Java對象變成JSON String或者JSON Bytes。Deserialize是把JSON String或者Json Bytes變成java對象。其實這個過程有些JSON庫是分三部分的,json string <-> json tree <-> java object。Fastjson也支持這種轉換方式,但是這種轉換方式因為有多餘的步驟,性能不好,不推薦使用。

為什麼Fastjson能夠做到這麼快?一、Fastjson中Serialzie的優化實現1、自行編寫類似StringBuilder的工具類SerializeWriter。
把java對象序列化成json文本,是不可能使用字元串直接拼接的,因為這樣性能很差。比字元串拼接更好的辦法是使用java.lang.StringBuilder。StringBuilder雖然速度很好了,但還能夠進一步提升性能的,fastjson中提供了一個類似StringBuilder的類com.alibaba.fastjson.serializer.SerializeWriter。

SerializeWriter提供一些針對性的方法減少數組越界檢查。例如public void writeIntAndChar(int i, char c) {},這樣的方法一次性把兩個值寫到buf中去,能夠減少一次越界檢查。目前SerializeWriter還有一些關鍵的方法能夠減少越界檢查的,我還沒實現。也就是說,如果實現了,能夠進一步提升serialize的性能。

2、使用ThreadLocal來緩存buf。
這個辦法能夠減少對象分配和gc,從而提升性能。SerializeWriter中包含了一個char[] buf,每序列化一次,都要做一次分配,使用ThreadLocal優化,能夠提升性能。

3、使用asm避免反射
獲取java bean的屬性值,需要調用反射,fastjson引入了asm的來避免反射導致的開銷。fastjson內置的asm是基於objectweb asm 3.3.1改造的,只保留必要的部分,fastjson asm部分不到1000行代碼,引入了asm的同時不導致大小變大太多。

4、使用一個特殊的IdentityHashMap優化性能。
fastjson對每種類型使用一種serializer,於是就存在class -> JavaBeanSerizlier的映射。fastjson使用IdentityHashMap而不是HashMap,避免equals操作。我們知道HashMap的演算法的transfer操作,併發時可能導致死循環,但是ConcurrentHashMap比HashMap系列會慢,因為其使用volatile和lock。fastjson自己實現了一個特別的IdentityHashMap,去掉transfer操作的IdentityHashMap,能夠在併發時工作,但是不會導致死循環。

5、預設啟用sort field輸出
json的object是一種key/value結構,正常的hashmap是無序的,fastjson預設是排序輸出的,這是為deserialize優化做準備。

6、集成jdk實現的一些優化演算法
在優化fastjson的過程中,參考了jdk內部實現的演算法,比如int to char[]演算法等等。

二、fastjson的deserializer的主要優化演算法
deserializer也稱為parser或者decoder,fastjson在這方面投入的優化精力最多。

1、讀取token基於預測。
所有的parser基本上都需要做詞法處理,json也不例外。fastjson詞法處理的時候,使用了基於預測的優化演算法。比如key之後,最大的可能是冒號」:」,value之後,可能是有兩個,逗號」,」或者右括弧」}」。在com.alibaba.fastjson.parser.JSONScanner中提供了這樣的方法:
public void nextToken(int expect) {
    for (;;) {
        switch (expect) {
            case JSONToken.COMMA: //
                if (ch == ',') {
                    token = JSONToken.COMMA;
                    ch = buf[++bp];
                    return;
                }
               if (ch == '}') {
                    token = JSONToken.RBRACE;
                    ch = buf[++bp];
                    return;
                }
                if (ch == ']') {
                    token = JSONToken.RBRACKET;
                    ch = buf[++bp];
                    return;
                }
                if (ch == EOI) {
                    token = JSONToken.EOF;
                    return;
                }
                break;        // ... ...    }}從上面摘抄下來的代碼看,基於預測能夠做更少的處理就能夠讀取到token。

2、sort field fast match演算法
fastjson的serialize是按照key的順序進行的,於是fastjson做deserializer時候,採用一種優化演算法,就是假設key/value的內容是有序的,讀取的時候只需要做key的匹配,而不需要把key從輸入中讀取出來。通過這個優化,使得fastjson在處理json文本的時候,少讀取超過50%的token,這個是一個十分關鍵的優化演算法。基於這個演算法,使用asm實現,性能提升十分明顯,超過300%的性能提升。

{ "id" : 123, "name" : "魏加流", "salary" : 56789.79}  ------      --------          ----------


在上面例子看,虛線標註的三個部分是key,如果key_id、key_name、key_salary這三個key是順序的,就可以做優化處理,這三個key不需要被讀取出來,只需要比較就可以了。

這種演算法分兩種模式,一種是快速模式,一種是常規模式。快速模式是假定key是順序的,能快速處理,如果發現不能夠快速處理,則退回常規模式。保證性能的同時,不會影響功能。

在這個例子中,常規模式需要處理13個token,快速模式只需要處理6個token。

實現sort field fast match演算法的代碼在這個類com.alibaba.fastjson.parser.deserializer.ASMDeserializerFactory,是使用asm針對每種類型的VO動態創建一個類實現的。
這裡是有一個用於演示sort field fast match演算法的代碼: http://code.alibabatech.com/svn/fastjson/trunk/fastjson/src/test/java/data/media/ImageDeserializer.java
// 用於快速匹配的每個欄位的前綴char[] size_   = "\"size\":".toCharArray();char[] uri_    = "\"uri\":".toCharArray();char[] titile_ = "\"title\":".toCharArray();char[] width_  = "\"width\":".toCharArray();char[] height_ = "\"height\":".toCharArray();// 保存parse開始時的lexer狀態信息int mark = lexer.getBufferPosition();char mark_ch = lexer.getCurrent();int mark_token = lexer.token();int height = lexer.scanFieldInt(height_);if (lexer.matchStat == JSONScanner.NOT_MATCH) {    // 退出快速模式, 進入常規模式    lexer.reset(mark, mark_ch, mark_token);    return (T) super.deserialze(parser, clazz);}String value = lexer.scanFieldString(size_);if (lexer.matchStat == JSONScanner.NOT_MATCH) {    // 退出快速模式, 進入常規模式    lexer.reset(mark, mark_ch, mark_token);    return (T) super.deserialze(parser, clazz);}Size size = Size.valueOf(value);// ... ...// batch setImage image = new Image();image.setSize(size);image.setUri(uri);image.setTitle(title);image.setWidth(width);image.setHeight(height);return (T) image;
3、使用asm避免反射
deserialize的時候,會使用asm來構造對象,並且做batch set,也就是說合併連續調用多個setter方法,而不是分散調用,這個能夠提升性能。

4、對utf-8的json bytes,針對性使用優化的版本來轉換編碼。
這個類是com.alibaba.fastjson.util.UTF8Decoder,來源於JDK中的UTF8Decoder,但是它使用ThreadLocal Cache Buffer,避免轉換時分配char[]的開銷。
ThreadLocal Cache的實現是這個類com.alibaba.fastjson.util.ThreadLocalCache。第一次1k,如果不夠,會增長,最多增長到128k。
//代碼摘抄自com.alibaba.fastjson.JSONpublic static final <T> T parseObject(byte[] input, int off, int len, CharsetDecoder charsetDecoder, Type clazz,                                      Feature... features) {
    charsetDecoder.reset();
    int scaleLength = (int) (len * (double) charsetDecoder.maxCharsPerByte());
    char[] chars = ThreadLocalCache.getChars(scaleLength); // 使用ThreadLocalCache,避免頻繁分配內存
   ByteBuffer byteBuf = ByteBuffer.wrap(input, off, len);
    CharBuffer charByte = CharBuffer.wrap(chars);
    IOUtils.decode(charsetDecoder, byteBuf, charByte);
    int position = charByte.position();
    return (T) parseObject(chars, position, clazz, features);}6、symbolTable演算法。
我們看xml或者javac的parser實現,經常會看到有一個這樣的東西symbol table,它就是把一些經常使用的關鍵字緩存起來,在遍歷char[]的時候,同時把hash計算好,通過這個hash值在hashtable中來獲取緩存好的symbol,避免創建新的字元串對象。這種優化在fastjson裡面用在key的讀取,以及enum value的讀取。這是也是parse性能優化的關鍵演算法之一。

以下是摘抄自JSONScanner類中的代碼,這段代碼用於讀取類型為enum的value。
int hash = 0;for (;;) {
    ch = buf;
    if (ch == '\"') {
        bp = index;
        this.ch = ch = buf;
        strVal = symbolTable.addSymbol(buf, start, index - start - 1, hash); // 通過symbolTable來獲得緩存好的symbol,包括fieldName、enumValue
       break;
    }
    hash = 31 * hash + ch; // 在token scan的過程中計算好hash    // ... ...}我們能用fastjson來作什麼?
1、替換其他所有的json庫,java世界里沒有其他的json庫能夠和fastjson可相比了。
2、使用fastjson的序列化和反序列化替換java serialize,java serialize不單性能慢,而且體制大。
3、使用fastjson替換hessian,json協議和hessian協議大小差不多一樣,而且fastjson性能優越,10倍於hessian
4、把fastjson用於memached緩存對象數據。

如何獲得fastjson官方網站
Fastjson是開源的,基於Apache 2.0協議。你可以在官方網站了解最新信息。 http://code.alibabatech.com/wiki/display/FastJSON/Home

maven用戶
•Maven倉庫 http://code.alibabatech.com/mvn/releases/<dependency>     <groupId>com.alibaba</groupId>     <artifactId>fastjson</artifactId>     <version>1.1.2</version></dependency>



Downlaods
Binary : http://code.alibabatech.com/mvn/releases/com/alibaba/fastjson/1.1.2/fastjson-1.1.2.jar
Source :http://code.alibabatech.com/mvn/releases/com/alibaba/fastjson/1.1.2/fastjson-1.1.2-sources.jar
Subversion : http://code.alibabatech.com/svn/fastjson/trunk/fastjson/



原文轉自:http://code.alibabatech.com/wiki/display/FastJSON/Inside+Fastjson



[火星人 via ] Fastjson為何能跑得更快的技術內幕已經有299次圍觀

http://www.coctec.com/docs/service/show-post-1950.html