緩存是現(xiàn)代應(yīng)用服務(wù)器中非常常用的組件。除了第三方緩存以外，我們通常也需要在java中構(gòu)建內(nèi)部使用的緩存。那么怎么才能構(gòu)建一個(gè)高效的緩存呢？ 本文將會(huì)一步步的進(jìn)行揭秘。

使用HashMap

緩存通常的用法就是構(gòu)建一個(gè)內(nèi)存中使用的Map，在做一個(gè)長時(shí)間的操作比如計(jì)算之前，先在Map中查詢一下計(jì)算的結(jié)果是否存在，如果不存在的話再執(zhí)行計(jì)算操作。

我們定義了一個(gè)代表計(jì)算的接口：

public interface Calculator<A, V> { V calculate(A arg) throws InterruptedException;}

該接口定義了一個(gè)calculate方法，接收一個(gè)參數(shù)，并且返回計(jì)算的結(jié)果。

我們要定義的緩存就是這個(gè)Calculator具體實(shí)現(xiàn)的一個(gè)封裝。

我們看下用HashMap怎么實(shí)現(xiàn)：

public class MemoizedCalculator1<A, V> implements Calculator<A, V> { private final Map<A, V> cache= new HashMap<A, V>(); private final Calculator<A, V> calculator; public MemoizedCalculator1(Calculator<A, V> calculator){ this.calculator=calculator; } @Override public synchronized V calculate(A arg) throws InterruptedException { V result= cache.get(arg); if( result ==null ){ result= calculator.calculate(arg); cache.put(arg, result); } return result; }}

MemoizedCalculator1封裝了Calculator，在調(diào)用calculate方法中，實(shí)際上調(diào)用了封裝的Calculator的calculate方法。

因?yàn)镠ashMap不是線程安全的，所以這里我們使用了synchronized關(guān)鍵字，從而保證一次只有一個(gè)線程能夠訪問calculate方法。

雖然這樣的設(shè)計(jì)能夠保證程序的正確執(zhí)行，但是每次只允許一個(gè)線程執(zhí)行calculate操作，其他調(diào)用calculate方法的線程將會(huì)被阻塞，在多線程的執(zhí)行環(huán)境中這會(huì)嚴(yán)重影響速度。從而導(dǎo)致使用緩存可能比不使用緩存需要的時(shí)間更長。

使用ConcurrentHashMap

因?yàn)镠ashMap不是線程安全的，那么我們可以嘗試使用線程安全的ConcurrentHashMap來替代HashMap。如下所示：

public class MemoizedCalculator2<A, V> implements Calculator<A, V> { private final Map<A, V> cache= new ConcurrentHashMap<>(); private final Calculator<A, V> calculator; public MemoizedCalculator2(Calculator<A, V> calculator){ this.calculator=calculator; } @Override public V calculate(A arg) throws InterruptedException { V result= cache.get(arg); if( result ==null ){ result= calculator.calculate(arg); cache.put(arg, result); } return result; }}

上面的例子中雖然解決了之前的線程等待的問題，但是當(dāng)有兩個(gè)線程同時(shí)在進(jìn)行同一個(gè)計(jì)算的時(shí)候，仍然不能保證緩存重用，這時(shí)候兩個(gè)線程都會(huì)分別調(diào)用計(jì)算方法，從而導(dǎo)致重復(fù)計(jì)算。

我們希望的是如果一個(gè)線程正在做計(jì)算，其他的線程只需要等待這個(gè)線程的執(zhí)行結(jié)果即可。很自然的，我們想到了之前講到的FutureTask。FutureTask表示一個(gè)計(jì)算過程，我們可以通過調(diào)用FutureTask的get方法來獲取執(zhí)行的結(jié)果，如果該執(zhí)行正在進(jìn)行中，則會(huì)等待。

下面我們使用FutureTask來進(jìn)行改寫。

FutureTask

@Slf4jpublic class MemoizedCalculator3<A, V> implements Calculator<A, V> { private final Map<A, Future<V>> cache= new ConcurrentHashMap<>(); private final Calculator<A, V> calculator; public MemoizedCalculator3(Calculator<A, V> calculator){ this.calculator=calculator; } @Override public V calculate(A arg) throws InterruptedException { Future<V> future= cache.get(arg); V result=null; if( future ==null ){ Callable<V> callable= new Callable<V>() {@Overridepublic V call() throws Exception { return calculator.calculate(arg);} }; FutureTask<V> futureTask= new FutureTask<>(callable); future= futureTask; cache.put(arg, futureTask); futureTask.run(); } try { result= future.get(); } catch (ExecutionException e) { log.error(e.getMessage(),e); } return result; }}

上面的例子，我們用FutureTask來封裝計(jì)算，并且將FutureTask作為Map的value。

上面的例子已經(jīng)體現(xiàn)了很好的并發(fā)性能。但是因?yàn)閕f語句是非原子性的，所以對這一種先檢查后執(zhí)行的操作，仍然可能存在同一時(shí)間調(diào)用的情況。

這個(gè)時(shí)候，我們可以借助于ConcurrentHashMap的原子性操作putIfAbsent來重寫上面的類：

@Slf4jpublic class MemoizedCalculator4<A, V> implements Calculator<A, V> { private final Map<A, Future<V>> cache= new ConcurrentHashMap<>(); private final Calculator<A, V> calculator; public MemoizedCalculator4(Calculator<A, V> calculator){ this.calculator=calculator; } @Override public V calculate(A arg) throws InterruptedException { while (true) { Future<V> future = cache.get(arg); V result = null; if (future == null) {Callable<V> callable = new Callable<V>() { @Override public V call() throws Exception { return calculator.calculate(arg); }};FutureTask<V> futureTask = new FutureTask<>(callable);future = cache.putIfAbsent(arg, futureTask);if (future == null) { future = futureTask; futureTask.run();}try { result = future.get();} catch (CancellationException e) { log.error(e.getMessage(), e); cache.remove(arg, future);} catch (ExecutionException e) { log.error(e.getMessage(), e);}return result; } } }}

上面使用了一個(gè)while循環(huán)，來判斷從cache中獲取的值是否存在，如果不存在則調(diào)用計(jì)算方法。

上面我們還要考慮一個(gè)緩存污染的問題，因?yàn)槲覀冃薷牧司彺娴慕Y(jié)果，如果在計(jì)算的時(shí)候，計(jì)算被取消或者失敗，我們需要從緩存中將FutureTask移除。

本文的例子可以參考https://github.com/ddean2009/learn-java-concurrency/tree/master/MemoizedCalculate

以上就是本文的全部內(nèi)容，希望對大家的學(xué)習(xí)有所幫助，也希望大家多多支持好吧啦網(wǎng)。