sklearnのIsolationForestを用いた異常検知
異常検知 scikit-learn
Lastmod: 2022-05-25

Isolation Forestとは

Isolation Forestとは有名な異常検知手法の一つです。 Forestという名前からもわかるように決定木の仕組みを使って異常検知を行います。 ざっくりいうと決定木の早いタイミングで分類されるものは、異常である可能性が高いといった感じです。 詳細説明は参考文献にあるリンクがわかりやすいのでそちらに託します。

実装

ライブラリ準備

import numpy as np
import matplotlib.pyplot as plt
from sklearn.ensemble import IsolationForest

データ準備

今回はダミーデータを作って検証していきます。 正規分布に基づく正常データと一つの異常データを作っています。

x_normal = np.random.normal(50, 10, 20)
x_normal = x_normal[:, np.newaxis]
y_normal = np.random.normal(50, 10, 20)
y_normal = y_normal[:, np.newaxis]
data_normal = np.concatenate([x_normal, y_normal], axis=1)
data_abnormal = np.array([100, 100])
data_abnormal = data_abnormal[np.newaxis, :]
data = np.concatenate([data_normal, data_abnormal])
plt.scatter(data[:, 0], data[:, 1], alpha=0.5)
plt.show()
plt.clf()

isolationforest

IsolationForest

それではIsolationForestで実装します。

clf = IsolationForest(random_state=0)
clf.fit(data)
predict = clf.predict(data)

predict_normal = data[np.where(predict==1)]
predict_abnormal = data[np.where(predict==-1)]
plt.scatter(predict_normal[:, 0], predict_normal[:, 1], alpha=0.5, label="predict_normal")
plt.scatter(predict_abnormal[:, 0], predict_abnormal[:, 1], alpha=0.5, label="predict_abnormal")
plt.legend()
plt.show()
plt.clf()

isolationforest

はい、できました。 これを見ると想定していない点まで異常値となってしまっていますね。

これを回避するにはclf.predict(data)ではなく、clf.decision_function(data)を使いましょう。 下の結果を見るとわかるようにpredictのデフォルトでは、decision_functionで予測された値の正負によって異常値かどうかを判断しています。 なのでdecision_functionで予測させたのちに任意の閾値を設定することで想定している異常値だけを取得できることになります。

print(clf.predict(data))
"""出力結果
array([-1,  1,  1,  1,  1, -1,  1,  1,  1,  1,  1, -1,  1,  1,  1,  1,  1,
        1,  1, -1, -1])
"""
print(clf.decision_function(data))
"""出力結果
array([-0.00135646,  0.08005558,  0.1082589 ,  0.00546616,  0.06094732,
       -0.06203556,  0.08608974,  0.08951439,  0.0525859 ,  0.09442839,
        0.10014535, -0.04470121,  0.02635501,  0.11540577,  0.04846334,
        0.07833354,  0.09563196,  0.04730001,  0.04987712, -0.07718921,
       -0.29339037])
"""

それでは閾値を-0.1にして確認してみます。

predict = clf.decision_function(data)

threshold = -0.1
predict_normal = data[np.where(predict > threshold)]
predict_abnormal = data[np.where(predict <= threshold)]
plt.scatter(predict_normal[:, 0], predict_normal[:, 1], alpha=0.5, label="predict_normal")
plt.scatter(predict_abnormal[:, 0], predict_abnormal[:, 1], alpha=0.5, label="predict_abnormal")
plt.legend()
plt.show()
plt.clf()

isolationforest

はい、できてますね。

可視化

次に異常値の領域を可視化してみましょう。

# データ準備
xx, yy = np.meshgrid(np.linspace(0, 200, 400), np.linspace(0, 200, 400))
mesh_predict = clf.decision_function(np.c_[xx.ravel(), yy.ravel()])
mesh_predict = mesh_predict.reshape(xx.shape)

# 可視化
fig1, ax2 = plt.subplots(constrained_layout=True)
CS = ax2.contourf(xx, yy, mesh_predict, cmap=plt.cm.Blues_r)

ax2.scatter(predict_normal[:, 0], predict_normal[:, 1], alpha=0.5, label="predict_normal")
ax2.scatter(predict_abnormal[:, 0], predict_abnormal[:, 1], alpha=0.5, label="predict_abnormal")
ax2.legend()

cbar = fig1.colorbar(CS)

isolationforest

以上です。

参考文献