LightGBM
はじめに 決定木は、条件分岐でデータをたどり、各サンプルを必ず1つの葉に振り分けます。1つの葉は「同じ条件をたどってきたサンプルの集まり」——
…
はじめに LightGBMはlgb.trainのinit_model引数に既存モデルを渡すと、そのモデルを起点に学習を続けられます。すでにある
…
はじめに 保険金の請求額、店舗ごとの需要、広告のコンバージョン金額——こうしたデータは「多くがゼロ、ときどき大きな正の値」という形をしています
…
はじめに カテゴリ変数を勾配ブースティングに入れるとき、one-hotエンコーディングで0/1の列に展開するのが定番です。 一方でLightGB
…
はじめに 回帰は「1件ごとの数値」を、分類は「1件ごとのクラス」を予測します。一方で**ランキング学習(Learning to Rank)**は、「
…
はじめに 普通の回帰は「だいたいこのくらい」という1点を予測します。しかし実務では、「予測はこのくらいだが、上振れ・下振れはどこまであり得るか
…
はじめに 学習済みのモデルを新しいデータに合わせたいとき、普通は最初から学習し直します。木を一から作り直すので、それなりに時間がかかります。 L
…
はじめに 多くの機械学習モデルは、欠損値(NaN)が含まれていると学習前に補完(imputation)する必要があります。 一方でLightGB
…
はじめに 「このモデルは、なぜこの1件をこう予測したのか」を知りたくなることはよくあります。 その定番の道具がSHAP値なのですが、「SHAP=
…