今日のひとこと Challange IT For Future

Fioneの二値分類でF1に合わせて判定しきい値を選ぶ

Fione 読了 2分
目次
  1. 学習フォームで判定方法と指標を選ぶ
  2. 予測ラベルと検証スコアを確認する
  3. 関連PR

Fioneの開発版では、二値分類の確率をどこで陽性と判定するかを、F1などのランキング指標に合わせて選べます。

学習フォームで判定方法と指標を選ぶ

二値分類の学習フォームで「ランキング指標に合わせる(二値分類)」を選び、ランキング指標をF1などに設定します。APIでは decision を tuned、sort_metric を f1 にします。アシスタントの学習提案にもランキング指標を指定できます。判定方法の初期値は argmax で、tuned は明示して選びます。

利用できるのは正解率、誤り率、バランス精度、クラスごとの誤り率の平均、F1、MCC、カッパ係数、二次重み付きカッパです。適合率や再現率だけを選ぶことはできません。3クラス以上では選択できず、回帰では通知を出して無視されます。

予測ラベルと検証スコアを確認する

しきい値は検証予測から決まり、保存したモデルの予測、バッチ予測、Fione Serving、説明に引き継がれます。予測確率そのものは変わりません。候補ごとのランキング値は各候補に合うしきい値で計算し、探索停止や学習中の進捗の計算は0.5を使います。しきい値を決める検証予測と結果のスコアが共通なので、性能は別に確保したテストデータでも確認します。

EasyMLとアシスタント提案では、二値分類でラベル順の最後のクラスが全体の10%未満なら、指定がないときのランキング指標が平均適合率(aucpr)になります。平均適合率は確率の順位を見る指標です。tuned を使う場合はF1など対応指標を指定します。

関連PR