店舗コードや商品カテゴリなど、値の種類が多い列では、通常の線形モデルが使う前処理で一部の値がまとめられます。Fione v2の開発版で追加されたLinearWideは、学習データで十分に出現した値を個別の特徴量として扱う線形モデルです。PR #100はmainに反映済みです。
AutoMLがLinearWideを試す条件
通常のAutoMLでは、線形モデルが15種類までに絞るカテゴリ列や、種類が多く出現頻度に置き換える列があると、LinearWideが候補になります。分類ではロジスティック回帰、回帰ではリッジ回帰を使います。初回試行の正則化パラメーター C は0.1です。候補の自動選択に追加の設定は要りません。学習APIで families を明示している場合は、その候補リストに "LinearWide" を加えられます。
通常の候補と後段の候補が両方ある場合、モデル探索時間の15%をLinearWideなど後段の候補用に確保します。LinearWideの初回試行時間はLinearの実測を基に見積もるため、残り時間が足りない場合は試行されません。学習結果のリーダーボードで試行されたモデルを確認します。
学習時に保持する値には上限がある
カテゴリ値は交差検証の各学習部分から決まり、同じ値が2行以上に出ることが条件です。1列あたり頻度上位20,000値が上限です。学習で採用されなかった値の個別の特徴量はすべて0になります。3〜30種類の整数値を持つ数値列は数値とカテゴリの両方として扱えます。文章と判定された列を、その文章全体の一致で展開する機能ではありません。
カテゴリ列が中心の表では、同じ検証分割で通常のAutoMLと比較すると、LinearWideが有用か確認できます。採用結果は値の出現頻度や探索時間にも依存します。