feature engineering

"ネット上では誰もがエージェントAI、LLMラッパー、プロンプトのテクニックについて叫んでいます。その間、私はただ基本的な回帰モデルと適切な特徴量エンジニアリングを理解しようと座っています。"

"今日はミニプロジェクトを1つ作りました。 - タイタニック生存予測器 学んだこと： - 実世界のデータセットの処理 - データのクリーニング - テキストから数値への変換（エンコーディング）"

"Pythonのitertoolsモジュールは、ほとんどのデータサイエンティストがその存在を知っているものの、特徴量構築にはめったに利用しない標準ライブラリツールキットです。"

"無駄にGPU（とあなたの時間）を燃やすのはやめましょう。シンプルに始めて、複雑にする権利を得ましょう。"

"しかし、競馬データでは、「生データをそのまま入れる」と、見かけ上のAUCは高くなっても、ROIが低くなるケースがあります。"

"具体的には、Groqのようなプロバイダー（たとえば、Llamaファミリーのモデル）から事前学習されたLLMを活用して、テキストのような非構造化データを、予測機械学習モデルを促進するために使用できる、完全に構造化された表形式データに変換することを含む、データ変換および前処理タスクを実行できます。"

"これは、人間が競馬で見るもの、例えば馬のパフォーマンスや騎手のスキルなどを分析し、AIが理解できる「数値」に変換するプロセスです。"

"この記事では、データリークの問題を掘り下げ、解決策として、学習時の列の順序とデータ型を保存する「指紋ファイルシステム」が紹介されています。"

"時間方向の操作中心の特徴量作成（1・2階差分など）やメタデータの埋め込みの上で、TransformerとBiLSTMをバックボーンとして用いることで、良好な成果が得られました。"

"本ブログでは、CSVデータの取り込みから特徴量エンジニアリング、モデル学習、Model Registryへの登録、テストデータ推論までの一連の流れを実装しています。"

"クラスタリングとは、データポイント間の類似性に基づいてそれらをグループに割り当てることを意味し、言い換えれば「類は友を呼ぶ」という考え方です。"

"この記事では、決定木ベースの機械学習モデルであるLightGBMの使用について詳述しています。"

"この記事は、k-meansで局所構造（パッチ）を学習し、それらを特徴量として使用するというアイデアを探求することを提案しています。これは「特徴量エンジニアリングとしてのクラスタリング」です。"

"本記事では、オープンデータである「カリフォルニア住宅価格データセット」を使用し、機械学習を用いて住宅価格を予測するシステムを構築します。"

"Results show that AI can be substituted."

"The article discusses adding and processing specific features from past race data."

"On a novel in-house dataset, our approach achieves 38% and 150% improvement in the evaluation metric over manually crafted and unplanned workflows respectively."

"The article mentions using Gemini for implementation."

"この記事は、プログラミング初心者がChatGPTを使って競馬予想AIを作り、生成AIとプログラミングについて学ぶ企画の第11回です。"

"Lambdo is presented on Hacker News, suggesting it's likely a new tool or project."

"The article's source is Hacker News."