機械学習
TECHNICAL POSTS
技術ブログ
全 55 記事
機械学習
「何を隠しているか」をLLMの内部状態に直接聞く：Activation Oraclesという検査手法
機械学習
SAEが取り出した特徴は、業務の監視項目になるか
機械学習
プロンプトを書き換えずにLLMの挙動を変える：Function VectorとSteering Vector
機械学習
出力を読まずに嘘を見つけられるか：線形プローブでLLMの内部状態を読む
AIエージェント
エージェント連携の単一障害点は、直接の依存先ではない
AIエージェント
エージェントに何を覚えさせるか：長いコンテキスト・RAG・Prompt Cachingをコストで選ぶ
AIエージェント
エージェント出力の品質を確率で保証する：Conformal Predictionで人手に回す割合を決める
AIエージェント
LLM-as-a-Judgeのバイアスはどこまで補正できるか：提示順・回答の長さ・自己選好
AIエージェント
評価データセットは何件必要か：合格率の幅と、改善を検出できる件数
AIエージェント
タスクを分けるほど精度は上がるのか：エージェントの分割数を式で決める
機械学習
BigQueryオプティマイザのコストモデルに外部APIの料金は考慮されない：BigQuery MLの注意点
数値計算・最適化
人間が事前に定義する範囲は、70年でどこまで縮んだか
AIエージェント
最適化計算にLLMを使うときのベストプラクティス
機械学習
小規模チームのMLOps最小構成：Composerを入れず、Cloud Run jobsで4つの要件を満たす
機械学習
「精度を上げたい」の前に決めること：精度改善・閾値・運用を経済的インパクトから考える
統計・確率
LLMリーダーボードはなぜ歪むのか：Bradley-Terryモデルと交絡・選択バイアスをシミュレーションで理解する
統計・確率
UCBはThompson Samplingに追いつけるか：報酬スケールと探索定数を検証する
合成データ・プライバシー
εをいくつにするか：差分プライバシーの機構と精度の交換を実測する
合成データ・プライバシー
モデルは学習データを漏らすか：メンバーシップ推論攻撃を実装して測る
機械学習
乱数シードを変えるだけでスコアは動く：モデル比較に必要な統計的作法
統計・確率
A/Bテストを毎日覗くと偽陽性は何倍になるか：ピーキング問題と逐次検定
合成データ・プライバシー
合成データはどこまで実データの代わりになるか：TSTRによる有用性の定量評価
統計・確率
予測区間の「95%」は本当に95%か：Conformal Predictionで被覆率を保証する
統計・確率
極値統計入門：正規分布では測れないテールリスクをGPDで評価する
統計・確率
ベイズA/Bテストとバンディット：Thompson Samplingで後悔を最小化する
モンテカルロ法
正規化定数なしでサンプリングできる理由：Metropolis-HastingsとHMCの効率を測る
モンテカルロ法
粒子フィルタ入門：非線形・非ガウスな状態空間を逐次モンテカルロで推定する
数値計算・最適化
ベイズ最適化入門：ガウス過程と獲得関数で評価回数を抑えて最適化する
数値計算・最適化
KLダイバージェンスが発散する場面で、Wasserstein距離は何を測っているか
機械学習
確率校正入門：分類器の「0.9」は本当に90%か（Platt・Isotonic・Temperature）
機械学習
カルマンフィルタ入門：状態空間モデルでノイズ下の真値を推定する
合成データ・プライバシー
ADS-GANによる合成データ生成、分布・ユーティリティ・プライバシーの評価
合成データ・プライバシー
合成データから個人は特定できてしまわないか：プライバシー品質の4つの測り方
合成データ・プライバシー
金融データのプライバシー保護：合成データ生成技術の概要と考察
機械学習
データの性質で選ぶナイーブベイズのサブタイプ
統計・確率
相関係数が拾えない依存をどう表すか：代表的な5つのコピュラ
モンテカルロ法
VaRは分布の仮定でどれだけ動くか：モンテカルロ法とヒストリカル法をS&P500で比べる
モンテカルロ法
準モンテカルロ法で使用される低不一致列の解説、次元数による有効性の違い
機械学習
「どうすれば審査に通ったのか」に答える：DiCEで反実仮想サンプルを作る
モンテカルロ法
モンテカルロ法における次元の呪いの緩和方法：重点サンプリングによる効率化
統計・確率
相関から因果へ進むには何を仮定するか：傾向スコアマッチングで選択バイアスを測る
数値計算・最適化
シミュレーテッドアニーリングで解く巡回セールスマン問題
数値計算・最適化
確率的最適化アルゴリズムの実装と比較：遺伝的アルゴリズムと勾配降下法
統計・確率
頻度主義統計学とベイズ統計学、それぞれのアプローチ
機械学習
時系列データの交差検証：なぜTimeSeriesSplitを使うべきなのか
機械学習
機械学習モデルの説明可能性手法の比較：SHAPとLIMEの出力の一貫性評価
機械学習
次元削減手法の比較検証：定量的・定性的評価によるPCA、t-SNE、UMAPの特徴分析
機械学習
取引の「つながり」は不正検知にどれだけ効くか：GNNとMLPの比較
機械学習
時系列データの予測：LSTMとTransformerの性能比較
数値計算・最適化
数値積分の実装と比較：台形法からガウス求積法まで
統計・確率
球面上に均一にランダム分布する点群を生成する
統計・確率
一様乱数から任意の分布を作る：逆関数法の仕組みと実装
数値計算・最適化
Scipyの最適化に導関数をどう与えるか：Autogradとの組み合わせ
数値計算・最適化