scFoundationモデルの学習データ量と多様性が性能に与える影響を評価する研究

モデル

scFoundationモデルの学習データ量と多様性が性能に与える影響を評価する研究

スポンサーリンク

scFoundationの学習データ量と多様性が性能に与える影響を評価する研究結果が公開された

この記事のポイント

  • 単一細胞モデルの学習データ選定を評価
  • 12コントロール含む492重みを公開
  • CPUでテスト済みPython3.10で利用可

数字で見る

この記事に出てくる数字

ダウンロードサイズ 32.1GB
チェックポイント数 492
PCA行列数 80

どこで使えるか

前訓練データとモデルの選択を最適化したい人向け。評価コードとチェックポイントが公開されている Hugging Faceで公開済み Python 3.10、CPUで動作確認済み、ライセンスはmit

スポンサーリンク

解説

かみくだいて説明します

microsoftが、10月15日に、単一細胞の基礎モデルの学習データに関するモデル一式と、PCAの行列80個を、およそ32.1GBで公開しました。
細胞の解析に使うモデル一式を、まとめて手に入れられるんですね。研究している人から見ると、データ量を変えた実験がどれくらい使えるんですか?
学習に使うデータ量を、100パーセントから1パーセントまで6段階で変えています。ランダムに選ぶ方法は、本棚から目を閉じて本を取るようなものです。種類ごとに重みをつけるのは、人気ジャンルを多めに選ぶようなものです。代表だけ選ぶのは、各ジャンルの目次だけを取り出すようなものです。これらを組み合わせて、合計で492個のモデルが用意されています。
3つの方法を掛け合わせたんですか。代表だけ選ぶというのは、結局データ量が減ってしまうんですか?
代表だけ選ぶやり方で、10パーセントの量まで使ったモデルも試されていて、対照には学習前のモデルも含まれています。
特徴を逃さずに量を減らせるんですか。使うのに必要な環境は、どのくらいシンプルですか?
Pythonのバージョン3.10を使います。動作確認はCPUだけで済ませてあります。モデルを読み込むための設定ファイルや、前処理の手順をまとめたコードも一緒に公開されています。
CPUだけで動かせるのは助かりますね。ただ、細胞のデータを読み込む前に、あらかじめ決まった手順を踏む必要があるんですか?
あります。使うモデルによって必要な前処理が異なります。Geneformerは遺伝子の並び順をランク付けして正規化する必要があります。scVIは生のカウント値をそのまま渡す形になり、VAEとSSLは19,331個の遺伝子順に並べ替える必要があります。
モデルごとに読み込み方が違うんですか。VAEで同じ結果を繰り返すには、何か設定が必要なんですか?
VAEの再構築には乱数によるサンプリングが含まれるので、Torchのシードを固定する必要があります。
乱数に気を付ければいいんですね。では、公開されているモデルの数は、全部でいくつあるんですか?
学習済みモデルと、0パーセントから学習させたコントロール用が12個あります。合わせて572個です。
コントロール12個を足したんですか。最後に、このデータセットを公開した目的について、まだ分かっていない点はありますか?
論文では学習データ量と多様性がモデルの性能にどう影響するかを評価することが目的とされています。ただ、実務で使う場合にどの程度精度が上がるかは、そこはまだ分かっていません。

出典

この記事のもとになった情報

※ 本文と音声は生成 AI が作成しています。内容は出典をご確認ください。
本作品のキャラクターには株式会社Live2Dの著作物であるサンプルデータが株式会社Live2Dの定める規約に従って用いられています。本作品は制作者の完全な自己の裁量で制作されています。このキャラクターモデルは株式会社Live2Dより許諾を得て商用利用しています。

スポンサーリンク

-モデル