wabbit @thruthebckdr

math, physics, and brain. Tokyo Joined July 2009

Tweets

2K
Followers

460
Following

3K
Likes

13K

Renjie Liao @lrjconan

2 years ago

Interested in (spectral) GNNs? Our ICLR work Specformer shows that a simple set-to-set Transformer based spectral filter achieves SOTA on various benchmarks, beating message-passing GNNs (e.g., graph transformers). Paper: arxiv.org/abs/2303.01028 Code: github.com/DSL-Lab/Specfo… 1/N

3 41 211 23K 71

Download Image

Daisuke Okanohara / 岡野原大輔 @hillbig

6 years ago

微分、積分、微分方程式などのシンボリックな数学方程式はNNで驚くほどの精度で解ける。方程式を木表現経由のポーランド記法で表し、Transformerを使ったseq2seqで教師あり学習する。MathematicaやMatlabを超える求解率を達成できる他、有効な解を一つだけでなく多く列挙できるopenreview.net/forum?id=S1eZY…

2 708 2K 0 273

DLHacks @DL_Hacks

6 years ago

ガウス過程は，その性能の高さから様々な分野で利用されているが，計算量がO(N^3)と膨大であることが知られている．本研究では，入力空間ではなく，再生核ヒルベルト空間でミニバッチ学習による最適化をするGPNetを提案． slideshare.net/DeepLearningJP…

0 54 248 0 38

Shion Honda @shion_honda

6 years ago

最近調べていたFlowベース生成モデルについてまとめ記事を書きました！ Coupling Flow、Autoregressive Flowに加えてResidual FlowやFFJORDも紹介しています。深層生成モデルを巡る旅(1): Flowベース生成モデル qiita.com/shionhonda/ite… #Qiita

0 38 156 0 14

Machine Learning and NLP @ML_NLP

6 years ago

A PyTorch implementation of "Capsule Graph Neural Network" (ICLR 2019). reddit.com/r/textdatamini…

0 14 34 0 4

copypaste @copypaste_ds

6 years ago

お世話になったサイトをまとめました。 copypaste-ds.hatenablog.com/entry/2019/09/…

0 34 232 0 40

Tamás Görbe @TamasGorbe

6 years ago

A Mathematician's Way* of Converting Miles to Kilometers • 1 mi ≈ 1.609 km • The ratio of consecutive Fibonacci numbers Fₙ₊₁/Fₙ tends to the golden ratio φ ≈ 1.618 as n increases So Fₙ mi ≈ Fₙ₊₁ km *This is how I do it 😅

102 2K 6K 0 246

Download Image

Adam R. Kosiorek @arkosiorek

6 years ago

We recently developed a new, unsupervised version of capsule networks (with @sabour_sara, @yeewhye, and @geoffreyhinton). I hope that my new blog will make it easier to understand some ideas that led to this work. Enjoy! akosiorek.github.io/ml/2019/06/23/…

13 409 1K 0 225

Download Image

g_votte @g_votte

6 years ago

A part of demonstration in the #Optuna presentation. You can quickly set up hyperparameter optimization just with a few changes in your ML code. #SciPy2019

2 34 178 0 17

Download Video

piqcy @icoxfog417

6 years ago

実践を重視した自然言語処理の本が出版。RNNだけでなくCNN、また転移学習/マルチタスクといった最近の話題についても取り上げられているほか、モデルの開発/デプロイまで触れられている。実装はAllenNLPベースとかなりモダン。 manning.com/books/real-wor…

0 19 83 0 11

Adam R. Kosiorek @arkosiorek

6 years ago

I'm proud to share our work on a new version of capsule networks, called Stacked Capsule Autoencoders, with @sabour_sara, @yeewhye and @geoffreyhinton: arxiv.org/abs/1906.06818

7 130 471 0 41

Download Image

piqcy @icoxfog417

6 years ago

強化学習の探索手法について、シンプルな手法から最近の手法までが解説されている資料。ノイズを入れる、ボーナスを与える(内発的報酬系)、メタラーニング(探索の仕方自体の学習)、などといった話題がカバーされている。

Pieter Abbeel @pabbeel

6 years ago

4 49 248 0 22

Download Image

0 36 157 0 27

yu4u @yu4u

6 years ago

本日のSSIIオーガナイズドセッション「深層学習の高速化〜高速チップ、分散学習、軽量モデル〜」の講演資料「モデル高速化百選」の資料です！深層学習モデルを高速化手法を6種類に分類しそれぞれ解説しています（こっそり公開してたのに何故か既に16DLされてる…） slideshare.net/ren4yu/ss-1491…

0 54 157 0 17

まろ@関数型言語作曲機械学習勉強してない @_marony

6 years ago

「コンパイラ」ってこの1ページで全部わかった感

2 876 3K 0 350

Download Image

Daichi Konno / 紺野大地 @_daichikonno

6 years ago

「脳における高次の認知様式」こそが脳とAIの最大の違いであると主張するレビュー。「高次の認知様式」とは注意, 概念化, 意識などを指し、これらにより脳はタスクの最適解を見つけることができるという。脳がone-shot learningできる理由も説明でき、とても興味深かった。 sciencedirect.com/science/articl…

1 109 385 0 66

Download Image

Daichi Konno / 紺野大地 @_daichikonno

6 years ago

学習が早い人と遅い人の神経活動の違いを分析した論文。早く学ぶ人は神経活動が「低次元空間に効率良く表現される」一方、遅い人は「高次元な空間に無秩序に表現される」という。「鍛えれば効率的な神経活動ができるようになるのかどうか」も気になるところです。 nature.com/articles/s4159…

0 309 1K 0 133

ceptree @ceptree

6 years ago

これの歴史のとこクッソおもろい 1.1.7 ベクトルの概念に関する簡単な歴史 dyna.geo.kyushu-u.ac.jp/~yoshida/japan…

1 268 959 0 230

ふりかけ @frkake

6 years ago

Andrew Ng先生の論文の読み方 [順序] 1. タイトル/ アブスト/ 図 2. 導入 + 結論 + もっかい図 + 残りを読み流し（関連研究も） 3. 数式を飛ばすか流して読む 4. 全体を読む（ただし、わからないところは飛ばす）一回の読み込みで100%の理解はしなくていい。とりあえず進める。後で読んだら分かる。

2 320 1K 0 203

Download Image

Fumiharu Kato 加藤文元（Bungen） @FumiharuKato

6 years ago

「IUT 理論は世界で理解できるのは数人と言われているほどの難解さですが、理論の斬新さと独創性は十分伝えられると、著者は執筆に挑みました。さらに本書には理論を提唱した望月教授から特別にご寄稿いただきました。望月教授はマスコミにほとんど姿を見せない方ですので大変貴重です」↓

6 194 465 0 24

Download Image

Emilien Dupont @emidup

7 years ago

We show that there are functions Neural ODEs cannot represent. To overcome this we propose Augmented Neural ODEs which are more expressive, empirically reduce computational cost and improve generalization 🌟 With @ArnaudDoucet1 @yeewhye Paper: arxiv.org/abs/1904.01681