Bref, Jepa a besoin de solidarité
Et #FreeKanaky
Bref, Jepa a besoin de solidarité
Et #FreeKanaky
Bref, Jepa a besoin de solidarité
Et #FreeKanaky
Huh huh #elämänibiisi
Huh huh #elämänibiisi
Meta (ahem, Yann LeCun) finally seems to have abandoned Llama and actually start investing in the JEPA architecture again
If you’ve never heard of it, it’s completely different from LLMs, it’s modular instead of monolithic
ai.meta.com/blog/v-jepa-...
Meta (ahem, Yann LeCun) finally seems to have abandoned Llama and actually start investing in the JEPA architecture again
If you’ve never heard of it, it’s completely different from LLMs, it’s modular instead of monolithic
ai.meta.com/blog/v-jepa-...
Can we simultaneously learn transformation-invariant and transformation-equivariant representations with self-supervised learning?
TL;DR Yes! This is possible via simple predictive learning & architectural inductive biases – without extra loss terms and predictors!
🧵 (1/10)
Donnez si vous pouvez 🙏
Bref, Jepa a besoin de solidarité
Et #FreeKanaky
Donnez si vous pouvez 🙏
so I made a video tracing the last 30+ years of self-supervised learning, covering ideas from contrastive learning, distillation, masked modeling, JEPA, and world models.
youtu.be/gVEr2cnDE_8
so I made a video tracing the last 30+ years of self-supervised learning, covering ideas from contrastive learning, distillation, masked modeling, JEPA, and world models.
youtu.be/gVEr2cnDE_8
Aika jepa.
Aika jepa.
When I looked it up, it was Thé Vert, as in French for green tea.
Monsieur and I have repeated that to each other for years.
Fart💨 is my middlename🤗
Arvi F. Jurvanen🚀
Fart💨 is my middlename🤗
Arvi F. Jurvanen🚀
Repo: github.com/rbalestr-lab...
Repo: github.com/rbalestr-lab...
Hyvin porukkaa ja leppoisa meno.
Käykää Hotelli Kajanuksen komediailloissa, joita puuhaa mentalisti Raimo Lusma (kuvassa vasemmalla)!
Tänään kiertuekeikka Pudasjärvellä, huomenna Kuusamossa!
Hyvin porukkaa ja leppoisa meno.
Käykää Hotelli Kajanuksen komediailloissa, joita puuhaa mentalisti Raimo Lusma (kuvassa vasemmalla)!
Tänään kiertuekeikka Pudasjärvellä, huomenna Kuusamossa!
A JEPA architecture that learns sparse, non-negative, informative representations through principled distributional regularization.
A JEPA architecture that learns sparse, non-negative, informative representations through principled distributional regularization.
Myös persut: "Mutta tää jengiläinen on just jepa"
Olisiko sittenkin kyse siitä ihonväristä?
www.hs.fi/pkseutu/art-...
Myös persut: "Mutta tää jengiläinen on just jepa"
Olisiko sittenkin kyse siitä ihonväristä?
www.hs.fi/pkseutu/art-...
www.quantamagazine.org/how-one-ai-m...
www.quantamagazine.org/how-one-ai-m...