Mga Papel at Pananaliksik

Text-conditioned JEPA para sa pag-aaral ng semantically rich visual representation

Orihinal na pamagat:Text-Conditional JEPA for Learning Semantically Rich Visual Representations

AI summary

Iminungkahi ng mga mananaliksik ang text-conditioned joint embedding predictive architecture (TC-JEPA), na nagpapababa ng visual uncertainty sa masked feature prediction sa pamamagitan ng paggamit ng image caption text bilang conditioning information. Gumagamit ang pamamaraan ng fine-grained text modulator na nagko-compute ng sparse cross-attention sa input text tokens para i-modulate ang predicted image patch features. Kumpara sa I-JEPA na nakabatay sa masked feature prediction, kayang matutunan ng TC-JEPA ang mas semantically rich visual representation, na nilulutas ang kakulangan sa semantic learning ng dating pamamaraan dahil sa visual uncertainty.

Mahahalagang impormasyon

  • Iminungkahi ng mga mananaliksik ang text-conditioned joint embedding predictive architecture…
  • Gumagamit ang pamamaraan ng fine-grained text modulator na nagko-compute ng sparse cross-attention…
  • Kumpara sa I-JEPA na nakabatay sa masked feature prediction,kayang matutunan ng TC-JEPA ang mas…

Mabilisang tingin

Na-publish noong
Na-update noong
Pinagmulan
Apple Machine Learning Research(RSS)
Kategorya
Mga Papel at Pananaliksik
AI na marka
69
Basahin ang orihinal Basahin ang buong artikulo sa orihinal na pinagmulan
Dahilan ng rekomendasyon

Apple 这篇 TC-JEPA 把文本融入自监督视觉预训练,用稀疏交叉注意力减少预测不确定性,对多模态表征学习是个不错的思路补充,做视觉模型的值得一看。

Pinagmulan at copyright

Ang artikulong ito ay batay sa mga piling pamagat at AI summary mula sa pampublikong API ng AIHOT, may nakasaad na pinagmulan at backlink; ang copyright ng orihinal na teksto ay pag-aari ng orihinal na media at may-akda, hindi namin ginagaya ang buong teksto.

Link ng orihinal · Entry sa AIHOT

Paano banggitin

Kapag binabanggit ang artikulong ito, panatilihin ang pamagat, petsa at permanenteng link, at banggitin ang Orange News bilang pinagmulan.

Orange News: Text-conditioned JEPA para sa pag-aaral ng semantically rich visual representation. 7 Mayo 2026. https://new.nat6.net/fil/news/cmovtn194006zslcxkg4a1yti/

Tingnan lahat →