บทความและงานวิจัย

JEPA แบบมีเงื่อนไขข้อความสำหรับการเรียนรู้ตัวแทนภาพที่มีความหมายเชิงความหมาย

หัวข้อต้นฉบับ:Text-Conditional JEPA for Learning Semantically Rich Visual Representations

สรุปโดย AI

นักวิจัยเสนอสถาปัตยกรรมทำนายการฝังร่วมแบบมีเงื่อนไขข้อความ (TC-JEPA) โดยนำข้อความบรรยายภาพมาเป็นข้อมูลเงื่อนไขเพื่อลดความไม่แน่นอนทางการมองเห็นในการทำนายลักษณะเด่นที่ถูกปิดบัง วิธีนี้ใช้ตัวปรับข้อความแบบละเอียด คำนวณความสนใจแบบข้ามแบบเบาบางบนโทเค็นข้อความอินพุต เพื่อปรับลักษณะเด่นแพตช์ภาพที่ทำนายไว้ เมื่อเทียบกับ I-JEPA ที่อิงการทำนายลักษณะเด่นที่ถูกปิดบัง TC-JEPA สามารถเรียนรู้ตัวแทนภาพที่มีความหมายเชิงความหมายสมบูรณ์กว่า แก้ปัญหาการเรียนรู้เชิงความหมายไม่เพียงพอที่เกิดจากความไม่แน่นอนทางการมองเห็นของวิธีเดิม

สรุปสั้น

เวลาเผยแพร่
เวลาอัปเดต
แหล่งที่มา
Apple Machine Learning Research(RSS)
หมวดหมู่
บทความและงานวิจัย
คะแนน AI
69
อ่านต้นฉบับ อ่านบทความฉบับเต็มที่แหล่งข่าวต้นฉบับ
เหตุผลที่แนะนำ

Apple 这篇 TC-JEPA 把文本融入自监督视觉预训练,用稀疏交叉注意力减少预测不确定性,对多模态表征学习是个不错的思路补充,做视觉模型的值得一看。

แหล่งที่มาและลิขสิทธิ์

บทความนี้เรียบเรียงจากพาดหัวคัดสรรและบทสรุป AI จาก API สาธารณะของ AIHOT โดยระบุแหล่งที่มาและลิงก์กลับแล้ว ลิขสิทธิ์ต้นฉบับเป็นของสื่อและผู้เขียนต้นทาง เว็บไซต์นี้ไม่ได้สะท้อนเนื้อหาฉบับเต็ม

ลิงก์ต้นฉบับ · รายการ AIHOT

วิธีอ้างอิง

เมื่ออ้างอิงบทความนี้ โปรดระบุชื่อเรื่อง วันที่ และลิงก์ถาวร พร้อมระบุแหล่งที่มาเป็น Orange News

Orange News: JEPA แบบมีเงื่อนไขข้อความสำหรับการเรียนรู้ตัวแทนภาพที่มีความหมายเชิงความหมาย 7 พฤษภาคม 2026 https://new.nat6.net/th/news/cmovtn194006zslcxkg4a1yti/

ดูทั้งหมด →