LLM Embedding Space 专题

DeepSeek-OCR 辨析：Token 压缩与 LLM 嵌入空间冗余

本文探讨了 DeepSeek-OCR 技术成功背后的核心原因，指出其关键并非图像表示本身，而是揭示了大型语言模型嵌入空间存在的巨大冗余。通过对比剑桥大学的研究与 LIFT 论文的发现，论证了通过微调优化文本表示同样...