惊声尖笑

DeepSeek又发新模型，小而美玩出新高度_我的网站

一 |     全国政协人口资源环境委原副主任，陕西省政协原党组书记、主席韩勇严重违纪违法被开除党籍　　经中共中央批准，中央纪委国家监委对全国政协人口资源环境委员会原副主任，陕西省政协原党组书记、主席韩勇严重违纪违法问题进行了立案审查调查。　　经查，韩勇丧失理想信念，背离初心使命，政治意识淡漠，不敢担当斗争，结交政治骗子、搞政治投机；违反中央八项规定精神，违规接受他人安排的宴请和旅游活动；违背组织原则，任人唯亲唯利，卖官鬻爵；廉洁底线失守，违规收受礼品礼金，违规低价购房；违规干预和插手执纪执法活动；家风不正；将公权力当作攫取私利的工具，大搞权钱交易，利用职务便利为他人在企业经营、干部任用、工程承揽等方面谋利，并非法收受巨额财物。    就在刚刚，DeepSeek开源了一个3B模型DeepSeek-OCR。

二 | 　　经中央纪委常委会会议研究并报中共中央批准，决定给予韩勇开除党籍处分；按规定取消其享受的待遇；收缴其违纪违法所得；将其涉嫌犯罪问题移送检察机关依法审查起诉，所涉财物一并移送。　　工信部原党组成员，国家烟草专卖局原党组书记、局长，中国烟草总公司原总经理凌成兴严重违纪违法被开除党籍　　经中共中央批准，中央纪委国家监委对工业和信息化部原党组成员，国家烟草专卖局原党组书记、局长，中国烟草总公司原总经理凌成兴严重违纪违法问题进行了立案审查调查。

三 | 　　经查，凌成兴丧失理想信念，背离党性原则，对抗组织审查；无视中央八项规定精神，违规接受宴请，接受他人提供的生活服务保障；不按规定报告个人有关事项，为亲属在入职入学等方面谋取利益，在干部选拔任用工作中为他人谋取利益；违规收受礼品，为亲属在交通、医疗方面谋求特殊待遇；不重视家风建设，对家属失管失教；将党和人民赋予的公权力异化为谋取私利的工具，靠烟吃烟、收钱敛财，利用职务便利为他人在企业经营、职工录用、职务提拔等方面谋利，并非法收受巨额财物；徇私舞弊、滥用职权，致使国家利益遭受特别重大损失。

四 | 虽然体量不大，但模型思路创新的力度着实不小。　　经中央纪委常委会会议研究并报中共中央批准，决定给予凌成兴开除党籍处分；按规定取消其享受的待遇；收缴其违纪违法所得；将其涉嫌犯罪问题移送检察机关依法审查起诉，所涉财物一并移送。                   众所周知，当前所有LLM处理长文本时都面临一个绕不开的困境：计算复杂度是平方级增长的。序列越长，算力烧得越狠。

五 |                              于是，DeepSeek团队想到了一个好办法。　　北京市政府党组成员、副市长高朋接受中央纪委国家监委纪律审查和监察调查　　据中央纪委国家监委网站消息：北京市政府党组成员、副市长高朋涉嫌严重违纪违法，目前正接受中央纪委国家监委纪律审查和监察调查。　　广西壮族自治区人大常委会原党组副书记、副主任张秀隆严重违纪违法被开除党籍　　经中共中央批准，中央纪委国家监委对广西壮族自治区人大常委会原党组副书记、副主任张秀隆严重违纪违法问题进行了立案审查调查。　　经查，张秀隆丧失理想信念，背弃初心使命，在贯彻落实党中央重大决策部署中优亲厚友、以权谋私，造成不良影响，对抗组织审查，搞迷信活动；违反中央八项规定精神，接受可能影响公正执行公务的宴请；不按规定报告个人有关事项，在组织函询时不如实说明问题，在干部选拔任用工作中为他人谋取利益并收受财物；廉洁底线失守，违规收受礼金，通过民间借贷获取大额回报，违规拥有非上市公司股份；不正确履行职责，盲目高额举债；将公权力异化为谋取私利的工具，大搞权钱交易，利用职务便利为他人在项目承揽、企业经营等方面谋利，并非法收受巨额财物。　　经中央纪委常委会会议研究并报中共中央批准，决定给予张秀隆开除党籍处分；按规定取消其享受的待遇；终止其广西壮族自治区第十二次党代会代表资格；收缴其违纪违法所得；将其涉嫌犯罪问题移送检察机关依法审查起诉，所涉财物一并移送。既然一张图能包含大量文字信息，而且用的Token还少，那不如直接把文本转成图像？这就是所谓的“光学压缩”——用视觉模态来给文本信息“瘦身”。                   而OCR正好天然适合验证这个思路，因为它本身就是在做“视觉→文本”的转换，而且效果还能量化评估。                             论文显示，DeepSeek-OCR的压缩率能达到10倍，OCR准确率还能保持在97%以上。                   啥意思呢？就是说，原本需要1000个文本Token才能表达的内容，现在只用100个视觉Token就搞定了。　　河南省安阳市政协党组成员、副主席雷鸣接受纪律审查和监察调查　　据河南省纪委监委消息：河南省安阳市政协党组成员、副主席雷鸣涉嫌严重违纪违法，目前正接受河南省纪委监委纪律审查和监察调查。即使压缩率拉到20倍，准确率也还有60%左右，整体效果相当能打。　　广西壮族自治区卫生健康委员会原二级巡视员刘莉被开除党籍和取消退休待遇　　据广西壮族自治区纪委监委消息：日前，广西壮族自治区纪委监委驻自治区卫生健康委员会纪检监察组、崇左市监委对自治区卫生健康委员会原二级巡视员刘莉严重违纪违法问题进行了立案审查调查。　　经查，刘莉身为党员领导干部，丧失理想信念，背弃初心使命，无视中央八项规定精神，违规收受礼品；将公权力异化为谋私的工具，利用职务便利，为他人在项目承揽方面谋取利益，并非法收受巨额财物。　　经自治区卫生健康委党组会议研究，决定给予刘莉开除党籍处分；按规定取消其退休待遇；由崇左市监委将其涉嫌犯罪问题移送检察机关依法审查起诉，所涉财物一并移送。　　江苏省信用再担保集团有限公司原党委委员、副总裁金维民接受纪律审查和监察调查　　据江苏省纪委监委消息：江苏省信用再担保集团有限公司原党委委员、副总裁金维民涉嫌严重违纪违法，目前正接受江苏省纪委监委纪律审查和监察调查。                   OmniDocBench基准测试结果显示：                    只用100个视觉Token，就超过了GOT-OCR2.0（每页256个Token）的表现；          用不到800个视觉Token，干翻了MinerU2.0（平均每页超过6000个Token）。　　（透视社综合中央纪委国家监委网站、河南省纪委监委、广西壮族自治区纪委监委、江苏省纪委监委报道）　　编辑：李煦　　校对：李旭颖　　审核：龚紫陌。                        在实际生产中，一块A100-40G显卡就能每天生成超过20万页的LLM/VLM训练数据。20个节点（160块A100）直接飙到每天3300万页。                             DeepSeek-OCR由两个核心组件组成：                    DeepEncoder（编码器）：负责图像特征提取和压缩；          DeepSeek3B-MoE（解码器）：负责从压缩后的视觉Token中重建文本。                        让我们来重点说说DeepEncoder这个引擎。

六 |                    它的架构很巧妙，通过把SAM-base（8000万参数）和CLIP-large（3亿参数）串联起来，前者负责“窗口注意力”提取视觉特征，后者负责“全局注意力”理解整体信息。                   中间还加了个16×卷积压缩器，在进入全局注意力层之前把Token数量大幅砍掉。                   举例而言，一张1024×1024的图像，会被切成4096个patch token。但经过压缩器处理后，进入全局注意力层的Token数量会大幅减少。                   这样的好处是，既保证了处理高分辨率输入的能力，又控制住了激活内存的开销。

七 |                    而且DeepEncoder还支持多分辨率输入，从512×512的Tiny模式（64个Token）到1280×1280的Large模式（400个Token），一个模型全搞定。                   目前开源版本支持的模式包括原生分辨率的Tiny、Small、Base、Large四档，还有动态分辨率的Gundam模式，灵活性拉满。                             解码器用的是DeepSeek-3B-MoE架构。                   别看只有3B参数，但采用了MoE（混合专家）设计——64个专家中激活6个，再加2个共享专家，实际激活参数约5.7亿。这也让模型既有30亿参数模型的表达能力，又保持了5亿参数模型的推理效率。                   解码器的任务就是从压缩后的视觉Token中重建出原始文本，这个过程可以通过OCR风格的训练被紧凑型语言模型有效学习。                   数据方面，DeepSeek团队也是下了血本。

八 |                    从互联网收集了3000万页多语言PDF数据，涵盖约100种语言，其中中英文占2500万页。                   数据分两类：粗标注直接用fitz从PDF提取，主要训练少数语言的识别能力；精标注用PP-DocLayout、MinerU、GOT-OCR2.0等模型生成，包含检测与识别交织的高质量数据。                   对于少数语言，团队还搞了个“模型飞轮”机制——先用有跨语言泛化能力的版面分析模型做检测，再用fitz生成的数据训练GOT-OCR2.0，然后用训练好的模型反过来标注更多数据，循环往复最终生成了60万条样本。                   此外还有300万条Word文档数据，主要提升公式识别和HTML表格解析能力。                   场景OCR方面，从LAION和Wukong数据集收集图像，用PaddleOCR标注，中英文各1000万条样本。                             DeepSeek-OCR不仅能识别文字，还具备“深度解析”能力，只需一个统一的提示词，就能对各种复杂图像进行结构化提取：                    图表：金融研究报告中的图表可以直接提取为结构化数据；          化学结构式：识别并转换为SMILES格式；          几何图形：对平面几何图形进行复制和结构化解析；          自然图像：生成密集描述（dense captions）。                        这在STEM领域的应用潜力巨大，尤其是化学、物理、数学等需要处理大量符号和图形的场景。                   第一作者Haoran Wei此前曾供职于阶跃星辰，期间发布并开源了GOT-OCR2.0系统                    值得注意的是，DeepSeek团队在论文里还提出了一个脑洞大开的想法——用光学压缩模拟人类的遗忘机制。                   人类的记忆会随时间衰退，越久远的事情记得越模糊。DeepSeek团队想，那能不能让AI也这样？于是，他们的方案是：                    1. 把超过第k轮的历史对话内容渲染成图像；          2. 初步压缩，实现约10倍的Token减少；          3. 对于更久远的上下文，继续缩小图像尺寸；          4. 随着图像越来越小，内容也越来越模糊，最终达到“文本遗忘”的效果。                   这就很像人类记忆的衰退曲线，近期信息保持高保真度，久远记忆自然淡化。                   虽然这还是个早期研究方向，但如果真能实现，对于处理超长上下文将是个巨大突破——近期上下文保持高分辨率，历史上下文占用更少计算资源，理论上可以支撑“无限上下文”。

九 |                              简言之，DeepSeek-OCR表面上是个OCR模型，但实际上是在探索一个更宏大的命题：能否用视觉模态作为LLM文本信息处理的高效压缩媒介？                    初步答案是肯定的，7—20倍的Token压缩能力已经展现出来了。                   当然，团队也承认这只是个开始。

十 | 单纯的OCR还不足以完全验证“上下文光学压缩”，后续还计划开展数字–光学文本交替预训练、“大海捞针”式测试，以及其他系统性评估。                   不过不管怎么说，这在VLM和LLM的进化路上，又多了一条新赛道。                   去年这个时候，大家还在卷怎么让模型“记得更多”。今年DeepSeek直接反其道行之，不如让模型学会“忘掉一些”。                   确然，AI的进化，有时候不是做加法，而是做减法。

十一 | 小而美，也能玩出大花样，DeepSeek-OCR这个3B小模型就是最好的证明。                   GitHub主页：http://github.com/deepseek-ai/DeepSeek-OCR          论文地址：https://github.com/deepseek-ai/DeepSeek-OCR/blob/main/DeepSeek\_OCR\_paper.pdf          模型下载：https://huggingface.co/deepseek-ai/DeepSeek-OCR                    本文来自微信公众号：APPSO （ID：appsolution）。

Current article:http://www.liawucunsainantaonao.sbs/news/20260826_1447791.xls

Published on:04:29:05