我可能不会爱你

强台风“白海豚”可能明天登陆我省_我的网站

一 |     昨日立秋，但立秋不等于入秋，气象学上要连续5天日平均气温≤22℃才算入秋，杭州离真正的秋天还很远。不过，受台风“白海豚”影响，持续近一个月的暑热有望得到暂时缓解。

二 | 截至昨天，杭州从7月14日以来的这波连续高温已达25天。    就在刚刚，DeepSeek开源了一个3B模型DeepSeek-OCR。随着“白海豚”的靠近，高温将暂时退场。杭州今天白天阴有阵雨或雷雨，雷雨时局地可伴有短时暴雨和7~9级雷雨大风，夜里阴有中到大雨，白天最高气温34℃。明显的降温从明天开始，杭州最高气温有可能降到30℃以下。昨天省防指将防台风应急响应提升至Ⅲ级，杭州市防指也启动防台风Ⅳ级应急响应。虽然体量不大，但模型思路创新的力度着实不小。                   众所周知，当前所有LLM处理长文本时都面临一个绕不开的困境：计算复杂度是平方级增长的。台风将带来风雨影响，提醒大家做好防范，可以做适当的准备：适量备些耐放的食品和饮用水，以备不时之需；花盆、衣架、晾衣杆收到室内，门窗也要检查一下；关注相关部门的预警，尽量少出门。“白海豚”面积相当于13个浙江可能9日下午到10日在我省登陆即将登陆我国的“白海豚”是一个耐力型台风，生成已超10天，经历了5次眼壁置换，3次加强为超强台风。序列越长，算力烧得越狠。中国天气网气象分析师沈雨旸介绍，从昨天早上的云图上看，“白海豚”结构完整，眼区仍比较清晰，由于有干冷空气卷入，西侧环流减弱，眼区附近出现大片空心区，不过整体环流变得更大了，面积近似13个浙江省那么大。据中央气象台，今年第13号台风“白海豚”（强台风级）的中心昨天20时位于浙江省温州市以东大约660公里的西北太平洋洋面上，就是北纬27.2度、东经127.3度，中心附近最大风力有14级（45米/秒），中心最低气压为950百帕，七级风圈半径为420~450公里，十级风圈半径为220~250公里，十二级风圈半径为100公里。                             于是，DeepSeek团队想到了一个好办法。既然一张图能包含大量文字信息，而且用的Token还少，那不如直接把文本转成图像？这就是所谓的“光学压缩”——用视觉模态来给文本信息“瘦身”。                   而OCR正好天然适合验证这个思路，因为它本身就是在做“视觉→文本”的转换，而且效果还能量化评估。                             论文显示，DeepSeek-OCR的压缩率能达到10倍，OCR准确率还能保持在97%以上。据浙江省气象服务中心昨天的预计，“白海豚”将以每小时10~15公里的速度向偏西方向移动，可能于9日下午到10日早晨在苍南到象山一带沿海登陆（台风级或强台风级，12~14级），登陆后缓慢西行。                   啥意思呢？就是说，原本需要1000个文本Token才能表达的内容，现在只用100个视觉Token就搞定了。即使压缩率拉到20倍，准确率也还有60%左右，整体效果相当能打。                   OmniDocBench基准测试结果显示：                    只用100个视觉Token，就超过了GOT-OCR2.0（每页256个Token）的表现；          用不到800个视觉Token，干翻了MinerU2.0（平均每页超过6000个Token）。中国天气网提醒，登陆后，“白海豚”还将深入内陆，给浙江、上海、江苏、福建、江西、安徽、湖北、湖南、河南、山东等十余省份带来风雨影响。                        在实际生产中，一块A100-40G显卡就能每天生成超过20万页的LLM/VLM训练数据。

三 | 为应对“白海豚”带来强降雨可能出现的汛情，水利部7日18时对上海、江苏、浙江、安徽、福建、江西启动洪水防御Ⅳ级应急响应。

四 | 20个节点（160块A100）直接飙到每天3300万页。                             DeepSeek-OCR由两个核心组件组成：                    DeepEncoder（编码器）：负责图像特征提取和压缩；          DeepSeek3B-MoE（解码器）：负责从压缩后的视觉Token中重建文本。“白海豚”将给浙江带来5天的降雨明起杭州最高气温有望降至“2字头”浙江省气象服务中心称：受“白海豚”影响，昨天下午起，浙江沿海海面和沿海地区风力逐渐增强至8~10级，昨天夜里至10日增强至10~13级，其中9日白天至10日上午局部13~16级。

五 | 内陆地区9日至10日大部分地区最大风力8~10级，高山区和江河湖面局部11~12级。这次“白海豚”给我省带来的降雨时间长达5天（7日夜里至12日），强降雨主要集中在8日夜里至10日，东部、南部地区累计雨量大，单点有极端性。预计今天白天沿海部分地区有大到暴雨，局地大暴雨；今天夜里至10日浙中南和沿海地区有暴雨大暴雨，台州、温州和宁波南部局地有特大暴雨；11日浙西部分地区暴雨，局地大暴雨。杭州市气象台称，“白海豚”登陆后移速慢、影响时间长，造成的风力影响和“巴威”相当，但降雨比“巴威”更强。                        让我们来重点说说DeepEncoder这个引擎。预计8日至12日杭州有较明显风雨过程，降雨最强时间段集中在9日至10日。                   它的架构很巧妙，通过把SAM-base（8000万参数）和CLIP-large（3亿参数）串联起来，前者负责“窗口注意力”提取视觉特征，后者负责“全局注意力”理解整体信息。                   中间还加了个16×卷积压缩器，在进入全局注意力层之前把Token数量大幅砍掉。8日白天起全市风力逐渐增大，最强时段出现在9日白天到10日上午，最大东北风平原地区8~10级，山区和江湖水面局地11级以上。

六 | 携风雨而来的“白海豚”将带来明显降温。浙江省气象服务中心预计，今天起高温开始收敛，9日至12日基本“偃旗息鼓”，届时我省大部分地区最高气温将降至28~30℃。

七 |                    举例而言，一张1024×1024的图像，会被切成4096个patch token。杭州市气象台说，明天开始，“白海豚”的影响趋于明显，气温进一步回落。但经过压缩器处理后，进入全局注意力层的Token数量会大幅减少。                   这样的好处是，既保证了处理高分辨率输入的能力，又控制住了激活内存的开销。                   而且DeepEncoder还支持多分辨率输入，从512×512的Tiny模式（64个Token）到1280×1280的Large模式（400个Token），一个模型全搞定。预计9日至13日，杭州主城区最高气温在28~30℃。                   目前开源版本支持的模式包括原生分辨率的Tiny、Small、Base、Large四档，还有动态分辨率的Gundam模式，灵活性拉满。                             解码器用的是DeepSeek-3B-MoE架构。                   别看只有3B参数，但采用了MoE（混合专家）设计——64个专家中激活6个，再加2个共享专家，实际激活参数约5.7亿。这也让模型既有30亿参数模型的表达能力，又保持了5亿参数模型的推理效率。

八 |                    解码器的任务就是从压缩后的视觉Token中重建出原始文本，这个过程可以通过OCR风格的训练被紧凑型语言模型有效学习。                   数据方面，DeepSeek团队也是下了血本。

九 |                    从互联网收集了3000万页多语言PDF数据，涵盖约100种语言，其中中英文占2500万页。                   数据分两类：粗标注直接用fitz从PDF提取，主要训练少数语言的识别能力；精标注用PP-DocLayout、MinerU、GOT-OCR2.0等模型生成，包含检测与识别交织的高质量数据。                   对于少数语言，团队还搞了个“模型飞轮”机制——先用有跨语言泛化能力的版面分析模型做检测，再用fitz生成的数据训练GOT-OCR2.0，然后用训练好的模型反过来标注更多数据，循环往复最终生成了60万条样本。                   此外还有300万条Word文档数据，主要提升公式识别和HTML表格解析能力。

十 |                    场景OCR方面，从LAION和Wukong数据集收集图像，用PaddleOCR标注，中英文各1000万条样本。                             DeepSeek-OCR不仅能识别文字，还具备“深度解析”能力，只需一个统一的提示词，就能对各种复杂图像进行结构化提取：                    图表：金融研究报告中的图表可以直接提取为结构化数据；          化学结构式：识别并转换为SMILES格式；          几何图形：对平面几何图形进行复制和结构化解析；          自然图像：生成密集描述（dense captions）。                        这在STEM领域的应用潜力巨大，尤其是化学、物理、数学等需要处理大量符号和图形的场景。                   第一作者Haoran Wei此前曾供职于阶跃星辰，期间发布并开源了GOT-OCR2.0系统                    值得注意的是，DeepSeek团队在论文里还提出了一个脑洞大开的想法——用光学压缩模拟人类的遗忘机制。                   人类的记忆会随时间衰退，越久远的事情记得越模糊。DeepSeek团队想，那能不能让AI也这样？于是，他们的方案是：                    1. 把超过第k轮的历史对话内容渲染成图像；          2. 初步压缩，实现约10倍的Token减少；          3. 对于更久远的上下文，继续缩小图像尺寸；          4. 随着图像越来越小，内容也越来越模糊，最终达到“文本遗忘”的效果。

十一 |                    这就很像人类记忆的衰退曲线，近期信息保持高保真度，久远记忆自然淡化。

十二 |                    虽然这还是个早期研究方向，但如果真能实现，对于处理超长上下文将是个巨大突破——近期上下文保持高分辨率，历史上下文占用更少计算资源，理论上可以支撑“无限上下文”。                             简言之，DeepSeek-OCR表面上是个OCR模型，但实际上是在探索一个更宏大的命题：能否用视觉模态作为LLM文本信息处理的高效压缩媒介？                    初步答案是肯定的，7—20倍的Token压缩能力已经展现出来了。                   当然，团队也承认这只是个开始。单纯的OCR还不足以完全验证“上下文光学压缩”，后续还计划开展数字–光学文本交替预训练、“大海捞针”式测试，以及其他系统性评估。                   不过不管怎么说，这在VLM和LLM的进化路上，又多了一条新赛道。                   去年这个时候，大家还在卷怎么让模型“记得更多”。今年DeepSeek直接反其道行之，不如让模型学会“忘掉一些”。                   确然，AI的进化，有时候不是做加法，而是做减法。

十三 | 小而美，也能玩出大花样，DeepSeek-OCR这个3B小模型就是最好的证明。                   GitHub主页：http://github.com/deepseek-ai/DeepSeek-OCR          论文地址：https://github.com/deepseek-ai/DeepSeek-OCR/blob/main/DeepSeek\_OCR\_paper.pdf          模型下载：https://huggingface.co/deepseek-ai/DeepSeek-OCR                    本文来自微信公众号：APPSO （ID：appsolution）。

Current article:http://www.liawucunsainantaonao.sbs/w29z72r/530hp.pptx

Published on:17:27:58