当前位置:首页 >  域名 >  正文 > 幸福来敲门

  交易 任务 SEO服务 站长团购 联盟

幸福来敲门

火车头使用Post方法采集Ajax页面教程_我的网站

侠客行

一 |     

     阿里云优惠券 先领券再下单        前面有写过一篇瀑布流的采集方法,今天在添加一个POST方法来采集Ajax刷新页面的教程。    之前的文章请看:火车头采集动态加载Ajax数据(无分页瀑布流网站)    如果遇到POST方法来架子Ajax数据,这和我之前写的是两个类型,瀑布流是直接刷新出数据的页面。    采集网站分析    采集任何一个新站前我们都要对他进行一番分析才好下手。    列表页分析    这个网站的列表页,前面并不是通过Ajax加载的。    逛一圈WAIC具身智能馆,最容易让观众停下脚步的,往往还是机器人正在做什么:抓取、搬运、行走,或者完成一项具体任务。CTRL+U可以直接看到列表内容,通过浏览器也看不到相关请求地址。    

    因为习惯原因,我直接看了下尾页列表页。

二 | 然后顺手CTRL+U看看网站代码结构有没有大的变化。

三 | 防止后期采集出错。结果就发现无法看到列表内容。

四 |          凌迪科技的展台上,同样摆出了一项直观的任务——叠衣服。浏览器可以看到一个通过post请求的地址。    

    这时候就意识到这网站列表页可能后面的应该全是通过Ajax加载的。两台机械臂将衣服、调整,再重新落回桌面。

五 |                    单看结果,这是一场机器人衣物操作演示。但凌迪科技真正想被看到的,藏在机械臂动作发生之前。

六 |          展台呈现的是机器人完成一次操作,凌迪想讲的,则是这项能力如何被训练出来。    通过笨方法,手动访问页面看看Ajax加载大概是哪些。最后找到大概从2200页左右开始Ajax加载。

七 |          要让机械臂学会叠衣服,得先把衣服变成数字世界里一个可计算的对象。    那我们采集的时候,前面的列表页就可以使用普通方式去采集(速度更快)。不同面料有多重、多滑、弹性多大、软硬如何,布碰到机械爪会怎么滑、怎么皱,这些都要先算出来。然后模型才能换着材质、换着摆放方式、换着抓取角度一遍遍练,最后再通过评测判断它到底学会没有。    2200页开始到尾页就通过post请求Ajax页面数据。    抓包获取Post数据    这个Ajax地址我在浏览器看不到任何跟页码有关的数据。                   这也是叠衣服与抓取规则刚体不同的地方。一只杯子被拿起后,形状通常不会发生明显变化;一件衣服被抓住一角,整体状态却可能随之改变。         看起来只是一次抓取和翻折,背后对应的却是机器人进入家庭、轻工业等真实场景后绕不开的一类问题:如何处理那些会折叠、滑动、缠绕和持续形变的对象。         凌迪科技此次重点展示的SynReal World,正是从这片更复杂的“柔性世界”切入。最后只能使用抓包工具看一下详细的请求内容了。         它不直接制造机器人,而是希望在机器人本体与具身模型之间,搭建一套覆盖3D资产生成、仿真训练和自动评测的一站式数据基础设施,让模型进入真实场景前,先在数字环境中经历足够多的物理交互与任务试错。

八 |          01.          机器人认出一件衣服,离叠好它还很远          过去两年,机器人的视觉识别和动作控制能力快速提升。         模型可以判断桌上放着什么,也可以根据指令生成动作。    

    使用抓包工具Fiddler    Fiddler下载地址:OneDrive-Fiddler-Setup_v5.0.20204.45441.zip    安装设置完成后我们打开浏览器。

九 | 重新访问一下采集页面,Fiddler会抓到很多请求地址。但“看见一件衣服”和“把衣服整理好”,仍然是两个不同层次的问题。

十 |     查看分析Post数据    Ctrl+F 我们搜索那个Ajax地址    

火车头使用Post方法采集Ajax页面教程
    Fiddler会以黄色将搜索到的结果显示出来,我们点击一下他。         衣服被抓住一个角,整体状态会立即改变。抓取位置、布料材质、初始褶皱和夹持力度出现细微差异,都可能让原有动作策略失效。机器人每完成一步操作,都需要重新判断物体发生了怎样的变化,并据此调整下一步动作。

十一 |          这也使柔性物体的操作数据更难规模化采集。

十二 |                    机器人一次操作失败后,工作人员往往要重新铺平衣服、整理绳索或复位物料。

十三 | 面对不同材质、尺寸、形态和摆放方式,真机数采所需的时间与人工成本会迅速。    

火车头使用Post方法采集Ajax页面教程
    在Fiddler右侧会显示这个请求地址的相关详细信息。    
    信息顶部可以看到是post请求方法。

十四 |     可以看到有我们请求的页码相关内容。         仿真由此成为具身智能扩大训练规模的重要方式。    

    访问不同页码的页面,经过研究发现规律。    
    currentPageIndex的值和页码相关,值等于页码减一。         但柔性物体仿真的难点,并不只是生成更多3D资产,数字对象还需要具备接近现实的材料属性和形变规律。

十五 |          简言之,谁更了解布料如何垂坠、拉伸、碰撞和褶皱,谁才更有可能把这类对象转化为机器人可用的训练数据。我们访问6139页时,currentPageIndex值是6138。         这也解释了,为什么一家长期服务服装行业的企业,会在此时进入具身智能。         02.          凌迪的具身智能入场券,来自十年柔性仿真积累          凌迪科技并非从机器人本体起步。    这就找到了规律,我们打开火车头采集器。但它过去十年处理的,恰好是机器人今天开始集中面对的问题——如何让计算机准确模拟柔性材料的物理变化。    火车头采集器配置分页设置    起始网址填入Ajax请求地址    

    点“高级模式”。    
    点“分页设置”,http请求方式“post”。         据了解,凌迪科技成立于2015年底,过去十年主要服务服装及轻工业,围绕数字面料、服装建模、服装设计和产业协同建立产品体系。    
    把我们Fiddler抓包获取的内容填进去。目前,其业务覆盖亚太、欧洲、美洲和非洲等区域,服务全球3000多家轻工业客户。

十六 |                    数字样衣并不只是把服装做成一个视觉逼真的3D模型。         同一件版型换一种面料,垂坠、拉伸、褶皱和贴合效果都可能发生变化。

十七 | 要在虚拟环境中还原这些差异,需要将重量、厚度、摩擦、弹性和弯曲刚度等材料属性转化为可计算的参数,并持续处理布料与人体、地面及其他布料之间的碰撞、滑动和形变。         据凌迪科技披露,其已经积累超过60万种行业面料数据库,围绕不同材料的物理属性、形变效果和仿真计算形成了长期积累。    

    将currentPageIndex值的内容替换成火车头采集器的“分页”标签。2024年至2025年,科研团队在顶级学术会议发表论文超过20篇。    
    下面填入页码。         这些能力过去主要服务服装设计和生产,如今开始被重新组织,用于机器人训练。

十八 |     页面地址是从2200到6140,上面我们分析得出post请求内容的currentPageIndex值是实际页码减一。

十九 | 所以这里面我们填2199到6139.    

    网址获取选项设置    为了筛选出我们需要的内容,我们设置一下网址获取选项。    打开浏览器F12开发工具,预览一下Ajax获取的内容。                   当然,数字样衣与机器人仿真并不能直接画等号。    
    可以看到链接的形式是    自考成考报名条件有哪些?    完整的链接地址是    https://域名/chengrenzikao/20200611152022.html    那我们就可以使用下面的规则提取地址。前者更关注设计效果和服装呈现,后者还要面对机械手接触、受力反馈、连续形变和大规模并行计算。    
    我们测试一下网址采集。    测试网址采集    点击测试可能提示“post请求必须选择网页编码”我们在火车头其他设置中将编码选为“UTF8”即可。         但两类应用共享一个底层前提:虚拟材料不能只有外观,还要能够根据物理规律发生变化。         这使凌迪科技具备了一张相对特殊的具身智能入场券。    
    可以看到已经正确获取到了链接。

| 不放心可以复制链接实际访问一下看看是否正确。    

    注意事项    采集过程注意运行线程和请求间隔时间。教程在测试时因为开的线程较多,频率过高导致对方网站开启了防CC设置。它并非从零研究布料为什么会垂坠、拉伸和褶皱,而是可以在已有的面料数据、服装仿真和物理计算能力上,继续向机器人操作与训练延伸。拉黑了我一个服务器IP,此教程写完用了两台服务器。         03.          SynReal World,把机器人训练接成一条数据管线          搭出一个仿真场景并不难,难的是让它持续生成机器人可用的训练经验。    我们实际采集可以只开1个线程,并设置合适的间隔时间,比如1000ms到1500ms左右。    本文来自2号站长网,转载请注明出处:https://www.zz2zz.com/331414.html
        
    

申请创业报道,分享创业好点子。这需要一套能够持续生成训练资产、组织模型试错,并判断机器人是否真正学会的数据基础设施。点击此处,共同探讨创业新机遇!。         SynReal World瞄准的正是这一环节。         凌迪科技将其定位为面向具身智能的全栈数据引擎,覆盖“3D资产生成—训练应用—仿真评测”完整闭环,将原本分散的建模、训练和验证环节接入同一条数据管线。                   简单来说,SynReal World搭建的,可以理解为一个面向机器人的“训练世界”:其中的物体遵循物理规律,任务可以反复运行,训练结果也能够被量化验证。         这个“训练世界”的构建,可以拆成三个环节。

|          第一步,是把数字资产变成可用的训练对象。         SynReal World支持从文字、图片和CAD等输入生成物体与任务空间,并为资产补充质量、摩擦、弹性和碰撞等物理属性。

| 其核心能力覆盖高精度形变体仿真、刚体仿真和多物理场耦合仿真。         这一区别很关键。普通3D模型解决的是物体“看起来像不像”,机器人训练关心的是施加动作之后,物体是否会按照接近现实的规律变化。

|          只有数字对象能够合理地碰撞、滑动和形变,虚拟资产才可能变成有效的训练数据。         另外,通过可仿真与交互的3D资产与场景的智能建模,SynReal World 可以对真实世界中采集的任务数据进行灯光与物体材质的泛化,解决数据有效性过低的问题。通过仿真把一条有效数据低成本变成十条,高效地实现训练数据的多样性,同时有效降低数据采集的成本。                   第二步,是把单次试错扩展为可规模化运行的训练过程。         SynReal World支持强化学习和模仿学习,可以面向灵巧手、机械臂、双足机器人和机器狗等不同形态开展训练与策略验证。         它的价值并不在于替代真机,而是承担大量高频、重复和早期探索阶段的试错,把有限的真实设备与现场资源更多用于校准、验证和落地。                   第三步,把“机器人学会了”转化为可重复验证的任务能力。         一次演示成功,并不代表模型已经掌握任务。只有在场景和变量发生变化后仍能稳定完成,能力才具备进一步迁移到真机的可能。         SynReal World将程序化评测接入训练流程,支持并行测试、成功率统计、失败模式分析和过程记录,让模型每次更新后都能在已有任务中重新验证。                   对一套具身智能数据引擎而言,完整闭环之外,还要看它能否以足够高的效率和精度运行,并接入现有研发体系。         根据凌迪科技提供的测试数据,在部分高复杂度场景中,SynReal World的仿真效率较Isaac Sim快5至10倍,静动力学误差降低近20%。         在生态层面,凌迪科技是NVIDIA Newton核心成员,SynReal World支持USD和Python API,并兼容MuJoCo、Newton等仿真引擎。

|          在SynReal World之外,凌迪科技此次还展示了面向服装等轻工业场景的数字伙伴中台StyleWork。

| 它融合AI Agent能力,让数字伙伴理解设计、选品、营销和运营等业务流程,调用专业工具并反馈结果,同时通过持续学习与记忆参与长期协作。

| 这是凌迪科技将AI嵌入真实产业流程的另一条路径。         04.          物理AI竞争,正在向“训练场”深处延伸          把资产生成、模型训练和结果验证放进同一套流程,首先解决的是研发效率。模型每更新一次,不必重新搭建场景、切换工具,再单独统计任务结果。         但这套数据管线更值得关注的地方,在于它回应了具身智能面临的一项核心约束:机器人所需的数据,无法像语言模型那样从互联网低成本获取。         语言、图像、视频,天然以数字形态存在。而机器人需要的数据,必须包含动作、接触、力和物体状态变化——每一次交互,都是一次物理事件。模型要学习的,不只是一个物体长什么样,更是对它施加动作之后会发生什么。         真机采集的速度和成本,很难跟上模型对任务多样性的需求。仿真不能取代真实世界,但它可以重新分配试错成本。                   当仿真承担越来越多训练任务,行业比拼的焦点也在转移。画面逼真不再是唯一标准。

| 更关键的问题是:虚拟世界里的物体,是否遵循真实世界的物理规律?训练结果,能不能被重复验证?从仿真中学到的经验,又能在多大程度上迁移到真机?          沿着这几个问题往下看,柔性物体成了一种更高门槛的检验标准。它更能代表家庭服务、轻工业和普遍的非结构化环境。         这正是凌迪正在卡住的位置。

|          WAIC现场,机器人依然是聚光灯下的主角。凌迪选择进入的,是聚光灯照不到的地方——机器人的训练场。         当行业竞争从“完成一次漂亮演示”,转向“以更低成本稳定学会一项任务”,谁能生成一个物理规律可靠、任务可重复、结果可验证的训练世界,谁就在为下一阶段的物理AI铺设底座。

|

Current article:http://www.liawucunsainantaonao.sbs/list_s0tlivs/9g9.xlsx

Published on:04:50:55


    文章推荐

    分类排行榜

    专栏文章

    更多>

    服务推荐