环球科创网

产业级AI原生应用的「超级外挂」,应用已在200+行业场景落地

更新时间:2024-06-07 18:03:20

导读 今年AI领域的热门词汇,非”AI原生应用”莫属。而现在,这个浪潮之巅的方向,又一件神兵利器有了成绩单证明——百度智能云千帆AppBuilder。...

今年AI领域的热门词汇,非”AI原生应用”莫属。

而现在,这个浪潮之巅的方向,又一件神兵利器有了成绩单证明——百度智能云千帆AppBuilder。

作为百度智能云推出的产业级AI原生应用开发平台,AppBuilder致力于打通大模型到业务的最后一公里。短短推出半年以后,AppBuilder公布了成绩单:

服务客户数已突破10万,应用已在200+行业场景落地;

原本可能需要一周的开发周期,一天就可以完成;一周时间就能完成20个应用功能更新。

总结起来就一句话:确实易用、好用、用了起作用。

但成绩之外,AppBuilder还在频繁迭代,以提供更专业的知识处理内核、更有效的AI周边组件、更灵活实用的开放方式。

百度智能云千帆AppBuilder,不仅要领先,还要持续领先。

应用已在200+行业场景落地

一个应用开发平台,除了看它开发生态的活跃程度,还看它可落地场景的深入。

开头一系列的数据已经证明,AppBuilder已经构建出了属于自己的生态。

现在随着应用广场的开放,支持用户进行一个自身应用的分发;其他用户能够在此基础上进行复制和二次调优。

这样一来,其实促进了开发者之间的交流和碰撞,更多AI原生创新应用在这当中产生。

既如此,再来看它落地的各种垂类领域。

不同于个人应用开发,只关注大模型的性价比、易用性、实际效果就好;产业级AI原生应用需要考虑的因素则更为复杂。

比如场景适配性,是否能与自身业务产线做到一个「无缝」融合;整个全生命周期开发的成本以及可持续性……

对于技术服务商来说,就不单是技术上挑战,更多是业务上的挑战,比如行业需求洞察、数据管理等等。企业需要快速迭代试错的开发工具链、灵活开放的集成与分发模式、丰富的组件与应用模版。

因此在垂类场景落地的深入,也就变成了AI原生应用产业级开发工具的核心指标。

AppBuilder产品负责人透露了两个典型案例。

在基层政务服务这一场景中,中卫慧通就基于AppBuilder构建智能咨询、政务C opilot等产品能力,再结合自身的能力(像多端应用开发和运营服务能力),形成面向基层政府的大模型应用解决方案。

截至今年5月,已在河南沈丘县、驻马店市驿城区、重庆丰都县、重庆巫溪县、天津市河西区、长沙市芙蓉区、安徽省歙县等7个区县上线,覆盖450+万人。

以重庆丰都为例,今年春节重庆市丰都县基层社会治理中心在“丰收号”政务小程序,就加入了一个知晓万事、随叫随到的“居民助手”。

它正是中卫慧通结合丰都县政务服务工作清单,构建了“问答知识库”,为居民提供咨询服务,预计今年完成60个区县落地。

像这种面向各区县长尾多元的需求,中卫慧通利用AppBuilder,可在小时级就完成效果认证,周级完成业务上线。

还有在AIoT平台。

大模型对于实体行业的赋能,AIoT或许是最佳的载体;GPT-4o的出现,给更多更丰富的人机交互体验带来想象空间,所有物理设备都有可能连上大模型,同人进行实时交互。

但随之而来,我们都知道,大模型从接入进AIoT到用户使用,这背后需要考虑的问题有很多,比如大模型的时延交互;从模型选择到接入过程的开发设计,以及硬件设备的受限都需要考虑到,最终达到模型效果与性能的平衡。

终端是最大的落地场景,国内某AIoT代表玩家第一时间选择了AppBuilder在产业中落地。它联合AppBuilder共同打造解决方案,主要集中在K12消费电子、家居、蓝牙类智能终端上部署大模型应用,预计每年都有数百万设备的增长空间。大模型,毫无疑问地成为了企业的新动能。

除此之外,传统硬件行业需要有生产能力且稳定的供应链,然而行业规模体量大,且终端形态不一,需要有针对性的进行开发。而AppBuilder加AIOT,让各类硬件更方便地获取独有技能,借助大模型这一工具将能力快速输送到了端。

该硬件厂商透露,原本开发一个AI技能需要一周的时间,但现在AppBuilder一天就能完成应用的开发与接入。

此外,在教育、电商、居民服务、生活助手、企业服务助手等领域使用的频率较高。尤其像专业问答助手、基于问答的边查边办的业务是比较常见的场景。

△华北电力大学与AppBuilder联合开发的师生专属助理“i华电”

因此综上可以看到,在AppBuilder助力下,这些AI原生应用场景都已实现产业化落地,而且在持续加速迭代中。

这需要用户自身的技术和资源积累,也与AppBuilder的产品与技术能力不无关系。

单就像企业招投标这样的场景,数据都是非结构化的,往往需要提取关键信息并且结构化输出,这对大模型在海量数据中理解逻辑和分析能力,提出了很高的要求。AppBuilder 预置高精度的知识理解与问答能力,基于定向调优的SFT模型,多场景问答准确率、友好回复、准确拒答可接受度95%以上。

不过这也只是AppBuilder背后实力的一部分,那么从整体宏观角度来看,AppBuilder背后方法论是什么?

缩短“到应用的最后一公里”

先从宏观市场来看。

市面上,号称支持AI原生应用开发的工具和平台数不胜数。这是一场不见血的激烈竞争。

3月21日升级至今,AppBuilder在这场游戏中,早早锚定了自己的出路:端起“产业级平台”的饭碗。

在市场中找准自己的发力位置,永远是摘得最终胜利的重要开始。

不过,为什么是产业级?

AppBuilder的思考是,因为产业级用户是大模型进入到千行百业业务中的最后一公里。

所有产业,只要想进行AI原生应用的开发,都要先搭好框架、选好组件,然后组装好一个个AI原生应用,再往外一层一层地集成包装成一个更完整的业务系统。

而AppBuilder要做的就是帮助企业缩短这“到应用的最后一公里”,并提供全开发周期的工具链。

到今天,AppBuilder上有三种代码形式可以选择:零代码态、低代码态、代码态。

零代码态,适用于普通需求的非技术企业,可以直接选用官方的框架、组件,无需任何代码,通过自然语言,经Agent自动调度形成应用。

最快三步,就能用零代码态完成应用的创建与分发。

代码态,这一形态适合有更高DIY功能需求的产业企业,但注意,代码态不意味着要开发人员全部写代码。

AppBuilder预置了丰富的接口、配备了一些参数,以及开箱即用的组件与框架,为开发者提供快速上手的方式,如直接调接口、调用SDK。

这种选择高度灵活,支持开发不同功能集成到不同场景中。

处于二者之间的是低代码态。这个形态适合那些有一定技术基础和接口需求的开发人员,AppBuilder为这类需求提供丰富的多模态AI组件,并支持画布式灵活编排工作流开发自定义组件,可快速将企业系统API接入应用。

应用能力,能无限拓展;输出内容,更稳定、更可控。

不同类型、不同需求的企业,都能找到合适的使用方式;且每一种使用方式,都是同等难度下最易用的模式。

这样的自身定位和用户定位角度,为AppBuilder团队指明了下功夫的方向,然后再来具体地缩短产业级用户“到应用的最后一公里”。

具体是这么完成的:

首先,AppBuilder身后是百度文心大模型,下场早、技术强,是国内大模型tier1水平。

基于此,AppBuilder预先封装和配置了大模型驱动的开发AI原生应用所需的各种组件和框架,高灵活满足各类开发需求。

据团队透露,他们专门针对框架、指令、数据链路和组件等方面进行了全方位的调优。在问答、智能体、数据处理等应用场景中,即使在同等规模的模型条件下,也能实现更优的性能表现。

原因是团队针对Agent规划能力、RAG知识离线处理在线检索架构等方面,对AppBuilder进行了很多定制化特调,“试出来的效果,比开发者自己单独接API调配后开发AI应用的效果更好”。

再者说,对于用户到底要什么、痛点在哪儿,不得不说一句AppBuilder它超懂的。

相对于个人开发门槛低、速度快、可用性高等需求,产业化AI原生应用开发的难点不只是把个人需求规模化那么简单。

对于团队侧而言,没有业务的固有用户可以服务、没有业务可以集成、缺行业需求洞察/数据与API/解决办法……

更进一步的,AppBuilder团队把洞察市场后搜集整理的企业需求做了个分类:

企业应用场景复杂;

考虑成本,追求极致性价比;

希望被提供全生命周期企业级工具链,并持续调优。

上述种种,有的需要很好的处理能力,有的需要很强的灵活性,有的需要长久的维护运营合作。而AppBuilder希望为每一类提供企业满意的解决方案。

不过很快,至少目前已经能够看到,以上的问题和痛点都迎来了新的解决办法——

AppBuilder支持企业级数据管理,支持批量数据的评估与测试,支持企业级权限管理、文件管理、资源管理、生产监控。

同时在容量、并发、响应、弹性、稳定、安全方面具备行业竞争力。

上述所有强平台能力,都被AppBuilder放在了各行各业的应用样板间里,所见demo即所得。

除上述外,AppBuilder还拥有与市场其他应用开发工具的领先至少一个身位的优势。

关于这一点,可以从以下四个方面来看:

一是强内核。

如上所述,以文心大模型为基座,以百度生态的知识能力护航,兼有百度积淀深厚的搜索架构实践、搜索技术组件,同时在长文档解析、多模态信息处理方面有所优势。

二是广开放。

AppBuilder接入的不仅有自家模型。有的开发平台只能调用几个大模型,AppBuilder的可选模型列表有几十个,自定义的模型也可以通过ModelBuilder接入。在多源模型的基础上,做到开放框架、开放渠道、集成接口。

三是高体验。

这一点更多体现在多模交互上,根据规划,未来,AppBuilder可以很好地完成3D生成等多类型信息处理;另一方面,团队计划赋予它数字形象(这也是百度所擅长的),更具有贴身助理的真人感。

四是企业级特性。

不仅全栈自研,国产可控;而且利百度智能云四层结构协同优化加速,实现最高性价比,两款主力大模型已经宣布免费。

一个时代有一个时代的开发平台

在AI时代之前,开发工具与平台的格局与今天有很大不同。

上个世纪50、60年代,程序员们的世界里出现了编译器,依托其开发软件的时代开始。

而后一步步,C语言、C++,Java/C#、中间件出现并流行……这些开发工具让每个人可以通过0和1改变世界。

2010年前后,云计算时代来临,应用开发因此开始进入云原生时代。一些支持自动化的代码构建、测试和部署流程的开发平台,开始发挥重要作用。

现在,AI时代也有AI时代的诉求。

一方面,AI原生应用还是一片荒芜,正处于一个快速发展阶段,有着巨大的市场潜力和商业价值,等待着产业与开发者们的共同挖掘——今年4月,量子位智库发布《中国AIGC应用全景报告》,预计到2030年,AI应用市场可能达到万亿规模。

另一方面,大模型的能力涌现,比低代码更低的门槛——每个人只用三两句自然语言,就可以进行应用开发,成为了开发平台和工具的必修课。于是,零代码开发方式出现并开始流行,更低门槛的开发时代来到眼前。

人人都想在“属于这个时代的开发平台”这块蛋糕上分一杯羹,因此AI时代的应用开发平台开始大量出现。

然而当下像是潮水初起的乱纪元,市面上突然涌现出大量的新的工具及平台,往往也意味着品质的参差不齐。

怎么才能挑选到一个技术前沿、保证维护、持续投入,并且能及时跟进时代技术发展的开发平台?

这个问题如今或许有了一个确定的答案。

百度智能云千帆AppBuilder。

在过往的扎实基础上,作为AI2.0时代原生的应用开发平台,近期,AppBuilder在三个方向和纬度上完成了自身的升级,分别是大模型优化、工作流完善、应用广场开放。

但这并不是AppBuilder的最终态,我们了解到,对于这个平台而言,目前已经好用、易用的状态,其所提供的能力可能只是最终目标的30%。

据介绍,AppBuilder有清晰的奔头,也是它瞄准的5个产品目标:

1、开箱即用。不管哪个垂类产业,都能快速搭建个性化应用,低成本满足瞬息万变的业务需求。

2、即刻可用。能够快速冷启,对于行业通用场景,提供业界领先的效果和性能。

3、灵活可调。业务逻辑、处理环节可调可控,支持用户结合自有数据,在业务场景达极致效果。

4、可上规模。可满足在企业场景,进行生产级的开发及应用,支持大规模并发处理,在高负载环境下依然保持高性能和稳定性。

5、广泛落地。预制丰富的行业模型、行业模版、应用样板间、组件,并具备丰富的传播方式,广泛吸引各行各业、各类用户。

目标清晰,全力以赴。

人人都在期待AI时代原生超级应用的诞生,AppBuilder不是Killer App本身,但AppBuilder在做的,就是服务好,并助推和加速它出现的进程。

肉眼可见的,AI2.0接下来的竞赛,不再只是头部大模型创业公司/大厂之间的竞争,更被抬到台前的是AI原生应用的涌现、优化、生态建设与繁荣。

在这波浪潮里,百度智能云通过AppBuilder,更加具象地定义了这一波AI的下一步发展。

免责声明:本文由用户上传,如有侵权请联系删除!