AI应用开发新范式
作者：微信文章近年来，随着人工智能的飞速发展，云服务平台在AI应用开发中的重要性愈发凸显以AIAgent架构为核心的AI应用开发新范式，不仅为企业带来了技术革新，更为其在行业竞争中提供了强有力的推进动力。这一全新框架将深度学习、自然语言处理等前沿技术有机结合，展示出超越传统开发模式的潜力。模型正在推动历史性的技术革命，企业想要成为AI科技浪潮的赢家，需要回答是否要训练自己的行业大模型、如何寻找或打造自己的ChatGPT时刻、如何从既有的企业IT架构和组织能力上支撑落地这三个问题。
大模型的四大技术驱动力，使得AI重塑软件成为可见的未来
驱动力1：万物皆可Embedding，泛化万物的通用机器智能表示
Embedding解决了文字、图片、声音、视频转化为一个可计算的token的问题，使得纯文本NLP快速演进到多模态大模型，对整个大模型和AI技术浪潮产生根本性的影响。
驱动力2：Transformer架构催生Scaling Law，统一了模型架构
过去经典模型没有通用性能力，解决的都是个性化问题，Transformer架构目前被证明是最有效的大模型架构，模型参数规模、数据规模、训练计算量的规模都会显著提升大模型的智力能力，它的演进是有确定性方向的。
驱动力3：从智能摩尔定律到场景摩尔定律，大模型成为通用生产力引擎
算力的演进，模型智力能力和模型场景泛化能力的演进，都符合摩尔定律，甚至在一定程度上，演进的速度超过了摩尔定律；就模型而言，解决的问题和适用的场景，随着时间就会自然获得，不需要在编程或者算法设计上做太多的处理。
驱动力4：LLM OS抽象了通用AI计算架构，使AI原生应用成为可能
LLM OS是以大模型为核心处理单元所构造的一种理论计算架构，业界基于此做了通用实现，证明了它有解决通用问题的能力。
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVlLferMTk4cOkEIQFa2YyHJTtvuWb8PcZA5f3bgdib6bticdkwX0Xtwdw/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdV2NKxtBfxgI0GDmXnNXj0ctWpERBdRxCONbvM5otf6gsiaJIdvGIAR3g/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVmXj74ibnw1ERGLfduCrd3TtqHLahCLlbzhy5ib0x7VRXCsAG6jujYciaw/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVsV7zmIINtOtd3KzAdpHHe7v5rQgcMlyuhWZoia85juZX8ffX6Ta83cQ/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVl8ydQ83ibicxJ0UOV01ceXQAj449UQqIMgcqu8NmDbWMcwy5wxJiaHnRQ/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVomAfrEr52CO1D18XqRqJFAXUKBlXwbIZXgMdzxnNO1BAcSibibKIds5g/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVfz3esNt9icKYgvHYhVgNBxFsGweXial7oL9HYnsXNvaJHpErLEZmqgVA/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVzhLpribWefwrbKgYhSY3yP5r3ibiaT6Qnzia8ATacs6V7HxftfWLCPxC2w/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVvuWSicnl6nHRUY73UnrYWYfr8S1mOOT85Vwmk5OZKnEQrE5aj9LbdUw/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVGRkNRicibhkKM8CD0uXpbALYByxM8KdYFibSfNQUDHUCiaghdYZ12pVuhg/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVKCsW8bmetXRbtatuoN8RJQPBADNKqDPxyQ27XZpkJa28vCgNk5Cy5g/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVDu3ichnfvJa8ouSRZhKT6CqjxVFtN77tO1eAY1zZGDiculX9us1pNYtg/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVvnJIK4uC0vnyHfZhFZpjblL5GXiaQTln6Kf24vMey9UUibL1dusuoMdA/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVIwhWSOjWJebXBOWvlI52eTBtLSUMEYQcbgrMQgbktL1pbUKITuKuCw/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVbBBBAiaJboChd6gKSWXV0ibAeJVwicEjC43F3ucNgD9dLZian71M4r2Ewg/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVF0wv9lqwoyAsmH2fibHDN1iapic058KsDHsKFNsM5n32VAuzCRl5aZE0g/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVl6eSLRHBpVugY2Z0wiboyrUDWRHo64wSQ5wdVPn57ibR82f367bAYZeQ/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVjTEDjDA8iaREh0LHyF77zWt9r0yzmywepS4W7I074DFUHqTb8K4Neqg/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVkKnSLQKf9rTICxPksJd2TKGibrUH7ve2cDSibC3z3t8XlpdClD3Zg0Qg/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVOiazbtdiaFTFdrFdgibicppETOlTDAYGUwPvNJgG1mwppVICeE4WgGBCJA/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVgt4rD7SAa1teiaZV3YTEb1qlj9ibwo0uiap8fBIMc1uGOAvqkQSmEG4Hw/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdV530CSzMa1oC9tQHMiaPj6v5ZHLMv48hwCjDnYcKtobULmQnTm3GnRFQ/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVnbhY9Mpuy9neNF1EsrqdAIFe9rSWwiayXXnxb4I9Ubm4FOunjgVibrIA/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVuH10LNoQc8OYrsADSpiaS43wLTKZgTyPx94xPnzmWk6rliaHfo60PLBQ/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdV1q13QUDkTIIfvSGDplfpchk3p23icIgMfjSkAuo5Vbms8aj8BjZeeJQ/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdV8HGic7vEytvHXISJUpXj7ibKlzH9iaRKBWULMzBOibX0Bef27yAianibnlgg/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVIM43iaiamkRicNoicgTE9JDDyQ1gChMHx01fKe7FpXFuhSySxaoZ0MGXUA/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdV4EQB3ohuqyrgCpl2gmY1iaG1udicNnxmpoibzib8L3cmfUkc7UsEaVDhoQ/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVSEXxKib8jLcTvnQ9KT0AAorKT0ib48WzoeFQ0FwajrByJpkqz04XaspQ/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVImATVRbicb6qCcwP2KMYicdhibH7eHoduL5Tz5prbCvVvVxHRA9lg7seg/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdV1GTjxw5HKaCraXQWeDt4zS3ucB6btOSOrE2dcjDpATJBxBfbMf9CUg/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVPHIFjz0NUyBEYmron09BmGLuSb9eKDzib9PBqs7MsIzKbn5pw6w6dDg/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVIvXibLyFO0iaRdwH37cjp2q9z9oN3RyzomC2Nntvm84Cw0oHle6rqoOA/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVQiaicmwjPV3GX6VNImsEptWbu0ic3G0unOSzLNNBLMGs2LppYGUG2ejaA/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVNAGxWYBupoOnWgKnPmhv8FCCP1lfsibxjjD9Xw8dicicFicw3LKBDgdeFg/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVVETpN46u0KiaSFoiaLibLs36fBZaJ8qBJUPN9MIfNBia2HJ8jibkicGCrWNQ/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVbVEyKWT5UibBmnJhicvgbRib4fmk6WeSJUodaIGs6uZ0psw2YlZI7jo7Q/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVIQrwHTHVAHTbg2kiac1mRJ8jtMNuWfa9DjSyADv185mN1xV3qwU0CgA/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVNXO9OkzzFjsBJpBFqXZzaXDQPbsTUJnUHVXrgaR6yvwFWqXRqhnxBA/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVicvseabrfDWORbrsdxIhibqyE7NmiaQDYPJbeZMje68h03DXBR83Oxj2g/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdV1hYTSuTjwW3COq6SFI0F2m2cWGh2yWoSZw93jJspAoALOn1PHeeqkw/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVOgYbiaHTVYy0JOPy9m6jibDhkEhECuBr1paqN3EYaA20D4vXAjWxyrcw/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVjWCkNTL5MscP3trWkElsXiahQCVmrgjKTBIRbbSAbA8mFIfVIdx8TGg/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdViaibf5UDiciciaQicpnpjEWAaPibiaWvRg1NcgkwDNlbia25uuyAxkajHzuA8wg/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVpRJGjETyUaiaCM7ZCjZxqRzZBUxzjX7Lfib6bCT2WMWY0xAGt4icnLvNA/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVnzaQ2aBXd8HZnb9iarOcia0gYTgVBKL4mAq63kbfZHk7wQ7h4ouBNF9Q/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVX0yic2n4jmHJMicD2Kskapy0UOnicdqNia9L0OM4cbJlzKogUeGmdVdbKw/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVdBlnfEiaicL4PlicHXK0hR9KCpIK4QPB76RqPibwGc2uqGVLtYzcqviccXg/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVTyeL19gJiajxF4sd45GXQibarDkWorscLdHia1jBJiaJVJkPgW5vvXG4kg/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVFZ4LyibwjRaouyQQ6hMYE7iaRIdxDITrkheUcovOw89iaibySZh2we6Hog/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVxnfAWORvgZrPB88OMGqic1UR2CHNIyY8WjaU3Rk6TDO0crpmgr3vxlw/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdViamibezIkzrbWPV3ehicRMTUnR1yiavI4Mv8mQmQNg3ndEBMyMXpsqGibrA/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVktzClRdrPia51ic5GPBB5nwWibnibWbvl5Psia2Gd7RsV0thuC2UPtopOgg/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVJicAQ4jgL9uos0VIyJLibuIrNVZiaS2EmswY8WZZXphRj8btSXqE4XmbQ/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdV9K45nibftOt2L2PLTAPmmsJ5KbjB8lyEcHmG0B7vgp0eURVkVws8lhQ/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVBHiaU3gicpM2wvjibaDaurkL10iacTWVkrs4icJB6LymtM7iaCgLN9DN5xmQ/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVk5YNcwyboibxWq1OaMGqpPDVNkzgb383LTXUOEuWcQSibWzen3AWjdicQ/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVXI1qqeq7FWqSzf2sVsc6BxcKEmL8DSliaYr7oHQicES5iawcSdErj5oqQ/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVrb1icOLeOxzicYjvn9lPEbTmpMeb0XmXDhNxHkO0HJmialjBaFfjAvYfw/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdV04ugdial4PBS0es5sUibicYgsibiafCjSJRSvbQO3IWsiaV6MEvmoZYGOqicA/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVzWNspW3MzmvdfK3pSfKd4icNVKQFZEtF9kxSJHgh4JIWpFPWklT49iaA/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVoeTz5lqVVWeKN51FLKMLEd85nhBByh9C8Zz3S6w0X4iaYpXHF7N0L3Q/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVoA2e5icohTWRrq17Ujib9dvagQnr985cY9C6ZQgrRMCzJDFJTxNydqPw/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
https://mmbiz.qpic.cn/sz_mmbiz_png/z41OKKvYQO48sibckpianaJVQoNvotSMdVN7hic1NqYgbTuFtBgeA05ebliaGdvr6Bu93Cj49UHdaDyMsIB64rckCA/640?wx_fmt=png&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
AI原生应用落地企业生产场景要解决的关键挑战
安全性：数据安全、模型交互安全、应用安全；
专业性、协作性：如何让大模型能够理解并解决复杂的业务问题；
责任性：AI辅助人或者代替人，责任怎么界定，它是否能承担这个责任。
具体来说，主要有从5个方面来应对和解决：
企业词表：每个企业都有自己的术语表，要加载企业专业术语，让大模型准确理解，消除歧义，提升准确率。
领域知识库：所有大模型落地一定要外挂知识库，因为模型的训练是有周期的，但是外部的实时数据和实时的知识更新很快，所以需要让模型跟知识库结合，保证知识的动态更新，解决知识的及时性及有效性。
场景范式：模型是通用的，业务场景是多变的，如何用通用的架构解决个性化或多变的场景问题？为此，华为云参照人解决问题的思考方式，构建了7大Agent场景范式（会话交互、内容理解、感知接收、中枢决策、知识查询、设计生成、数据分析），从而简化Agent开发。
模型网关：基于大模型的应用开发一定需要模型网关，有以下方面的原因：（1）市面上的模型很多，对企业来说，包括自建的模型、外购的第三方模型，什么业务应该路由给哪一个模型，需要考虑业务路由问题。
（2）各模型在提示词输入输出的格式上有一些差异，需要一个统一的接口进行切换。
（3）大模型是个IT系统，也会出现故障甚至宕机，基于网关制定Failover机制，可以提升大模型的应用可用性。
（4）模型生成的结果，真实效果或准确性如何，要有个控制点来建立可观测性，来持续度量推理性能、成本及跟踪反馈的问题。
转自公众号：CIO之家
页:
[1]