滴普科技赵杰辉:生成式AI时代,企业如何重塑数据平台与模型服务?

   时间:2024-12-03 17:18 来源:ITBEAR作者:沈如风

在中国经济大转型的关键时期,商业领域的变革与创新层出不穷,而WISE2024商业之王大会则成为了这一变革浪潮中的璀璨明珠。11月28日至29日,为期两天的36氪WISE2024商业之王大会在北京盛大召开,吸引了众多商业领袖与创新先锋共聚一堂,共同探寻中国商业浪潮中的正确方向。

今年的WISE大会以“Hard But Right Thing(正确的事)”为主题,聚焦于在充满不确定性的2024年,如何找到并坚持做正确的事。与会者普遍认为,尽管当前环境充满挑战,但正是这些挑战孕育了新的机遇与动能。

在大会的众多精彩分享中,滴普科技董事长兼CEO赵杰辉的演讲尤为引人注目。赵杰辉以《产业生成式AI落地与基础平台建设》为题,深入剖析了生成式AI如何重塑企业服务市场,以及滴普科技如何在这一变革中引领潮流。

赵杰辉指出,生成式AI的兴起不仅扩大了整个数据平台市场,还迫使所有行业内的客户和供应商重新审视并重塑自己的产品组合。他强调,未来的数据平台,无论是湖仓建设还是其他形式,都将以在AI产业中的落地为最终目标。

为了应对这一变革,滴普科技早在多年前就开始深耕企业数字化转型,致力于提供数据智能基础设施解决方案。赵杰辉表示,滴普科技的产品组合随着AI的发展和落地而不断演进,从最初的数据中台、数据集成工具、湖仓引擎等,到如今更加专注于AI基础平台的构建。

在演讲中,赵杰辉还详细介绍了滴普科技在AI落地方面的实践经验。他提到,企业要想在场景中成功落地AI,首先需要构建一个具有性价比的算力平台和一个完善的企业数据融合平台与模型服务平台。这两个平台共同构成了AI落地的坚实基础。

赵杰辉进一步解释说,模型服务平台不仅要支持大语言模型,还要能够与多个垂直模型相结合,形成完整的技术栈,才能让AI真正进入企业的核心生产环节。他强调,只有大模型是远远不够的,必须与小模型相结合,才能解决企业在业务决策和推理过程中的实际问题。

滴普科技在多个领域进行了AI落地的实践,包括大消费领域的供应链优化、生产领域的图纸辅助设计和工艺参数辅助调整等。滴普科技还与香港最大的医疗机构深度合作,推动AI在医疗健康领域的落地应用。

在基础大模型方面,赵杰辉表示,虽然媒体和创业公司有时会夸大其门槛,但从实践来看,要在大企业中落地一个大模型并产生场景价值,目前70B的模型已经足够。滴普科技目前拥有72B和34B两款模型,它们在企业应用中具有高精度、高函数调用能力和深度REG精准度等特点。

赵杰辉还提到了滴普科技在模型服务平台和基础模型之间的协同作用。他解释说,在将模型落实到企业场景时,大语言模型位于底层,而上面则需要将所用的小模型和大模型进行深度融合和协同,才能在企业中真正发挥作用。

在算力方面,滴普科技推出了与英伟达和华为合作的一体机解决方案,以满足企业在训练和推理方面的不同需求。赵杰辉认为,在初期阶段,大公司可能会倾向于购买一体机来尝试AI落地,但随着AI在产业中越来越成熟,更多的企业可能会选择租用算力。

最后,赵杰辉总结了企业在落地人工智能和大模型时需要思考的两个关键问题:一是是否升级了整个的结构化、非结构化数据平台;二是企业是否拥有完整的模型服务平台,能够将多个垂直专业模型基于大语言模型进行整合。

赵杰辉的演讲不仅为与会者提供了宝贵的洞见,也展示了滴普科技在AI落地方面的雄厚实力和丰富经验。随着生成式AI的不断发展和应用,滴普科技将继续引领企业数字化转型的潮流,为中国商业的蓬勃发展贡献更多力量。

 
 
更多>同类内容
推荐图文
推荐内容
点击排行
 
智快科技微信账号
ITBear微信账号

微信扫一扫
加微信拉群
电动汽车群
科技数码群