扬州城市论坛 财经 科大讯飞全球1024开发者节代码论坛 |厚植大模型土壤 与京东云拥抱AI未来

科大讯飞全球1024开发者节代码论坛 |厚植大模型土壤 与京东云拥抱AI未来

如今,人工智能已融入医疗健康、交通运输等多个社会领域,成为引领未来的战略性技术,以预训练大模型引领的人工智能创新浪潮也不断更迭。为应对训练成本急剧攀升的大模型训练,AI 开发计算平台成为重要的解决方案。

10月24日,2023科大讯飞全球1024开发者节在合肥召开,这场人工智能盛会将引领AI向新而行,探索人工智能产业未来方向与趋势。在24日下午的代码论坛主会场现场,京东云副总裁龚义成发表关于代码大模型的主题演讲,介绍京东云新上线的言犀 AI 计算平台。会议邀请了行业专家、京东云技术专家、科大讯飞业务负责人以及生态合作伙伴出席,共同探讨AI 开发计算平台的发展前景。

科大讯飞全球1024开发者节代码论坛

龚义成提高大模型开发效率迫在眉睫

京东云副总裁龚义成在主题演讲中表示,对一个大模型开发者来说,如果没有 AI 开发计算平台,意味着:在算法和应用的开发过程中,需要自己搭建底层 GPU 算力资源的调度、存储网络、模型管控等一系列体系,整体开发过程将非常原始且门槛非常高。

科大讯飞全球1024开发者节代码论坛

如今,大模型的强大势能成为许多行业里重构竞争格局的重要影响因素。在过去一段时间的实践中,京东云发现,产业大模型的挑战不仅仅在于技术本身,如何将技术与行业应用场景相结合,如何平衡成本、效率、体验,才是大模型行业落地的真正挑战。

对于想要提高大模型开发效率,帮助大模型更好得在行业中落地的公司来说,一套新的基础设施成为了必要。

京东云:言犀 AI 开发计算平台让大模型触手可及

2023科大讯飞全球1024开发者节展会现场,刚于今年9月底上线的京东言犀 AI 开发计算平台实力亮相,吸睛无数。

科大讯飞全球1024开发者节代码论坛

在大模型快速走入千行百业的当下,京东言犀 AI 开发计算平台让产业大模型开发变得门槛更低,利用和改造大模型更加简单。有过这样的计算:之前需要10余人的科学家团队工作,现在只需要1-2个算法人员,不到一周时间,言犀即可完成从数据准备、模型训练、到模型部署的全流程。

龚义成介绍,京东言犀 AI 开发计算平台覆盖了数据准备、模型开发、模型训练及模型部署的 AI 开发全流程能力,预置了主流开源大模型以及部分商业化大模型,以及一百多种推理工具和框架,能够有效降低大模型开发门槛和成本。

整体上,言犀 AI 开发计算平台能够满足不同专业程度的用户的使用需求。对于大模型算法开发者来说,能够全流程支持从数据准备、选择模型、代码调优、部署发布等工作。对于应用层开发者,能够利用无代码的方式,可视化点按选择模型、上传数据、配置参数,无需写代码即可实现任务引发,开始模型任务的训练,进而降低门槛。

科大讯飞全球1024开发者节代码论坛

未来,言犀还将继续升级平台能力,在国产硬件覆盖、模型生态合作、插件开发、应用评测服务、一体机交付、Agent 开发服务等方面继续完善,体系化地帮助解决产业大模型的开发和实施困难、大模型应用的开发困难、模型训练推理成本昂贵、模型和应用获取困难、高性能计算、高性能文件、异构硬件的使用和适配困难等问题。

科大讯飞:巧用大数据发力在“云端”

作为一家AI公司, 科大讯飞拥有超500万的生态合作伙伴以及海量数据,仅自有媒体月活用户就达到2亿,其营销业务也已经实现从零到百亿级的日交易量“飞跃”。背后强大的AI和大数据能力,是基于京东云助力构建的科大讯飞AI营销平台混合多云体系,实现了多云差异的屏蔽,做到了客户视角“一朵云”。

科大讯飞全球1024开发者节代码论坛

2019上云、用云前,科大讯飞AI营销平台使用的是自建单机房,一旦机房或者网络出现问题,业务可用性就无法保证,同时业务飞速增长也导致基础设施维护成本逐年攀升。

上京东云之后最大的改善,就是“很大的弹性”。作为国内首家提供多云多活多芯的云厂商,京东云高效、稳定、多入口的公有云平台,为AI营销构建整套广告投放公有云平台,全国不同区域的流量就近访问,大大提高了业务效率,全链路体验也得到了提升。

据悉,通过京东公有云的快速部署和按需付费优点,可以帮助科大讯飞AI营销业务降低成本20%以上。如按照618、11.11高峰需要弹性资源来计算,降低成本甚至能达到40%以上。

龚义成表示,大模型比拼已经走入落地应用的战场。京东云正提供从硬件基础设施、到智算集群,再到MaaS服务,一站式的大模型服务能力,从更强算力、更大存力、更加易用和更低门槛等方向发力,推动大模型在产业里的落地应用。

本文来自网络,不代表本站立场,转载请注明出处:https:

科大讯飞全球1024开发者节代码论坛,|厚植大模型土壤,与京东云拥抱AI未来

扬州城市论坛后续将为您提供丰富、全面的关于科大讯飞全球1024开发者节代码论坛,|厚植大模型土壤,与京东云拥抱AI未来内容,让您第一时间了解到关于科大讯飞全球1024开发者节代码论坛,|厚植大模型土壤,与京东云拥抱AI未来的热门信息。小编将持续从百度新闻、搜狗百科、微博热搜、知乎热门问答以及部分合作站点渠道收集和补充完善信息。