大模型应用百花齐放,AI编程助手作为新质生产力工具为企业和开发者带来哪些价值?
日前,2024稀土开发者大会成功举办,商汤受邀出席并正式发布《采用AI编程助手,发展新质生产力》白皮书。商汤科技Copilot应用技术负责人张涛,分享了商汤代码小浣熊的产品研发路径,探讨了代码应用中的大模型演进之路,以及生成式AI技术热点在代码编程产品中的工程实践经验。
从语言大模型到代码大模型
首先,相比语言大模型,代码大模型对于信息表达和信息结构的精确性要求更严格。代码作为强形式化语言,在模型训练阶段,需要更细致的数据组织和更严谨的训练方式。
商汤代码小浣熊团队使用优质数据,对自身的语言大模型进行了继续训练和指令微调,使其达到业务最佳水平。这里的数据不仅仅是单纯的代码数据,还包括开发场景各个环节中的自然语言对话数据,保证代码大模型能够理解代码预期要完成的工作目标,做到知其然知其所以然。
从代码大模型到Copilot工具
IDE作为开发者最熟悉的开发工具,是AI辅助编程产品的最佳落地形态。以IDE插件形式将AI能力融入已有的代码开发工具,一方面能降低开发者的学习成本,另一方面借助IDE的开放生态,也为产品的快速演进提供了便利的土壤。
在解决外部代码引用问题上,代码小浣熊采用LSP作为代码知识的检索增强服务,解决了代码内容直接作为文本信息的RAG方案检索精度低、算力消耗大的问题。
商汤代码小浣熊在Agent能力方面也进行了探索,让大模型学会使用工具,自主反思,规划行动路径来独立解决问题。演讲中展示了针对Python代码执行沙箱场景,并与IDE开发API互动场景的具体案例。
《采用AI编程助手,发展新质生产力》白皮书发布
活动中,商汤智能产业研究院牵头,联合InfoQ、稀土掘金、思否、开源中国、CSDN、DataWhale,RTE开发者社区、Founder Park、异步社区等机构,正式发布《采用AI编程助手,发展新质生产力》白皮书。
该白皮书主要发现和讨论了:
遵循KRE理论架构的AI编程助手凭借强科技属性成为开发者应该掌握的新质生产力工具,企业通过AI编程助手可实现全面的高质量发展。
AI编程助手可以帮助开发者提高自身生产力,改善工作体验,帮助开发者进入和维持高效率的“心流”状态,让他们聚焦关键业务,缩短产品上市时间。
开发者正在面临角色转换的挑战,如何快速完成角色转换,从代码的执行者变成代码的协调者、AI工具的使用者,是应对生成式AI发展浪潮的关键行动。
AI编程助手评估框架从基模型、产品工程、持续迭代、市场生态四大维度16个二级指标来对厂商进行整体评估和分析,帮助开发者和企业避免被厂商的宣传和媒体的渲染造成困惑和失焦。商汤日日新·代码小浣熊在AI编程助手评估框架的打分下表现优异,整体得分高出市场平均分,体现出领先的发展优势。
企业组织应该立即行动起来,采用AI编程助手,发展新质生产力,参考最佳实践和案例的同时,识别AI编程助手的风险和“陷阱”。