日前，2024世界人工智能大会暨人工智能全球治理高级别会议在上海盛大开幕。拓尔思(300229)应邀参会，在上海世博展览馆发布“拓天大模型AI推理应用解决方案”。同时，拓尔思数字经济研究院副院长文雅发表《AI推理应用场景的落地分享》主题演讲。

据悉，拓尔思作为国内领先的数据智能服务厂商，在数据资产建设和大模型落地方面具有先发优势，基于四大数据资产平台以及自主研发的拓天大模型一体化平台，相继推出了媒体、金融、政务、舆情、专利等垂直领域大模型，聚焦公司优势行业客户，率先实现了大模型在多个行业的应用场景落地。

在演讲中，文雅深入剖析了大模型落地的发展趋势，指出了效果未达预期的4个原因，并总结了落地过程中常见的5个“坑”，如大模型的“黑盒特性”面临业务场景高专业性和严谨性的挑战、很多应用仍停留于搜索问答层面而未深入业务工作流、以及大模型落地工程是全要素的改变，传统软件开发范式遇挑战等。

据介绍，该工程一期主要将大模型赋能于审计依据查找、审计风险分析、审计方案设计、审计方法查询、合规知识问答、审计问题诊断、审计报告撰写及访谈问卷设计8个场景，实现了审计工作的全面智能化升级。该项目以业务目标为驱动，以知识治理为先导，与业务部门一起建设了八大稽核智库，设计了覆盖经营发展、风险管理、内控合规三大维度审计监测指标600余个。建设了策略工厂，如RAG、审计问题诊断算法等，大小模型双协同，不同场景调用不同算法和技术组件。该项目实现了科技与业务的深度融合，通过应用场景的精细化切片，满足审计工作的多元化需求。

项目上线后，累计向行内70多家单位推送近百个风险模型、数十万条数据，实现了对一级分行与重点产品全面覆盖。项目效果显著，90%的用户使用率，70%的用户月活率，100% 通过知鸟各类专业测试，银行从业资格考试得分87分，GPT智能问答信息获取率与报告初稿利用率均达到90%，发挥了极高的应用价值。

文雅在演讲最后表示，大模型成功落地的五个重要保障：统一AI认知是必要前提，高质量数据与知识治理是项目核心，大小模型协同与多技术组件灵活搭配是技术关键，与业务深度融合是应用根本，全要素运营是项目优化的源泉。