8月19日,“人工智能赋能新型工业化供需对接深度行(亦庄站)暨AISHPerf人工智能软硬件协同工作会”在北京圆满举办。本次活动以“夯实新型工业化赋能底座 促进大模型软硬件协同创新”为主题,汇聚了多家软硬件厂商、以及行业龙头企业的大模型领域标杆性软硬件产品、系统解决方案和赋能案例,搭建供需交流平台,促进技术能力与应用场景的精准对接。东方通受邀出席会议,展示大模型中间件TongLMM、智算网络调优平台等人工智能领域的创新与探索,与业界探讨AI技术如何深度融合实体经济,促进产业升级与转型。
大模型+大数据+大算力已成为人工智能发展的主导路线,成为引领新一轮科技革命和产业革命的战略性技术,为经济高质量发展注入了新动能。在加速赋能行业高质量发展的同时,对软硬件支撑体系带来了更大挑战,人工智能产业的高速发展亟需围绕大模型高效训推和规模部署需求,推动基础软硬件兼容适配、建立面向垂直行业的基础软硬件赋能底座,进一步加快国内大模型软硬件应用生态体系的发展完善。
顺应产业趋势与发展需求,东方通大模型中间件TongLMM在东方通中间件30年深耕基础上,发挥传统中间件层的基础支撑优势,在AI系统架构下,利用向量数据库给大模型增加外部知识库,同时在中文嵌入(Embedding)、问答分离、多路召回、服务精准调用等方面做优化处理,针对应用开发,供大模型应用编排功能,包括大模型应用开发、运维一体化服务,从技术角度解耦大模型对接能力并做强中间层,为企业客户提供大模型专属能力,让更多行业客户能够更简单、便捷的构建大模型应用。
东方通大模型中间件TongLMM可提供RAG/Agents设计、应用模板、应用中心、模型管理、知识库管理、提示词管理等功能,让0基础的用户也能够快速构建基于大模型的检索增强应用(RAG)和智能体应用(Agents),具有便捷、易用性增强、精准度高、伴随业务迭代优化、安全性强、隐私保护级别高、低成本投入等显著优势,有效解决当前AI应用部署过程中存在的模型训练成本高、现有应用难与大模型全面融入、存在安全隐患、软硬件适配难等痛点问题,让用户快速拥有构建、使用大模型的能力。
东方通相关负责人表示,此次活动推动人工智能领域先进技术、能力与应用场景的对接,既为东方通等创新企业提供了展示机会,也促进了与行业内外的深度交流,加强人工智能生态协同构建。东方通将积极发挥大模型中间件TongLMM作为企业大模型应用、部署工具的作用及生态协同的优势,融合新业态、新趋势不断创新,支撑人工智能持续深入各行业应用场景,助力提升实体经济的智能化水平,共同促进企业智能化应用开发效能。