近日,信也科技(NYSE:FINV)推出的9¾模型管理平台在信也科技开放日上首次亮相。9¾平台能够提供一站式人工智能模型服务,它以AI技术服务集团业务全链路,助力金融科技行业集成创新。
据了解,9¾平台的名称灵感来源于哈利·波特系列中的9¾站台,该站台可以通往魔法学院开启奇妙世界,而信也科技的9¾平台,则是通过人工智能技术支持集团科技业务,并为合作伙伴赋能。
为众人所熟知的是,人工智能发展数载,它潜移默化地影响着人们的生活,在越来越多的领域发挥着举足轻重的作用。无论是行业巨头还是新兴企业,均在人工智能领域发力,力图将此技术推广到更多的应用场景。
9¾ 模型管理 平台:我从哪里来?
AI模型训练平台,基于核心模块和应用场景的不同,又可以称为深度学习平台、机器学习平台、人工智能平台。用户在AI平台能够使用不同的机器学习框架进行大规模的训练,对数据集与模型进行管理和迭代,同时通过API与本地部署等方式接入到具体业务场景中使用。
简单地说,AI平台=AI FAAS+(PAAS)+(IAAS)。业界不乏优秀的机器学习平台,如微软的Azure、亚马逊的AWS Machine Learning、阿里的PAI平台、百度的Paddle以及腾讯的TI平台。一般的平台产品基于基础的机器学习和深度学习计算框架进行二次开发,提供一站式的生态化服务,为用户提供从模型训练、模型评估、模型在线预测的全流程开发和部署支持,以期降低算法专家在工程化时的使用门槛。
9¾ 模型管理 平台 : 我的解决方案
AI平台在搭建与落地的过程中,均会遇到机器学习门槛高、落地慢、实施周期长等问题。结合日常工作流程中遇到的问题,9¾平台提供了一系列的解决方案,以解决模型落地上的一系列难题。具体问题如下:
1、模型环境构建难,从模型到服务转化慢。2、多个模型共用一套环境,但模型需要独立更新,对环境的维护需格外谨慎,变更风险巨大。3、模型服务交付周期长,工程环节耗时长,人力投入大。4、模型服务回退慢,模型发布后,如发现有问题尝试退回到上一个版本需要数分钟,乃至数小时。5、模型服务扩容慢,面对突发流量时,响应延迟。
针对以上难题,9¾平台可提供详尽的解决方案,具体体现在以下五方面:
1、模型环境标准化描述,提供一套简单、统一、覆盖广的规范来定义模型环境,加快流程。2、将统一标准描述下的模型环境镜像化,支持模型容器化运行,提供模型环境隔离和模型运营隔离。3、工程环节代码采用自动生成技术,实现人力零投入,降低边际成本。4、模型发布环节采用蓝绿发布与金丝雀发布,提供操作简单的快速版本切换与流量切分。5、利用使用率、饱和度指标配合弹性伸缩算法,提供秒级的扩容,快速响应突发流量。
9¾ 模型管理 平台:我的架构设计
根据企业不同的规模、资源及业务场景,AI平台往往有不一样的定位。例如AI和数据可同为一个中台、AI平台可视为业务中台的一部分、AI平台整合进技术中台或后台等。规模较小、资源有限的企业通常会选择使用第三方AI平台对业务进行服务,而非自建AI平台。但信也科技已有数据中台,因此信也科技的AI平台更多承担的是作为业务前台的模型算法供给角色,在数据中台的支持下,起到承载业务,对接数据与技术底层的作用。
9¾平台的架构设计
时下主流的AI平台有两种产品形态:一种是趋向AutoML,主要为非算法专家提供的可视化训练平台,通过拖拽、拉取等方式完成模型设计和训练中的组件排布,完成模型构建,例如Azure;另一种是为专业人士提供的模型设计和训练工具,将模型训练和管理通过工程化平台进行集成管理。也有集成两种方式的AI平台,例如阿里的PAI,为各种层次的人工智能工作者与爱好者提供不同专业程度的工具。
信也科技对AI平台的定位是能够快速解决问题、提高能效。因此,信也科技优先选择为算法和模型运维工程师提供针对模型生命周期管理的解决方案。
9¾平台加速了模型生成和服务化,可提供一整套从模型管理、模型训练到模型部署、模型监控的全生命周期解决方案。它不仅可帮助算法专家解决训练环境与训练过程中的保存管理问题,还可帮助解决在模型部署和上线时的各种问题,并提供线上部署模型的监控服务。
目前9¾模型管理平台已部署各类模型数百个,实现模型日服务量超过1000万;可在秒级内获取合适资源;能自动使用CPU、GPU资源,实现自动扩容,性能提升60%;模型上线仅需1分钟,大大节约了部署时间。
9¾平台的 模型训练与线上服务
此外,9¾平台为模型训练提供了多套WorkSpace(工作区)容器。一个WorkSpace中包含多种模型开发时的工具,包括Jupyter、一些常用的IDE与一个终端界面。一个模型从准备到训练结束,产出代码均可在工作区内直接完成,在工作区内可安装各种依赖、尝试各种方法,甚至提交代码至Git,直至算法专家获得满意的模型。
针对模型的部署,信也科技独创了“流水线”的概念,模型的发布流水线只需4个步骤,一般发布一个模型不超过5分钟。
针对无需在实时场景下执行、或无法在实时调用场景下执行的耗时较久的模型,9¾提供了发布为Job任务的部署方式,用户可通过Job任务执行回溯任务或更新训练数据,整个过程非常游刃有余。
模型的代码和内部逻辑将作为一个黑盒,被打包为一个docker镜像,因此模型无论以何种方式发布,发布在何种环境内,都是绝对安全可靠的。通过管理模块与实际的服务模块,用户能够完成AI项目的管理和API、Job、镜像APP等上层应用的产出,整个过程无需任何运维人员、工程人员的干预,算法专家即可独立操作完成。
9¾平台的 模型管理模块
9¾ 模型管理 平台: 未来,我去往何方?
信也科技于12月17日成功举办首届科技开放日,并于当日首次揭秘了自身的科技全景图,用图谱的形式直观展示了大数据、人工智能、智能决策产品等硬核科研成果。目前9¾平台可支持信也科技所有科技业务,覆盖多个业务场景,同时支持多家外部合作伙伴。未来,信也科技的人工智能平台将在增强模型评估功能、在线预测平台化、支持分布式训练等方面持续深入探索。
信也科技全景图
9¾平台的成功发布将进一步促进人工智能技术的研发落地,加强科研成果的转化与输出。信也科技也将通过不断的科技创新,深度参与科技赋能,与合作伙伴共谋发展,助力金融科技行业创新,使人工智能成为企业发展的重要推动力,让科技更好地服务人类社会。
申请创业报道,分享创业好点子。点击此处,共同探讨创业新机遇!
2023年7月6日,第六届世界人工智能大会(WAIC2023)在上海开幕,“人工智能大模型”是本届大会的备受瞩目的话题,据悉,在昇腾AI大模型的创新研发中,华为联手26家行业领军企业,组建了一支协同创新的“AI明星队”,云天励飞作为中国人工智能企业的杰出代表,和互联网大厂、运营商、科研院所等优秀团队
这几个月来,以ChatGPT为代表的生成式AI展现出的能力令世界惊叹。自从2016年AlphaGo战胜李世石掀起了一波AI浪潮后,AI仿佛已经沉寂了很久,ChatGPT的横空出世就如同一束耀眼的光芒,让AI这个名词重回C位。过去在AI1.0时代,主要通过训练模型来实现图像识别、声音识别、语言处理等特
文:互联网江湖作者:志刚2023年的IoT需要一个新故事。6月29日,涂鸦智能在开发者大会上,发布了企业级战略PaaS2.0,希望通过一个平台+四大开发服务,建立起IoT生态。对于这场发布会,市场的态度是积极的。美东时间6月29日收盘,涂鸦智能美股股价上涨5.6%,来到1.87美元/股。近日股价稳定
2020年底,王慧文在朋友圈写下这句话时,外界本以为这位伴随中国互联网发展而持续创业20年的人物即将告别创业舞台。但是,一个曾经多次创业,正值壮年的互联网老将心中的创业热情是难以熄灭的。
2025国际人工智能程序设计精英挑战赛(IAEPC)在香港中文大学成功举办。作为主办方之一,欧美同学基金会理事长李军接受了大赛主持人艾诚采访。在采访中,李军认为IAEPC不仅是一场“冠军中的冠军”对决,更是一次全球AI人才的线下交流盛会。大赛“史无前例”的吸引了全球青年科技精英汇聚香港,更加推动和普
2025国际人工智能程序设计精英挑战赛(IAEPC)在香港中文大学成功举办。作为大赛发起人方之一及裁判委员会负责人,施韩原与杜瑜皓接受了大赛主持人艾诚采访。裁判委员会主席施韩原分享了此次大赛的亮点,IAEPC首次引入创新赛道,探索选手如何与AI合作进行答题。裁判委员会副主席杜瑜皓认为,选手最终目标并
2025国际人工智能程序设计精英挑战赛(IAEPC)在香港中文大学成功举办。来自深圳的学生吴林林作为主办方记者团成员,采访了大赛冠军选手之一。在吴林林的采访中,选手认为与来自全球的参赛者交流是自己学到的最重要的一课。在科技与AI之前,选手们可以平等、开放、友好的交流。以下是采访实录(有删节):吴林林
2025国际人工智能程序设计精英挑战赛(IAEPC)在香港中文大学成功举办。来自深圳的学生吴林林作为主办方记者团成员,采访了大会嘉宾:全国政协委员、香港特别行政区立法会议员、香港中文大学工程学院副院长、IAEPC联合发起人黄锦辉先生。在吴林林的采访中,黄锦辉教授勉励年轻人要像懂中文和英语一样懂AI,
昨天新出了一个AI,据说比DeepSeek还牛,而截止到今早,已经有10万人在排队申请Manus邀请码了,而且它邀请码已经炒到10万了。这是北京的一家人工智能公司蝴蝶科技,创始人是一名来自华中科技大学的90后毕业生肖弘,突然向全球宣布:世界上第一款真正的人工智能、通用智能体产品出现了,名叫Manus
谣言肆虐,擦亮眼睛
苹果16弄了两个版本,一个是专门给中国人用的,准备用百度的AI,还要交钱。第二个是全世界都可以用的,用了ChatGPT,包括台湾、香港、澳门都可以用。以后都这样了。好,问题就出在这,苹果和百度的合作出现问题了,新闻连起来看,才能明白其中含义。新闻一:苹果正在和腾讯、字节初步接洽,考虑将二者的AI模型
“技术日新月异,人类生活方式正在快速转变,这一切给人类历史带来了一系列不可思议的奇点。我们曾经熟悉的一切,都开始变得陌生。”计算机之父约翰·冯·诺依曼曾这样说到。
“人工智能的商业模式,是要创造一个市场,而非一个算法”。这是世界AI泰斗MichaelI.Jordan的观点。而当前的全球AI市场,占据主导地位的中美双方,却也走出了两条截然不同的技术路径,前者执着于前沿技术的探索,后者则发力应用优化和商业化落地。南辕北辙的两个方向,或许已经无法直接进行排位先后、优