是时候用开源降低AI落地门槛了

过去三十多年,从Linux到KVM,从OpenStack到Kubernetes,IT领域众多关键技术都来自开源。开源技术不仅大幅降低了IT成本,也降低了企业技术创新的门槛。

那么,在生成式AI时代,开源能够为AI带来什么?

红帽的答案是:开源技术将推动AI更快、更广泛的应用到各行各业中。

自1993年成立至今,红帽一直是坚定的开源技术布道者和构建者。透过不久前的2024红帽论坛,「智能进化论」看到了开源技术与AI碰撞的三大关键词:简单的AI、开源的AI、混合的AI。

简单的AI:从一台Laptop开启的企业AI应用之旅

2024年9月,AI 托管平台 Hugging Face 宣布其收录的 AI 模型数量已突破 100 万个,足以证明生成式AI与大模型的火爆。

但是从通用的基础模型,到解决不同企业实际业务问题之间,仍有不小的距离。算力、人才、模型训练平台和工具、技术经验都是大模型落地过程中的普遍痛点。比如:

“能不能让基础模型使用企业自己的数据,在我选择的环境里做调优,同时只需要花费相对较小的投入?”

“我们想基于基础模型开发适配自身业务的小模型,但是团队没有AI开发经验,没有开发平台,甚至没有足够的GPU算力资源怎么开始?”

正如过去数年间,红帽通过RHEL 和 OpenShift,将Linux 和容器技术加速普及一样,用开源的方式将AI引入企业,也是AI时代红帽的愿景。

为此,红帽推出了一系列AI平台和产品,组成了企业AI应用三步曲:

第一步,借助Podman Desktop和InstructLab,用户可以在最小资源配置下试用开源AI模型和工具,比如在笔记本电脑上用CPU试跑AI模型,而不需要额外的GPU卡。

过去,很多人认为AI模型的训练不可能在一台PC上完成,必须在配备GPU卡的大型数据中心完成。红帽彻底改变了这一现实,同时也让没有IT开发经验的数据科学家和业务人员都可以参与到AI模型训练中。

借助 Podman AI Lab 扩展包,Podman Desktop可以让用户在本地环境中构建、测试和运行基础模型。只需完成几个步骤即可设置试验环境,用来试用不同的基础模型。

InstructLab是一款用于基础模型对齐的开源工具,它可以帮你从开源社区把需要的基础模型下载到本地进行训练,并大幅降低了模型微调的数据准备和技术门槛。

第二步,通过Red Hat Enterprise Linux AI(RHEL AI),在云端服务器上进一步训练模型。

如果第一步测试效果满意,用户就可以在云端服务器上进行生产级的模型训练。

RHEL AI是一个基础模型平台,它使用户能够更加便捷地开发、测试和部署生成式AI模型。

RHEL AI中整合了IBM研究院的开源授权大模型Granite、模型对齐工具InstructLab,以及包括英伟达、英特尔和AMD的GPU加速器。该解决方案被封装成一个优化的、可启动的RHEL镜像,用于在混合云环境中部署单个服务器,并已集成到OpenShift AI中。

第三步,通过OpenShift AI,在更大规模的分布式集群中进行生产级别的模型训练和部署。

如果在前面两个环节中,模型都收获了满意的效果,就可以通过更大规模的分布式集群投入生产环境。

OpenShift AI是红帽的混合机器学习运营(MLOps)平台,能够在分布式集群环境中大规模运行模型和InstructLab,可以支撑大型团队完成ML Ops的工作流程。而且,OpenShift AI支持跨云混合部署,支持本地数据中心、私有云、公有云、混合云等多种环境。

在三步曲之外,红帽还推出了丰富的AI赋能产品,比如Red Hat Lightspeed通过集成生成式人工智能(GenAI),为初学者和专家提供更顺畅的工作体验。将Red Hat Lightspeed应用于RHEL AI、OpenShift AI,用户可以通过自然语言的方式管理操作系统、容器平台甚至集群。

开源的AI:用开源社区推动大模型迭代

“你可以随处选择运行 AI 的位置,而且它将基于开源。”在2024年5月的红帽全球峰会上,红帽CEO Matt Hicks曾这样表示。

可以说,开源开放的理念,贯穿了红帽所有的AI产品与战略。

InstructLab就是一个典型的例子。InstructLab既是模型对齐的工具,也是一个开源社区,它开创了一种通过开源社区推动开源模型持续进步的新模式。

“红帽设计InstructLab有两个主要目的:第一,让客户基于Granite基础模型,使用InstructLab和自身数据训练出符合需求的模型。第二,我们邀请用户更进一步,将知识和技能反馈至上游的开源社区,将其整合到社区版本的Granite模型中。因此,InstructLab是连接社区和客户的桥梁。”红帽大中华区解决方案架构部高级总监王慧慧表示。

同时,在推动AI落地方面,开放共创是红帽坚守的理念。

“在AI应用落地方面,红帽引入了‘开放实验室’的概念,与客户的顾问团队合作,针对企业的研发、生产、市场行销和客户支持等环节,一起找出最具效能的应用场景。从一个小应用成功起步,再逐步扩展至更大的场景。”红帽全球副总裁兼大中华区总裁曹衡康表示。

“关于AI最后一公里的落地,红帽今年加速了与本土ISV及方案开发商的合作,以满足不同行业和企业的个性化需求。”红帽大中华区资深市场总监赵文斌表示。

自今年5月发布全栈AI产品以来,红帽AI系列产品在国内市场加速落地。作为红帽AI产品的首批客户之一,国内某保险行业企业在引入红帽的AI产品后,其代码合并和审查的准确率大大提升,显著提升了开发效率与客户满意度。

“去年红帽大中华区业务创下了历史新高,今年也继续以双位数增长。我们的增长来自于越来越多的企业选择开源技术,认识到开源的优势。”曹衡康表示。

红帽全球副总裁兼大中华区总裁 曹衡康

混合的AI:企业发展自主AI的必然选择

云计算时代,企业根据不同的业务负载可以灵活选择裸金属、公有云、私有云、混合云、专属云等多种部署方式。

正如云是混合的,AI也是混合的。

随着生成式AI技术的不断成熟,越来越多企业意识到,没有一款基础模型可以做到一家独大。企业根据不同业务选择最适合的模型将成为一种趋势,多个业务场景对应多个模型将成为常态。

从这个层面看,生成式AI时代也是混合AI时代。自2013年发布开放混合云战略以来,这种跨开放混合云的能力正是红帽的优势所在,其也将在AI时代进一步延续。

红帽OpenShift 产品线经理佟一舟介绍了一个金融行业客户的案例。该企业在大模型出现之前就拥有丰富的ML小模型开发实力。然而在构建生成式AI研发、生产、实施平台的时候,该企业果断选择了红帽。

一方面,大模型时代构建AI平台的难度和复杂度与小模型时代不可同日而语。另一方面,在多模型的混合场景下,企业需要找到一个中立的AI平台作为合作伙伴,才能避免被单一厂商绑定的风险。

“很多客户希望AI平台企业能够稳定为他们提供未来10年的服务,而目前很多底层技术都来自开源技术。红帽30年的开源积淀,正是很多客户看中的关键优势。”佟一舟表示。

结语

在生成式AI的时代浪潮中,开源技术正以其独特的魅力和强大的推动力,为AI的广泛应用铺设了一条坚实的道路。

开源与AI的碰撞,不仅降低了AI落地的门槛,更让企业拥有了更多的自主权和选择空间。

文中图片来自摄图网

END

本文为「智能进化论」原创作品。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.xdnf.cn/news/6212.html

如若内容造成侵权/违法违规/事实不符,请联系一条长河网进行投诉反馈,一经查实,立即删除!

相关文章

机器学习—矩阵乘法的规则

有一个23的矩阵A,有两行三列,把这个矩阵的列想象成三个向量a1,a2,a3,用一个转置,把它相乘,首先,什么是转置,把一个矩阵进行行变列,列变行的操作,所以这些行现在是一个转置…

字节面试Java基础部分——HashMap

字节面试Java基础部分 面试管:Java应该很熟悉吧,接下来问你几个Java基础问题: HashMap 是什么样的数据结构 JDK 7 中,HashMap 由“数组链表”组成,数组是 HashMap 的主体,链表则是主要为了解决哈希冲突而…

Rust 力扣 - 2461. 长度为 K 子数组中的最大和

文章目录 题目描述题解思路题解代码题目链接 题目描述 题解思路 我们遍历长度为k的窗口,用一个哈希表记录窗口内的所有元素(用来对窗口内元素去重),我们取哈希表中元素数量等于k的窗口总和的最大值 题解代码 use std::collecti…

《AI在企业战略中的关键地位:以微软和阿里为例》

内容概要 在当今商业环境中,人工智能(AI)的影响力如滔滔洪水,愈演愈烈。文章将揭示AI在企业战略中的崛起,尤其以微软和阿里巴巴为代表的企业,这两家科技巨头通过不同方式,将智能技术融入其核心…

线上lgb使用

1. 单机版模型 转 spark集群 打分 速度超快,十亿数据,十多分钟!!! 1.1 主函数-主要获取模型路径 # codingutf-8 import pyspark.sql.functions as F from pyspark.sql import SparkSession from pyspark.sql.types …

Uniapp安装Pinia并持久化(Vue3)

安装pinia 在uni-app的Vue3版本中,Pinia已被内置,无需额外安装即可直接使用(Vue2版本则内置了Vuex)。 HBuilder X项目:直接使用,无需安装。CLI项目:需手动安装,执行yarn add pinia…

JVM基础

JRE:运行java字节码的环境。它是运行已编译java程序所需要的所有内容的集合,主要包括java虚拟机JVM和java基础类库(class library) JVM:是Java Virtual Machine的缩写,即Java虚拟机。‌它是一个虚构的计算…

vm虚拟机中添加网卡却在network-scripts文件找不到,解决方法

前言 进入network-scripts文件发现只有eth0网卡 ifconfig发现添加进去了 解决方法 nmcli d s #查看目前服务器中所有网卡 手动启用该接口 nmcli d connect eth1 重启网卡 systemctl restart network 解决问题

keepalive+mysql8双主

1.概述 利用keepalived实现Mysql数据库的高可用,KeepalivedMysql双主来实现MYSQL-HA,我们必须保证两台Mysql数据库的数据完全一致,实现方法是两台Mysql互为主从关系,通过keepalived配置VIP,实现当其中的一台Mysql数据库…

论文阅读(一种基于球面投影和特征提取的岩石点云快速配准算法)

目前存在的问题: 在图像配准研究方面比点云配准更早、更有发展。相对之下,点云配准方法不成熟,将图像配准的思想与ICP相结合。 文章主要研究内容: 单站扫描仪的点云数据通过球极坐标转换为数字图像提取图像特征并去除边缘点&#…

人脸检测之MTCNN算法网络结构

MTCNN(Multi-task Cascaded Convolutional Networks)是一种用于人脸检测和关键点检测的深度学习模型,特别适合在复杂背景下识别出多尺度的人脸。它通过多任务学习来实现人脸检测和人脸关键点定位(如眼睛、鼻子、嘴巴的位置&#x…

CocosCreator 构建透明背景应用(最新版!!!)

文章目录 透明原理补充设置截图以及代码step1: electron-js mian.jsstep2:ENABLE_TRANSPARENT_CANVASstep3:SOLID_COLOR Transparentstep:4 Build Web phonestep5:package electron-js & change body background-color 效果图补充 透明原理 使用Cocos creator 做桌面应用开…

【设计模式】结构型模式(三):桥接模式、外观模式

结构型模式(三):桥接模式 4.桥接模式(Bridge)4.1 结构4.2 示例4.2.1 抽象类4.2.2 细化抽象类4.2.3 实现类接口4.2.4 具体实现类4.2.5 客户端 5.外观模式(Facade) 4.桥接模式(Bridge&…

初识Linux

Linux指令 输入指令,实际上是在Linux环境下,做Windows的操作。 ls指令 语法: ls [选项][目录或文件] 功能: 对于目录,该命令列出该目录下的所有子目录与文件。 对于文件,将列出文件名以及其他信息。 常…

【Uniapp】Uniapp Android原生插件开发指北

前言 在uniapp开发中当HBuilderX中提供的能力无法满足App功能需求,需要通过使用Andorid/iOS原生开发实现时,或者是第三方公司提供的是Android的库,这时候可使用App离线SDK开发原生插件来扩展原生能力。 插件类型有两种,Module模…

软考教材重点内容 信息安全工程师 第1章 网络信息安全概述

第 1 章 网络信息安全概述 1.1.1 网络信息安全相关概念 狭义上的网络信息安全特指网络信息系统的各组成要素符合安全属性的要求,即机密性、完整性、可用性、抗抵赖性、可控性。 广义上的网络信息安全是涉及国家安全、城市安全、经济安全、社会安全、生产安全、人身安…

Redis ——发布订阅

问题引入: 服务器A、B、C、D,客户端:C1,C2,C3,C4; 客户端基于集群聊天服务器的负载均衡分配; C1 被分配到A,C2 被分配到B,C3 被分配到C,C4 被分…

【网络】传输层协议TCP(下)

目录 四次挥手状态变化 流量控制 PSH标记位 URG标记位 滑动窗口 快重传 拥塞控制 延迟应答 mtu TCP异常情况 四次挥手状态变化 之前我们讲了四次挥手的具体过程以及为什么要进行四次挥手,下面是四次挥手的状态变化 那么我们下面可以来验证一下CLOSE_WAIT这…

单链表专题

单链表 1. 链表的概念2. 链表的分类3. 实现无头单向非循环链表(单链表)3.1 单链表的声明3.2 单链表的打印3.3 尾插3.4 头插3.5 尾删3.6 头删3.7 查找3.8 在指定位置之前插入数据3.9 在指定位置之后插入数据3.10 删除指定节点3.11 销毁链表 4. 一些细节4.…

K8S篇(基本介绍)

目录 一、什么是Kubernetes? 二、Kubernetes管理员认证(CKA) 1. 简介 2. 考试难易程度 3. 考试时长 4. 多少分及格 5. 考试费用 三、Kubernetes整体架构 Master Nodes 四、Kubernetes架构及和核心组件 五、Kubernetes各个组件及功…