“开源领域的翘楚企业红帽,让企业用户能够利用其软件平台构建、部署和监控人工智能模型与应用。红帽OpenShift AI使企业以透明和可控的方式构建、训练、测试人工智能应用的模型,并提供优质的服务。”这段评语来自国际知名IT媒体CRN,其推出了“AI 100名单系列”,在推动AI发展的20家AI云公司中,红帽位于其中。
将开源进行到底 AI也不例外
“未来AI是开源还是闭源?当然都有,但是有一点是很确定的——红帽绝对是开源。红帽秉持我们的开源精神,100%的开源。除此之外,我们认为,云是混合的,AI也是。”红帽全球副总裁兼大中华区总裁曹衡康(Victor Tsao)坚定地表示。
在红帽整个AI战略来看,还是秉持红帽的初衷——不做硬件、也不做应用,但是在硬件和应用之间构建一个基础架构、一个平台、一个工具,与很多生态伙伴进行合作,将开源思想与开放创新实践带入AI领域。
具体来看,在AI应用层:红帽提供跨开放混合云的AI赋能的企业应用;在AI模型层:为AI模型提供多样化选择,提高AI创新的ROI;在AI平台层:红帽提供领先的AI平台,帮助企业安全高效地部署和管理AI模型和AI应用;在基础设施层:红帽为企业的AI模型和AI应用提供安全的可扩展基础设施和自动化;与此同时,红帽还为企业提供集咨询、实施、赋能三位一体的开放创新实验室服务,加速企业AI创新实施。
化繁为简 让AI模型轻量化
“我们认为企业级实施AI创新,从来不是一件简单的事情。要用开源的方式建立企业的AI应用,我们会建议客户分为三步走。”红帽大中华区解决方案架构部高级总监王慧慧(Aella Wang)表示,“第一步,在资源受限的桌面环境下,采用小数据集进行实验性训练(qlora),InstructLab未来会集成到Podman Desktop里。第二步,通过完整的合成数据生成技术,采用‘教师’模型和‘学生’模型的训练方法,进行生产级模型训练,并提供基本操作脚本化的工具支持。第三步,在更大的分布式集群的环境下,与RHEL AI一样进入了生产级的模型训练。同时,充分利用Kubernetes扩展、自动化并实现MLOps的全部功能。”
OpenShift AI:企业级AI平台的全流程解决方案
OpenShift AI的资源调度能力十分强大,支持多种GPU资源,包括来自AMD、NVIDIA、英特尔等不同厂商的异构GPU卡,能够根据需要灵活地分配计算资源,无论是在本地数据中心还是跨云环境中。这使得模型训练和调优过程更加高效,能够充分利用可用的硬件资源。
训练完成后,OpenShift AI支持将模型部署到各种环境中,包括企业数据中心、公有云、私有云,甚至是终端设备,如工控机等。这种灵活的部署能力使得AI模型能够根据实际应用场景的需求,快速地集成到企业的生产和服务中。
除了模型管理,OpenShift AI还具备AI应用的DevOps功能,支持从开发到运维的整个生命周期管理。这意味着企业可以在同一个平台上完成AI应用的开发、测试、调整、上线和运行,大大提高了开发效率和运维的便捷性。
总的来说,OpenShift AI通过其强大的集成能力、资源调度、模型部署和应用管理功能,为企业提供了一个全面、灵活且高效的AI解决方案,帮助企业加速AI技术的创新和应用,实现数字化转型。
RHEL AI:简化AI开发与部署
RHEL AI是红帽公司推出的一个专注于人工智能领域的操作系统平台。它旨在为AI模型的训练、优化和生命周期管理提供一个基础而高效的环境。RHEL AI特别适合在单一服务器或多服务器配置上运行,支持基础模型的“对齐”工作和优化,同时管理模型的整个生命周期。
RHEL AI与OpenShift AI紧密集成,所有在RHEL AI上完成的工作都能无缝迁移到OpenShift AI,因为OpenShift AI内置了RHEL AI模块。RHEL AI的推出是为了降低客户在AI环境中的门槛,提供一个较小但功能完备的工作环境,使用户能够以较低的资源和成本进行AI模型的建立和调优。
RHEL AI引入了一种新的打包方式——镜像模式,这是一种容器化的部署方法,旨在简化操作系统中新工具的集成和分发。通过镜像模式,可以将第三方开发的新模型或其他工具打包成容器,与操作系统的基础镜像结合,形成一个新的模块,然后作为一个整体发布。这种方法使得操作系统的部署像部署容器一样简单,用户可以将这些打包好的工具和应用程序安装在任何环境中,从而降低了准备AI环境的复杂性。
Podman AI Lab是Podman Desktop的扩展,专门用于AI应用开发。与传统的代码编写工具不同,Podman AI Lab提供了本地开发工作流,允许开发者在自己的机器上进行AI应用开发和模型微调。开发者可以在本地测试模型与应用的互动,并根据需要进行调整。完成开发后,所有的工作可以无缝迁移到OpenShift AI平台,这是一个更大的生产环境,确保了开发到生产的连贯性。
RHEL AI的镜像模式和Podman AI Lab的推出,都是为了提高开发效率,降低技术门槛,使得AI应用的开发、测试和部署更加灵活和便捷。通过这些工具,红帽提供了一个从开发到生产的无缝工作流,帮助开发者和企业更高效地构建和管理AI应用。
红帽还推出了跨平台的红帽Lightspeed,这是一个基于大语言模型的代码生成工具,专门训练以处理红帽内部代码和客户自动化脚本,提供高准确率的代码生成。Lightspeed可以集成到Ansible、OpenShift和RHEL中,帮助IT管理人员减轻工作量,提高自动化水平。
开源创新与智能制造的未来
红帽在过去一年中通过其开源技术和解决方案,在智能制造和工业自动化领域取得了显著成就。通过与宝马、吉利和美的等知名企业的合作,红帽展示了其OpenShift平台在降低成本、提高生产效率和推动自动化方面的实际效益。这些成功案例体现了红帽在开源社区的领导地位,以及其在推动工业4.0和智能制造方面的关键作用。
面向未来,红帽将继续专注于构建和扩展其AI生态系统。公司意识到,除了提供强大的计算资源如GPU外,更重要的是开发和部署能够带来实际价值的AI应用。红帽致力于通过其OpenShift平台,优化不同GPU资源的整合和利用,同时鼓励和支持独立软件供应商(ISV)在其平台上开发创新的AI应用。
此外,红帽还计划通过“走进客户系列”活动,进一步推广开源精神和最佳实践,与客户和合作伙伴共同探索和实现智能制造的更多可能性。通过这种方式,红帽希望建立一个更加强大和多元化的AI生态圈,推动整个行业的进步和创新。
文章来源:红帽
图片来源:红帽
转载平台:企业投稿
责任编辑:朱晓裔
审 核 人:李峥
评论
加载更多