在接受媒体采访时,Roese描绘了一幅由三个截然不同但相互关联的市场组成的AI格局:预生成式AI、AI模型训练和企业AI。
他指出,虽然前两个市场已经很成熟,但企业AI市场潜力最大,不过采用曲线较慢。他解释说:“AI不是一个单一的市场——是三个完全独立但又相互关联的市场。”他指出,计算机视觉和机器人等生成式AI之前出现的技术,都是把数据提炼为生成式AI可使用格式的关键层。
第二个市场专注于训练大规模AI模型,目前是由超大规模企业以及争夺搜索和社交网络霸主地位的科技巨头主导,而戴尔在提供必要的基础设施方面发挥着关键作用。
然而,Roese认为第三个市场——企业AI——正处于转型的边缘,他指出,虽然训练市场因科技巨头对“大型集群”的大规模投资而成为新闻头条,但企业市场更专注于把AI应用于业务流程中。
“企业AI是关于了解企业中哪些流程使企业运转起来,并通过应用AI来显著改善这些流程”,这就意味着使用AI来优化供应链、改善客户服务和增强产品开发。
Roese认为,一个关键的区别是,企业主要关注推理——通过现有模型运行数据——而不是训练自己的模型,这就需要一种不同的基础设施方法:一种分布式的、针对推理进行优化的、并且可能延伸到边缘的方法。Roese观察到:“在过去六个月中,我们看到企业市场日趋成熟”,他指出,现成的AI工具和功能正在兴起,这些工具和功能针对企业,通常更擅长消费技术而不是生产技术。
六项核心能力
Roese概述了可以解决大多数企业AI用例场景的六项核心能力,并敦促CIO们应该专注于这些基础要素,而不是构建一大堆能力,这将有助于他们优先考虑把AI投资集中在那些直接利用核心能力和竞争优势的领域。
这六项能力包括基于检索增强生成(RAG)的聊天机器人、编码代理、内容AI引擎、数据管理代理、分析代理和微调基础设施。Roese表示,这些功能足以让今天的戴尔实现300多个AI用例。
具体而言,代理AI架构的兴起代表着一个重要的转折点。这些架构由更小的、更专业的AI模型组成,像“数字劳动力”一样执行特定的任务,提供更大的控制力、可解释性、以及通过微调整合专有数据的能力。
Roese表示:“你实际上是在建立一支由具有不同技能的人组成的团队”,这使得人类和AI之间能够采取一种更具协作性的方法,人类可以协调和监督这些数字代理的工作。
Roese预计,代理架构将随着标准化程度的提高而变得更加主流,从而推动企业从2025年中期开始采用面向代理的AI系统,“这可能是我们第一次看到企业AI生产显著加速,”他说。
在谈到数据泄露和代理管理方面的担忧时,Roese表示,不同类型的代理将需要不同的生命周期管理方法。
例如,具有稳定且特定任务的代理,可以像更新软件包一样进行管理,而与动态实时数据交互的代理,则应该使用RAG来访问数据,而不是将数据嵌入代理本身。
为了更好地控制和解释,组织还可以使用一组专门的代理,而不是单个的整体代理。集合中的每个代理都可以拥有针对特定功能量身定制的不同管理生命周期。
例如,在本地机器上运行的通信代理,就可以使用LangChain等工具与单个大型语言模型或者可以访问组织库存实时信息的代理进行通信。“两个代理之间的协作为您提供了看似实时的答案,尽管从生命周期的角度来看,唯一实时的是第二个代理背后的数据库,”Roese说。
他承认企业在驾驭复杂AI方面面临的挑战,并指出其中的主要障碍就是治理、“随机供应商”对推动大多数AI项目的业务部门所带来的影响,以及对可预测成本的需求。
尽管如此,Roese仍然对未来持乐观态度,建议企业应该专注于符合其核心竞争力的战略性AI实施,并利用现成的工具,“随着你实施更好的治理,事情变得更加现成,你实际上可以更快速地行动起来。”
戴尔服务器R750,R750XS,R750XA主要有什么区别?各主要用途是什么?
也许2022全球超级计算大会上最激动人心的事情之一就是戴尔的新平台。Dell PowerEdge XE9680 终于让该公司能够为其客户提供合法的高端人工智能培训平台。在2022全球超级计算大会的一个发着蓝光的角落里,巨大的系统展示给所有人看。
戴尔正在推进其AMD EPYC服务器计划。它现在提供5个支持 Gen3 EPYC CPU 的 PowerEdge 机架型号,并且正在审查的最新 R7525 提供了令人难以置信的配置支持。
在专门针对VDI优化的2U双路平台中提供加速器卡、存储和计算能力的卓越组合,最大限度地提高应用程序性能。【企业级主流服务器,一机多用】
Dell PowerEdge T440服务器适用于:WEB、文件共享、财务ERP、数据库、虚拟化存储。利用性能、容量和I/O选项满足您的独特需求
戴尔PowerEdge T640是一款用途广泛的高性能服务器,非常适合服务器虚拟化、桌面虚拟化、ERP、CRM、HPC、数据中心等。
PowerEdge M640 是一款针对密度进行了优化的半高刀片式服务器,旨在实现高性能和高效率。它非常适合 XaaS、私有云和 HPC 应用程序。
专为Web托管和多用途应用程序而设计的入门级1U机架式服务器。流畅运行ERP软件,文件共享,财务系统,数据保护等各种应用。
Dell PowerEdge T340塔式服务器,可靠运行、轻松管理并扩展业务。适合关注协作和文件共享且配有远程办公室的成长型企业。
Dell PowerEdge T140,易于使用、安全且实用的入门级服务器,适用于成长型企业。非常适合文件和打印以及销售点应用程序。
Dell EMC PowerEdge R7515 是一款单插槽 2U 服务器,专为处理软件定义的存储、虚拟化和数据分析等工作负载而设计。【按需定制,下单享好礼】
Dell EMC PowerEdge R6525 是一款具备高性能和创新功能的双插槽 1U 服务器,可处理 HPC、VDI 和虚拟化等工作负载。【现货库存、按需定制】
Dell EMC PowerEdge R7525 双插槽 2U 机架式服务器,能够提供强劲的性能和灵活的配置。可处理高性能计算HPC、VDI 和虚拟化等工作负载。
Dell EMC PowerEdge C6525 是一款计算密集型服务器,旨在提高数据中心性能,以应对各种高性能计算 (HPC) 工作负载和应用场景。
Dell Unity XT 380 是 Dell Unity XT 混合闪存阵列系列的入口点。它专为多云部署而构建,提供简单且价格合理的统一存储,旨在提高性能和效率,并在所有数据池中实现在线数据减少,并且能够运行不需要性能和延迟的通用工作负载NVMe 架构,处理内联数据缩减,并提供不影响性能的数据服务。
使用 Dell Unity XT 480 混合闪存阵列处理各种通用工作负载。这个统一的存储平台平衡了闪存的性能和磁盘的经济性,能够同时运行不需要 NVMe 架构的性能和延迟的混合应用程序工作负载,处理内联数据减少,并提供不影响性能的数据服务。
使用 Dell Unity XT 680 混合闪存阵列覆盖广泛的通用工作负载。该统一存储平台专为多云部署而构建,平衡了闪存的性能和磁盘的经济性,能够同时运行不需要 NVMe 架构的性能和延迟的混合应用程序工作负载,处理内联数据减少,并提供对性能没有影响的数据服务。
Dell Unity XT 880 混合闪存阵列平衡了闪存的性能与磁盘的经济性,能够同时运行不需要 NVMe 架构的性能和延迟的通用用途,处理内联数据减少,并提供无性能的数据服务影响。