要是您但愿不错时常碰头欧洲杯体育，迎接标星保藏哦~

开始：骨子来自半导体行业不雅察笼统，谢谢。

据theinformation报说念，Nvidia 完成了对 GPU 云初创公司 Lepton 的收购。

尊府露馅，Lepton AI建筑于2023年，由 Meta Platforms Inc. 东说念主工智能实际室前研讨员贾扬清和Junjie Bai 联手创立。

两东说念主匡助设备了多种行业设施的 AI 器用，包括 Facebook 母公司流行的模子设备框架 PyTorch。据报说念，Lepton AI 领有约 20 名职工，其客户包括多家风险投资援救的初创公司。

该公司的同名云平台针对 AI 使命负载进行了优化。客户不错使用它来考试 AI 模子和推论推理，即在考试完成后在分娩中入手神经网罗的任务。

Lepton AI 提供了一个可视化界面，用于在其云中竖立考试集群。该公司提供多种 Nvidia 显卡供您采用。关于同期考试多个模子的团队，该平台提供了一种器用，可用于勾通料理分拨给每个项运筹帷幄硬件数目。

在考试流程中，AI 模子未必会遭受纰谬，从而缩短其输出质料。Lepton AI 平台提供了检测此类纰谬的功能。它还能发现更幽微的工夫问题，举例神经网罗在考试时代可能使用的内存逾越应有的内存的情况。

模子设备完成后，Laptop AI 客户不错将其部署在公司云中经过推理优化的实例上。该平台欢喜提供每秒逾越 600 个令牌的处理速率，同期将延长保握在 10 毫秒以下。当需求加多时，自动扩张功能会自动向客户的推理环境添加更多硬件资源。

Lepton AI 使用 vLLM 等开源器用来加快推理。该工夫将访佛的 LLM 领导合并为单个恳求，从而减少了模子必须推论的处理量。设备东说念主员还使用 vLLM 来减少其模子的内存占用。

当今尚不领悟 Nvidia 是寻求收购 Lepton AI 以获取其机器学习东说念主才，还是运筹帷幄不时提供这家初创公司的云平台。该平台与几家 Nvidia 主要客户的家具竞争。其中一家客户是东说念主工智能云运营商 CoreWeave Inc.，该公司运筹帷幄至今天晚些时辰进行初次公开募股。

就在英伟达可能收购 Lepton AI 的报说念发布几天前，有音书称该公司收购了另一家风险投资援救的东说念主工智能初创公司 Gretel Labs Inc.。据报说念，这笔交往的价值逾越 3.2 亿好意思元。Gretel 提供用于创建合成数据的器用，这些数据是自动生成的，可用于考试东说念主工智能模子。

关于英伟达来说，他们也提供云中云奇迹，这单收购会让他们大有裨益。Nvidia 的 DGX Cloud 于 2023 年推出，是在其他公司的云平台上提供的奇迹。云提供商租用 Nvidia 的奇迹器并将其部署为云，Nvidia 不错向寻求大型 GPU 超等运筹帷幄机的企业营销和销售这些云。

谷歌、微软、甲骨文和 AWS 均给与该家具，其中 AWS 将于2024 年 12 月给与该科罚决议。

天然这看起来很复杂，但确切设备和提供我方的云运筹帷幄平台将使 Nvidia 成为其一些最大客户的平直竞争敌手——在 2024 年 11 月的 2025 年第三季度财报电话会议上，该公司示意，“云奇迹提供商约占咱们数据中心销售额的一半，收入同比增长逾越 2 倍。”

该公司还领有新兴的云和软件业务，该业务平直向企业出租奇迹器并提供用于设备 AI 模子和诈欺门径的软件。在合并财报电话会议上，Nvidia 示意其软件、奇迹和援救收入创造了 15 亿好意思元的年收入。

该公司前年加多了对云奇迹的投资。Nvidia 在其 2024 年 5 月的收益论说中示意，它已欢喜在翌日几年内至少在云运筹帷幄奇迹上参加 90 亿好意思元，高于 1 月份欢喜的 45 亿好意思元。这个数字包括 DGX Cloud。

半导体杰作公众号保举

专注半导体规模更多原创骨子

温雅全国半导体产业动向与趋势

*免责声明：本文由作家原创。著述骨子系作家个东说念主不雅点，半导体行业不雅察转载仅为了传达一种不同的不雅点，不代表半导体行业不雅察对该不雅点赞同或援救，要是有任何异议，迎接关连半导体行业不雅察。

今天是《半导体行业不雅察》为您共享的第4088期骨子，迎接温雅。

『半导体第一垂直媒体』

及时 专科 原创 深度

公众号ID：icbank

心爱咱们的骨子就点“在看”共享给小伙伴哦