河北码上网络科技|邯郸小程序开发|邯郸微信开发|邯郸网站建设

Internet Develppment
互聯網開發& 推廣服務提供商

我們擅長商業策略與用戶體驗的完美結合。

歡迎瀏覽我們的案例。

首頁 > 新聞中心 > 新聞動態 > 正文

微軟即將宣布一整套工具 但公司卻面臨內部AI服務器硬件短缺

發布時間:2023-03-16 10:10:40來源:新浪科技

  據報道,知情人士透露,雖然微軟即將宣布一整套使用 GPT-4 人工智能(AI)軟件的 Office 365 工具,但該公司現在卻面臨內部 AI 服務器硬件短缺的窘境。


圖片來自網絡/侵刪

  這迫使微軟不得不對硬件資源采取配額供應的方式,限制其他內部 AI 工具開發團隊的使用量,從而確保基于 GPT-4 的新版必應聊天機器人和即將發布的新款 Office 工具獲得足夠的資源。這種硬件短缺的現狀還對微軟的客戶產生了影響:至少有一個客戶表示,需要等待很長時間,才能使用已經通過微軟 Azure 云服務提供的 OpenAI 軟件。

  微軟表示正在加緊添置更多硬件,以便增加 AI 計算能力,但如果速度不夠快,就有可能限制其 Azure OpenAI 服務對新客戶的吸引力。這些客戶會借助此項服務將 AI 功能添加到自己的應用中。微軟原本在這種新的 AI 工具的商業化方面已經領先于谷歌,但如果遲遲不能解決硬件短缺問題,這種優勢也將難以發揮出來。

  谷歌搶在微軟之前于本周發布了自己的 AI 輔助寫作工具,包括能夠根據簡短的提示,在谷歌 Docs 和 Sheets 中自動編寫文本的軟件。

  服務器短缺正值 OpenAI 和微軟試圖快速擴大銷售范圍之際,客戶可以使用自己的數據對這種 AI 軟件進行微調,從而開發圖片生成、文檔總結、搜索引擎和聊天機器人等定制化 AI 工具。

  微軟已經向 OpenAI 投資了數十億美元,有權通過 Azure OpenAI 服務向創業公司銷售軟件。OpenAI 也將軟件直接授權給客戶使用 —— 而作為與微軟合作的一部分,所有 OpenAI 機器學習模型都必須運行在 Azure 服務器上。這兩項服務的定價相同,每次請求收費都不到一美分。

  這兩家公司在過去 3 個月推出的服務吸引了企業用戶的廣泛興趣,他們都希望將 OpenAI 的 ChatGPT 聊天機器人的底層技術整合到自家產品中。但是微軟 Azure OpenAI 服務的新客戶卻要面臨很長的等待時間。

  硬件資源短缺的核心問題在于,GPT-4 等新的 AI 大模型需要在 GPU 上運行,這種服務器芯片可以一次性處理大量數據。為了處理這個模型的龐大計算需求,微軟已將數萬個 GPU 整合成一個個群集,分散到各個數據中心里。

  在明確用戶需求量之前,微軟目前不得不將現有的大量 GPU 資源預留給新的必應 GPT-4 聊天機器人和即將推出的 GPT-4 Office 工具。

  知情人士表示,微軟 2 月剛剛推出這項必應智能聊天功能,目前還在加緊測算平均每天有多少人愿意使用這項服務。知情人士表示,這就導致工程師很難預測該功能所需的計算資源。

  而即將推出的 Office GPT-4 工具也可能導致微軟客戶對 OpenAI 聊天機器人技術的需求大幅激增。這些新功能包括 AI 文檔總結、個性化寫作建議以及編輯建議等。

  其他從事 AI 開發的微軟團隊不得不讓位于必應和 Office,包括為各種機器學習模型的開發團隊,其中就包括微軟的圖靈自然語言生成模型,它可以理解文本,之前曾為電子郵件和 Office 應用中的搜索工具提供底層技術。

  知情人士表示,當這些團隊想要使用 GPU 開發新的 AI 工具或測試現有 AI 軟件時,必須向一位公司副總裁提交特別申請,獲批后才能使用硬件。

  知情人士稱,有些申請需要等待幾天甚至幾周才能獲批。自 2022 年末,微軟就一直對內部的 GPU 資源實施配額供給,但 1 月以來的等待時間越來越長。

  微軟發言人在聲明中補充道,該公司正在為 Azure 等服務增加更多 AI 資源,并且遵循“優先滿足客戶需求并根據需求進行調整的流程”。他們還補充道,微軟并不擔心 AI 資源。

  至少有一個微軟客戶透露,他們也經歷了延遲訪問的問題。市場營銷軟件創業公司 TouchCast 創始人兼 CEO Edo Segal 說:“幾乎不可能立刻使用程序”。Edo 的公司正在為多家車企開發基于 GPT 的互動式用戶手冊,而這項技術正是通過微軟 Azure 授權的。

  現有的 AzureAI 客戶幾乎未受影響。無人駕駛汽車開發商 Cruise 和 AI 搜索創業公司 Perplexity 的發言人都表示,他們在使用 Azure 的 GPU 資源時并未遇到困難。

  去年 11 月,微軟和 GPU 生產商英偉達共同宣布,微軟將新增數萬個處理器來擴大 AI 處理能力,但目前還不清楚采購進度。

  這兩家公司還在周一共同宣布,Azure 的客戶很快就能搶先使用英偉達的新款 H100 GPU—— 這款產品尚未廣泛發布。而知情人士稱,已經有少部分微軟內部團隊開始使用 H100,但多數部門尚未獲得這項權限。
  (碼上科技

最新資訊
? 2018 河北碼上網絡科技有限公司 版權所有 冀ICP備18021892號-1   
? 2018 河北碼上科技有限公司 版權所有.
主站蜘蛛池模板: 铝合金重力铸造_铝合金翻砂铸造_铝铸件厂家-东莞市铝得旺五金制品有限公司 | 深圳天际源广告-形象堆头,企业文化墙,喷绘,门头招牌设计制作专家 | 雄松华章(广州华章MBA)官网-专注MBA/MPA/MPAcc/MEM辅导培训 | 锂辉石检测仪器,水泥成分快速分析仪-湘潭宇科分析仪器有限公司 | Q361F全焊接球阀,200X减压稳压阀,ZJHP气动单座调节阀-上海戎钛 | 【星耀裂变】_企微SCRM_任务宝_视频号分销裂变_企业微信裂变增长_私域流量_裂变营销 | 检验科改造施工_DSA手术室净化_导管室装修_成都特殊科室建设厂家_医疗净化工程公司_四川华锐 | 深圳市源和塑胶电子有限公司-首页| 烟气在线监测系统_烟气在线监测仪_扬尘检测仪_空气质量监测站「山东风途物联网」 | 广东燎了网络科技有限公司官网-网站建设-珠海网络推广-高端营销型外贸网站建设-珠海专业h5建站公司「了了网」 | 昆山新莱洁净应用材料股份有限公司-卫生级蝶阀,无菌取样阀,不锈钢隔膜阀,换向阀,离心泵 | 房车价格_依维柯/大通/东风御风/福特全顺/江铃图片_云梯搬家车厂家-程力专用汽车股份有限公司 | 干式变压器厂_干式变压器厂家_scb11/scb13/scb10/scb14/scb18干式变压器生产厂家-山东科锐变压器有限公司 | 泰安办公家具-泰安派格办公用品有限公司 | 水厂污泥地磅|污泥处理地磅厂家|地磅无人值守称重系统升级改造|地磅自动称重系统维修-河南成辉电子科技有限公司 | 理化生实验室设备,吊装实验室设备,顶装实验室设备,实验室成套设备厂家,校园功能室设备,智慧书法教室方案 - 东莞市惠森教学设备有限公司 | 首页 - 军军小站|张军博客 | 瓶盖扭矩仪(扭力值检测)-百科| 非小号行情 - 专业的区块链、数字藏品行情APP、金色财经官网 | 昊宇水工|河北昊宇水工机械工程有限公司 | 硬齿面减速机[型号全],ZQ减速机-淄博久增机械 | 船用锚链|专业锚链生产厂家|安徽亚太锚链制造有限公司 | 陕西华春网络科技股份有限公司 | 海尔生物医疗四川代理商,海尔低温冰箱四川销售-成都壹科医疗器械有限公司 | 粉末包装机,拆包机厂家,价格-上海强牛包装机械设备有限公司 | 「安徽双凯」自动售货机-无人售货机-成人用品-自动饮料食品零食售货机 | 宏源科技-房地产售楼系统|线上开盘系统|售楼管理系统|线上开盘软件 | 深圳诚暄fpc首页-柔性线路板,fpc柔性线路板打样生产厂家 | 上海网站建设-上海网站制作-上海网站设计-上海做网站公司-咏熠软件 | 安全,主动,被动,柔性,山体滑坡,sns,钢丝绳,边坡,防护网,护栏网,围栏,栏杆,栅栏,厂家 - 护栏网防护网生产厂家 | 青岛代理记账_青岛李沧代理记账公司_青岛崂山代理记账一个月多少钱_青岛德辉财税事务所官网 | DAIKIN电磁阀-意大利ATOS电磁阀-上海乾拓贸易有限公司 | PAS糖原染色-CBA流式多因子-明胶酶谱MMP-上海研谨生物科技有限公司 | 科研ELISA试剂盒,酶联免疫检测试剂盒,昆虫_植物ELISA酶免试剂盒-上海仁捷生物科技有限公司 | 低温柔性试验仪-土工布淤堵-沥青车辙试验仪-莱博特(天津)试验机有限公司 | 双能x射线骨密度检测仪_dxa骨密度仪_双能x线骨密度仪_品牌厂家【品源医疗】 | 赛默飞Thermo veritiproPCR仪|ProFlex3 x 32PCR系统|Countess3细胞计数仪|371|3111二氧化碳培养箱|Mirco17R|Mirco21R离心机|仟诺生物 | 钢板仓,大型钢板仓,钢板库,大型钢板库,粉煤灰钢板仓,螺旋钢板仓,螺旋卷板仓,骨料钢板仓 | 道康宁消泡剂-瓦克-大川进口消泡剂供应商 | 南汇8424西瓜_南汇玉菇甜瓜-南汇水蜜桃价格 | 氢氧化钙设备, 氢氧化钙生产线-淄博惠琛工贸有限公司 |