從自定義導(dǎo)入到完全托管,在Amazon Bedrock上做滿血版DeepSeek-R1企業(yè)級(jí)部署更容易了快訊
該模型現(xiàn)已在Amazon Bedrock上以完全托管模式提供——亞馬遜云科技是首個(gè)將DeepSeek-R1作為完全托管服務(wù)推出的云服務(wù)提供商,這次亞馬遜云科技在Amazon Bedrock上推出完全托管的滿血版DeepSeek-R1,點(diǎn)點(diǎn)按鈕就可完成DeepSeek-R1部署 此次在Amazon Bedrock上推出完全托管的滿血版DeepSeek-R1進(jìn)一步擴(kuò)展了亞馬遜云科技的客戶在A。
【TechWeb】3月11日消息,今年1月末,亞馬遜云科技就率先全面上線DeepSeek-R1模型,并為其客戶提供了四種部署DeepSeek-R1模型的方法,其中就包括通過Amazon Bedrock 自定義導(dǎo)入DeepSeek-R1-Distill模型。
自1月下旬該模型推出以來,已有數(shù)千名客戶使用Amazon Bedrock的自定義模型導(dǎo)入功能部署了DeepSeek-R1模型。

3月11日,亞馬遜云科技宣布在Amazon Bedrock上推出完全托管的滿血版DeepSeek-R1。
從自定義導(dǎo)入到完全托管,企業(yè)客戶通過Amazon Bedrock部署DeepSeek-R1的方法更加簡潔方便了。
亞馬遜CEO Andy Jassy就表示:“我們讓DeepSeek-R1的使用變得更加輕松。該模型現(xiàn)已在Amazon Bedrock上以完全托管模式提供——亞馬遜云科技是首個(gè)將DeepSeek-R1作為完全托管服務(wù)推出的云服務(wù)提供商。用戶無需進(jìn)行任何配置或維護(hù),即可獲得所需的全套安全防護(hù)和工具,用于構(gòu)建高效實(shí)用的生成式AI應(yīng)用。”
作為服務(wù)企業(yè)級(jí)部署大模型的平臺(tái),這次亞馬遜云科技在Amazon Bedrock上推出完全托管的滿血版DeepSeek-R1,其背后有兩個(gè)關(guān)鍵詞:一個(gè)是完全托管,一個(gè)是企業(yè)級(jí)部署。
完全托管,點(diǎn)點(diǎn)按鈕就可完成DeepSeek-R1部署
此次在Amazon Bedrock上推出完全托管的滿血版DeepSeek-R1進(jìn)一步擴(kuò)展了亞馬遜云科技的客戶在Amazon Bedrock中使用DeepSeek-R1及其蒸餾版本的方式,堪稱在亞馬遜云科技上使用DeepSeek-R1的最佳打開方式,同時(shí)也是最省心的方式。
這種方式集各種優(yōu)勢于一身:滿血版的強(qiáng)大性能、完全托管的省心省力及極致彈性,同時(shí)盡享Amazon Bedrock的各種強(qiáng)大的構(gòu)建工具與企業(yè)級(jí)的安全防護(hù)功能。
現(xiàn)在,企業(yè)無論是初創(chuàng)公司還是大型企業(yè),無論技術(shù)能力如何,都可以在Amazon Bedrock中輕松訪問完全托管、無服務(wù)器的DeepSeek-R1,并將其應(yīng)用于企業(yè)級(jí)部署。企業(yè)可以利用Amazon Bedrock強(qiáng)大的能力來解決復(fù)雜問題、編寫代碼、處理數(shù)據(jù)、分析數(shù)據(jù)等,而無需擔(dān)心任何復(fù)雜的設(shè)置或運(yùn)維。
亞馬遜云科技生成式AI副總裁Vasi Philomin表示:“借助這種完全托管的實(shí)現(xiàn)方式,客戶能夠以無服務(wù)器按token付費(fèi)的模式使用該模型,幫助他們無需管理任何基礎(chǔ)設(shè)施即可實(shí)現(xiàn)從實(shí)驗(yàn)到生產(chǎn)的規(guī)模擴(kuò)展。”
根據(jù)亞馬遜云科技提供的演示blog,現(xiàn)在企業(yè)只需要簡單幾步操作即可完成DeepSeek-R1的部署。
首先,在Amazon Bedrock的基礎(chǔ)模型中,找到DeepSeek-R1模型并選擇。

然后,選擇完全托管的的DeepSeek-R1模型,即可。

最后,值得注意的是,Amazon Bedrock還提供了多種安全防護(hù)(Guardrails)能力。用戶在左側(cè)導(dǎo)航中可以選擇配置多個(gè)過濾器創(chuàng)建護(hù)欄。

例如,如果過濾了“政治”字詞,護(hù)欄將在提示中識(shí)別該字詞,并向用戶顯示被阻止的消息。
企業(yè)級(jí)部署安全無憂:解決大模型幻覺、有害內(nèi)容問題
談到大模型安全和企業(yè)級(jí)部署,就不得不考慮到大模型天生的“幻覺問題”。
強(qiáng)大如DeepSeek-R1,也不可避免存在幻覺問題。而且,其強(qiáng)大的語言能力讓其生成的幻覺內(nèi)容變得更加隱蔽且難以識(shí)別。
此前,就有媒體在測試to C的DeepSeek時(shí)指出其以假亂真的“虛構(gòu)”能力(如下圖)。

在企業(yè)級(jí)部署上,大模型的這種幻覺和虛構(gòu)是會(huì)直接給企業(yè)帶來經(jīng)濟(jì)損失和法律糾紛的,因此是完全不可接受的。如何把控生成內(nèi)容的尺度,并避免出現(xiàn)明顯的事實(shí)性錯(cuò)誤,是企業(yè)級(jí)AI應(yīng)用中必須解決的首要問題。
亞馬遜云科技就強(qiáng)烈建議客戶將Amazon Bedrock Guardrails和Amazon Bedrock模型評(píng)估功能與DeepSeek-R1結(jié)合使用,以保護(hù)其生成式AI應(yīng)用程序。
Amazon Bedrock Guardrails就像高速公路上的護(hù)欄能防止車輛偏離道路一樣,有助于防止應(yīng)用程序生成有害或不恰當(dāng)?shù)膬?nèi)容。這包括屏蔽攻擊性語言、露骨的內(nèi)容或其他被認(rèn)為不適合最終用戶的內(nèi)容,以及識(shí)別和刪除個(gè)人數(shù)據(jù)以保護(hù)用戶隱私。
同時(shí),Amazon Bedrock Guardrails還提供自動(dòng)推理檢查功能,它可以輕松檢查因模型幻覺而導(dǎo)致的事實(shí)性錯(cuò)誤。它運(yùn)用數(shù)學(xué)邏輯方法來驗(yàn)證內(nèi)容的正確性。在那些主題廣泛且復(fù)雜、并有一套明確定義的業(yè)務(wù)規(guī)則或知識(shí)體系的領(lǐng)域,自動(dòng)推理檢查功能表現(xiàn)出色。
亞馬遜云科技大中華區(qū)產(chǎn)品部總經(jīng)理陳曉建表示:事實(shí)性錯(cuò)誤通過人工不難發(fā)現(xiàn),因?yàn)樗敲鞔_的對(duì)錯(cuò)問題。以前大模型缺乏可證明事實(shí)的邏輯,導(dǎo)致出現(xiàn)幻覺時(shí)難以糾正。但有了自動(dòng)推理技術(shù),我們能夠通過數(shù)學(xué)驗(yàn)證方式嚴(yán)密證明事實(shí)性錯(cuò)誤是否會(huì)發(fā)生,從而有效改善幻覺問題。”
事實(shí)上,有害內(nèi)容和幻覺問題只是生成式AI安全的一個(gè)方面。亞馬遜云科技提供全棧的安全防護(hù)能力和服務(wù),助力客戶高效實(shí)施安全合規(guī)。亞馬遜云科技還將廣泛的安全、合規(guī)服務(wù)與Amazon Bedrock進(jìn)行集成,提供全面的安全防護(hù),包括靜態(tài)數(shù)據(jù)和傳輸中數(shù)據(jù)加密、細(xì)粒度訪問控制、安全連接選項(xiàng)以及各種合規(guī)認(rèn)證。例如:通過Amazon KMS密鑰管理服務(wù)對(duì)靜態(tài)數(shù)據(jù)和傳輸中數(shù)據(jù)進(jìn)行加密;通過Amazon IAM進(jìn)行細(xì)粒度的身份與訪問管理;通過Amazon Network Firewall網(wǎng)絡(luò)防火墻服務(wù)來實(shí)現(xiàn)網(wǎng)絡(luò)安全;提供包括HIPAA、ISO、GDPR在內(nèi)的國際主流合規(guī)認(rèn)證;通過Amazon CloudWatch和Amazon CloudTrail進(jìn)行監(jiān)控和日志記錄等。
此外,在數(shù)據(jù)安全方面,亞馬遜云科技始終踐行“客戶始終擁有數(shù)據(jù)”的安全理念。通過Amazon Bedrock,客戶可以在確保數(shù)據(jù)安全和隱私保護(hù)的前提下,使用自有數(shù)據(jù)快速進(jìn)行基礎(chǔ)模型的微調(diào)和定制,客戶的所有數(shù)據(jù)均經(jīng)過加密,且不會(huì)離開虛擬私有云(VPC)環(huán)境。同時(shí),亞馬遜云科技確保客戶的任何數(shù)據(jù)都不會(huì)用于訓(xùn)練底層模型。
亞馬遜云科技CEO Matt Garman強(qiáng)調(diào):“自DeepSeek-R1在亞馬遜云科技上線以來,我們看到了巨大的需求,而現(xiàn)在,我們成為了首個(gè)將DeepSeek-R1作為完全托管服務(wù)推出的云服務(wù)提供商。這意味著用戶可通過無縫集成的強(qiáng)大AI能力,獲得所有核心功能:內(nèi)置安全防護(hù)、全面監(jiān)控能力、可定制護(hù)欄,以及對(duì)數(shù)據(jù)的完全掌控。”
亞馬遜云科技致力于為客戶廣泛提供來自領(lǐng)先AI公司的眾多AI模型,加速客戶構(gòu)建與擴(kuò)展生成式AI應(yīng)用。此次亞馬遜云科技在Amazon Bedrock上推出完全托管的滿血版DeepSeek-R1正是其上述理念的踐行之一。截至目前,亞馬遜云科技Amazon Bedrock上已提供來自領(lǐng)先AI公司,如AI21 Labs、亞馬遜、Anthropic、Cohere、Luma AI、Meta、Mistral AI、Stability AI、DeepSeek的高性能基礎(chǔ)模型選擇。(果青)
1.TMT觀察網(wǎng)遵循行業(yè)規(guī)范,任何轉(zhuǎn)載的稿件都會(huì)明確標(biāo)注作者和來源;
2.TMT觀察網(wǎng)的原創(chuàng)文章,請(qǐng)轉(zhuǎn)載時(shí)務(wù)必注明文章作者和"來源:TMT觀察網(wǎng)",不尊重原創(chuàng)的行為TMT觀察網(wǎng)或?qū)⒆肪控?zé)任;
3.作者投稿可能會(huì)經(jīng)TMT觀察網(wǎng)編輯修改或補(bǔ)充。