DeepSeek R1 modellen zijn nu beschikbaar op AWS

Om de kracht van generatieve AI optimaal te benutten, is toegang tot diverse modellen essentieel. AWS blijft daarom de modelkeuze uitbreiden, waaronder DeepSeek-R1, op basis van klantfeedback.

Dit betekent dat je DeepSeek-R1-modellen op meerdere manieren kunt implementeren:

Amazon Bedrock Marketplace voor het DeepSeek-R1 model.

Amazon Bedrock Custom Model Import voor de gedistilleerde Llama-modellen van DeepSeek-R1.

Amazon SageMaker JumpStart voor het DeepSeek-R1 model.

Amazon EC2 Trn1-instanties (aangedreven door AWS Trainium) voor de gedistilleerde modellen.

Amazon SageMaker AI, waarmee je gedistilleerde Llama- en Qwen DeepSeek-modellen kunt draaien.

Amazon SageMaker AI ondersteunt ook het trainen van DeepSeek-modellen via de Hugging Face-integratie.

Modellen

DeepSeek-V3 in december 2024 en bracht vervolgens DeepSeek-R1 , DeepSeek-R1-Zero met 671 miljard parameters en DeepSeek-R1-Distill-modellen uit met een bereik van 1,5 tot 70 miljard parameters op 20 januari 2025. Ze voegden hun op visie gebaseerde Janus-Pro-7B -model toe op 27 januari 2025. De modellen zijn openbaar beschikbaar en zijn naar verluidt 90-95% betaalbaarder en kosteneffectiever dan vergelijkbare modellen . Volgens Deepseek valt hun model op door zijn redeneervermogen, bereikt door innovatieve trainingstechnieken zoals reinforcement learning.

Gebruikers knnen nu DeepSeek-R1-modellen implementeren in Amazon Bedrock en Amazon SageMaker AI. Amazon Bedrock is het beste voor teams die snel vooraf getrainde basismodellen willen integreren via API's. Amazon SageMaker AI is ideaal voor organisaties die geavanceerde aanpassing, training en implementatie willen, met toegang tot de onderliggende infrastructuur. Daarnaast kunt u AWS Trainium en AWS Inferentia gebruiken om DeepSeek-R1-Distill-modellen kosteneffectief te implementeren via Amazon Elastic Compute Cloud (Amazon EC2) of Amazon SageMaker AI.

Generative AI

Met AWS kunt u DeepSeek-R1-modellen gebruiken om uw generatieve AI-ideeën te bouwen, te experimenteren en verantwoord te schalen door dit krachtige, kostenefficiënte model te gebruiken met minimale infrastructuurinvesteringen. U kunt ook met vertrouwen generatieve AI-innovatie stimuleren door te bouwen op AWS-services die uniek zijn ontworpen voor beveiliging. We raden u ten zeerste aan om uw implementaties van de DeepSeek-R1-modellen te integreren met Amazon Bedrock Guardrails om een ​​beschermingslaag toe te voegen voor uw generatieve AI-toepassingen, die kunnen worden gebruikt door zowel Amazon Bedrock- als Amazon SageMaker AI-klanten.

Gebruikers kunnen  op verschillende manieren kiezen hoe ze DeepSeek-R1-modellen op AWS implementeren: 1/ Amazon Bedrock Marketplace voor het DeepSeek-R1-model, 2/ Amazon SageMaker JumpStart voor het DeepSeek-R1-model, 3/ Amazon Bedrock Custom Model Import voor de DeepSeek-R1-Distill-modellen en 4/ Amazon EC2 Trn1-instanties voor de DeepSeek-R1-Distill-modellen.

Lees meer details in de blog van AWS.