Meta en Microsoft Integreren Llama 2 op Azure en Windows

Meta en Microsoft hebben onlangs hun samenwerking aangekondigd tijdens Microsoft Inspire, met de bedoeling de ondersteuning van de Llama 2 taalmodellen (LLMs) op Azure en Windows te introduceren. Llama 2, ontwikkeld door Meta, stelt ontwikkelaars en organisaties in staat om AI-gestuurde tools en ervaringen te creëren. Deze samenwerking onderstreept de inzet van beide bedrijven om AI toegankelijk te maken voor iedereen. Hier volgt de officiële verklaring van Meta.

Vorige week kondigde Meta aan dat ze klaar staan om een commercieel AI-model te lanceren en willen concurreren met OpenAI en Google in de race om generatieve AI.

Azure-klanten kunnen nu de Llama 2-modellen van 7B, 13B en 70B parameters op Azure verfijnen en implementeren, bekend om het ondersteunen van open en grensverleggende modellen. Daarnaast zal Llama geoptimaliseerd worden om lokaal op Windows te draaien, waardoor Windows-ontwikkelaars Llama naadloos in hun applicaties kunnen integreren.

SAMENWERKING VAN MICROSOFT MET META

Meta en Microsoft hebben al lange tijd een partnerschap op het gebied van AI, waaronder de integratie van de ONNX-runtime met PyTorch. De laatste samenwerking breidt het open model-ecosysteem van Microsoft uit en versterkt verder de positie van Azure als het wereldwijde supercomputing platform voor AI.

Het op maat gemaakte AI supercomputing platform van Azure, ontworpen om veeleisende AI-workloads te kunnen verwerken, ondersteunt de Llama 2-modellen. Ontwikkelaars krijgen toegang tot krachtige tools voor modeltraining, fijnslijpen, inferentie en AI-veiligheid.

De integratie van Llama 2-modellen in Windows verheft Windows tot het favoriete platform voor het bouwen van AI-ervaringen op maat, met gebruikmaking van tools als het Windows Subsysteem voor Linux, Windows Terminal en Microsoft Visual Studio.

Bron: Microsoft

UITBREIDING VAN AZURE AI-MODELCATALOGUS EN BESCHIKBAARHEID VOOR WINDOWS

Llama 2 is de nieuwste toevoeging aan de groeiende AI-modelcatalogus van Azure, waardoor ontwikkelaars en ML-professionals snel grote vooraf gebouwde AI-modellen kunnen ontdekken, evalueren, aanpassen en op grote schaal kunnen inzetten. De record elimineert de problemen van infrastructuurbeheer en ondersteunt optimalisatietechnieken zoals DeepSpeed en ONNX Runtime.

Windows-ontwikkelaars kunnen nieuwe ervaringen creëren met Llama 2 via de GitHub Repo. Met het Windows Subsysteem voor Linux en krachtige GPU’s kunnen ontwikkelaars Llama 2-modellen op hun Windows-pc’s fijnslijpen.

VERANTWOORDELIJK BOUWEN MET AZURE

De verantwoorde AI-benadering van Microsoft zorgt voor AI-veiligheid door middel van iteratieve, gelaagde maatregelen. Klanten kunnen Llama 2 testen met hun gegevens, prompt engineering en retrieval augmented generation (RAG) technieken gebruiken, en profiteren van Azure AI Content Safety voor een veiligere online ervaring.

De uitbreiding van de modelcatalogus met Llama 2 en de samenwerking met Meta benadrukken een verantwoorde en open benadering van AI.

Bron: Microsoft