Nieuwe ChatGPT-chatfunctionaliteit geïntegreerd met Azure OpenAI Service

Ontwikkelaars kunnen ChatGPT nu rechtstreeks integreren, met behulp van een op tokens gebaseerd prijssysteem, in een groot aantal verschillende bedrijfs- en eindgebruikerstoepassingen.

Microsoft maakt het ChatGPT AI-model voor grote talen beschikbaar als preview-versie als onderdeel voor toepassingen die zijn ontworpen voor de Azure OpenAI-service van het bedrijf, waardoor de weg wordt vrijgemaakt voor ontwikkelaars om het grote taalmodel te integreren in een groot aantal verschillende bedrijfsontwikkelings- en eindgebruikerstoepassingen.

Microsoft lijkt al verschillende gebruikers te hebben gehad die met deze integratie werkten, met ODP Corporation (het moederbedrijf van Office Depot en OfficeMax), het Smart Nation Digital Government Office in Singapore en contractbeheersoftwareleverancier Icertis als referentieklanten.

Ontwikkelaars die de Azure OpenAI-service gebruiken, kunnen ChatGPT gebruiken om verschillende functies aan toepassingen toe te voegen, zoals het opnieuw toewijzen van callcentergesprekken, het automatiseren van claimverwerking en zelfs het maken van nieuwe advertenties met gepersonaliseerde inhoud.

Generatieve AI zoals ChatGPT wordt ook al gebruikt om het productaanbod van Microsoft te verbeteren. Volgens het bedrijf kan de premiumversie van Teams bijvoorbeeld AI gebruiken om hoofdstukken in gesprekken en automatisch gegenereerde samenvattingen te maken, terwijl Viva Sales gegevensgestuurde begeleiding kan bieden en e-mailinhoud kan voorstellen om teams te helpen hun klanten te bereiken.

Enterprise use cases voor Azure OpenAI ChatGPT

Ritu Jyoti, IDC group vice president voor wereldwijd AI- en automatiseringsonderzoek, zei dat de voorgestelde use cases veel zin hebben en dat ze verwacht dat veel van het initiële gebruik van Microsoft’s nieuwe ChatGPT-aangedreven aanbod intern gericht zal zijn binnen ondernemingen.

“Bijvoorbeeld, HR helpen bij het samenstellen van functiebeschrijvingen, werknemers helpen met intern kennisbeheer en ontdekking – met andere woorden, werknemers uitbreiden met interne zoekopdrachten,” zei ze.

De prijsstelling van de service werkt op tokens – één token dekt ongeveer vier tekens van een bepaalde zoekopdracht in geschreven Engels, waarbij de gemiddelde alinea inklokt op 100 tokens en een essay van 1.500 woorden op ongeveer 2.048. Volgens Jyoti is een reden waarom GPT-3-gebaseerde applicaties populairder werden vlak voordat ChatGPT viraal ging, dat de prijzen van de OpenAI-stichting daalden tot ongeveer $ 0,02 voor 1.000 tokens.

ChatGPT via Azure kost nog minder, met $ 0,002 per 1.000 tokens, waardoor de service mogelijk goedkoper is dan het gebruik van een intern groot taalmodel, voegde ze eraan toe.

“Ik denk dat de prijzen geweldig zijn,” zei Jyoti.

Microsoft lijkt de service te exploiteren met de nadruk op verantwoorde AI-praktijken, volgens Gartner vice-president en vooraanstaand analist Bern Elliot – misschien lessen hebben getrokken uit incidenten waarbij een chatbot front-end van Bing vreemd gedrag vertoonde, waaronder een gesprek met een verslaggever van de New York Times waarin de chatbot zijn liefde verklaarde en treid om hem te overtuigen zijn echtgenoot te verlaten.

“Ik denk dat Microsoft, historisch gezien, verantwoordelijke AI zeer serieus heeft genomen, en dat is hun verdienste,” zei hij. “Het hebben van een sterke staat van dienst voor ethisch gebruik en voor het leveren van enterprise-grade privacy is positief, dus ik denk dat dat in hun voordeel is.”

Dat is een belangrijke overweging, zei hij, gezien de zorgen die worden veroorzaakt door ai-gebruik in de onderneming – gegevensbescherming en contextualisering van datasets, meer specifiek. Het laatste probleem richt zich over het algemeen op het ervoor zorgen dat enterprise AI antwoorden uit de juiste basis van informatie haalt, wat ervoor zorgt dat die antwoorden correct zijn en de “hallucinaties” elimineert die worden gezien in meer algemeen gebruikte AI.

Bron: infoworld