Sintaksa:
Obstaja vrsta storitev, ki jih nudi Hugging Face, vendar je ena od njegovih pogosto uporabljenih storitev »API«. API omogoča interakcijo vnaprej usposobljenega AI in velikih jezikovnih modelov z različnimi aplikacijami. Hugging Face ponuja API-je za različne modele, kot je navedeno v nadaljevanju:
- Modeli generiranja besedila
- Prevajalski modeli
- Modeli za analizo čustev
- Modeli za razvoj virtualnih agentov (inteligentni chatboti)
- Klasifikacija in regresijski modeli
Odkrijmo zdaj metodo za pridobitev našega prilagojenega API-ja sklepanja iz Hugging Face. Da bi to naredili, se moramo najprej registrirati na uradni spletni strani Hugging Face. Pridružite se tej skupnosti Hugging Face tako, da se prijavite na to spletno mesto s svojimi poverilnicami.
Ko dobimo račun na Hugging Face, moramo zdaj zahtevati API za sklepanje. Če želite zahtevati API, pojdite v nastavitve računa in izberite »Access Token«. Odpre se novo okno. Izberite možnost »Nov žeton« in nato ustvarite žeton tako, da najprej vnesete ime žetona in njegovo vlogo »WRITE«. Ustvari se nov žeton. Zdaj moramo shraniti ta žeton. Do te točke imamo svoj žeton iz objemajočega obraza. V naslednjem primeru bomo videli, kako lahko uporabimo ta žeton za pridobitev API-ja za sklepanje.
Primer 1: Kako narediti prototip z API-jem za sklepanje o objemajočem obrazu
Doslej smo razpravljali o metodi, kako začeti uporabljati Hugging Face, in smo inicializirali žeton iz Hugging Face. Ta primer prikazuje, kako lahko uporabimo ta na novo ustvarjen žeton, da pridobimo API za sklepanje za določen model (strojno učenje) in prek njega naredimo napovedi. Na domači strani Hugging Face izberite kateri koli model, s katerim želite sodelovati in ki ustreza vaši težavi. Recimo, da želimo delati s klasifikacijo besedila ali modelom analize razpoloženja, kot je prikazano v naslednjem izrezku seznama teh modelov:
Iz tega modela izberemo model analize sentimenta.
Po izbiri modela se prikaže njegova kartica modela. Ta kartica modela vsebuje informacije o podrobnostih usposabljanja modela in značilnostih modela. Naš model je osnova roBERTa, ki je usposobljena na 58M tvitih za analizo razpoloženja. Ta model ima tri glavne oznake razreda in vsak vhod kategorizira v ustrezne oznake razreda.
Če po izbiri modela izberemo gumb za uvajanje, ki je prisoten v zgornjem desnem kotu okna, se odpre spustni meni. V tem meniju moramo izbrati možnost »Inference API«.
API za sklepanje nato nudi celotno razlago, kako uporabiti ta specifični model s tem sklepanjem, in nam omogoča hitro ustvarjanje prototipa za model AI. Okno API za sklepanje prikazuje kodo, ki je napisana v skriptu Python.
To kodo kopiramo in izvedemo v katerem koli okolju IDE Python. Za to uporabljamo Google Colab. Po izvedbi te kode v lupini Python vrne izhod, ki je priložen rezultatu in predvidevanju oznake. Ta oznaka in ocena sta podana glede na naše vnose, saj smo izbrali model »analiza razpoloženja besedila«. Nato je vhod, ki ga damo modelu, pozitiven stavek, model pa je bil vnaprej usposobljen za tri razrede oznak: oznaka 0 implicira negativno, label1 implicira nevtralno, oznaka 2 pa je nastavljena na pozitivno. Ker je naš vnos pozitiven stavek, je napoved rezultata iz modela večja od drugih dveh oznak, kar pomeni, da je model napovedal stavek kot 'pozitiven'.
uvoz zahteveAPI_URL = 'https://api-inference.huggingface.co/models/cardiffnlp/twitter-roberta-base-sentiment'
glave = { 'Avtorizacija' : 'Nosilec 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' }
def poizvedbo ( tovor ) :
odgovor = zahteve. post ( API_URL , glave = glave , json = tovor )
vrnitev odgovor. json ( )
izhod = poizvedbo ( {
'vhodi' : 'Dobro se počutim, ko si z mano' ,
} )
Izhod:
Primer 2: Model povzemanja prek sklepanja
Sledimo istim korakom, kot so prikazani v prejšnjem primeru, in naredimo prototip vodila modela povzemanja z uporabo njegovega API-ja za sklepanje iz Hugging Face. Model povzemanja je vnaprej usposobljen model, ki povzema celotno besedilo, ki mu ga damo kot vhod. Pojdite na račun Hugging Face, kliknite model v zgornji menijski vrstici in nato izberite model, ki je pomemben za povzetek, ga izberite in natančno preberite njegovo kartico modela.
Model, ki smo ga izbrali, je vnaprej usposobljen model BART in je natančno prilagojen naboru podatkov dnevne pošte CNN. BART je model, ki je najbolj podoben modelu BERT, ki ima kodirnik in dekoder. Ta model je učinkovit, če je natančno nastavljen za naloge razumevanja, povzemanja, prevajanja in generiranja besedila.
Nato v zgornjem desnem kotu izberite gumb »razmestitev« in v spustnem meniju izberite API za sklepanje. API za sklepanje odpre drugo okno, ki vsebuje kodo in navodila za uporabo tega modela s tem sklepanjem.
Kopirajte to kodo in jo izvedite v lupini Python.
Model vrne izhod, ki je povzetek vhoda, ki smo mu ga posredovali.
Zaključek
Delali smo na API-ju Hugging Face Inference in se naučili, kako lahko uporabimo programabilni vmesnik te aplikacije za delo z vnaprej usposobljenimi jezikovnimi modeli. Dva primera, ki smo ju naredili v članku, sta v glavnem temeljila na modelih NLP. Hugging Face API lahko dela čudeže, če želimo razviti hiter prototip z zagotavljanjem hitre integracije modelov AI v naše aplikacije. Skratka, Hugging Face ima rešitve za vse vaše težave, od utrjevalnega učenja do računalniškega vida.