Sintaksa:
Ker poznamo ChatGPT, vemo, da je ta platforma v lasti skupnosti Open AI in ponuja orodja, arhitekture, API-je in več okvirov, ki jih lahko uporabimo pri uvajanju naših aplikacij in modelov obdelave naravnega jezika. Open AI ponuja API-je, prek katerih lahko uporabimo vse vnaprej usposobljene modele AI in NLP iz platforme Open AI in jih lahko omogočimo, da delujejo za naše aplikacije, na primer za podajanje napovedi glede podatkov v realnem času. Podobno GPT4All svojim uporabnikom omogoča tudi integracijo svojih vnaprej usposobljenih modelov AI z različnimi aplikacijami.
Model GPT4All je v primerjavi s ChatGPT usposobljen na omejenih podatkih. V primerjavi s ChatGPT ima tudi nekatere omejitve glede zmogljivosti, vendar uporabniku omogoča uporabo zasebnega GPT na lokalni strojni opremi in ne potrebuje omrežnih povezav. S pomočjo tega članka bomo spoznali, kako lahko uporabljamo modele GPT4All v skriptu Python, saj ima GPT4All uradne povezave s Pythonom, kar pomeni, da lahko uporabljamo in integriramo modele GPT4All tudi preko skripta Python.
Za namestitev GPT4All za Python IDE je potreben spletni ukaz. Nato lahko integriramo toliko modelov AI, kot je naših aplikacij. Ukaz za namestitev tega GPT4All v Pythonu je prikazan v nadaljevanju:
$ pip namestite gpt4all
Primer 1:
Za začetek tega primera moramo prenesti in namestiti Python v naše sisteme. Priporočene različice Pythona so »različica 3.7« ali tiste, ki so prišle za to različico. Drug način za delo s Pythonom, da se izognemo dolgemu postopku namestitve »nastavitve Python« v naše sisteme, je uporaba »Google Colab«, ki je okolje za Python v oblaku. To okolje lahko izvajamo v katerem koli spletnem brskalniku in lahko zgradimo modele AI in strojnega učenja. Primeri, ki jih bomo implementirali tukaj, se izvajajo v Google Colab.
Ta primer pokriva metodo za namestitev GPT4All v Python in kako uporabljati njegove vnaprej usposobljene modele. Začnemo tako, da najprej namestimo GPT4All. Za to se izvede ukaz, ki smo ga prej omenili. Z izvedbo ukaza se GPT4All skupaj s svojimi paketi in ogrodji prenese in namesti.
Zdaj gremo naprej. Iz GPT4All uvozimo »GPT4All«. To projektu doda vse vnaprej usposobljene modele iz GPT4All. Zdaj lahko uporabimo kateri koli posamezen model in naredimo, da izvede napovedi za našo aplikacijo. Ko uvozimo paket GPT4All, je zdaj čas, da pokličemo to funkcijo in uporabimo model GPT4All, ki daje izhod za »dokončanje klepeta«.
Z drugimi besedami, če kar koli zahtevamo od tega modela v vhodu, to vrne v izhodu. Model, ki ga uporabljamo tukaj, je »ggml-gpt4all-j-v1.3-groovy«. Ti modeli so že shranjeni v predpomnilniku GPT4All. Te modele lahko dobite na tej povezavi ' https://github.com/nomic-ai/gpt4all/tree/main/gpt4all-chat ” za ročni prenos. Če je model že prisoten v predpomnilniku GPT4All, preprosto pokličemo ime modela in ga podamo kot vhodne parametre za funkcijo »GPT4All()«. Če smo ga ročno uspešno prenesli, posredujemo pot do mape, kjer se model nahaja. Ker je ta model za dokončanje sporočila, je sintaksa za ta model podana takole:
$ Chat_completion (sporočila)Sporočila so seznam slovarjev in vsak slovar mora vsebovati ključ »vloge« z vrednostjo uporabnika, sistema ali pomočnika ter vsebino »ključa«, ki ima vrednost kot niz. V tem primeru določimo vsebino kot 'poimenuj tri barve' in ključ vloge kot 'uporabnik'.
$model= GPT4All('ggml-gpt4all-j-v1.3-groovy')$messages = [{'role': 'user', 'content': 'Poimenuj 3 rože'}]
Po tej specifikaciji z modelom pokličemo funkcijo »chat_completion()«. Koda za to je prikazana v naslednjem izhodu:
$ !pip namestite gpt4alliz gpt4all uvozi GPT4All
model = GPT4All('ggml-gpt4all-j-v1.3-groovy')
messages = [{'role': 'user', 'content': 'Poimenuj tri barve'}]
model.chat_completion(sporočila)
Po izvedbi tega primera vrne model tri barve kot odgovor na vnos.
Primer 2:
Pokrivamo še en primer, kjer odkrivamo drugo metodo za uporabo GPT4All v Pythonu. To je mogoče storiti z uradnimi vezavami za Python, ki jih zagotavlja 'Nomic', ki je odprtokodna skupnost AI, in izvaja GPT4All. Z naslednjim ukazom integriramo »nomic« v našo konzolo Python:
$ pip install nomicKo je to nameščeno, uvozimo GPT4All iz »nomic.gpt4all«. Po uvozu GPT4All inicializiramo GPT4All s funkcijo »open()«. Nato pokličemo funkcijo »prompt()« in tej funkciji posredujemo poziv. Nato se generira hitri odgovor na podlagi poziva, ki smo ga podali kot vhod v model poziva.
!pip namestite nomiciz nomic.gpt4all uvozite GPT4All
# Inicializirajte model GPT4All
sproži = GPT4All()
initiate.open()
# Ustvarjanje odgovora na podlagi poziva
model_response = initiate.prompt('napiši kratko zgodbo o računalniku)
# prikaz ustvarjenega odgovora
print(model_response)
Izhod prikazuje takojšnji odziv modela, ki smo ga ustvarili z uporabo predhodno usposobljenega modela GPT4All v Pythonu. Če želimo izvedeti več o modelih in o tem, kako lahko te modele uporabimo za generiranje odgovorov, ali preprosto povedano, če želimo pridobiti znanje o sintaksi za generiranje odgovorov iz teh modelov, se lahko obrnemo na dodatno pomoč pri GPT4 Vse podrobnosti tehnične dokumentacije.
Zaključek
GPT4All si še vedno prizadeva doseči natančnost delovanja. Upravlja ga platforma nomic AI, katere cilj je zagotoviti umetno inteligentne klepetalne robote svojim uporabnikom na procesorjih potrošniškega razreda, saj GPT4All deluje brez omrežne povezave in grafičnih procesorjev. Ta članek nas razsvetljuje, kako spretno uporabljati PyGPT4All v okolju Python in ustvariti interakcijo med našimi aplikacijami in predhodno usposobljenimi modeli AI GPT4All. V tem priročniku smo obravnavali dve različni metodi za namestitev GPT4All v Python.