Llama 3 je Metin najnovejši velik jezikovni model. Uporabljate ga lahko za različne namene, kot je reševanje vaših poizvedb, pomoč pri šolskih domačih nalogah in projektih itd. Lokalna uvedba Llame 3 na vašem računalniku s sistemom Windows 11 vam bo pomagala, da ga boste uporabljali kadar koli, tudi brez dostopa do interneta. Ta članek vam pokaže kako namestiti Llama 3 na računalnik z operacijskim sistemom Windows 11 .
Kako namestiti Llama 3 na računalnik z operacijskim sistemom Windows 11
Namestitev Llame 3 na računalnik z operacijskim sistemom Windows 11 prek Pythona zahteva tehnične veščine in znanje. Vendar pa vam nekatere alternativne metode omogočajo lokalno namestitev Llame 3 na vašem računalniku s sistemom Windows 11. Pokazal vam bom te metode.
Če želite namestiti Llama 3 v računalnik z operacijskim sistemom Windows 11, morate izvesti nekaj ukazov v ukaznem pozivu. Vendar vam bo to omogočilo samo uporabo njegove različice ukazne vrstice. Če želite uporabljati njegov spletni uporabniški vmesnik, morate narediti nadaljnje korake. Pokazal vam bom obe metodi.
Namestite Llama 3 v računalnik z operacijskim sistemom Windows 11 prek CMD
Če želite uvesti Llama 3 v računalnik z operacijskim sistemom Windows 11, morate namestiti Ollamo v svoj računalnik s sistemom Windows. Koraki za isto so naslednji:
- Obisk Ollamina uradna spletna stran .
- Kliknite na Prenos in nato izberite Windows .
- Zdaj kliknite na Prenos za Windows gumb za shranjevanje datoteke exe v računalnik.
- Zaženite datoteko exe, da namestite Ollamo na vaš računalnik.
Ko se Ollama namesti v vašo napravo, znova zaženite računalnik. Moral bi teči v ozadju. Vidite ga lahko v sistemski vrstici. Zdaj kliknite možnost Modeli na spletnem mestu Ollama. Videli boste njene različne modele.
Llama 3.1 je na voljo v naslednjih treh parametrih:
manjka omrežni vmesnik surface pro 3
- 8B
- 70B
- 405B
Zadnji je največji parameter in ga očitno ni mogoče zagnati na računalniku nižjega cenovnega razreda. Llama 3.2 ima naslednja dva parametra:
- 1B
- 3B
Kliknite različico Llama, ki jo želite namestiti na svoj računalnik. Na primer, če želite namestiti Llama 3.2, kliknite Llama 3.2. V spustnem meniju lahko izberete parameter, ki ga želite namestiti. Po tem kopirajte ukaz zraven in ga prilepite v ukazni poziv.
Za vaše udobje sem napisal oba ukaza za model Llama 3.2. Za namestitev modela Llama 3.2 3B zaženite naslednji ukaz:
ollama run llama3.2:3b
Za namestitev modela Llama 3.2 1B uporabite naslednji ukaz:
izklopi besedo za stiskanje slike
ollama run llama3.2:1b
Odprite ukazni poziv, vnesite katerega koli od zgoraj omenjenih ukazov (glede na vaše zahteve) in pritisnite Vnesite . Prenos zahtevanih datotek bo trajal nekaj časa. Čas prenosa bo odvisen tudi od hitrosti vaše internetne povezave. Po zaključku boste videli uspeh sporočilo v ukaznem pozivu.
Zdaj vnesite svoje sporočilo za uporabo modela Llama 3.2. Če želite namestiti model Llama 3.1, uporabite ukaze, ki so na voljo na spletnem mestu Ollama.
Ko naslednjič zaženete ukazni poziv, uporabite isti ukaz za zagon Llame 3.1 ali 3.2 na vašem računalniku.
Namestitev Llame 3 prek CMD ima eno pomanjkljivost. Ne shranjuje vaše zgodovine klepetov. Če pa ga namestite na lokalnem gostitelju, bo vaša zgodovina klepeta shranjena in dobili boste boljši uporabniški vmesnik. Naslednja metoda prikazuje, kako to storiti.
Namestite spletni uporabniški vmesnik Llama 3 v sistemu Windows 11
Uporaba Llame 3 v spletnem brskalniku zagotavlja boljši uporabniški vmesnik in tudi shrani zgodovino klepeta v primerjavi z uporabo v oknu CMD. Pokazal vam bom, kako namestiti Llamo 3 v vaš spletni brskalnik.
Če želite uporabljati Llamo 3 v svojem spletnem brskalniku, mora biti v vašem sistemu nameščen Llama 3 prek Ollame in Dockerja. Če Llame 3 še niste namestili, jo namestite z Ollamo (kot je razloženo zgoraj). Zdaj prenesite in namestite Docker iz njegovega uradna spletna stran .
prednosti Microsoftovega računa
Ko namestite Docker, ga zaženite in se prijavite za ustvarjanje računa. Docker ne bo deloval, dokler se ne prijavite. Po prijavi se prijavite v svoj račun v aplikaciji Docker. Minimizirajte Docker na sistemski pladenj. Aplikacije Docker in Ollama bi se morale izvajati v ozadju. V nasprotnem primeru Llame 3 ne morete uporabljati v spletnem brskalniku.
Zdaj odprite ukazni poziv, kopirajte naslednji ukaz in ga prilepite v ukazni poziv:
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
Zgornji ukaz bo potreboval nekaj časa za prenos zahtevanih virov. Zato bodite potrpežljivi. Po zaključku ukaza odprite Docker in izberite Zabojniki razdelek z leve strani. Videli boste, da je vsebnik samodejno ustvarjen z vrati 3000:8080.
Kliknite na vrata 3000:8080. To bo odprlo nov zavihek v vašem privzetem spletnem brskalniku. Zdaj se prijavite in prijavite za uporabo Llama 3 v vašem spletnem brskalniku. Če vidite naslovno vrstico, boste videli lokalni gostitelj: 3000 tam, kar pomeni, da Llama 3 gostuje lokalno na vašem računalniku. Uporabljate ga lahko brez internetne povezave.
vtičnica USB
V spustnem meniju izberite svoj model klepeta Llama. Če želite dodati več modelov klepeta Llame 3, jo morate namestiti prek Ollame z zahtevanimi ukazi. Po tem bo model samodejno na voljo v vašem spletnem brskalniku.
Vsa vaša zgodovina klepetov bo shranjena in dostopna na levi strani. Ko želite zapustiti sejo, se odjavite v spletnem brskalniku. Po tem odprite aplikacijo Docker in kliknite na Stop gumb za zaustavitev Dockerja. Zdaj lahko zaprete Docker.
Ko boste naslednjič želeli uporabiti Llama 3 v svojem spletnem brskalniku, zaženite Ollamo in Docker, počakajte nekaj minut in nato kliknite vrata v vsebniku Docker, da odprete strežnik lokalnega gostitelja v svojem spletnem brskalniku. Zdaj se prijavite v svoj račun in začnite uporabljati Llama 3.
Upam, da bo to pomagalo.
Ali lahko Llama 3 deluje v sistemu Windows?
Odvisno od konfiguracije strojne opreme vašega računalnika lahko zaženete Llama 3 v vašem sistemu. Njegov model 1B je najlažji. Lahko ga namestite in zaženete v vašem sistemu prek ukaznega poziva.
Koliko RAM-a potrebujem za Llama 3?
Najlažji model Llame 3 je Llama 3.2 1B. Vaš sistem mora imeti 16 GB RAM-a za delovanje modela Llama 3.2 1B. Poleg tega mora imeti vaš sistem tudi zmogljiv GPE. Višji modeli Llame 3 zahtevajo več sistemskih virov.
Preberi naslednje : Kako uporabljati Leonardo Phoenix AI .
