Update readme
This commit is contained in:
@@ -18,12 +18,24 @@ La soluzione è basata sul seguente stack
|
||||
|
||||
* LM Studio per esecuzione modello LLM locale (al momento su workstation Sam + scheda video AMD e poi NVidia)
|
||||
* Abilitazione LM Studio x chiamate locali su porta 1234
|
||||
* virtual amchine linux con soluzione backend/frontend di proxy/caching verso il modello AI di LM Studio
|
||||
* virtual machine linux con soluzione backend/frontend di proxy/caching verso il modello AI di LM Studio
|
||||
|
||||
## Startup
|
||||
|
||||
Al momento per l0'esecuzione della soluzione, sulla virtual machine di proxy, vanno avviati backend (python) e frontend (node) manualmente.
|
||||
|
||||
Avvio soluzione:
|
||||
|
||||
backend
|
||||
```bash
|
||||
uvicorn main:app --host 0.0.0.0 --port 8000 --reload
|
||||
```
|
||||
|
||||
frontend
|
||||
```bashnpm tun dev
|
||||
npm run build
|
||||
```
|
||||
|
||||
ToDo's: trasformare in servizi da abilitare all'avvio macchina
|
||||
|
||||
## Usage
|
||||
|
||||
BIN
Binary file not shown.
Reference in New Issue
Block a user