DeepSeek: installare ed eseguire localmente il nuovo modello AI open source.
Il 2024 è stato senza dubbio l’anno in cui la massa ha scoperto l’esistenza dei sistemi di intelligenza artificiale (AI). Se ne parla ovunque e sono sempre più diffusi: in molti casi l’AI aiuta l’uomo a semplificare procedure e analisi, in altri casi, se utilizzata in modo scorretto, può causare errori, imprecisioni o persino brutte figure.
Nel corso dello scorso anno, abbiamo assistito a una vera e propria competizione tra le aziende tecnologiche per sviluppare il chatbot o il modello di intelligenza artificiale più performante.
Da questa “corsa agli armamenti” nascono progetti noti come: Gemini (gemini.google.com/), ChatGPT4 (chat.openai.com), Claude (claude.ai), Copilot (copilot.microsoft.com), Grok (grok.x.ai), a cui aggiunge ChaRTX (qui puoi leggere il nostro articolo).
Ma oggi la novità è DeepSeek, un modello di AI open source che, secondo alcuni rumor, potrebbe rivoluzionare il settore grazie alla sua maggiore comprensione del linguaggio, superando o eguagliando i modelli più noti.
AI open source DeepSeek: cos’è e quanto costa?
DeepSeek è un’alternativa open source a ChatGPT, il che significa che chiunque può scaricarlo, utilizzarlo ed eventualmente modificarlo. Tuttavia, per chi desidera utilizzare DeepSeek in produzione o con un numero elevato di interrogazioni, è possibile acquistare delle API a pagamento per avere un più ampio accesso a risorse e query (trovate i dettagli sul sito ufficiale DeepSeek Docs – Pricing https://api-docs.deepseek.com/quick_start/pricing).
Inoltre, DeepSeek è installabile su un proprio sistema: basta avere un computer sufficientemente potente (o anche un PC “vecchio”, se volete riciclare l’hardware e ridurre il vostro impatto ambientale) per avviare un server locale su cui far girare il modello. Perché non dare nuova vita a un PC dismesso e trasformarlo nel nostro personale server DeepSeek? Un approccio che fa bene al portafoglio e al pianeta.
Perché installare DeepSeek in locale?
Eseguire localmente modelli di linguaggio di grandi dimensioni come DeepSeek è un modo efficace per:
- mantenere il controllo sui dati e sulla privacy: i dati rimangono nel proprio ambiente.
- Evitare la dipendenza dai servizi cloud: può essere utile in contesti in cui la connessione non è sempre affidabile o si vogliono evitare costi ricorrenti.
- Personalizzare il modello: con un po’ di esperienza, nulla vieta di “addestrare” o fintunare il modello sul proprio dominio di conoscenza, pur rispettando le licenze d’uso.
- Lanciare un chatbot sul web in proprio: se volete sperimentare la messa online del vostro progetto di AI, potete farlo direttamente dalla vostra macchina, con le dovute attenzioni a sicurezza e configurazioni di rete.
Requisiti di sistema
Per poter installare DeepSeek e i relativi strumenti, consigliamo:
- Ubuntu 24.04 (o una versione similmente aggiornata).
- Connessione a Internet stabile.
- Almeno 8GB di RAM (16GB o più raccomandati per prestazioni ottimali).
- Familiarità di base con il terminale di Ubuntu.
Ovviamente, più risorse hardware avrete a disposizione (RAM, CPU, GPU), più veloce e fluido sarà l’utilizzo di DeepSeek.
Naturamente mediante strumenti come Windows Subsystem for Linux (WSL) o virtual machine performanti è possibile sfruttare il tutto anche in ambiente windows, ma è fortemente consigliato avvalersi di Ubuntu installato sul proprio pc.
Strumenti necessari
- DeepSeek: il modello di intelligenza artificiale open source (ultimo rilascio denominato deepseek-r1:7b al momento di produzione di quest’articolo).
- Ollama: una piattaforma pensata per semplificare l’esecuzione di modelli di linguaggio di grandi dimensioni in locale. Fornisce un set di strumenti per gestire e interagire con il modello DeepSeek.
- Web UI (open-webui): un’interfaccia grafica che consente di interagire facilmente con DeepSeek tramite il browser.
- Python3 & pip: fondamentali per gestire l’ambiente virtuale e installare pacchetti aggiuntivi.
- Git e Curl: necessari per scaricare i repository e gli script di installazione.
Aggiornare il sistema
Passo 1: aggiornare il sistema
Prima di tutto, assicuriamoci di avere il sistema operativo Ubuntu aggiornato all’ultima versione dei pacchetti.
Utilizzando Ubuntu o sue derivate apriamo il terminale con i privilegi di amministrazione
sudo apt update && sudo apt upgrade -y
Passo 2: installare Python3 e pip
Se non già presenti sul sistema, installiamo Python3 e il gestore pacchetti pip:
sudo apt install python3
sudo apt install python3-pip
Passo 3: installare Git e Curl
sudo apt install git sudo apt install curl
Passo 4: installare Ollama
Ollama permette di eseguire in locale modelli di grandi dimensioni. L’installazione può essere effettuata via script sh :
curl -fsSL https://ollama.com/install.sh | sh
Una volta installato, potete avviare e abilitare il servizio all’avvio con i comandi:
sudo systemctl start ollama
sudo systemctl enable ollama
Passo 5: scaricare il modello DeepSeek
A questo punto, possiamo procedere al download e all’esecuzione del modello DeepSeek. Nell’esempio ci riferiamo a una versione denominata deepseek-r1:7b:
ollama run deepseek-r1:7b
Al termine del download, Ollama vi restituirà un prompt o un messaggio di avvio nel terminale, confermando che il modello è pronto a ricevere comandi o domande.
Passo 6: interagire con DeepSeek da terminale
Dopo il caricamento, potete interagire direttamente con DeepSeek via riga di comando. Basterà digitare un prompt o una domanda nella finestra del terminale. Per esempio:
> Qual è la capitale della Birmania?
Il sistema risponderà in pochi istanti. Ovviamente le prestazioni dipenderanno molto dalla vostra configurazione hardware.
Passo 7: installare e configurare la Web UI (opzionale ma consigliato)
Se preferite un’interfaccia grafica più user-friendly, potete ricorrere a open-webui, che vi permette di gestire e interrogare DeepSeek direttamente dal browser. Seguite questi passaggi:
- 1. Creare un ambiente virtuale Python (utile per isolare le dipendenze):
sudo apt install python3-venv
python3 -m venv ~/open-webui-venv
source ~/open-webui-venv/bin/activate - Installare open-webui:
pip install open-webui - Avviare open-webui:
a questo punto, dovreste poter lanciare il server web con un comando simile (consultate la documentazione di open-webui per la sintassi precisa, in quanto potrebbe variare da versione a versione).
Una volta avviato, riceverete un indirizzo locale (ad esempio http://127.0.0.1:7860 o simile) per accedere all’interfaccia da browser.
Suggerimenti finali
- Prestazioni
Se il vostro PC non dispone di sufficiente RAM o se la CPU/GPU è datata, potreste riscontrare lentezza. Ridurre la dimensione del modello (se disponibile una versione più piccola di DeepSeek) potrebbe migliorare la velocità. - Licenze
Ricordate di leggere attentamente la licenza del modello DeepSeek. Essendo open source, è possibile che siano posti specifici requisiti o limitazioni di utilizzo e distribuzione. - API commerciali
Qualora vogliate utilizzare DeepSeek per un volume elevato di interrogazioni o all’interno di un progetto aziendale, valutate l’acquisto delle API, come indicato nella sezione Pricing del sito ufficiale. - Aggiornamenti
Siate pronti ad aggiornare regolarmente sia l’ambiente Python, sia Ollama, sia eventuali repository Git per beneficiare degli ultimi miglioramenti e patch di sicurezza.
Conclusioni sul modello di AI open source DeepSeek
DeepSeek si propone come un modello AI open source e all’avanguardia, con un’ottima comprensione del linguaggio e la possibilità di essere eseguito in locale su un proprio server o PC riciclato. Questo è un vantaggio sia per chi desidera sperimentare e imparare, sia per chi vuole ridurre la dipendenza dai servizi cloud e avere un maggiore controllo sui propri dati.
Grazie all’integrazione con piattaforme come Ollama e interfacce come open-webui, installare DeepSeek non è mai stato così semplice. Se siete appassionati di tecnologia, di AI, o semplicemente curiosi di vedere come funziona un chatbot di ultima generazione, non vi resta che seguire i passaggi descritti e provare subito DeepSeek.
Buon divertimento e buoni test con DeepSeek!
(Articolo di Sarino Alfonso Grande)
