Panduan Lengkap Instalasi Ollama di Proxmox dan Dapat Di Akses Melalui Domain Publik

4 minutes reading

Friday, 21 Jun 2024 08:05 0 10 Admin

Panduan Lengkap Instalasi Ollama di Proxmox dan Dapat Di Akses Melalui Domain Publik

Proxmox adalah platform virtualisasi open-source yang kuat dan fleksibel, memungkinkan Anda untuk menjalankan mesin virtual dan container. Dalam panduan ini, kita akan membahas langkah-langkah detail untuk menginstal Ollama di Proxmox dan mengaksesnya melalui domain publik. Panduan ini dirancang untuk memberikan pemahaman yang mendalam, mencakup semua langkah penting dari awal hingga akhir.

Persiapan Awal

Sebelum memulai instalasi, pastikan Anda memiliki persyaratan berikut:

Server Proxmox yang sudah diinstal dan dikonfigurasi.
Akses root ke server Proxmox.
Domain yang sudah terdaftar dan dikelola melalui penyedia DNS.

Langkah 1: Instalasi Proxmox VE

Langkah 2: Membuat Mesin Virtual untuk Ollama

Login ke Web Interface Proxmox: Akses antarmuka web Proxmox melalui browser Anda.
Buat VM Baru:
- Klik pada node Proxmox Anda.
- Pilih “Create VM”.
- Isi detail VM seperti nama, ID, dan pilih template.
- Pilih ISO image dari distribusi Linux yang Anda pilih (misalnya, Ubuntu).
Konfigurasi Hardware VM:
- Tentukan jumlah CPU, RAM, dan penyimpanan yang sesuai untuk Ollama.
- Tambahkan jaringan virtual untuk konektivitas.
Instal Sistem Operasi:
- Boot VM dari ISO image dan ikuti instruksi untuk menginstal sistem operasi.
- Setelah instalasi, login ke VM melalui console atau SSH.

Langkah 3: Instalasi Ollama di VM

Update Sistem Operasi:
```
sudo apt update && sudo apt upgrade -y
```

Instal Prasyarat:

Instal paket yang diperlukan:

sudo apt install curl git python3 python3-pip -y

Instal Ollama:
- Jika Ollama memiliki dokumentasi instalasi khusus, ikuti instruksi tersebut. Misalnya:
```
git clone https://github.com/ollama/ollama.git
cd ollama
sudo python3 setup.py install
```
Konfigurasi Ollama:
- Sesuaikan konfigurasi Ollama sesuai kebutuhan Anda.

Langkah 4: Konfigurasi Akses Publik

Untuk mengakses Ollama melalui domain publik, Anda perlu mengatur server web reverse proxy dan mengonfigurasi DNS.

Instal Nginx:
```
sudo apt install nginx -y
```

Konfigurasi Nginx sebagai Reverse Proxy:

Buat file konfigurasi baru untuk situs Anda:
```
sudo nano /etc/nginx/sites-available/ollama
```

Tambahkan konfigurasi berikut:

server {
    listen 80;
    server_name yourdomain.com;

    location / {
        proxy_pass http://localhost:port;
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header X-Forwarded-Proto $scheme;
    }
}

Ganti yourdomain.com dengan domain Anda dan localhost:port dengan alamat dan port di mana Ollama berjalan.

Aktifkan konfigurasi baru:

sudo ln -s /etc/nginx/sites-available/ollama /etc/nginx/sites-enabled/
sudo nginx -t
sudo systemctl restart nginx

Konfigurasi Firewall:
- Pastikan port 80 dan 443 terbuka:
```
sudo ufw allow 'Nginx Full'
sudo ufw enable
```
Konfigurasi DNS:
- Masuk ke penyedia DNS Anda dan tambahkan A record yang menunjuk ke IP publik server Proxmox Anda.

Langkah 5: Mengamankan Akses dengan HTTPS

Untuk memastikan keamanan data, gunakan Let’s Encrypt untuk mendapatkan sertifikat SSL gratis.

Instal Certbot:

sudo apt install certbot python3-certbot-nginx -y

Dapatkan Sertifikat SSL:
```
sudo certbot --nginx -d yourdomain.com
```
- Ikuti instruksi untuk menyelesaikan instalasi sertifikat.
Otomatisasi Pembaruan Sertifikat:
- Certbot secara otomatis memperbarui sertifikat sebelum kadaluarsa. Untuk memastikan, tambahkan ke crontab:
```
echo "0 3 * * * /usr/bin/certbot renew --quiet" | sudo tee -a /etc/crontab > /dev/null
```

Langkah 6: Verifikasi dan Uji Akses Publik

Verifikasi Nginx dan SSL:
- Pastikan Nginx berjalan dengan baik:
```
sudo systemctl status nginx
```
- Verifikasi bahwa SSL telah terpasang dengan benar dengan membuka https://yourdomain.com di browser.
Uji Koneksi:
- Coba akses layanan Ollama melalui domain Anda untuk memastikan semuanya berfungsi.