Beberapa hari yang lalu pasangan saya Pablinux Beritahu mereka cara memasang model Kecerdasan Buatan yang sedang tren secara lokal. Dalam postingan ini saya akan mencantumkan model yang saya anggap lebih baik daripada DeepSeek dan cara memasang serta menjalankannya di komputer kita.
Mengesampingkan simpati atau antipati politik apa pun, tindakan pemerintah Cina merupakan mahakarya pemasaran diplomatik yang layak bagi Sun Tzu. Berbeda dengan gaya "Gajah dalam Barang Pecah Belah" ala Donald Trump, mereka mengumumkan model yang menawarkan fitur yang sama seperti ChatGPT secara gratis dan menghabiskan lebih sedikit sumber daya. Hanya kita yang mengikuti topik ini yang tahu bahwa Sudah banyak model sumber terbuka lainnya (beberapa dari perusahaan Amerika Utara seperti Meta) sejak lama, dan kinerja DeepSeek hanya sebanding dengan ChatGPT dalam 5% penggunaan yang paling umum.
Model bahasa skala besar
ChatGPT, DeepSeek dan lainnya disebut Model Bahasa Skala Besar. Pada dasarnya Mereka memungkinkan pengguna berinteraksi dengan komputer dalam bahasa yang mirip dengan bahasa yang digunakan untuk berkomunikasi dengan manusia lain. Untuk mencapai hal ini, mereka dilatih dengan sejumlah besar teks dan aturan yang memungkinkan mereka menghasilkan informasi baru dari apa yang sudah mereka miliki.
Kegunaan utamanya adalah untuk menjawab pertanyaan, meringkas teks, membuat terjemahan dan mereproduksi konten.
Model yang lebih baik daripada DeepSeek dan cara menginstalnya secara lokal
Seperti Pablinux, kita akan menggunakan Ollama. Ini adalah alat yang memungkinkan kita memasang, menghapus, dan menggunakan berbagai model sumber terbuka dari terminal Linux. Dalam beberapa kasus, browser dapat digunakan sebagai antarmuka grafis, tetapi kami tidak akan membahasnya dalam artikel ini.
Agar Ollama memberikan pengalaman pengguna yang tepat, sebaiknya memiliki GPU khususTerutama pada model dengan lebih banyak parameter. Namun, yang kurang bertenaga dapat digunakan pada Raspberry Pi dan ketika saya bahkan menguji model dengan 7 miliar parameter pada komputer dengan 6 gigabita dan tanpa GPU khusus, komputer tersebut berjalan tanpa hambatan apa pun. Hal yang sama tidak terjadi pada salah satu dari 13 miliar.
Parameter adalah aturan yang digunakan model untuk membangun hubungan dan membangun pola di antara data. Semakin banyak parameter dan data, semakin kuat model tersebut; model dengan parameter lebih sedikit berbicara bahasa Spanyol seperti Tarzan.
Kita dapat menginstal Ollama dengan perintah
sudo apt install curl
curl -fsSL https://ollama.com/install.sh | sh
Kita dapat menginstal model dengan perintah:
ollama pull nombre_del modelo
Dan jalankan dengan:
ollama run nombre_del_modelo
Kami menghapusnya menggunakan:
ollama rm nombre_del_modelo
Kita dapat melihat model yang terinstal dengan mengetik:
ollama list
Berikut ini adalah daftar kecil model yang menurut saya paling menarik: Daftar lengkap model yang tersedia dapat ditemukan di sini di sini:
llama2-tanpa sensor
Llama adalah model tujuan umum yang dibuat oleh Meta. Dalam versi ini semua batasan yang diperkenalkan oleh pengembang proyek asli karena alasan hukum atau politik dihapus.. Ia memiliki dua versi, versi ringan yang berkapasitas 8GB dan versi lengkap yang membutuhkan 64GB. Ia dapat digunakan untuk menjawab pertanyaan, menulis teks atau dalam tugas pengkodean.
Menginstal dengan:
ollama pull llama2-uncensored
Dan berjalan dengan:
ollama run llama2-uncensored
kodegemma
CodeGemma adalah pilihan template ringan namun kuat yang memungkinkan Anda melakukan berbagai tugas pemrograman cara melengkapi kode atau menulisnya dari awal. Memahami bahasa alami, dapat mengikuti instruksi dan melakukan penalaran matematika.
Hadir dalam 3 varian:
- Menginstruksikan: Ia mengubah bahasa alami menjadi kode dan dapat mengikuti instruksi:
- Kode: Lengkapi dan hasilkan kode dari bagian kode yang ada.
- 2b: Tugas penyelesaian kode lebih cepat.
Bahasa Inggris Tynillama
Seperti yang ditunjukkan namanya, ini adalah versi lebih kecil dari model Meta asli.. Jadi hasilnya tidak akan begitu bagus, tetapi jika Anda ingin melihat bagaimana model Kecerdasan Buatan bekerja pada perangkat keras sederhana, patut dicoba. Hanya memiliki 1100 miliar parameter.
Menggunakan model secara lokal memiliki keuntungan berupa privasi dan akses ke versi yang tidak disensor dan tidak bias yang dalam beberapa kasus cenderung berakhir menggelikan. AI milik Microsoft menolak untuk membuat gambar anjing dachshund untuk saya karena menganggap kata "jalang" menyinggung. Kelemahan terbesarnya adalah persyaratan perangkat keras. Ini akan menjadi masalah mencoba model-model dan menemukan satu yang cukup baik untuk apa yang Anda butuhkan dan dapat berjalan pada peralatan yang Anda miliki.