Istilah TI: Small Language Models (SLM) pada Edge Devices

Arsitektur Efisiensi

Tren penggunaan model bahasa kecil yang efisien untuk dijalankan langsung di perangkat tanpa cloud.

• SLM: Model AI dengan parameter lebih sedikit namun performa tinggi untuk tugas spesifik.
• On-device Inference: Proses pengambilan keputusan AI yang dilakukan lokal di chipset HP/Laptop.
• Quantization: Teknik kompresi model AI agar ukurannya mengecil tanpa kehilangan kecerdasan.
• NPU Integration: Pemanfaatan unit prosesor saraf khusus dalam hardware modern.
• Data Locality: Konsep menjaga data tetap di perangkat untuk privasi maksimal.