本地語言模型

在瀏覽器內執行，對話不會上傳　→ YOLO 鏡頭辨識
預設模型
模型（Hugging Face ID）
需要有 onnx 檔的文字生成模型（text-generation）
執行方式
量化
最多產生字元（token）
-tokens / 秒
-首字 ms
尚未載入模型。第一次會下載模型檔，之後會存在瀏覽器快取。