llm-jpのggufをつくってquantizeしてllama.cppで動かす まず、https://huggingface.co/llm-jp/llm-jp-3-13b-instruct3 を全体cloneする。(git-lfsをいれておくように) cd … »