Bu konuyu hala araştırmaktayım. https://github.com/zylon-ai/private-gpt reposunu denedim.
Binevi çalışıyor fakat sanırım seçtiğimiz model çok önemli. Aşırı verimsiz cevaplar aldığımda oldu.
Hazır UI olması, hızlıca lokalde ayağa kalkması vs çok iyi fakat genel olarak "işte bu" diyebileceğim bir çözüm değil.
Bugün bir kaç LLM fine-tuning konusuna bakacağım. Belkide aradığım çözüm oradan çıkar.
Konuyu vakit içinde güncelleyeceğim.