取り組み：Bonsaiの1.7Bモデルはあまり良くなかったので、Copilotに勧められたLlama3.2 1Bを動かしてみる 結論：Ubuntu Dockerコンテナ内で、Llama3.2 1Bを動かすことができた。いろいろ突っ込んだややこしい質問をしてもそれなりに回答してくれる。英語でし…

背景：LLMが手放せなくなって、組織名にもAIとかついたりするカオス 課題：LLMに使われている自分、明らかにアホになる自分がいる。もう少しLLMに分け入って理解したい 取り組み：ローカルで動かせる超軽量なBonsai LLMを知った。これがどの程度リソースを食…