Qwen3.8 27b
OllamaでQwen3.8 27bをダウンロードし、ローカルで動かしてみる。ダウンロードサイズは16GBほどなのだが、M5のMacBook Proでもそれなりの速度で会話ができる雰囲気で、しかもそれなりにそつのない回答を出力する印象で、今さらLLMモデルの進化にあらためて感心することも少なくなっているのだけれど、やはり大したものだと思うのである。しばらくするとファンが回り始めるのにも、まじめに推論をしている雰囲気がある。
このローカルモデルを運用するのにWebUIを作ってもらったのだが、見た目は古き良きインターネットの雰囲気で、デザインのモダン化ではクラウドのフロンティアモデルの完成度が非常に高くなっている。
Published on:
Categories: tech