AIコーディングのためのローカルLLM構築入門

AIコーディングをしていて気になるのがAIサービスの課金。AIに任せてみたものの、満足いく結果を出してくれず、無駄にトークンを溶かしてしまった、という人も多いのでは？

ローカルLLMは、自分のPCのGPUでLLMを動作させることができるので、課金を気にする必要がありません。最近では、メモリ容量の少ないGPUでも動作させることができるSLM（Small Language Model）のモデルや、開発に特化したモデルがリリースされており、一昔前のGPUでも実用的に動かせるようになってきました。

本セッションでは、手元のPCで動作させるローカルLLMの構築方法について解説します。

また、VS CodeとローカルLLMを組み合わせたAIコーディングの簡単なデモも行う予定です。