セッション概要
ローカルLLMをPCやサーバー上で動かすための基本構成を、OSSツールを中心に紹介します。クラウド型生成AIとの違い、モデルの選び方、CPU/GPUや量子化の考え方、RAGやWeb UIへの広げ方を整理し、社内文書検索や開発支援などに活用する際の使いどころと注意点を解説します。
講師
若林怜帆人
セッション情報
- 担当:
- 有限会社ノヴァトレード
- レベル:
- 入門編
- 対象者:
- ローカルLLMや生成AIの情報収集を目的としている人。OSSを使ったAI環境構築を検討している人。
- 前提知識:
- LinuxやWebアプリケーションの基本的な理解がある方。生成AIやLLMの基礎用語を聞いたことがある方。
- カテゴリー:
- AI / LLM / AIエージェント
