実体験 の記事一覧

RTX 3070・VRAM 8GBでローカルLLMは実用になるのか——僕が半年運用して分かったこと

ChatGPTやClaudeを使わず、手元のPCだけでAIを動かす「ローカルLLM」。RTX 3070・VRAM 8GBという決して潤沢とは言えない環境で半年近く運用してきた実体験から、できること・つまずくポイント・回避策を整理します。