Debianで今どきのNVIDIAビデオカードを使う

nogajun
nogajun

少し前にNVIDIA GeForce RTX 5060 Tiを借りましたが、忙しくて使わないまま放置してました。

先日、時間ができたのでメインマシンに取り付けて使おうとしましたが、DebianでのNVIDIAのドライバ周りの扱いが以前と変わっていたのでメモとして書いておきます。

まずは、Debian WikiとNVIDIA公式ドキュメントを読みましょう。

以前と変わったところ

以前、DebianでNVIDIAのビデオカードを使う場合は「NVIDIA公式ドライバーを使うな。Debianリポジトリにあるものを使え」でした。今は、逆です。「NVIDIA公式ドライバーを使え」になっています。

Debian Wikiを読めばわかりますが、DebianリポジトリにあるNVIDIAドライバはメンテナンスされてません。そして、今はNVIDIAが公式にDebianパッケージを提供しています。ということで、Debianリポジトリのドライバーを使うと余計なことで悩むことになるので、とりあえず存在は忘れましょう。

インストール方法

ということでインストール方法です。まずは、/etc/apt/sources.list.d/debian.sourcesのComponentsにcontribとnon-freeがあるか確認しましょう。

# Modernized from /etc/apt/sources.list
Types: deb deb-src
URIs: http://deb.debian.org/debian/
Suites: sid
Components: main non-free-firmware contrib non-free
Signed-By: /usr/share/keyrings/debian-archive-keyring.gpg

「そんなファイルないよ」という人は、deb822形式じゃない古いタイプのsources.listを使っています。その方はsudo apt modernize-sourcesを実行して、deb822形式に変換しておきましょう。

extrepoをインストール

NVIDIAドライバーのリポジトリを有効にするためにextrepoをインストールしましょう。すでにインストールしている人は飛ばしてください。

インストールしたらextrepoのcontribとnon-freeリポジトリを有効にするために、設定ファイル/etc/extrepo/config.yamlのコメントを外します。そしてextrepoリポジトリをアップデートします。

# extrepoをインストール
sudo apt -U install extrepo

# extrepo設定ファイルのcontribとnon-freeを有効化
sudo sed -ie 's/^# -/-/g' /etc/extrepo/config.yaml

# extrepoリポジトリをアップデート
sudo extrepo update

NVIDIAリポジトリの追加とドライバーインストール

それでは、extrepoからNVIDIAリポジトリを追加してドライバーをインストールします。

自分はローカルLLMを動かすために借りたので一緒にCUDAもインストールしていますが、不要な場合はCUDAを外してください。

# NVIDIAのリポジトリを追加
sudo enable nvidia-cuda

# NVIDIAドライバーをインストール
sudo apt -U install nvidia-open cuda

インストールが終われば再起動します。これで、NVIDIAドライバーが使えるようになります。

使ってみて

LM StudioをCUDAで使ってみましたが、GemmaもQwenも実用的な速度で動く!すごい!

次は、ビデオカードに10GB以上のメモリがあればDeepSeek V4 Flash(MoE)を動かせるという中国の謎のLLMエンジンfastllmでDeepSeekを動かしてみます。楽しみ。